Supported Providers

Provider	Chat	Vision	Tools	Portkey Prompts	Embeddings	Images	Audio	Finetuning	Batch	Files	Moderations	Assistants	Completions	Messages
AI21	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	✅	✅
Anthropic	✅	✅	✅	❌	❌	❌	❌	❌	❌	❌	✅	✅		✅
Anyscale	✅	❌	✅	✅	❌	❌	❌	❌	❌	❌	✅	✅
Azure OpenAI	✅	✅	✅	✅	❌	❌	❌	❌	❌	❌	✅	✅	✅
AWS Bedrock	✅	✅	✅	✅	❌	❌	❌	❌	❌	❌	✅	✅	✅	✅
Cohere	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	✅	❌	❌
Deepinfra	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Fireworks AI	✅	❌	✅	✅	✅	❌	❌	❌	❌	❌	✅	✅	✅
Google Vertex AI	✅	❌	❌	✅	❌	❌	❌	❌	❌	❌	❌	✅	✅	✅
Google Gemini	✅	✅	✅	✅	❌	❌	❌	❌	❌	❌	❌	✅	✅
Groq	✅	❌	❌	❌	✅	❌	❌	❌	❌	❌	❌	✅	✅
Jina	❌	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Lingyi (01.ai)	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Mistral AI	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	✅	❌
Monster API	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Moonshot.cn	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Nomic AI	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Novita AI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	✅	❌	✅
Ollama	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
OpenAI	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅	✅
Openrouter	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Perplexity AI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	✅	❌
Predibase	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Reka AI	✅	❌	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌
Segmind	❌	❌	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌
Stability AI	✅	❌	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌
Together AI	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	✅	✅	✅
Cloudflare Workers AI	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	✅	❌	❌
Zhipu AI	✅	❌	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
AWS Sagemaker	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Azure Foundry	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
BYOLLM	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Cerebras	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Dashscope	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
DeepBricks	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
DeepSeek	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Deepgram	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Google PaLM	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Huggingface	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Inference.net	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Lambda	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Lemon Fox	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Lepton	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Local AI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Nebius	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
NCompass	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
NScale	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
OVHcloud AI Endpoints	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Recraft AI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Replicate	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Sambanova	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
SiliconFlow	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Snowflake Cortex	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Triton	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Upstage	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
vLLM	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
Voyage AI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌
xAI	✅	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌	❌

While you’re here, why not give us a star? It helps us a lot!