Welcome to Dify
List of Model Providers
Dify supports the below model providers out-of-box:
| Provider | LLM | Text Embedding | Rerank | Speech to text | TTS |
|---|---|---|---|---|---|
| OpenAI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | |
| Anthropic | โ๏ธ(๐ ๏ธ) | ||||
| Azure OpenAI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | |
| Gemini | โ๏ธ | ||||
| Google Cloud | โ๏ธ(๐) | โ๏ธ | |||
| Nvidia API Catalog | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Nvidia NIM | โ๏ธ | ||||
| Nvidia Triton Inference Server | โ๏ธ | ||||
| AWS Bedrock | โ๏ธ | โ๏ธ | |||
| OpenRouter | โ๏ธ | ||||
| Cohere | โ๏ธ | โ๏ธ | โ๏ธ | ||
| together.ai | โ๏ธ | ||||
| Ollama | โ๏ธ | โ๏ธ | |||
| Mistral AI | โ๏ธ | ||||
| groqcloud | โ๏ธ | ||||
| Replicate | โ๏ธ | โ๏ธ | |||
| Hugging Face | โ๏ธ | โ๏ธ | |||
| Xorbits inference | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ |
| Zhipu AI | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | |||
| Baichuan | โ๏ธ | โ๏ธ | |||
| Spark | โ๏ธ | ||||
| Minimax | โ๏ธ(๐ ๏ธ) | โ๏ธ | |||
| Tongyi | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Wenxin | โ๏ธ | โ๏ธ | |||
| Moonshot AI | โ๏ธ(๐ ๏ธ) | ||||
| Tencent Cloud | โ๏ธ | ||||
| Stepfun | โ๏ธ(๐ ๏ธ)(๐) | ||||
| VolcanoEngine | โ๏ธ | โ๏ธ | |||
| 01.AI | โ๏ธ | ||||
| 360 Zhinao | โ๏ธ | ||||
| Azure AI Studio | โ๏ธ | โ๏ธ | |||
| deepseek | โ๏ธ(๐ ๏ธ) | ||||
| Tencent Hunyuan | โ๏ธ | ||||
| SILICONFLOW | โ๏ธ | โ๏ธ | |||
| Jina AI | โ๏ธ | โ๏ธ | |||
| ChatGLM | โ๏ธ | ||||
| Xinference | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | ||
| OpenLLM | โ๏ธ | โ๏ธ | |||
| LocalAI | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ | |
| OpenAI API-Compatible | โ๏ธ | โ๏ธ | โ๏ธ | ||
| PerfXCloud | โ๏ธ | โ๏ธ | |||
| Lepton AI | โ๏ธ | ||||
| novita.ai | โ๏ธ | ||||
| Amazon Sagemaker | โ๏ธ | โ๏ธ | โ๏ธ | ||
| Text Embedding Inference | โ๏ธ | โ๏ธ | |||
| GPUStack | โ๏ธ(๐ ๏ธ)(๐) | โ๏ธ | โ๏ธ | ||
| GPUStack | โ๏ธ(๐ง๏ธ)(๐) | โ๏ธ | โ๏ธ | โ๏ธ | โ๏ธ |
where (๐ ๏ธ) ๏ธ denotes โfunction callingโ and (๐) denotes โsupport for visionโ.
This table is continuously updated. We also keep track of model providers requested by community members here. If youโd like to see a model provider not listed above, please consider contributing by making a PR. To learn more, check out our contribution.md Guide.