Dify
项目简介
Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等,让您可以快速从原型到生产。
主要用途: AI开发
项目地址: https://github.com/langgenius/dify
接入方法
1. 对话模型设置
点击进入设置
- 模型供应商
- 选择OpenAI-API-compatible
- 添加模型
,并按照如下填下保存(以gpt-4o-mini
为例):
- 模型类型 =
LLM
- 模型名称 =
gpt-4o-mini
- API Key =
sk-xxx
- API endpoint URL =
https://api.ezworkapi.top/v1
- Completion mode =
对话
- 模型上下文长度 =
128000
- 最大 token 上限 =
4096
- Function calling =
支持
- Stream function calling =
支持
- Vision 支持 =
支持
2. 向量模型设置
点击进入设置
- 模型供应商
- 选择OpenAI-API-compatible
- 添加模型
,并按照如下填下保存(以text-embedding-ada-002
为例):
- 模型类型 =
Text Embedding
- 模型名称 =
text-embedding-ada-002
- API Key =
sk-xxx
- API endpoint URL =
https://api.ezworkapi.top/v1
- 模型上下文长度 =
1500