docs/self-hosting/environment-variables/model-provider.zh-CN.mdx
LobeHub 在部署时提供了丰富的模型服务商相关的环境变量,你可以使用这些环境变量轻松定义需要在 LobeHub 中开启的模型服务商。
ENABLED_OPENAI10OPENAI_API_KEYsk-xxxxxx...xxxxxxOPENAI_PROXY_URLhttps://api.openai.com/v1https://api.chatanywhere.cn 或 https://aihubmix.com/v1<Callout type={'warning'}>
请检查你的代理服务商的请求后缀,有的代理服务商会在请求后缀添加
/v1,有的则不会。如果你在测试时发现 AI 返回的消息为空,请尝试添加 /v1 后缀后重试。
</Callout>
<Callout type={'info'}>
是否填写 /v1 跟模型服务商有很大关系,比如 openai 的默认地址是 api.openai.com/v1
。如果你的代理商转发了 /v1 这个接口,那么直接填 proxy.com 即可。 但如果模型服务商是直接转发了
api.openai.com 域名,那么你就要自己加上 /v1 这个 url。
</Callout>
相关讨论:
OPENAI_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表-+qwen-7b-chat,+glm-6b,-gpt-3.5-turbo,gpt-4-0125-preview=gpt-4-turbo上面示例表示增加 qwen-7b-chat 和 glm-6b 到模型列表,而从列表中删除 gpt-3.5-turbo,并将 gpt-4-0125-preview 模型名字展示为 gpt-4-turbo。如果你想先禁用所有模型,再启用指定模型,可以使用 -all,+gpt-3.5-turbo,则表示仅启用 gpt-3.5-turbo。
你可以在 modelProviders 查找到当前的所有模型名。
如果你需要使用 Azure OpenAI 来提供模型服务,可以查阅 使用 Azure OpenAI 部署 章节查看详细步骤,这里将列举和 Azure OpenAI 相关的环境变量。
AZURE_API_KEYc55168be3874490ef0565d9779ecd5a6AZURE_ENDPOINT-https://docs-test-001.openai.azure.comAZURE_API_VERSION-2024-02-01,查阅 最新版本AZURE_MODEL_LIST模型名->部署名=展示名 来自定义模型的展示名,用英文逗号隔开。支持扩展能力,其余语法规则详见 模型列表-gpt-35-turbo->my-deploy=GPT 3.5 Turbo 或 gpt-4-turbo->my-gpt4=GPT 4 Turbo<128000:vision:fc>GOOGLE_API_KEYAIraDyDwcw254kwJaGjI9wwaHcdDCS__Vt3xQEGOOGLE_PROXY_URLhttps://generativelanguage.googleapis.comhttps://api.genai.gd.edu.kg/googleGOOGLE_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+gemini-1.5-flash-latest,+gemini-1.5-pro-latestVERTEXAI_CREDENTIALS{"type": "service_account", "project_id": "your-gcp-project-id", ...}VERTEXAI_PROJECTVERTEXAI_CREDENTIALS 中的 project_id 字段获取。your-gcp-project-idVERTEXAI_LOCATIONglobalus-central1VERTEXAI_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+gemini-1.5-flash-latest,+gemini-1.5-pro-latestANTHROPIC_API_KEYsk-ant-apixx-xxxxxxxxx-xxxxxxxxxxxxxxxxx-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx-xxxxxxxxANTHROPIC_PROXY_URLhttps://api.anthropic.comhttps://my-anthropic-proxy.comENABLED_AWS_BEDROCK01AWS_ACCESS_KEY_IDAKIA5STVRLFSB4S9HWBRAWS_SECRET_ACCESS_KEYTh3vXxLYpuKcv2BARktPSTPxx+jbSiFT6/0w7oECAWS_REGIONus-east-1us-east-1ENABLED_COMFYUI10COMFYUI_BASE_URLhttp://localhost:8000http://192.168.1.100:8000 或 https://my-comfyui-server.comCOMFYUI_AUTH_TYPEnone: 无认证(默认)basic: 基础认证(用户名 + 密码)bearer: Bearer Token 认证(API 密钥)custom: 自定义请求头认证nonebasicCOMFYUI_API_KEYbearer 时使用的 API 密钥sk-xxxxxx...xxxxxxCOMFYUI_USERNAMEbasic 时使用的用户名adminCOMFYUI_PASSWORDbasic 时使用的密码password123COMFYUI_CUSTOM_HEADERScustom 时使用的自定义请求头,需要使用 JSON 格式字符串{"X-Auth-Token": "your-token", "X-Custom-Header": "value"}<Callout type={'info'}> ComfyUI 支持多种认证方式,请根据您的 ComfyUI 服务配置选择合适的认证类型和相应的认证参数。如果您的 ComfyUI 服务没有设置认证,可以不配置认证相关的环境变量。 </Callout>
DEEPSEEK_PROXY_URLhttps://api.deepseek.comhttps://my-deepseek-proxy.comDEEPSEEK_API_KEYsk-xxxxxx...xxxxxxDEEPSEEK_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+deepseek-reasonerXAI_API_KEYxai-xxxxxx...xxxxxxWENXIN_API_KEYxxxxxx...xxxxxxOPENROUTER_API_KEYsk-or-v1-xxxxxx...xxxxxx=OPENROUTER_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+01-ai/yi-34b-chat,+huggingfaceh4/zephyr-7b-betaPPIO_API_KEYsk_xxxxxxxxxxxxPPIO_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+deepseek/deepseek-v3/community,+deepseek/deepseek-r1-distill-llama-70bGITHUB_TOKENghp_xxxxxx...xxxxxx=GITHUB_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+gpt-4o,+gpt-4o-miniTOGETHERAI_API_KEYxxxxxx...xxxxxxTOGETHERAI_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo,+meta-llama/Meta-Llama-3.1-70B-Instruct-TurboFIREWORKSAI_API_KEYxxxxxx...xxxxxxFIREWORKSAI_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+accounts/fireworks/models/firefunction-v2,+accounts/fireworks/models/firefunction-v1ENABLED_OLLAMA10OLLAMA_PROXY_URLhttp://127.0.0.1:11434OLLAMA_MODEL_LISTqwen:32BMOONSHOT_API_KEYY2xpdGhpMzNhZXNoYjVtdnZjMWc6bXNrLWIxQlk3aDNPaXpBWnc0V1RaMDhSRmRFVlpZUWY=MOONSHOT_PROXY_URLhttps://api.moonshot.cn/v1https://my-moonshot-proxy.com/v1PERPLEXITY_API_KEYpplx-xxxxxx...xxxxxxPERPLEXITY_MODEL_LIST-all,+llama-3.1-sonar-small-128k-online,+llama-3.1-sonar-small-128k-chatPERPLEXITY_PROXY_URLhttps://api.Perplexity.aihttps://my-Perplexity-proxy.comMINIMAX_API_KEYxxxxxx...xxxxxxMISTRAL_API_KEYxxxxxx...xxxxxx=GROQ_API_KEYgsk_xxxxxx...xxxxxxGROQ_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+gemma2-9b-it,+llama-3.1-8b-instantGROQ_PROXY_URLhttps://api.groq.com/openai/v1https://my-groq-proxy.com/v1ZHIPU_API_KEY4582d332441a313f5c2ed9824d1798ca.rC8EcTAhgbOuAuVTZHIPU_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+glm-4-alltools,+glm-4-plusZEROONE_API_KEYxxxxxx...xxxxxxZEROONE_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+yi-large,+yi-large-ragQINIU_API_KEYsk-xxxxx...xxxxxQINIU_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+deepseek-r1,+deepseek-v3QINIU_PROXY_URLhttps://api.qnaigc.com/v1https://my-qnaigc.com/v1QWEN_API_KEYsk-xxxxx...xxxxxQWEN_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名->部署名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。部署名->部署名可以省略,默认为最新版本的模型。模型定义语法规则见 模型列表--all,+qwen-turbo,+qwen-plus,+qwen-max->qwen-max-2025-01-25QWEN_PROXY_URLhttps://dashscope.aliyuncs.com/compatible-mode/v1https://my-qwen-proxy.com/v1STEPFUN_API_KEYxxxxxx...xxxxxxNOVITA_API_KEYxxxxxx...xxxxxxNOVITA_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+meta-llama/llama-3.1-8b-instruct,+meta-llama/llama-3.1-70b-instructBAICHUAN_API_KEYxxxxxx...xxxxxxTAICHU_API_KEYxxxxxx...xxxxxxAI360_API_KEYxxxxxx...xxxxxxSILICONCLOUD_API_KEYxxxxxx...xxxxxxSILICONCLOUD_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+deepseek-ai/DeepSeek-V2.5,+Qwen/Qwen2.5-7B-InstructSILICONCLOUD_PROXY_URLhttps://api.siliconflow.cn/v1https://my-siliconflow-proxy.com/v1UPSTAGE_API_KEYxxxxxx...xxxxxxSPARK_API_KEYxxxxxx...xxxxxxAI21_API_KEYxxxxxx...xxxxxxHUNYUAN_API_KEYxxxxxx...xxxxxxHUNYUAN_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+hunyuan-lite,+hunyuan-standardVOLCENGINE_API_KEYad925b3d-aaaa-bbbb-cccc-51fde2f50547VOLCENGINE_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名->部署名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。部署名->部署名可以省略,默认为最新版本的模型。模型定义语法规则见 模型列表--all,+deepseek-r1,+deepseek-v3->deepseek-v3-250324,+doubao-1.5-pro-256k,+doubao-1.5-pro-32k->doubao-1-5-pro-32k-250115,+doubao-1.5-lite-32kVOLCENGINE_PROXY_URLhttps://ark.cn-beijing.volces.com/api/v3https://my-volcengine-proxy.com/v1INFINIAI_API_KEYsk-xxxxxx...xxxxxxINFINIAI_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名<扩展配置> 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表--all,+qwq-32b,+deepseek-r1ENABLED_FAL10FAL_API_KEYfal-xxxxxx...xxxxxxFAL_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+fal-ai/flux/schnell,+fal-ai/flux-pro/kontext=FLUX.1 Kontext [pro]上述示例表示先禁用所有模型,再启用 fal-ai/flux/schnell 和 fal-ai/flux-pro/kontext(显示名为 FLUX.1 Kontext [pro])。
BFL_API_KEY12345678-1234-1234-1234-123456789abcBFL_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+flux-pro-1.1,+flux-kontext-pro=FLUX.1 Kontext [pro]上述示例表示先禁用所有模型,再启用 flux-pro-1.1 和 flux-kontext-pro(显示名为 FLUX.1 Kontext [pro])。
NEWAPI_API_KEYsk-xxxxxx...xxxxxxNEWAPI_PROXY_URLhttps://your-newapi-server.com<Callout type={'info'}> NewAPI 是一个多供应商模型聚合服务,支持基于供应商检测的自动模型路由。它提供成本管理功能,并为访问包括 OpenAI、Anthropic、Google 等多个供应商的模型提供单一端点。了解更多关于 NewAPI 的信息请访问 https://github.com/Calcium-Ion/new-api。 </Callout>
VERCELAIGATEWAY_API_KEYvck_xxxxxx...xxxxxxVERCELAIGATEWAY_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+vercel-model-1,+vercel-model-2=vercel-specialCEREBRAS_API_KEYcsk-xxxxxx...xxxxxxCEREBRAS_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+cerebras-model-1,+cerebras-model-2=cerebras-specialAIHUBMIX_API_KEYsk-xxxxxx...xxxxxxAIHUBMIX_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+claude-opus-4-1-20250805,+claude-opus-4-20250514=claude-opus-4STRAICO_API_KEYsk-xxxxxx...xxxxxxSTRAICO_MODEL_LIST+ 增加一个模型,使用 - 来隐藏一个模型,使用 模型名=展示名 来自定义模型的展示名,用英文逗号隔开。模型定义语法规则与其他 provider 保持一致。--all,+straico-model-1,+straico-model-2=straico-special