Henry
发布于 2026-10-18 / 8 阅读
0

Dify - 配置私有部署 Text Embedding 模型

背景简介

在使用 Dify 搭建知识库时,文档的向量化(Embedding)质量直接决定了检索效果的上下限。对于有数据安全或内网部署要求的团队,将 Embedding 模型私有化部署成为刚需。本文以 Dify 1.17.1 搭配 Ollama 部署的 bge-m3 模型(带 Bearer Token 鉴权)为例,介绍如何通过安装 OpenAI-API-compatible 插件,在 Dify 中接入私有化的 Text Embedding 模型:从插件安装、模型参数配置,到设置为默认向量化模型,一步步完成私有 Embedding 能力与 Dify 的对接,帮助你构建完全自主可控的 RAG 基础设施。

前置信息

  • Dify 1.17.1
  • Ollama bge-m3 with bearer token

详细信息

第一步: 安装 OpenAI-API-compatible 插件

可参考【Dify - 配置智谱LLM】

第二步: 添加 Text Embedding 模型(向量化)

  • 在 Integrations > Model Provider  中找到刚刚安装好的 OpenAI-API-compatible 插件,点击 Add Model

  • 按需配置模型详情

  • 提交后可查看模型列表

可选: 修改默认模型

  • 点击右上角 Default Models

  • 选择新增的模型即可


以上便是本文的全部内容,感谢您的阅读,如遇到任何问题,欢迎在评论区留言讨论。