使用 Milvus 部署 FastGPT

FastGPT 是一个基于 LLM 大语言模型的知识型问答系统，提供开箱即用的数据处理和模型调用能力。此外，它还能通过 Flow 可视化进行工作流编排，从而促进复杂的问答场景。本教程将指导您如何使用 Milvus 快速部署您自己专属的 FastGPT 应用程序。

下载 docker-compose.yml

确保您已经安装了 Docker Compose。
执行以下命令下载 docker-compose.yml 文件。

$ mkdir fastgpt
$ cd fastgpt
$ curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

# milvus 版本
$ curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-milvus.yml
# zilliz 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-zilliz.yml

如果您使用 Zilliz 版本，请调整 docker-compose.yml 文件中的 MILVUS_ADDRESS 和 MILVUS_TOKEN 链接参数，它们对应于 Zilliz Cloud 中的公共端点和 API 密钥。

启动容器

在与 docker-compose.yml 相同的目录中执行。确保 docker-compose 版本最好在 2.17 以上，否则某些自动化命令可能无法正常工作。

# 启动容器
$ docker compose up -d
# 等待 10 秒，OneAPI 通常需要重启几次才能初始连接到 Mysql
$ sleep 10
# 重启 oneapi（由于 OneAPI 默认 Key 的某些问题，如果不重启将显示 'channel not found'，这可以通过手动重启一次暂时解决，等待作者修复）
$ docker restart oneapi

访问 OneAPI 添加模型

OneAPI 可以通过 ip:3001 访问。默认用户名是 root，密码是 123456。您可以在登录后更改密码。
以使用 OpenAI 的模型为例，点击"Channel"选项卡，在"Models"下选择您的聊天模型和嵌入模型。
在"Secrets"部分输入您的 OpenAI API Key。
有关使用 OpenAI 之外的模型和更多信息，请参阅 One API。

设置 Token

点击"Tokens"选项卡。默认情况下，有一个 token Initial Root Token。您也可以自己创建新的 token 并设置配额。
点击您的 token 上的"Copy"，确保此 token 的值与 docker-compose.yml 文件中设置的 CHAT_API_KEY 值匹配。

访问 FastGPT

目前，FastGPT 可以通过 ip:3000 直接访问（请注意防火墙）。登录用户名是 root，密码设置为 docker-compose.yml 环境变量中的 DEFAULT_ROOT_PSW。如果您需要域名访问，您需要自己安装和配置 Nginx。

停止容器

运行以下命令停止容器。

$ docker compose down