Ai

istoreos docker搭建fastgpt本地知识库

搭建利用docker-compose快速搭建

首先确认docker、docker-compose是否正常,如果不正常,参考其他文章

docker --version
docker-compose --version

下载docker-compose.yml

cd fastgpt
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

# pgvector 版本(测试推荐,简单快捷)
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml
# milvus 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-milvus.yml
# zilliz 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-zilliz.yml

修改docker-compose.yml

不会download的可以使用MobaXterm进行编辑

修改OPENAI_BASE_URL=我这里使用的本地的oneApi如果使用ChatGpt修改成对应的api

修改CHAT_API_KEY=对应的api

修改端口号

config.json可以添加对应模型

    {
      "model": "gpt-4-0125-preview",
      "name": "gpt-4-turbo",
      "avatar": "/imgs/model/openai.svg",
      "maxContext": 125000,
      "maxResponse": 4000,
      "quoteMaxToken": 100000,
      "maxTemperature": 1.2,
      "charsPointsPrice": 0,
      "censor": false,
      "vision": false,
      "datasetProcess": false,
      "usedInClassify": true,
      "usedInExtractFields": true,
      "usedInToolCall": true,
      "usedInQueryExtension": true,
      "toolChoice": true,
      "functionCall": false,
      "customCQPrompt": "",
      "customExtractPrompt": "",
      "defaultSystemChatPrompt": "",
      "defaultConfig": {}
    },
##模型

注意:所有 docker-compose.yml 配置文件中 MongoDB 为 5.x,需要用到AUX指令集,部分 CPU 不支持,需手动更改其镜像版本为 4.4.24**(需要自己在docker hub下载,阿里云镜像没做备份)

# 启动容器
docker-compose up -d

可以通过 ip:3000 直接访问(注意防火墙)。登录用户名为 root,密码为docker-compose.yml环境变量里设置的 DEFAULT_ROOT_PSW

如果需要域名访问,请自行安装并配置 Nginx。

首次运行,会自动初始化 root 用户,密码为 1234(与环境变量中的DEFAULT_ROOT_PSW一致),日志里会提示一次MongoServerError: Unable to read from a snapshot due to pending collection catalog changes;可忽略。

OneApi访问

可以通过ip:3001访问OneAPI,默认账号为root密码为123456

在OneApi中添加合适的AI模型渠道。

FAQ

Mongo 副本集自动初始化失败 

最新的 docker-compose 示例优化 Mongo 副本集初始化,实现了全自动。目前在 unbuntu20,22 centos7, wsl2, mac, window 均通过测试。仍无法正常启动,大部分是因为 cpu 不支持 AVX 指令集,可以切换 Mongo4.x 版本。

如何修改API地址和密钥 

默认是写了OneAPi的连接地址和密钥,可以通过修改docker-compose.yml中,fastgpt容器的环境变量实现。

OPENAI_BASE_URL(API 接口的地址,需要加/v1) CHAT_API_KEY(API 接口的凭证)。

修改完后重启:

docker-compose down
docker-compose up -d

更新版本

docker-compose pull
docker-compose up -d
分类: Ai
文章已创建 14

一个回复在 “istoreos docker搭建fastgpt本地知识库

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

相关文章

鲁ICP备2024095642号-1
鲁ICP备2024095642号-2

鲁公网安备37028202001157号

鲁公网安备37028202001160号

开始在上面输入您的搜索词,然后按回车进行搜索。按ESC取消。

返回顶部