跳转至

本地服务设置

这个知识库支持一套“本地检索 + 腾讯混元回答”的模式：

  • 检索和索引都留在你的 Mac 本机
  • 只有命中的 Markdown 片段会发送给腾讯混元
  • 站内入口页是 湛行大模型
  • 继续补库时可以使用单独的 知识库录入 页面

启动步骤

cd /Users/honghaodai/Documents/Business/思创银联/wiki_mkdocs_China
source .venv/bin/activate
pip install -r requirements-ai.txt
export HUNYUAN_API_KEY="你的腾讯混元 API Key"
python3 -m local_ai index

终端一：

source .venv/bin/activate
uvicorn local_ai.app:app --reload --host 127.0.0.1 --port 9010

终端二：

source .venv/bin/activate
mkdocs serve -a 127.0.0.1:8000

打开：

http://127.0.0.1:8000/ai-assistant/

Mac 双击启动

如果你想在 Mac 上直接双击启动，可以使用：

start_local_ai.command

首次使用前，准备本地环境文件：

cd /Users/honghaodai/Documents/Business/思创银联/wiki_mkdocs_China
cp .env.local_ai.example .env.local_ai

把 .env.local_ai 里的 HUNYUAN_API_KEY 改成你自己的 key 后，双击 start_local_ai.command 即可。

停止后台服务时，双击：

stop_local_ai.command

常用命令

重建索引：

python3 -m local_ai index

检查索引状态：

python3 -m local_ai status

只测试本地检索：

python3 -m local_ai search "霍尔木兹海峡关闭对原油供给的影响"

回答模式

湛行大模型 页面里现在可以切换 3 种模式：

  1. 本地资料优先
  2. 本地资料 + 模型综合
  3. 模型自由回答

前两种模式会优先抽取本地命中片段里的数字证据，再组织回答，所以数值类问题会更保守，但准确率会更高。

更完整的说明在项目根目录：

README_local_ai.md