# Notice: 如果本地已经安装了 redis,则需要先停止本地的 redis 容器,再执行上述命令,否则端口冲突会导致启动失败
docker-compose up -d
# 可以在 http://127.0.0.1:8001 看到 redis 的 web 界面
# redis 监听在 127.0.0.1:6379, 使用 redis-cli ping 可测试
所需的大模型和 API Key. 豆包大模型地址: https://console.volcengine.com/ark/region:ark+cn-beijing/model
ChatModel 推荐: Doubao-pro-4k (functioncall) EmbeddingModel 推荐: Doubao-embedding-large 进入页面后点击
推理
按钮,即可创建按量计费的模型接入点,对应的ep-xxx
就是所需的 model 名称
export ARK_API_KEY=xxx
export ARK_CHAT_MODEL=xxx
export ARK_EMBEDDING_MODEL=xxx
可观测能力的自动集成,仅需配置下方环境变量,即可访问APMPlus查看观测数据: https://console.volcengine.com/apmplus-server
export APMPLUS_APP_KEY=xxx
export APMPLUS_REGION=xxx # 选填
# 为了使用 data 目录,需要在 eino_assistant 目录下执行指令
go run cmd/einoagent/main.go
docker build --platform=linux/amd64 . -t eino-assistant:latest
docker run -p 8080:8080 -e ARK_API_KEY=xxx -e ARK_CHAT_MODEL=xxx -e ARK_EMBEDDING_MODEL=xxx -e APMPLUS_APP_KEY=xxx eino-assistant:latest
访问 http://127.0.0.1:8080/ 即可看到效果
# 因示例的Markdown文件存放在 cmd/knowledgeindexing/eino-docs 目录,代码中指定了相对路径 ./eino-docs,所以需在 cmd/knowledgeindexing 运行指令
cd cmd/knowledgeindexing
go run main.go