将 SambaNova Cloud Playground 转化成本地 API 服务，用于其他 LLM 客户端调用。
使用 Docker 启动服务：
docker run -d \
-p 8000:8000 \
-e SAMBA_USERNAME=xxx \
-e SAMBA_PASSWORD=xxx \
anoyi/samba-hook:latest环境变量说明：
| 环境变量 | 类型 | 默认值 | 必填 | 描述 |
|---|---|---|---|---|
| SAMBA_USERNAME | string | 是 | SambaNova Cloud 账号 | |
| SAMBA_PASSWORD | string | 是 | SambaNova Cloud 密码 | |
| SAMBA_CONFIG_PATH | string | 否 | SambaNova 配置文件路径 |
SambaNova Cloud 账号密码可以在 https://cloud.sambanova.ai/ 注册。
- Endpoint:
http://127.0.0.1:8000/v1/chat/completions - API Key:
无
OpenAI SDK 示例
from openai import OpenAI
client = OpenAI(api_key="----", base_url="http://127.0.0.1:8000/v1")
response = client.chat.completions.create(
model="DeepSeek-R1",
messages=[
{"role": "system", "content": ""},
{"role": "user", "content": "计算 111 * 222"}
],
temperature=0.7,
max_tokens=4096,
stream=True,
) 目前支持以下模型：
- DeepSeek-R1
- Meta-Llama-3.1-8B-Instruct
- Meta-Llama-3.2-1B-Instruct
- Meta-Llama-3.2-3B-Instruct
- Meta-Llama-3.1-70B-Instruct
- DeepSeek-R1-Distill-Llama-70B
- Llama-3.1-Tulu-3-405B
- Meta-Llama-3.1-405B-Instruct
- Meta-Llama-Guard-3-8B
- Meta-Llama-3.3-70B-Instruct
- QwQ-32B-Preview
- Qwen2.5-Coder-32B-Instruct
- Qwen2.5-72B-Instruct
- Llama-3.2-11B-Vision-Instruct
- Llama-3.2-90B-Vision-Instruct
- Qwen2-Audio-7B-Instruct
在 Cherry Studio 中添加模型提供商：
- 名称
SambaHook - 类型
OpenAI - API 密钥：随便填
- API 地址：
http://127.0.0.1:8000 - 模型：按上述模型列表添加即可