平台 API 使用指南

1.平台简介

概述

八驴Agent依托自研/整合的高性能推理引擎、高弹性算力调度平台和高扩展性 API 服务，致力于为广大开发者提供更快、更全面、更丝滑的大模型 API 调用和部署服务。

平台兼容 OpenAI 对话协议，无缝集成主流开源工具（ChatBox、NextChat、LangChain、AutoGPT 等），帮助开发者聚焦产品创新，轻松融入 AI 能力。

核心产品矩阵

平台优势

• ⚡ 高速推理 — 自研 / 优化推理引擎，首 Token 延迟低至百毫秒级
• 💰 高性价比 — 极具竞争力的定价，支持按量 / 包月灵活计费
• 🔒 高稳定性 — 多级负载均衡 + 自动容灾，SLA 99.9%
• 🧠 高智能 — 精选国内外最强开源与闭源模型
• 🛡️ 高安全性 — 数据不落盘，API Key 鉴权，敏感内容过滤
• 🔌 高扩展性 — 一键接入 OpenAI SDK 生态，无需改造代码

适用场景

• Agent & Coding — Cursor、Windsurf、Codex 等 AI 编程工具对接
• AI 应用开发 — 对话机器人、客服系统、知识库问答
• 内容创作 — 文案生成、翻译、改写、创意写作
• 企业智能化 — 智能文档处理、数据分析、报告生成
• 行业解决方案 — 金融、教育、医疗、法律等垂直领域

2.快速上手

2.1 注册与登录

访问 平台地址（请联系管理员获取）完成注册。

2.2 获取 API Key

1. 登录后进入控制台 → API Key 管理
2. 点击「新建 API Key」，填写描述名称
3. 生成后请 立即复制并妥善保存，关闭后将无法再次查看

2.3 首次调用

平台完全兼容 OpenAI API 格式，您可以使用任何 OpenAI SDK 直接接入。

Base URL：

https://blv8888.com/v1

curl 示例：

bashcurl https://blv8888.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer ***" \
  -d '{
    "model": "deepseek-v4-pro",
    "messages": [
      {"role": "system", "content": "你是一个有用的助手。"},
      {"role": "user", "content": "你好！"}
    ],
    "temperature": 0.7,
    "max_tokens": 1024
  }'

Python 示例（使用 OpenAI SDK）：

pythonfrom openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://blv8888.com/v1"
)

response = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[
        {"role": "system", "content": "你是一个有用的助手。"},
        {"role": "user", "content": "你好！"}
    ],
    temperature=0.7,
    max_tokens=1024
)

print(response.choices[0].message.content)

3.对话模型 — 开始使用

请求格式

POST /v1/chat/completions

请求参数

消息格式

{
  "role": "system",    // 系统消息，设定助手角色
  "content": "..."
}

{
  "role": "user",      // 用户消息
  "content": "..."
}

{
  "role": "assistant", // 助手回复
  "content": "..."
}

响应格式

json{
  "id": "chatcmpl-xxx",
  "object": "chat.completion",
  "created": 1700000000,
  "model": "deepseek-v4-pro",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "你好！有什么可以帮助你的吗？"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 20,
    "completion_tokens": 10,
    "total_tokens": 30
  }
}

4.推理模型（Reasoning）

推理模型（如 deepseek-r1 系列）在回答前会生成内部推理链，逐步分析复杂问题。

使用方法

推理模型无需特殊参数，只需指定对应模型名称即可。平台自动处理推理链并与最终回复一同返回。

获取推理内容

当使用推理模型时，响应的 choices[0].delta 或 choices[0].message 中可能包含 reasoning_content 字段，表示模型的推理过程。

Python 示例：

pythonresponse = client.chat.completions.create(
    model="deepseek-r1",  # 推理模型
    messages=[{"role": "user", "content": "9.11 和 9.9 哪个大？"}],
    temperature=0.6
)

# 获取推理过程
reasoning = response.choices[0].message.reasoning_content
# 获取最终回答
answer = response.choices[0].message.content

推荐参数

• temperature: 0.5~0.7（推荐 0.6）
• 推理模型对复杂数学、逻辑推理效果最佳

5.常见问题

5.1 API 请求错误排查

5.2 模型问题排查

• 模型返回空内容 → 检查 max_tokens 是否设置过小
• 模型回答截断 → 增大 max_tokens 参数
• 流式连接断开 → 检查网络代理，启用重连机制
• 响应速度慢 → 确认是否使用了正确的模型名称

5.3 账户与财务

• 联系管理员获取：充值、套餐升级、发票等财务支持
• 用量统计可在控制台查看实时的 Token 消耗

6.开源组件版权声明

适用范围

本声明适用于基于以下两个开源项目构建、部署或分发的服务（以下简称「本服务」）：

一、版权归属与许可声明

New API 与 Hermes 均为独立的开源项目，其源代码、商标、名称及相关知识产权归各自版权方（QuantumNous、Nous Research 及相应贡献者）所有。本服务仅依据其开源许可证合法使用上述项目，本服务的运营方与上述项目方之间不存在任何隶属、合作或背书关系。

• New API 依据 AGPLv3 及其附加条款使用：若对本项目源代码进行修改并对外提供网络服务，须按 AGPLv3 开放修改后的源代码，并在法律声明及界面显著位置保留署名 「Frontend design and development by New API contributors.」 及指向原项目的可见链接。
• Hermes 相关组件按其各自许可证使用（MIT / Apache 2.0 / Llama Community License 等）。其中基于 Llama 底座的 Hermes 模型受 Llama 社区许可协议约束（含月活用户 7 亿以上需另行申请授权等条款），使用者应自行查阅并遵守相应模型 Model Card 所附许可证。

各项目原始许可证文本优先于本声明中与之冲突的任何表述。各许可证的完整文本可于上述官方地址或各项目仓库的 LICENSE / NOTICE 文件中获取。

二、按「现状」提供，不作任何担保

本服务及所依赖的开源组件均按「现状」（AS IS）与「按需可用」（AS AVAILABLE）提供，不附带任何形式的明示或默示担保，包括但不限于对适销性、特定用途适用性、不侵权、准确性、完整性、稳定性、安全性与无错误的担保（该等限制为 AGPLv3 第 15、16 条及 Apache 2.0 第 7、8 条、MIT 许可证免责条款的明示内容）。

本服务由社区驱动的开源软件构建，不构成任何商业服务承诺或服务等级协议（SLA）。相关功能可能因上游模型服务变更、开源项目更新或技术原因随时调整、暂停或终止，恕不另行通知。

模型生成内容具有概率性，可能存在错误、虚构（幻觉）或不准确之处，不应作为医疗、法律、金融、投资等专业建议的唯一依据；如需专业意见，请咨询相应领域的持证专业人士。

三、责任限制

• 在法律允许的最大范围内，本服务的运营方、开源项目方及其贡献者，均不对因使用或无法使用本服务而产生的任何直接、间接、附带、特殊、惩罚性或后果性损失承担责任，包括但不限于数据丢失、密钥泄露、利润损失、业务中断、商誉损害等。
• 您因使用本服务而产生的一切费用（包括 API 调用费、算力费、流量费及超额计费等）由您自行承担。
• 若适用法律强制要求承担部分责任，累计赔偿责任（如适用）不超过您为本服务本身实际支付的金额（即零），且不超出各开源许可证所允许的责任上限。

四、使用者合规义务

您承诺仅出于合法且经授权的目的使用本服务，并自行负责：

• 合法获取上游模型服务的 API 密钥、账户与接口权限，遵守上游服务商（如 OpenAI、Anthropic、Google、Nous Research 等）的服务条款；
• 遵守所在国家/地区的适用法律法规，包括但不限于版权法、数据保护与个人信息保护相关规定；
• 不得利用本服务生成、传播违反法律法规或公序良俗的内容，不得侵犯他人的知识产权、隐私权或其他合法权益。

当您将本服务作为面向公众的生成式 AI 服务或 API 转售服务运营时，您作为服务提供者，应在正式运营前自行完成所有必要的备案、许可、内容安全、实名认证、日志留存、税务、支付及上游授权义务（包括但不限于中国境内《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等法规所要求的算法备案与安全评估）。上述义务的主体是实际运营者本人，而非任何开源项目方或贡献者。

违反上述承诺所引发的一切法律后果（包括行政处罚、民事诉讼与刑事责任）均由使用者自行承担。

五、第三方模型输出与数据免责

• 本服务本身不训练、不拥有任何模型，仅作为网关对接第三方模型服务或调用开源模型权重。模型生成的任何内容不代表本服务运营方或开源项目方的立场，各方对其准确性、合法性、适用性不作任何担保。
• 您与上游服务商或模型版权方之间的权利义务，由您与其之间的协议或许可证独立约定；因上游服务限流、涨价、封禁、终止或模型许可条款变更造成的损失，本服务运营方概不负责。
• 您在使用本服务过程中自行输入、上传的数据，由您自行备份与保护；因操作不当或配置失误造成的数据丢失，运营方不承担责任。

六、数据安全与隐私

• 本服务基于自托管部署，部署实例中的用户数据、令牌与日志由运营方自行管理与保护。运营方应采取必要的安全措施（强密码、双因素认证、密钥轮换、及时更新版本等），并自行承担因配置不当造成的损失。
• 本声明所涉开源项目方均不主动收集、存储或传输部署实例中的业务数据；您在向社区提交 Issue 或使用在线文档时提供的信息，适用各项目自身的隐私政策。

七、商标与名称

• 「New API」「Hermes」及相关名称、标识仅用于说明本服务所使用的技术组件，属于各自权利人的商标或名称。除描述性使用外，本声明不授予任何商标使用权。
• 本服务的名称、品牌与内容中，凡与上述开源项目无关的部分，归本服务运营方所有。

八、其他

• 本声明部分条款被认定无效的，不影响其余条款的效力；本声明与各开源许可证冲突之处，以各许可证为准。
• 运营方保留随时修订本声明的权利，修订后版本将通过本服务公示；您继续使用本服务即视为接受修订后的条款。
• 本声明以中文版本为准，其他语言译本仅供参考。

版权所有 © QuantumNous、Nous Research 及各自项目贡献者；本声明由本服务运营方就其自身服务发布。

文档版本 v1.1 · 最后更新于 2026-09-06