AIHelms

AIHelms Docs

模型纳管

按供应商、凭证、模型和部署的顺序接入模型。

后台入口包括“供应商管理”和“模型管理”。首次接入按下面顺序操作。

  1. 选择供应商类型和接入格式
  2. 创建供应商和凭证,并完成凭证测试
  3. 创建模型、添加部署并完成模型测试
  4. 发布模型,配置多部署路由或 Fallback
  5. 进入“AI 身份 > AI 身份管理”,把模型分配给测试用户。
  6. 使用测试用户的 Key、Endpoint 和模型 ID 发起调用。
  7. 进入“资源审计 > 日志管理”确认调用记录。

配置关系

供应商
  -> 凭证:接入格式、API Base、API Key
    -> 部署:平台模型 ID、厂商模型名、价格、路由参数
      -> 模型:发布到用户端并分配给 AI 身份
对象在哪里创建保存什么
供应商供应商管理上游类型和允许使用的接入格式
凭证供应商管理一种接入格式、API Base 和 API Key
模型模型管理用户端名称、分类、能力标签和说明
部署模型管理的“添加凭证”平台模型 ID、厂商模型名、凭证、定价和路由参数

员工使用平台模型 ID,管理员在部署中填写厂商模型名。两者可以不同。

用户调用失败

  1. 先在部署卡片点击“测试”。
  2. 测试失败时检查凭证、API Base、接入格式和厂商模型名。
  3. 测试成功时检查模型是否发布、用户 AI 身份是否已分配模型。
  4. 最后到日志管理按调用时间查询具体错误。