Skip to content

最佳实践

生产环境接入阿里云百炼时,应重点关注模型选择、扩展参数、密钥安全、令牌分组、成本控制和日志隐私。

API Key 不要放前端

所有请求都应通过服务端代理,前端只访问你的业务接口。

控制模型开放范围

  • 默认令牌分组开放通用低成本模型
  • 高级令牌分组开放高成本模型
  • 测试分组用于新模型灰度
  • 企业客户可使用独立分组

控制成本

  • 普通任务使用通用模型
  • 批量任务使用低成本模型
  • 搜索和思考模式按需启用
  • 记录输入 token、输出 token 和扩展工具成本

日志与隐私

建议记录请求 ID、用户 ID、模型名、状态码、耗时、token 使用量。谨慎记录原始输入、图片、订单、合同、手机号等敏感信息。

稳定性建议

  • 设置请求超时
  • 对 429/500/503 做有限重试
  • 配置主模型和降级模型
  • 对结构化输出做服务端校验
  • 对搜索结果和视觉识别结果做人工或规则复核