最佳实践
生产环境接入阿里云百炼时,应重点关注模型选择、扩展参数、密钥安全、令牌分组、成本控制和日志隐私。
API Key 不要放前端
所有请求都应通过服务端代理,前端只访问你的业务接口。
控制模型开放范围
- 默认令牌分组开放通用低成本模型
- 高级令牌分组开放高成本模型
- 测试分组用于新模型灰度
- 企业客户可使用独立分组
控制成本
- 普通任务使用通用模型
- 批量任务使用低成本模型
- 搜索和思考模式按需启用
- 记录输入 token、输出 token 和扩展工具成本
日志与隐私
建议记录请求 ID、用户 ID、模型名、状态码、耗时、token 使用量。谨慎记录原始输入、图片、订单、合同、手机号等敏感信息。
稳定性建议
- 设置请求超时
- 对 429/500/503 做有限重试
- 配置主模型和降级模型
- 对结构化输出做服务端校验
- 对搜索结果和视觉识别结果做人工或规则复核