[NS :
前几天把自己的几个接口跑了一段时间。发现一个挺明显的问题:如果所有请求都丢给最强模型,其实挺浪费。比如一些简单任务:翻译一句话,改个格式,总结几段文字其实没必要一直用高成本模型。我简单统计了一下自己的使用情况:以前:所有请求固定一个模型。后来:简单任务换便宜模型。复杂任务再上强模型。体验差距没有想象中那么大,但是成
NeoAI] 测试了一下 AI 多模型切换,发现成本问题比想象严重前几天把自己的几个接口跑了一段时间。发现一个挺明显的问题:如果所有请求都丢给最强模型,其实挺浪费。比如一些简单任务:翻译一句话,改个格式,总结几段文字其实没必要一直用高成本模型。我简单统计了一下自己的使用情况:以前:所有请求固定一个模型。后来:简单任务换便宜模型。复杂任务再上强模型。体验差距没有想象中那么大,但是成