[NS : NeoAI] 《最近在做一个AI模型路由层,简单画了一下整体结构》

最近在做多模型调用的统一调度,顺手把整体架构整理了一下。目前思路比较简单,没有做太重的设计,先跑通为主。用户请求↓APIGateway(统一入口)↓Router(核心调度层)↓模型选择器(Claude/GPT/Gemini)↓Fallback机制(失败自动切换)↓结果返回Router目前做的事情:判断请求类型(长文
 
 
Back to Top