[NS : cnnqjban521] 企业最近在推进一个ai网关,佬们有没有推荐开箱即用的产品

主要能做下面几件事①统一接入与协议适配②身份认证与访问控制③流量治理(限流/熔断/降级)④成本计量与优化⑤内容安全与防护⑥数据安全与隐私⑦审计与可观测⑧策略引擎与护栏因为公司接入很多供应商的模型,但是模型的用户量管控不了,想通过分配给各个应用的key进行管控。
 
 
Back to Top