[NS : Jordan520-] 大家对电脑本地部署AI开源大模型怎么看

本地比云端的优势是免费，数据更隐私和安全，而且可以定义规则。缺点我觉得就是速度慢，稍微长的上下文不仅速度慢，还会爆内存，电脑发热，其实问题就在设备上