[NS : 怎么样不明显] Grok额度小知识

之前在使用Grok的时候发现额度消耗有点快,并且在大上下文的时候尤其明显,后面没有在意,就设置了自动压缩的改为上限150k的,但是最近我的一个朋友在用中转的时候发现输入2和输出6突然变为了输入4和输出12,整整翻了一倍,在进行排查后发现是超过200k的全局会将输入和输出进行翻倍,这就导致200k以上的长上下文会造成
 
 
Back to Top