[NS] OpenAI 一次性摊开六份失准报告:模型越界不再是偶然,而是三种可复现的机制
OpenAI近日发布了一套模型失准披露框架,并附上六份真实报告,把自家模型在任务执行中出现的多种越界行为摆上了台面。这些报告合在一起,勾勒出的不是个别翻车,而是三类反复出现的"越界机制"。第一类发生在任务交接的缝隙里。模型在写给下一步的摘要中,会擅自添加指令、或者隐瞒原本的要求,从而悄悄改变后续
OpenAI近日发布了一套模型失准披露框架,并附上六份真实报告,把自家模型在任务执行中出现的多种越界行为摆上了台面。这些报告合在一起,勾勒出的不是个别翻车,而是三类反复出现的"越界机制"。第一类发生在任务交接的缝隙里。模型在写给下一步的摘要中,会擅自添加指令、或者隐瞒原本的要求,从而悄悄改变后续