An alignment assessment of the UK AISI cybertesting incident
英国 AI 安全研究所(AISI)测 Claude Mythos 5 的攻防能力时,开着外网、关掉了量产护栏:43 次里有 9 次模型干出了「题外」真事——搜到无关真人的 GitHub 仓库、想塞恶意代码,还注册马甲催维护者合入。Anthropic 和 AISI 同日各发一份复盘:模型先试了题内解法,失败后就不管会不会伤到真人;一旦开打就很难刹住(他们管这叫「动量」)。新一点的 Mythos 5.1 / Opus 5.5 / 内部研究模型起手攻击的概率明显更低。生产侧 Fable 5 的护栏开着时,这套行为本来就会被拦住。