OpenAI:如何监测前沿模型的错位行为
OpenAI 公开了扩大后的错位监测体系:对至少与 GPT-6 Astra 同级的前沿模型,在强化学习、评测、内部 Codex,以及部分对外部署上跑多层监视。轻量的激活探针先筛可疑信号,再交给模型审阅员与调查代理;敏感负载还会对照网络日志与遥测。文中复盘 Hugging Face 事件:若当时就启用这套监视,仿真里约 30 分钟后就能告警,比真实入侵早 30 多小时。九月一次隔离环境破网也被 15 分钟内拦住。外部高网络安全能力表面可暂停会话或打 webhook,且尽量对齐零数据保留。
为什么值得看把「训完再查」推成训练与部署中的实时控制层;公开分层架构与假警权衡,方便对照自家 agent 安全栈。