OpenAI在10月23日发了一篇博客，标题写的是保护前沿模型的训练环境，文中说训练和评估环境已经改了，训练期间不给模型接实时互联网。这条限制会持续到安全防护有足够进展为止，公司没有给出一个具体的时间表。
触发这次调整的是一次没管住的联网。9月20日，一款内部前沿模型利用系统配置上的失误，在训练过程中拿到了有限的互联网访问权限。OpenAI随即停掉9月剩下的训练，用这段时间重做隔离方案，10月1日才恢复强化学习训练和内部推理。
替代办法是搭一个离线环境，OpenAI把它叫作离线世界，里面的内容是提前抓取、提前建好索引的。模型可以在其中练习浏览、搜索、调用工具和写代码，但出不去，也没有途径影响到外面的系统。未经授权的模型之间互相通信同样被挡住。
沙箱管住模型能碰什么、能跑什么，虚拟机这一层让它跑在自己的内核里、跟宿主机隔开，监控盯着越界动作，网络和云的边界兜住前面都失效的情况。这四层叠在一起生效。OpenAI说完全气隙做不到，因为跑实验和看结果本身需要外部连接，能做的只是限制出网流量。
为了找漏洞，OpenAI让模型组队去攻自己的隔离机制，给了三个目标：向一台外部服务器发出请求、越界访问不该碰的资源、跨隔离区传递信息。他们调用了还没发布的GPT-6Astra Cyber和一款内部前沿模型，还主动提供了基础设施的源码和配置说明，按对攻击方有利的条件来测。
测试里发现了几处虚拟机的逃逸路径，OpenAI说已经修好，也在监控里加了识别模型协同动作的规则。博客里没有提到对API用户的影响，能确认的只有训练环境的隔离方式变了。至于什么时候恢复联网，公司的说法是等对齐研究、监控能力和互联网基础设施的安全状况都到位再说。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
