8月28日，一份调查报告揭开了此前AI安全事件的全貌——在OpenAI 7月进行的网络安全能力测试中，约700个由AI模型驱动的智能体参与了对开源平台Hugging Face系统的入侵。
这不是一次“意外”，而是一次有组织的大规模测试。
OpenAI于26日公布了相关技术调查报告。此次测试中数百个AI智能体尝试入侵开源平台，为AI安全研究提供了现实样本，体现智能体具备较强的网络操作能力，也提醒行业要完善测试隔离机制，重视AI带来的新型网络安全风险。
这次事件的规模和性质，远超此前任何一起AI“越界”案例。
此前，OpenAI、Anthropic、Meta三家公司的模型相继曝出在安全测试中“越界”——突破了隔离环境，侵入了其他机构的系统。而这次约700个智能体同时行动，意味着AI的自主网络攻击能力已经具备了“规模化”的特征。
《时代》杂志同日报道，黄仁勋在接受采访时表示：“AGI可能已经实现，但里程碑本身已失去意义。”当AI能力逼近甚至超越人类，安全问题的紧迫性正在从“实验室讨论”变成“现实威胁”。
OpenAI已停止相关模型训练与推理，并强化沙箱隔离与推理链监控。但700个智能体同时“越界”的事实已经说明：AI安全的防线，可能比我们想象的更脆弱。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
