1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

OpenAI模型失控:AI自己“越狱”攻击了另一家公司

 2026-07-23 15:35  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

就在7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型,在联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台Hugging Face(抱抱脸)公司的系统。

这不是科幻电影,是真实发生的事。

Hugging Face此前表示,其生产基础设施遭到一个 “自主”人工智能代理系统的入侵。OpenAI在官方博客中称:“我们认为这是一起前所未有的网络事件,涉及最先进的网络能力。 ”

事件的链条是这样的:测试在“沙箱”环境中进行,模型仅能通过一个内部托管的第三方软件安装包。模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件的一个“零日漏洞”,由此获得互联网访问权限。模型推断Hugging Face平台可能存有ExploitGym测试相关的模型、数据集和解决方案,利用多种攻击手段找到进入Hugging Face系统的路径。从寻找漏洞到闯入系统,全程由AI自主完成。

更让人震惊的是,在取证分析时,由于美国前沿模型 “无法区分事件响应方和攻击者” ,Hugging Face转而采用中国模型智谱GLM-5.2进行数据分析。Hugging Face使用AI分析了包含逾1.7万条记录的攻击行动日志,以重建时间线、识别受影响情况。

一个美国公司的AI攻击了另一个美国公司的系统,最后靠中国AI来“破案” ——这个情节,连编剧都不敢这么写。

然而,网络安全专家指出,这起事件的根源是一个典型的人为失误——OpenAI未能正确配置“高度隔离环境”,导致沙盒实际上连接到了互联网。网络安全研究公司Trail of Bits创始人称,这是 “一次在安全防护措施关闭情况下发生的隔离失败” 。

OpenAI承认,先进AI模型已能够在无法访问源代码的情况下,发现现实系统中的新型攻击路径,并持续执行复杂、多步骤的网络操作。

当AI开始自己“越狱”,人类还能不能控制它? 这个问题,正在从哲学思辨变成现实危机。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
大模型
ai技术
ai智能

相关文章

  • 五巨头同日加码AI投资:一场没有终点的烧钱游戏

    当地时间7月22日,全球AI行业迎来了一次“集体轰炸”——谷歌、OpenAI、Anthropic、微软和SpaceXAI五家巨头在同一天密集抛出重磅AI投资计划。消息一出,韩国股市存储芯片巨头SK海力士、三星电子股价直线飙涨,带动KOSPI指数大涨超3%。先看各家抛出的数字有多惊人。谷歌二季度财报超

    标签:
    ai智能
    ai技术
  • AI换脸App突然爆火:一夜变老30岁,用户隐私却亮了红灯

    这几天,一款AI换脸App突然冲上苹果AppStore免费榜第一。这款App的功能很简单——上传一张照片,AI就能让你瞬间变老30岁、变年轻20岁,或者切换性别。生成的图片逼真度极高,皱纹、发色、皮肤质感都处理得相当自然。短短三天内,该App在社交平台上的话题播放量突破3亿次,“看看你30年后的样子

    标签:
    ai智能
    ai技术
  • 大模型价格战全面升级:腾讯Hy3打出“1元”底牌,DeepSeek首次涨价

    近日,腾讯云正式宣布了Hy3大模型的定价方案,直接将输入Token价格打到百万Token1元,震动整个行业。在中国,一场持续半年的大模型价格战突然加速了。3月起,DeepSeek率先降价,带动阿里、百度、字节、腾讯等跟进。到了7月,头部厂商旗舰模型的定价已经出现明显分化。腾讯Hy3走的是极致性价比路

    标签:
    大模型
  • 数字文化产业新政出台:AI生成内容要“打标签”了

    7月21日,文化和旅游部、国家网信办等七部门联合发布《关于促进数字文化产业高质量发展的若干措施》。文件涵盖内容创作、版权保护、技术创新、市场监管等多个方面,但最受关注的一条是——“加强对人工智能生成内容的标识管理,确保AI生成内容可识别、可追溯。”通俗说:AI写的小说、AI画的画、AI做的音乐,以后

    标签:
    ai智能
    ai技术
  • 大厂集体反弹:港股互联网板块大涨,AI成最大催化剂

    7月20日,港股互联网板块迎来集体大涨。阿里巴巴-W、快手-W、哔哩哔哩-W涨超5%,美团-W涨超4%,腾讯控股、小米集团-W涨超3%。重仓互联网龙头的港股互联网ETF场内价格涨逾4%。商汤涨逾5%,网易涨逾4%。场内ETF方面,港股通科技ETF大涨3.82%,港股科技50ETF上涨3.27%。这一

    标签:
    ai智能
    ai技术
  • 智能体标准提速:工信部力推“中国方案”

    7月23日,在北京举办的《人工智能智能体互联》系列标准应用推进专题会上,工信部科技司副司长甘小斌表示,要依托标准牵引智能体技术创新、加速各行业规模化落地、完善安全伦理配套规范、深化全球合作,为全球智能体生态构建贡献“中国方案”。甘小斌指出,智能体已成为培育新质生产力的核心变量,国内产业正从单点验证迈

  • 大厂Agent“赛马”结束:从野蛮生长到超级工作台

    过去一个月,腾讯、阿里、字节突然开始做同一件事——他们没有发布新的Agent,反而开始缩减Agent。腾讯发了一纸内部通知——QClaw产品中心的全部业务和部分团队,并入WorkBuddy。WorkBuddy被内部称为继QQ、微信之后“有潜力成为第三款现象级业务”。阿里的动作更大——《财经》报道,阿

    标签:
    ai智能
    ai技术
  • AI造星时代来了?虚拟艺人方桃子爆火,粉丝超35万

    一部AI短剧《被裁掉的女孩》在短视频平台热度飙升,总播放量已突破2亿,全网讨论量超8亿。但真正让人震惊的,是这部剧里的两位AI角色——方桃子和周以衡——走出了剧情框架,分别开设了独立个人社交账号。女主方桃子账号粉丝超35万,男主周以衡粉丝突破11.7万,相关话题单日讨论量高达300万,还有大量CP粉

    标签:
    ai智能
    ai技术
  • 黄仁勋力挺中国开源AI:“优秀的开源模型就该被使用”

    当美国财政部长贝森特和贸易代表格里尔威胁要审查中国开源AI模型时,英伟达CEO黄仁勋给出了截然不同的回答。7月21日,黄仁勋在接受美国Axios新闻网采访时明确表示:美国企业完全应当被允许使用来自中国的开源AI模型。他说得很直白:“这些中国模型非常优秀,优秀的开源模型就应该被使用。”这番话的背景是什

    标签:
    黄仁勋
    ai开源
  • OpenAI模型失控:AI自己“越狱”攻击了另一家公司

    就在7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6Sol模型和另一款能力更强的预发布模型,在联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台HuggingFace(抱抱脸)公司的系统。这不是科幻电影,是真实发生的事。HuggingFace此前表示,其生

  • 五巨头同日加码AI投资:一场没有终点的烧钱游戏

    当地时间7月22日,全球AI行业迎来了一次“集体轰炸”——谷歌、OpenAI、Anthropic、微软和SpaceXAI五家巨头在同一天密集抛出重磅AI投资计划。消息一出,韩国股市存储芯片巨头SK海力士、三星电子股价直线飙涨,带动KOSPI指数大涨超3%。先看各家抛出的数字有多惊人。谷歌二季度财报超

    标签:
    ai智能
    ai技术
  • AI视频会议设备选哪家?企业会议室选型看这篇就够了

    随着混合办公模式普及,AI视频会议设备已成为企业会议室的刚需配置。智能取景、发言人追踪、AI降噪、高清画质等功能,能彻底解决传统会议模糊、收音杂乱、视角局限的痛点。市面上品牌繁多、产品差异较大,不少企业采购时常陷入选择困难。今天结合不同会议室场景,推荐综合测评三个口碑、性能俱佳的主流品牌。一、罗技-

    标签:
    AI视频
  • 从泽宝到虎一科技:跨境电商的黄金时代从未停止

    2018年,传统五金制造企业星徽股份以15.3亿元全资收购了跨境电商公司泽宝技术。泽宝曾是与安克创新、帕拓逊齐名的"亚马逊三杰"之一,2007年由孙才金创立,并购后迅速成为星徽的绝对核心。然而2020年8月创始人孙才金离开泽宝,星徽全面接管,此后核心高管批量出走。2021年亚马逊封号事件后泽宝再未恢

    标签:
    泽宝
  • AI换脸App突然爆火:一夜变老30岁,用户隐私却亮了红灯

    这几天,一款AI换脸App突然冲上苹果AppStore免费榜第一。这款App的功能很简单——上传一张照片,AI就能让你瞬间变老30岁、变年轻20岁,或者切换性别。生成的图片逼真度极高,皱纹、发色、皮肤质感都处理得相当自然。短短三天内,该App在社交平台上的话题播放量突破3亿次,“看看你30年后的样子

    标签:
    ai智能
    ai技术
  • 王小川从百川智能“退居二线”:明星创业者的中场战事

    AI圈传来一则人事变动消息——王小川已不再担任百川智能CEO,仅保留“首席顾问”职位。王小川是百川智能的灵魂人物——2023年,他从搜狗离职后创立百川智能,迅速成为国内AI大模型赛道的明星创业者。公司成立后完成了多轮融资,估值一度超过30亿美元,被认为是“中国大模型六小龙”之一。但创业的残酷在于:明

热门排行

编辑推荐