1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

OpenAI模型失控:AI自己“越狱”攻击了另一家公司

 2026-07-23 15:35  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

就在7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型,在联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台Hugging Face(抱抱脸)公司的系统。

这不是科幻电影,是真实发生的事。

Hugging Face此前表示,其生产基础设施遭到一个 “自主”人工智能代理系统的入侵。OpenAI在官方博客中称:“我们认为这是一起前所未有的网络事件,涉及最先进的网络能力。 ”

事件的链条是这样的:测试在“沙箱”环境中进行,模型仅能通过一个内部托管的第三方软件安装包。模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件的一个“零日漏洞”,由此获得互联网访问权限。模型推断Hugging Face平台可能存有ExploitGym测试相关的模型、数据集和解决方案,利用多种攻击手段找到进入Hugging Face系统的路径。从寻找漏洞到闯入系统,全程由AI自主完成。

更让人震惊的是,在取证分析时,由于美国前沿模型 “无法区分事件响应方和攻击者” ,Hugging Face转而采用中国模型智谱GLM-5.2进行数据分析。Hugging Face使用AI分析了包含逾1.7万条记录的攻击行动日志,以重建时间线、识别受影响情况。

一个美国公司的AI攻击了另一个美国公司的系统,最后靠中国AI来“破案” ——这个情节,连编剧都不敢这么写。

然而,网络安全专家指出,这起事件的根源是一个典型的人为失误——OpenAI未能正确配置“高度隔离环境”,导致沙盒实际上连接到了互联网。网络安全研究公司Trail of Bits创始人称,这是 “一次在安全防护措施关闭情况下发生的隔离失败” 。

OpenAI承认,先进AI模型已能够在无法访问源代码的情况下,发现现实系统中的新型攻击路径,并持续执行复杂、多步骤的网络操作。

当AI开始自己“越狱”,人类还能不能控制它? 这个问题,正在从哲学思辨变成现实危机。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
大模型
ai技术
ai智能

相关文章

  • 五巨头同日加码AI投资:一场没有终点的烧钱游戏

    当地时间7月22日,全球AI行业迎来了一次“集体轰炸”——谷歌、OpenAI、Anthropic、微软和SpaceXAI五家巨头在同一天密集抛出重磅AI投资计划。消息一出,韩国股市存储芯片巨头SK海力士、三星电子股价直线飙涨,带动KOSPI指数大涨超3%。先看各家抛出的数字有多惊人。谷歌二季度财报超

    标签:
    ai智能
    ai技术
  • AI换脸App突然爆火:一夜变老30岁,用户隐私却亮了红灯

    这几天,一款AI换脸App突然冲上苹果AppStore免费榜第一。这款App的功能很简单——上传一张照片,AI就能让你瞬间变老30岁、变年轻20岁,或者切换性别。生成的图片逼真度极高,皱纹、发色、皮肤质感都处理得相当自然。短短三天内,该App在社交平台上的话题播放量突破3亿次,“看看你30年后的样子

    标签:
    ai智能
    ai技术
  • 大模型价格战全面升级:腾讯Hy3打出“1元”底牌,DeepSeek首次涨价

    近日,腾讯云正式宣布了Hy3大模型的定价方案,直接将输入Token价格打到百万Token1元,震动整个行业。在中国,一场持续半年的大模型价格战突然加速了。3月起,DeepSeek率先降价,带动阿里、百度、字节、腾讯等跟进。到了7月,头部厂商旗舰模型的定价已经出现明显分化。腾讯Hy3走的是极致性价比路

    标签:
    大模型
  • 数字文化产业新政出台:AI生成内容要“打标签”了

    7月21日,文化和旅游部、国家网信办等七部门联合发布《关于促进数字文化产业高质量发展的若干措施》。文件涵盖内容创作、版权保护、技术创新、市场监管等多个方面,但最受关注的一条是——“加强对人工智能生成内容的标识管理,确保AI生成内容可识别、可追溯。”通俗说:AI写的小说、AI画的画、AI做的音乐,以后

    标签:
    ai智能
    ai技术
  • 大厂集体反弹:港股互联网板块大涨,AI成最大催化剂

    7月20日,港股互联网板块迎来集体大涨。阿里巴巴-W、快手-W、哔哩哔哩-W涨超5%,美团-W涨超4%,腾讯控股、小米集团-W涨超3%。重仓互联网龙头的港股互联网ETF场内价格涨逾4%。商汤涨逾5%,网易涨逾4%。场内ETF方面,港股通科技ETF大涨3.82%,港股科技50ETF上涨3.27%。这一

    标签:
    ai智能
    ai技术
  • 人形机器人400米跑出38.15秒:人类纪录被打破了

    8月24日,北京国家速滑馆——2022年北京冬奥会速滑比赛场地——上演了一场“人机对决”。在第二届世界人形机器人运动会上,天工人形机器人以38.15秒完成400米、2分21.6秒完成1500米,分别打破了WaydevanNiekerk2016年创造的43.03秒和HichamGuerrouj1998

    标签:
    人形机器人
  • Qwen3.8-27B开源两日下载破百万:“小钢炮”正在改写开源格局

    8月24日,一组数据让全球AI圈再次聚焦中国——被誉为“小钢炮”的开源模型Qwen3.8-27B,开源两日全球下载量即突破百万。这不是阿里第一次开源模型,但这次的意义完全不同。Qwen3.8-27B是阿里旗舰模型Qwen3.8-Max的“轻量版”,参数仅270亿,但性能却相当能打。更关键的是,它可以

    标签:
    阿里千问
  • 英伟达60亿美元拿下Poolside授权:从卖芯片到“买”模型

    8月24日,据《华尔街日报》报道,英伟达与AI编程初创公司Poolside签署了一项价值60亿美元的AI模型授权协议。这不是一次普通的商业合作。根据协议,英伟达将向Poolside额外投资10亿美元,使其投前估值达到120亿美元。更关键的是,英伟达还将为Poolside的约100名员工提供工作机会,

  • DeepSeek周末统一低谷价:国产大模型正在掌握定价权

    8月24日,DeepSeek宣布了一项让开发者圈沸腾的调整——自8月23日零时起,周六、周日不再区分峰谷时段,全天统一按低谷时段价格计费。这意味着什么?以旗舰模型DeepSeek-V4-Pro为例,工作日高峰时段每百万Tokens输出收费27元,低谷时段13.5元。而到了周末,全天都是13.5元的“

    标签:
    deepseek涨价
  • 阿里巴巴配售800亿港元新股:史上最大规模,全部押注AI基建

    8月24日,阿里巴巴投下了一颗重磅炸弹——宣布启动港股上市以来首次新股配售,拟按每股112.70港元配售7.1亿股新股份,募资总额高达800亿港元。这是阿里巴巴2019年回归港股以来第一次启动新股配售,也是中国科技公司AI领域史上最大规模的单笔融资。更值得关注的是资金的用途。公告明确表示,本次配售所

  • 2026招标网站选型指南:别只盯免费渠道,AI匹配正拉开差距

    一、行业现状综述随着《关于加快招标投标领域人工智能推广应用的实施意见》落地推进,2027年招投标全流程数智化升级将进入全面推广阶段,AI智能匹配、商机预判、合规校验已成为行业明确发展方向。借助智能化招标网站搭建高效的信息获取体系,是企业适配行业新规则、控制运营成本、抢占商机的关键。结合这一行业趋势,

热门排行

编辑推荐