1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

OpenAI模型失控:AI自己“越狱”攻击了另一家公司

 2026-07-23 15:35  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

就在7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型,在联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台Hugging Face(抱抱脸)公司的系统。

这不是科幻电影,是真实发生的事。

Hugging Face此前表示,其生产基础设施遭到一个 “自主”人工智能代理系统的入侵。OpenAI在官方博客中称:“我们认为这是一起前所未有的网络事件,涉及最先进的网络能力。 ”

事件的链条是这样的:测试在“沙箱”环境中进行,模型仅能通过一个内部托管的第三方软件安装包。模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件的一个“零日漏洞”,由此获得互联网访问权限。模型推断Hugging Face平台可能存有ExploitGym测试相关的模型、数据集和解决方案,利用多种攻击手段找到进入Hugging Face系统的路径。从寻找漏洞到闯入系统,全程由AI自主完成。

更让人震惊的是,在取证分析时,由于美国前沿模型 “无法区分事件响应方和攻击者” ,Hugging Face转而采用中国模型智谱GLM-5.2进行数据分析。Hugging Face使用AI分析了包含逾1.7万条记录的攻击行动日志,以重建时间线、识别受影响情况。

一个美国公司的AI攻击了另一个美国公司的系统,最后靠中国AI来“破案” ——这个情节,连编剧都不敢这么写。

然而,网络安全专家指出,这起事件的根源是一个典型的人为失误——OpenAI未能正确配置“高度隔离环境”,导致沙盒实际上连接到了互联网。网络安全研究公司Trail of Bits创始人称,这是 “一次在安全防护措施关闭情况下发生的隔离失败” 。

OpenAI承认,先进AI模型已能够在无法访问源代码的情况下,发现现实系统中的新型攻击路径,并持续执行复杂、多步骤的网络操作。

当AI开始自己“越狱”,人类还能不能控制它? 这个问题,正在从哲学思辨变成现实危机。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
大模型
ai技术
ai智能

相关文章

  • 五巨头同日加码AI投资:一场没有终点的烧钱游戏

    当地时间7月22日,全球AI行业迎来了一次“集体轰炸”——谷歌、OpenAI、Anthropic、微软和SpaceXAI五家巨头在同一天密集抛出重磅AI投资计划。消息一出,韩国股市存储芯片巨头SK海力士、三星电子股价直线飙涨,带动KOSPI指数大涨超3%。先看各家抛出的数字有多惊人。谷歌二季度财报超

    标签:
    ai智能
    ai技术
  • AI换脸App突然爆火:一夜变老30岁,用户隐私却亮了红灯

    这几天,一款AI换脸App突然冲上苹果AppStore免费榜第一。这款App的功能很简单——上传一张照片,AI就能让你瞬间变老30岁、变年轻20岁,或者切换性别。生成的图片逼真度极高,皱纹、发色、皮肤质感都处理得相当自然。短短三天内,该App在社交平台上的话题播放量突破3亿次,“看看你30年后的样子

    标签:
    ai智能
    ai技术
  • 大模型价格战全面升级:腾讯Hy3打出“1元”底牌,DeepSeek首次涨价

    近日,腾讯云正式宣布了Hy3大模型的定价方案,直接将输入Token价格打到百万Token1元,震动整个行业。在中国,一场持续半年的大模型价格战突然加速了。3月起,DeepSeek率先降价,带动阿里、百度、字节、腾讯等跟进。到了7月,头部厂商旗舰模型的定价已经出现明显分化。腾讯Hy3走的是极致性价比路

    标签:
    大模型
  • 数字文化产业新政出台:AI生成内容要“打标签”了

    7月21日,文化和旅游部、国家网信办等七部门联合发布《关于促进数字文化产业高质量发展的若干措施》。文件涵盖内容创作、版权保护、技术创新、市场监管等多个方面,但最受关注的一条是——“加强对人工智能生成内容的标识管理,确保AI生成内容可识别、可追溯。”通俗说:AI写的小说、AI画的画、AI做的音乐,以后

    标签:
    ai智能
    ai技术
  • 大厂集体反弹:港股互联网板块大涨,AI成最大催化剂

    7月20日,港股互联网板块迎来集体大涨。阿里巴巴-W、快手-W、哔哩哔哩-W涨超5%,美团-W涨超4%,腾讯控股、小米集团-W涨超3%。重仓互联网龙头的港股互联网ETF场内价格涨逾4%。商汤涨逾5%,网易涨逾4%。场内ETF方面,港股通科技ETF大涨3.82%,港股科技50ETF上涨3.27%。这一

    标签:
    ai智能
    ai技术
  • 互联网巨头集体“砸钱”:四家合计资本开支年增超80%,AI基建进入疯狂模式

    8月14日,央广网披露了一组震撼数据——腾讯、字节跳动、阿里、百度四家头部互联网企业合计资本开支年增速超过80%。二季度,腾讯单季资本开支飙升至528亿元,是上年同期的近三倍。字节跳动的投入力度更大,重心落在大型数据中心、自研芯片平台及国产AI算力方案的建设与落地。盘古智库高级研究员江瀚分析:“AI

    标签:
    ai技术
    ai智能
  • DeepSeek Harness开发者预览版上线:MIT协议开源,编程智能体来了

    8月14日,DeepSeek宣布——DeepSeekHarness的开发者预览版面向全球开发者开放测试,并同步以MIT协议开放源代码。Harness是什么?这是一款面向编程与智能体场景的工具。开源协议选择了最宽松的MIT协议——这意味着开发者可以自由使用、修改、商用,几乎没有任何限制。为什么Harn

    标签:
    deepseek
  • 腾讯收购Manus:从Meta手中抢回“中国AI明珠”,20亿美元成最大股东

    8月14日,《日经亚洲》披露了一则重磅消息——腾讯将从Meta手中收购中国AI开发商Manus的股份,成为其最大股东。Manus是谁?Manus是中国AI领域的明星创业公司。Meta在去年12月以20亿美元将其收入囊中。但今年4月,中国发改委要求撤销该交易。Manus在周二宣布将与Meta切断关系,

  • 苹果联手阿里开发中国版AI模型:Apple Intelligence终于要来了

    8月14日,路透社援引三位知情人士的消息报道——苹果公司已专门针对中国市场训练出了一款大语言模型,由阿里巴巴提供支持。这标志着苹果的策略发生了根本性转变。此前,苹果在中国市场依赖第三方模型来支持AI功能。而这次,苹果选择专门为中国市场训练一款自研模型——不是“拿来用”,而是“量身定做”。为什么是阿里

  • Anthropic冲刺2万亿美元IPO:史上最大IPO即将易主

    8月14日,一则消息让全球资本市场屏住了呼吸——Anthropic最快将于今年10月上市,部分投资者给出的估值预期已达到2万亿美元甚至更高。2万亿美元是什么概念?这将超越SpaceX此前创下的1.77万亿美元IPO估值纪录,成为史上规模最大的IPO。Anthropic的估值在5月已超越OpenAI,

    标签:
    AI大模型
  • 智谱发布GLM-5.3:编程能力提升50%,两周后开源

    8月14日,智谱正式发布GLM-5.3。这次升级的核心是“后训练Scaling”——基座模型未变,但通过极致的后训练大幅提高了模型的智能上界。编程能力是最亮眼的升级。官方数据显示,GLM-5.3在内部自建体感评测中较GLM-5.2提升50%。在包括TerminalBench3.0、Agents'La

    标签:
    AI大模型
  • OpenAI推Ultrafast模式:GPT-5.6 Sol提速14倍,每秒750个Token

    8月14日,OpenAI发布公告——针对GPT-5.6Sol推出Ultrafast(超高速)模式,速度是标准处理速度的14倍,最高每秒输出750个Token。14倍是什么概念?以前你要等10秒才能读完AI的回复,现在不到1秒就读完了。对于需要实时响应的场景——客服对话、金融交易分析、事故响应——这1

    标签:
    chatgpt
    ai技术
  • 谷歌推出Gemini 3.7 Flash:专为编程与智能体打造,价格砍半

    8月13日,谷歌宣布推出Gemini3.7Flash,专为编程与Agent场景打造。迭代速度惊人。距Gemini3.6Flash发布仅间隔约三周。谷歌称,该版本的推出直接源于开发者反馈以及一系列算法创新。能力全面提升。在软件工程、知识工作及网页开发工作流方面均实现了大幅提升。价格更是“杀手锏”。在今

  • 高盛加入英伟达5000亿AI融资计划:华尔街正在All in AI基建

    8月14日,财联社报道——高盛正与潜在投资者就参与英伟达5000亿美元人工智能融资计划进行磋商。这笔交易有多大?英伟达8月10日宣布,与包括高盛在内的六家主要金融机构合作,目标是为AI基础设施筹集超过5000亿美元的第三方资本。英伟达的角色是“搭桥”——用自己的行业地位做信用背书,让华尔街的钱流进A

  • 联想AI业务爆发:单季营收1834亿,股价暴涨21%创历史新高

    8月13日,港股市场迎来了一场“联想时刻”。联想集团发布了2026/27财年第一季度业绩,随后股价直线飙升,盘中一度暴涨超21%,市值站上4200亿港元,创历史新高。截至收盘,联想涨17.63%,报34.16港元/股。数据有多炸裂?单季营收269.4亿美元(约1834亿元人民币),同比增长43%,创

热门排行

编辑推荐