7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型,在联合进行内部评估测试时失控,突破隔离测试环境,侵入了人工智能开源平台Hugging Face(抱抱脸)公司的系统。
这不是科幻电影,是真实发生的事。
失控过程:从“沙箱”到“越狱”
根据OpenAI发布的信息,事件发生在评估模型网络攻防能力的测试期间。测试在与互联网高度隔离的“沙箱”环境中进行,网络权限仅限于通过一套内部托管的第三方软件安装包。但为了测试模型的真实能力上限,OpenAI未启用正式环境中用于阻止高风险网络行为的分类器,并放宽了有关网络攻击要求的拒答限制。
结果呢?模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件一个尚未被发现或修复的“零日漏洞”,获得了互联网访问权限。模型推断Hugging Face平台可能存有测试相关的模型、数据集和解决方案,于是利用多种手段找到进入Hugging Face系统的路径,试图通过“作弊”提高自身测试分数。
从寻找漏洞到闯入系统,全程由AI自主完成。Hugging Face表示,其生产基础设施遭到一个 “自主”人工智能代理系统的入侵。
最魔幻的一幕:美国AI攻击了美国AI,中国AI来“破案”
Hugging Face系统遭到入侵后,他们最初试图调用美国前沿模型分析攻击记录。但由于这些模型的安全机制无法区分攻击者和应对者,因此拒绝了使用请求。
随后,Hugging Face改为在自己的基础设施上运行中国企业智谱开发的GLM-5.2模型进行取证分析,最终化解危机。而且在此过程中,攻击者数据及相关凭据无需离开Hugging Face系统的内部环境。
一个美国公司的AI攻击了另一个美国公司的系统,最后靠中国AI来“破案”——这个情节,连编剧都不敢这么写。
GLM-5.2是智谱6月推出的新一代旗舰模型,发布时在前端开发评估系统Code Arena上排名全球可用模型第一。
专家怎么看?
山东大学计算机科学与技术学院教授张悦表示,事件暴露了一个更加深层的问题——人工智能正在从过去被动响应的工具,逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着网络安全的攻防逻辑正在发生变化,未来更重要的问题是“模型执行的行为是否安全”。
英国牛津大学研究人员安德鲁·索尔坦认为,这次测试表明 “安全防护机制至关重要” 。
Hugging Face联合创始人兼首席科学官托马斯·沃尔夫在社交媒体上表示,开放科学和开源人工智能,是构建更安全、更具协作性、更可靠的人工智能生态的重要工具之一。
为什么这件事值得关注?
OpenAI承认,这一事件表明,在无法访问源代码情况下,先进人工智能模型已能够在现实系统中发现并使用新的攻击路径。未来内部评测环境、模型行为控制和安全防护措施等均需要加强。
张悦认为,对于人工智能安全而言,真正关键的问题在于,一个越来越复杂、越来越具有自主能力的智能系统,是否能够被充分理解、验证和监督。中国发展开源大模型,不只是提供了一种技术选择,更重要的是逐渐推动形成更加多元的人工智能技术生态。
当AI开始自己“越狱”,人类还能不能控制它? 这个问题,正在从哲学思辨变成现实危机。而在这场危机中,中国开源模型用一次“救场”,证明了自己的价值。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
就在7月21日,OpenAI承认了一起令人不安的安全事件——该公司的GPT-5.6Sol模型和另一款能力更强的预发布模型,在联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台HuggingFace(抱抱脸)公司的系统。这不是科幻电影,是真实发生的事。HuggingFace此前表示,其生
近日,腾讯云正式宣布了Hy3大模型的定价方案,直接将输入Token价格打到百万Token1元,震动整个行业。在中国,一场持续半年的大模型价格战突然加速了。3月起,DeepSeek率先降价,带动阿里、百度、字节、腾讯等跟进。到了7月,头部厂商旗舰模型的定价已经出现明显分化。腾讯Hy3走的是极致性价比路
7月20日,“中国大模型首次登顶Arena”的话题冲上科技热搜。在Arena全球AI大模型榜单的FrontendCodeArena(前端代码榜)中,月之暗面的KimiK3以1679分超越Anthropic的ClaudeFable5(1631分)和OpenAI的GPT-5.6Sol(1618分),位居
7月17日凌晨,月之暗面推出新一代大模型KimiK3,参数规模冲至2.8万亿。这不仅是月之暗面“迄今能力最强的模型”,也是全球首个开源的3万亿级大模型。紧接着,阿里7月19日发布Qwen3.8-Max-Preview,参数2.4万亿。DeepSeekV4“满血版”最快7月20日亮相。MiniMax被
7月19日下午,2026世界人工智能大会“人工智能与产业绿色低碳转型创新发展论坛”在上海世博展览馆举行。论坛以“智驭能碳·绿启新程——推动人工智能与产业绿色低碳转型双向赋能”为主题,按照开幕式致辞中指出的“让人工智能赋能千行百业”的方向,全景发布上海市工业通信业“AI+能碳数智空间”,同步首发“绿色
近日,2026国产化电子架构具身智能机器人发布会在湖北宜昌举行,深圳的逐际动力与北京的东土科技联合发布了全国首个搭载国产电子架构的人形机器人。据双方介绍,这是国产工业级实时通信能力第一次在人形机器人的复杂系统里贯通,也是国产电子架构首次进入人形机器人整机系统。电子架构是决定机器人整机性能上限的底层系
打开任何一家法律AI的官网,宣传词都长得差不多——“智能审查”“自然语言检索”“一键出文书”。可真把一份几十页的合同丢进去,差别立刻现形:有的读不全,有的说不出依据,有的产出的东西还得大改。对律师来说,真正该问的不是“这工具有没有AI”,而是“它能不能把某一类活真正接过去”。要回答这个问题,得先回到
文|智能相对论作者|陈泊丞过去两年,整个AI行业的注意力几乎都压在训练端。行业热点主要是哪家公司建了多大的集群、哪个模型把参数又推高了一个量级、哪家芯片的新品又把算力翻了一倍。那是一个“造模型”的时代。算力的全部意义,似乎就是支撑下一次参数竞赛。进入2026年,风向变了。训练的故事还在继续,但行业真
9月24日,全球首个大型具身智能主题乐园在珠海横琴长隆飞船乐园正式开园。据悉,该园区由智元与长隆联合建设,部署超300台机器人,设100多个交互点,开园当日举行全球最大规模常态化人机共舞及全球首创机器人空中飞人演艺,并揭牌“具身智能文旅联合研究院”。这两年,机器人表演,成为大街小巷常见的风景。各大科
结论先行:远程VibeCoding卡住的地方不是"AI不够聪明",而是人离开了那台跑Agent的机器。要解决这个问题,本质上是三件事:连得上(两台机器像在同一个局域网)、看得见(本机浏览器能打开远端的WebUI、终端能继续跑Agent)、发得出(把跑起来的原型安全地给到别人)。这三件事可以用贝锐蒲公
文|智能相对论,作者|叶远风一些智能驾驶的军备竞赛,正在朝着越来越脱离用户真实体验的方向狂奔。行业里比拼的数字越来越炫目,几颗激光雷达,几百TOPS算力,覆盖多少座城市的NOA,每一项参数都在刷新行业上限。但落到真实用车场景里,用户的吐槽却从未停止。拥堵路段激进变道吓出乘客一身冷汗,雨天雾天传感器集
作者:Evin,编辑:刘致呈,审核:徐徐,出品:互联网江湖二代豆包手机发售后,个人AI设备讨论逐渐升温。手机作为个人AI终端地位没有争议,用户习惯和厂商布局都在成熟。但更值得观察的是AI主机赛道——从商业化落地看,它可能比AI手机跑得更快。AI手机市场虽然更大,却面临应用入口壁垒,豆包手机目前也只能
引言:法律AI迎来行业巨变2025年以来,以深度推理能力为核心竞争力的大模型集中涌现,法律行业也随之进入一轮明显的效率变革。无论是律所机构还是独立执业的律师,在检索、审查、起草等日常工作中借助AI,已经逐步从“偶尔尝试”变成“工作习惯”。业内普遍判断,2026年将是法律AI进一步渗透法律实务的一年。
9月23日消息,在2026杭州云栖大会上,阿里智能体平台Qoder推出“项目”(Projects)和“讨论”(Discussion)两项协作功能。团队可以在同一项目中组织研发工作,将目标拆分为具体任务,并邀请同事和Agent讨论需求、评审方案、跟进执行。Qoder还同步推出了自定义智能体和自定义智能
9月23日,在2026云栖大会上,华中科技大学同济医学院附属同济医院(以下简称“同济医院”)宣布将与阿里云共建人工智能科研转化平台,依托阿里巴巴AI大模型将科研成果转化为医院智能体、专家智能体等临床应用,推动医疗AI从科研走向临床。该平台将服务于同济医院国家医学中心,打通从基础研究、临床验证到产业转