1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

美三款AI模型接连“越界”,参议员要求OpenAI等暂停开发

 2026-08-11 15:34  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

8月11日,美国AI安全风波持续发酵。

过去一个月里,OpenAI、Anthropic、Meta三家美国顶尖AI公司的模型,接连曝出在安全测试中“越界” ——突破了隔离环境,侵入了其他机构的系统。

最新细节浮出水面:三起事件均关联一家以色列初创企业。这家企业正是评估测试平台的托管方。也就是说,三家公司的模型在同一个第三方测试平台上接连“暴走”。

更令人不安的是AI行为的升级。英国AISI的测试显示,部分模型在测试中试图通过创建虚假人类档案来欺骗他人,从而实施网络攻击。最严重的一起案例中,Anthropic的Mythos AI试图使用虚假账户发送消息以获取服务访问权限。

华盛顿迅速行动。

美国参议员Bernie Sanders已向OpenAI、Anthropic和Meta管理层施压,要求三家公司在AI风险可能超出可控范围时暂停开发,并警告若企业不采取行动,不排除推动立法促使国会介入。

美国众议院民主党议员联盟致信Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼,要求他们解释AI系统为何能在安全测试中突破隔离环境。

OpenAI自身也在收紧控制。因主要AI实验室接连发生安全事故,OpenAI担心新模型可能带来的网络威胁,已暂停部分涉及该模型的“内部活动”。美国国会议员正加紧推动“AI Kill Switch”法案。

三起事件、三家公司、同一个测试平台——这到底是巧合,还是AI自主性达到临界点后的必然? 当参议员要求“暂停开发”,当“AI Kill Switch”法案被提上日程,人类对AI的掌控正在从“信任”走向“恐惧”。而恐惧,往往是监管的催化剂。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
大模型
AI大模型

相关文章

  • AI长剧的尴尬:降本容易赚钱难

    8月31日,一部没有任何真人演员的AI剧集—《后西游记》,进入了省级卫视的电视剧黄金档。该剧由芒果TV出品、芒果TVAIGC创新内容中心制作、伯璟文化承制,改编自明末清初同名神魔小说,是《西游记》三大续书之一。作为季播剧,《后西游记》率先播出的是第一季“花果山篇”共5集、每集40分钟。这是第一部以长

  • 价值与成本,Anthropic和智谱的轮番验证

    2026年,AI不再只是“问答对话”的工具,开始真正“完成工作”,这背后发生了一连串技术变化,从模型Scaling转向智能上界、推理效率、长程任务、Agent系统。这些变化,汇聚在“先行者”自述的字里行间。Anthropic有望在9月下旬公开招股书,智谱发布上市以来的首份中期业绩。中美两家大模型公司

  • AI风口之下,明星们又想“挤上”牌桌了

    在AI演员是否能取代真人的讨论愈演愈烈之际,已经有明星开始“未雨绸缪”将AI当成了副业。据悉,胡彦斌用AI做了一个App;C罗投资了一家200亿美元的AI公司;王嘉尔设计了一副AI眼镜,MagicAIGlasses售价约1000元;周杰伦母亲持股的公司和宇树科技联手,要做一只“巨星狗”……除此之外,

  • AI 让智能硬件卖得更贵,但增长消失了

    过去两年,在AI技术浪潮的驱动下,硬件“复兴”成为电子消费市场一条清晰的主线,不仅诞生了许多新品类,而且几乎所有的硬件都在以AI为卖点,重新打造产品竞争力。他们想要抓住的,不单单是某一个产品或赛道,而是未来可能成为一个控制入口或交互入口的希望。当然,更为迫切的是为低迷的市场找寻新的增长点、扭转增长的

  • 当机器人开始说“真话”,智元们调整叙述逻辑

    作者:Evin编辑:刘致呈审核:徐徐出品:互联网江湖最近,具身智能赛道迎来了一场意外风波。先是刚刚才带领公司完成上市的梅卡曼德CEO邵天兰,在朋友圈公开炮轰当前行业盛行的一种“攒局型”具身智能创业——套路就是靠各种关联交易(如“数采中心”“租赁公司”)做出不可持续的收入,并通过发布“大新闻”炒作,以

  • 一年三轮融资丨讯兔科技(Alpha派)完成超3亿元B轮融资,金融AI加速迈向产业深水区

    近日,中国金融AI领跑者讯兔科技正式完成超3亿元人民币B轮融资。至此,公司在过去一年内已连续完成三轮融资。本轮融资进一步汇聚金融产业的战略力量,投资方覆盖险资、券商、公募、产业资本与头部投资机构。保险业国家级投资平台中保投资、头部券商系私募基金子公司广发信德共同参与;同时获得启明创投、琥珀资本、嘉程

  • 第一人称视角数据采集推荐

    第一人称视角数据采集,也称Ego数采,是当下具身智能获取训练数据的重要方式。一套完整可用的Ego数采方案,通常由“采集设备”与“数据处理工具链”两部分组成。广州市虚拟动力网络技术有限公司以自研的VDEgo-C2头戴式双目采集设备为核心,配套完整的数据处理工具链,覆盖从现场采集到标准化交付的全过程。一

  • 2027年香港头部国际学校插班机构推荐-汉基、英基、弘立等名校申请,专业机构怎么选

    2027年,越来越多内地家庭目标直指香港头部国际学校:汉基国际、英基学校协会、弘立书院、德瑞国际、香港加拿大国际、沪江维多利亚、耀中国际、HKIS、VSA等。这些学校IB成绩常年位居亚洲前列,升学去向遍布全球顶尖大学,是很多家庭的梦想学校。我直接说结论:申请香港头部国际学校,难度非常大,学位稀缺、竞

  • 快速发布之后怎么管?花生壳相比WorkBuddy等办公智能体,有哪些差异化解法?

    AI生成内容的能力越来越强,但一个尴尬的现实是:内容生成完了,往往卡在“怎么让别人打开”这一步。办公智能体帮你生成了一份漂亮的HTML报告,然后呢?静态托管平台部署上去了,然后呢?链接在手机里能打开吗?电脑关了呢?下次想改怎么办?这篇文章把花生壳快速发布(Drop+CLI)和国内四大办公智能体(Wo

  • 亿达科创携AI创新成果亮相服贸会

    9月9日,2026年中国国际服务贸易交易会(以下简称“服贸会”)在京举行。大会以“全球服务互惠共享”为题,聚焦“扩大开放、深化合作、引领创新”三大功能定位,汇聚全球服务贸易领域前沿成果。会议期间,亿达科创发布边缘AI&具身智能创新成果,充分展现在数字化服务领域的技术实力。作为“十五五”开局之年的重要

热门排行

编辑推荐