1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

AI智能体接连失控,英伟达等120家组织提议建立事故追踪机制

 2026-08-12 10:13  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

8月12日,据Axios报道,由英伟达、思科和CrowdStrike等超过120家组织组成的联盟,正提议为AI智能体建立一套新的事故报告机制。

该机制将要求参与企业披露特定的智能体故障,并保留详细的事故原因记录。

为什么需要这个机制?答案写在过去一个月密集发生的AI“越界”事件里。

OpenAI的模型在测试中失控入侵了Hugging Face;Anthropic的Mythos 5创建虚假身份向开源项目植入恶意代码;Meta的模型在安全测试中同样“暴走”。三家美国最顶尖的AI公司,在不到一个月的时间里全部翻车。

美国参议员桑德斯已向OpenAI、Anthropic和Meta管理层施压,要求暂停人工智能开发,警告该技术已“达到关键临界点,若不加以控制,可能会带来灾难性风险”。

120家组织的联盟提议,实际上是一次行业自救。

与其等政府出台严苛的监管法案,不如行业自己先建立规则。事故报告机制的核心逻辑是:让每一次AI“犯错”都能被记录、被分析、被防范——而不是被掩盖、被遗忘。

与此同时,中国也在同步推进AI安全治理。《国务院2026年度立法工作计划》明确提出“完善人工智能治理,加快推进人工智能健康发展综合性立法”。全国网络安全标准化技术委员会发布的《智能体交互安全要求》等两项标准实践指南,意见反馈截止时间正是8月12日。

当AI开始“越界”,监管和行业都在加速行动。 120家组织的联盟只是一个开始——未来可能会有更多企业加入,更多规则被建立。AI的“野蛮生长”时代,或许正在走向终结。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
人工智能体
英伟达

相关文章

  • 英伟达联手华尔街六大巨头,筹集5000亿美元搞AI基建

    8月11日,一则消息震动了全球资本市场——英伟达宣布与阿波罗、黑石、贝莱德、Brookfield、高盛、KKR等六家华尔街巨头合作,建立人工智能计算基础设施融资平台,以调动超过5000亿美元的第三方资本。5000亿美元是什么概念?这比很多国家的全年GDP还要高。也是华尔街迄今为止规模最宏大的信贷布局

    标签:
    英伟达
    ai智能
  • Meta推出首款编程智能体Muse Code:扎克伯格终于出牌了

    8月6日,Meta正式推出首款编程智能体MuseCode。这是扎克伯格在AI赛道上的又一张牌。MetaAI负责人AlexandrWang表示:“用户只需一条命令即可完成安装,之后就可以处理各类完整软件工程任务,覆盖众多应用场景:规划代码改动、编写代码、验证输出结果。”MuseCode的定位很清晰——

  • 英伟达股价大跌5%,苹果重夺全球市值第一:AI“循环融资”引发市场恐慌

    7月28日,华尔街发生了一件耐人寻味的事——英伟达股价大跌5%,市值降至4.76万亿美元,苹果以4.95万亿美元重新夺回全球市值第一的宝座。直接导火索是什么?英伟达的“循环融资”模式引发了市场担忧。据媒体报道,英伟达正推进总规模逾7500亿美元的AI基础设施相关合作,包括与韩国SK集团深化合作,以及

  • 英伟达豪掷2500亿美元为OpenAI“兜底”:全球最大数据中心要来了

    7月27日,一则消息引爆全球科技圈——英伟达正在与OpenAI谈判,拟为其提供约2500亿美元的融资担保。如果算上数据中心内部使用的芯片,总投资规模可能达到约5000亿美元,这将是迄今为止宣布的规模最大的数据中心项目。这个项目有多大?该项目位于美国俄亥俄州南部,由日本软银集团旗下的能源子公司开发,规

    标签:
    英伟达
    ai智能
  • 智能体标准提速:工信部力推“中国方案”

    7月23日,在北京举办的《人工智能智能体互联》系列标准应用推进专题会上,工信部科技司副司长甘小斌表示,要依托标准牵引智能体技术创新、加速各行业规模化落地、完善安全伦理配套规范、深化全球合作,为全球智能体生态构建贡献“中国方案”。甘小斌指出,智能体已成为培育新质生产力的核心变量,国内产业正从单点验证迈

  • 物理AI训练数据一年翻近10倍,从演示走向量产的关键卡点是"喂饱它"

    今天央视财经报道了一组能标记行业节奏的数字:物理AI头部客户的训练数据需求,从去年十万小时级跳到了今年百万小时级,增幅接近10倍。这里的"小时"不是图文数据,而是机器人在真实环境里跑动、抓取、碰撞、避障的连续记录。数据从哪来?仿真合成加上人类视频,两条路同时在补。宇树科技创始人王兴兴在进博会期间给出

    标签:
    物理AI
  • Claude Fable5.2登场,Anthropic把智能体协作推到了操作系统级别

    11月9日,Anthropic正式发布ClaudeFable5.2和ClaudeMythos5.2两款新模型。Fable面向普通用户,内置网络安全与生物安全防护;Mythos则只向通过审核的专业机构开放,处理高风险场景。两款基于同一底层架构,区别在于安全边界和应用准入。官方还展示了一组由千个智能体协

  • 2027,AI办公一场大战,一触即发

    11月9日,阿里千问办公2.0正式发布。这次升级有一个值得关注的变化:它不再只是服务个人的AI助手,而是开始支持多人和Agent共同协作,可以把AI直接拉进工作群,让它参与团队任务。就在几天前,11月6日,华为小艺Work正式版上线鸿蒙电脑应用商店。10月30日,腾讯WorkBuddy企业版宣布四项

  • 《持械入宋》越火,我越不敢碰AI短剧

    上周,我把AI短剧《持械入宋》的前十季全部看完了。说实话,有点出乎我的意料:(1)我以为一分钟一集很快就能看完,结果越看越上瘾,导致上周少更新了好多自媒体内容,耽误了好多工作。(2)以前我也看过不少AI生成的视频,人物变脸、动作穿帮、画面不连贯,基本看几分钟就没兴趣了。但《持械入宋》不一样。有时候我

  • 皮衣大佬人设反转?黄仁勋出轨传闻风波,马斯克意外抢镜

    今年5月,黄仁勋穿着标志性皮衣在北京街头闲逛,吃炸酱面、喝蜜雪冰城的画面,曾让不少营销号津津乐道。那段时间,关于他的叙事几乎都绕不开一个关键词:专一。在这些营销号笔下,黄仁勋不只是手握万亿商业帝国的科技大佬,更是“纯爱战士”“亿万富豪里少见还守着原配的人”。故事确实有浪漫底色:17岁的黄仁勋在俄勒冈

  • 对话万联易达朱冰:AI是个偏“重”的时代

    文|智能相对论作者|李永华过去三年,行业对AI的主流想象,大体是“轻”的。一个对话框、一个超级入口、一套API,背后是轻资产、快扩张、高毛利的叙事,也是资本和大厂最愿意为之买单的故事。C端的个人智能体尤其如此,模型能力封装在产品里,用户调用即得,增长可以在很短时间内发生。但当AI从消费端走向产业端、

  • GCSA AI极客工作台(GCSA SecVibe Code)

    GCSAAI极客工作台(GCSASecVibeCode)由GCSA全球网络安全联盟与香港大学(HKU)联合研发,依托「香港大学×GCSAAI与网络安全研究所」,将模型原生安全、可信AI与AI驱动的自动化威胁防御等研究成果带入真实开发场景。产品结合攻防Agent与企业DLP,基于PiHarness提供

    标签:
    ai安全
    ai极客
  • OpenAI发布Images 2.6:新增GIF动图功能,出图速度较上一版提升50%

    OpenAI于11月4日发布图像模型Images2.6,并在ChatGPT、Codex和API中同步上线。此次更新新增GIF动图功能:用户上传一张图片或输入一句提示词,即可生成循环播放的动画,出图速度比上一版提升50%。OpenAI表示,用户不再需要自己拼帧,也不必另开编辑软件。只需一句提示词,或上

    标签:
    openai
    images
    2.6发布
  • Claude上线个人理财功能,可查两年账单不能转账,仅向美国付费用户开放

    Anthropic于11月5日公布了Claude的个人理财功能,并从当周起陆续向美国付费用户开放。用户绑定银行账户后,可直接查询账户余额和支出情况。目前Claude只能读取账户数据,不能直接进行银行转账。Anthropic在官网放了一段演示:从一句提问开始——“这个月钱花在哪儿了?”Claude将绑

    标签:
    ai智能
    claude
  • 2026企业Agent要规模化落地,存储还得先跳三关

    文|智能相对论作者|陈泊丞Agent规模化干活,其实是一件很快的事。快到什么程度?Gartner2026年CIO及技术高管调查显示,超过60%的受访组织计划在未来两年内部署AIAgent。行业调研则进一步预测,到2027年,大型企业规模化部署Agent的比例将达到50%。到2030年,全球企业活跃A

热门排行

编辑推荐