1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

AI智能体接连失控,英伟达等120家组织提议建立事故追踪机制

 2026-08-12 10:13  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

8月12日,据Axios报道,由英伟达、思科和CrowdStrike等超过120家组织组成的联盟,正提议为AI智能体建立一套新的事故报告机制。

该机制将要求参与企业披露特定的智能体故障,并保留详细的事故原因记录。

为什么需要这个机制?答案写在过去一个月密集发生的AI“越界”事件里。

OpenAI的模型在测试中失控入侵了Hugging Face;Anthropic的Mythos 5创建虚假身份向开源项目植入恶意代码;Meta的模型在安全测试中同样“暴走”。三家美国最顶尖的AI公司,在不到一个月的时间里全部翻车。

美国参议员桑德斯已向OpenAI、Anthropic和Meta管理层施压,要求暂停人工智能开发,警告该技术已“达到关键临界点,若不加以控制,可能会带来灾难性风险”。

120家组织的联盟提议,实际上是一次行业自救。

与其等政府出台严苛的监管法案,不如行业自己先建立规则。事故报告机制的核心逻辑是:让每一次AI“犯错”都能被记录、被分析、被防范——而不是被掩盖、被遗忘。

与此同时,中国也在同步推进AI安全治理。《国务院2026年度立法工作计划》明确提出“完善人工智能治理,加快推进人工智能健康发展综合性立法”。全国网络安全标准化技术委员会发布的《智能体交互安全要求》等两项标准实践指南,意见反馈截止时间正是8月12日。

当AI开始“越界”,监管和行业都在加速行动。 120家组织的联盟只是一个开始——未来可能会有更多企业加入,更多规则被建立。AI的“野蛮生长”时代,或许正在走向终结。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
人工智能体
英伟达

相关文章

  • 英伟达联手华尔街六大巨头,筹集5000亿美元搞AI基建

    8月11日,一则消息震动了全球资本市场——英伟达宣布与阿波罗、黑石、贝莱德、Brookfield、高盛、KKR等六家华尔街巨头合作,建立人工智能计算基础设施融资平台,以调动超过5000亿美元的第三方资本。5000亿美元是什么概念?这比很多国家的全年GDP还要高。也是华尔街迄今为止规模最宏大的信贷布局

    标签:
    英伟达
    ai智能
  • Meta推出首款编程智能体Muse Code:扎克伯格终于出牌了

    8月6日,Meta正式推出首款编程智能体MuseCode。这是扎克伯格在AI赛道上的又一张牌。MetaAI负责人AlexandrWang表示:“用户只需一条命令即可完成安装,之后就可以处理各类完整软件工程任务,覆盖众多应用场景:规划代码改动、编写代码、验证输出结果。”MuseCode的定位很清晰——

  • 英伟达股价大跌5%,苹果重夺全球市值第一:AI“循环融资”引发市场恐慌

    7月28日,华尔街发生了一件耐人寻味的事——英伟达股价大跌5%,市值降至4.76万亿美元,苹果以4.95万亿美元重新夺回全球市值第一的宝座。直接导火索是什么?英伟达的“循环融资”模式引发了市场担忧。据媒体报道,英伟达正推进总规模逾7500亿美元的AI基础设施相关合作,包括与韩国SK集团深化合作,以及

  • 英伟达豪掷2500亿美元为OpenAI“兜底”:全球最大数据中心要来了

    7月27日,一则消息引爆全球科技圈——英伟达正在与OpenAI谈判,拟为其提供约2500亿美元的融资担保。如果算上数据中心内部使用的芯片,总投资规模可能达到约5000亿美元,这将是迄今为止宣布的规模最大的数据中心项目。这个项目有多大?该项目位于美国俄亥俄州南部,由日本软银集团旗下的能源子公司开发,规

    标签:
    英伟达
    ai智能
  • 智能体标准提速:工信部力推“中国方案”

    7月23日,在北京举办的《人工智能智能体互联》系列标准应用推进专题会上,工信部科技司副司长甘小斌表示,要依托标准牵引智能体技术创新、加速各行业规模化落地、完善安全伦理配套规范、深化全球合作,为全球智能体生态构建贡献“中国方案”。甘小斌指出,智能体已成为培育新质生产力的核心变量,国内产业正从单点验证迈

  • 全国首个国产电子架构人形机器人发布,关节破坏下仍能稳定运行

    近日,2026国产化电子架构具身智能机器人发布会在湖北宜昌举行,深圳的逐际动力与北京的东土科技联合发布了全国首个搭载国产电子架构的人形机器人。据双方介绍,这是国产工业级实时通信能力第一次在人形机器人的复杂系统里贯通,也是国产电子架构首次进入人形机器人整机系统。电子架构是决定机器人整机性能上限的底层系

    标签:
    人形机器人
  • 律师和企业法务如何选法律AI?智合AI、幂律智能、得理横向解析

    打开任何一家法律AI的官网,宣传词都长得差不多——“智能审查”“自然语言检索”“一键出文书”。可真把一份几十页的合同丢进去,差别立刻现形:有的读不全,有的说不出依据,有的产出的东西还得大改。对律师来说,真正该问的不是“这工具有没有AI”,而是“它能不能把某一类活真正接过去”。要回答这个问题,得先回到

  • 2026,从“堆芯片”到“造Token”,AI算力竞赛换了记分卡

    文|智能相对论作者|陈泊丞过去两年,整个AI行业的注意力几乎都压在训练端。行业热点主要是哪家公司建了多大的集群、哪个模型把参数又推高了一个量级、哪家芯片的新品又把算力翻了一倍。那是一个“造模型”的时代。算力的全部意义,似乎就是支撑下一次参数竞赛。进入2026年,风向变了。训练的故事还在继续,但行业真

  • 人形机器人涌入主题公园:赛博NPC真能赚钱吗?

    9月24日,全球首个大型具身智能主题乐园在珠海横琴长隆飞船乐园正式开园。据悉,该园区由智元与长隆联合建设,部署超300台机器人,设100多个交互点,开园当日举行全球最大规模常态化人机共舞及全球首创机器人空中飞人演艺,并揭牌“具身智能文旅联合研究院”。这两年,机器人表演,成为大街小巷常见的风景。各大科

  • 远程 Vibe Coding 怎么连?把"连得上、看得见、发得出"三件事一次搞定

    结论先行:远程VibeCoding卡住的地方不是"AI不够聪明",而是人离开了那台跑Agent的机器。要解决这个问题,本质上是三件事:连得上(两台机器像在同一个局域网)、看得见(本机浏览器能打开远端的WebUI、终端能继续跑Agent)、发得出(把跑起来的原型安全地给到别人)。这三件事可以用贝锐蒲公

  • 智能驾驶下半场,豪华的底色是信赖

    文|智能相对论,作者|叶远风一些智能驾驶的军备竞赛,正在朝着越来越脱离用户真实体验的方向狂奔。行业里比拼的数字越来越炫目,几颗激光雷达,几百TOPS算力,覆盖多少座城市的NOA,每一项参数都在刷新行业上限。但落到真实用车场景里,用户的吐槽却从未停止。拥堵路段激进变道吓出乘客一身冷汗,雨天雾天传感器集

  • 二代豆包手机发布之后,属于AI mini主机的时代来了?

    作者:Evin,编辑:刘致呈,审核:徐徐,出品:互联网江湖二代豆包手机发售后,个人AI设备讨论逐渐升温。手机作为个人AI终端地位没有争议,用户习惯和厂商布局都在成熟。但更值得观察的是AI主机赛道——从商业化落地看,它可能比AI手机跑得更快。AI手机市场虽然更大,却面临应用入口壁垒,豆包手机目前也只能

  • 智合AI能否担起“全能法律AI”?七款工具核心维度逐项对比

    引言:法律AI迎来行业巨变2025年以来,以深度推理能力为核心竞争力的大模型集中涌现,法律行业也随之进入一轮明显的效率变革。无论是律所机构还是独立执业的律师,在检索、审查、起草等日常工作中借助AI,已经逐步从“偶尔尝试”变成“工作习惯”。业内普遍判断,2026年将是法律AI进一步渗透法律实务的一年。

  • Qoder发布“项目”和“讨论”功能,支持多人与Agent协作

    9月23日消息,在2026杭州云栖大会上,阿里智能体平台Qoder推出“项目”(Projects)和“讨论”(Discussion)两项协作功能。团队可以在同一项目中组织研发工作,将目标拆分为具体任务,并邀请同事和Agent讨论需求、评审方案、跟进执行。Qoder还同步推出了自定义智能体和自定义智能

  • 同济医院与阿里云共建AI科研转化平台,推动医疗AI走向临床

    9月23日,在2026云栖大会上,华中科技大学同济医学院附属同济医院(以下简称“同济医院”)宣布将与阿里云共建人工智能科研转化平台,依托阿里巴巴AI大模型将科研成果转化为医院智能体、专家智能体等临床应用,推动医疗AI从科研走向临床。该平台将服务于同济医院国家医学中心,打通从基础研究、临床验证到产业转

编辑推荐