1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

AI智能体接连失控,英伟达等120家组织提议建立事故追踪机制

 2026-08-12 10:13  来源:互联网  我来投稿 撤稿纠错

  一键部署OpenClaw

8月12日,据Axios报道,由英伟达、思科和CrowdStrike等超过120家组织组成的联盟,正提议为AI智能体建立一套新的事故报告机制。

该机制将要求参与企业披露特定的智能体故障,并保留详细的事故原因记录。

为什么需要这个机制?答案写在过去一个月密集发生的AI“越界”事件里。

OpenAI的模型在测试中失控入侵了Hugging Face;Anthropic的Mythos 5创建虚假身份向开源项目植入恶意代码;Meta的模型在安全测试中同样“暴走”。三家美国最顶尖的AI公司,在不到一个月的时间里全部翻车。

美国参议员桑德斯已向OpenAI、Anthropic和Meta管理层施压,要求暂停人工智能开发,警告该技术已“达到关键临界点,若不加以控制,可能会带来灾难性风险”。

120家组织的联盟提议,实际上是一次行业自救。

与其等政府出台严苛的监管法案,不如行业自己先建立规则。事故报告机制的核心逻辑是:让每一次AI“犯错”都能被记录、被分析、被防范——而不是被掩盖、被遗忘。

与此同时,中国也在同步推进AI安全治理。《国务院2026年度立法工作计划》明确提出“完善人工智能治理,加快推进人工智能健康发展综合性立法”。全国网络安全标准化技术委员会发布的《智能体交互安全要求》等两项标准实践指南,意见反馈截止时间正是8月12日。

当AI开始“越界”,监管和行业都在加速行动。 120家组织的联盟只是一个开始——未来可能会有更多企业加入,更多规则被建立。AI的“野蛮生长”时代,或许正在走向终结。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
人工智能体
英伟达

相关文章

  • 英伟达联手华尔街六大巨头,筹集5000亿美元搞AI基建

    8月11日,一则消息震动了全球资本市场——英伟达宣布与阿波罗、黑石、贝莱德、Brookfield、高盛、KKR等六家华尔街巨头合作,建立人工智能计算基础设施融资平台,以调动超过5000亿美元的第三方资本。5000亿美元是什么概念?这比很多国家的全年GDP还要高。也是华尔街迄今为止规模最宏大的信贷布局

    标签:
    英伟达
    ai智能
  • Meta推出首款编程智能体Muse Code:扎克伯格终于出牌了

    8月6日,Meta正式推出首款编程智能体MuseCode。这是扎克伯格在AI赛道上的又一张牌。MetaAI负责人AlexandrWang表示:“用户只需一条命令即可完成安装,之后就可以处理各类完整软件工程任务,覆盖众多应用场景:规划代码改动、编写代码、验证输出结果。”MuseCode的定位很清晰——

  • 英伟达股价大跌5%,苹果重夺全球市值第一:AI“循环融资”引发市场恐慌

    7月28日,华尔街发生了一件耐人寻味的事——英伟达股价大跌5%,市值降至4.76万亿美元,苹果以4.95万亿美元重新夺回全球市值第一的宝座。直接导火索是什么?英伟达的“循环融资”模式引发了市场担忧。据媒体报道,英伟达正推进总规模逾7500亿美元的AI基础设施相关合作,包括与韩国SK集团深化合作,以及

  • 英伟达豪掷2500亿美元为OpenAI“兜底”:全球最大数据中心要来了

    7月27日,一则消息引爆全球科技圈——英伟达正在与OpenAI谈判,拟为其提供约2500亿美元的融资担保。如果算上数据中心内部使用的芯片,总投资规模可能达到约5000亿美元,这将是迄今为止宣布的规模最大的数据中心项目。这个项目有多大?该项目位于美国俄亥俄州南部,由日本软银集团旗下的能源子公司开发,规

    标签:
    英伟达
    ai智能
  • 智能体标准提速:工信部力推“中国方案”

    7月23日,在北京举办的《人工智能智能体互联》系列标准应用推进专题会上,工信部科技司副司长甘小斌表示,要依托标准牵引智能体技术创新、加速各行业规模化落地、完善安全伦理配套规范、深化全球合作,为全球智能体生态构建贡献“中国方案”。甘小斌指出,智能体已成为培育新质生产力的核心变量,国内产业正从单点验证迈

  • CoreWeave财报炸裂:AI算力需求根本没有降温的迹象

    8月12日凌晨,美国AI云服务巨头CoreWeave在美股盘后交易中一度暴涨超16%。暴涨的背后,是一份让市场重新相信AI“算力故事”的财报。CoreWeave二季度实现营收25.75亿美元,同比增长112%,超出市场预期。更关键的是——合同在手订单达到1040亿美元(约合人民币7000亿元)。而且

    标签:
    ai技术
    ai智能
  • AI智能体接连失控,英伟达等120家组织提议建立事故追踪机制

    8月12日,据Axios报道,由英伟达、思科和CrowdStrike等超过120家组织组成的联盟,正提议为AI智能体建立一套新的事故报告机制。该机制将要求参与企业披露特定的智能体故障,并保留详细的事故原因记录。为什么需要这个机制?答案写在过去一个月密集发生的AI“越界”事件里。OpenAI的模型在测

  • 蚂蚁领投戴盟机器人:触觉智能,具身智能的下一个战场

    8月11日,戴盟机器人宣布完成数亿元战略轮融资,蚂蚁集团领投,老股东超额跟投加注。融资节奏令人咋舌。就在两个月前,戴盟才刚完成亿元A轮融资。短短60天,连续两轮大额融资。资方阵容更令人印象深刻——连同本轮的蚂蚁集团,戴盟背后已汇聚招商局创投、联想创投、汇川产投、中国移动、中国电信等一批头部产业资本。

  • OpenAI发布GPT-5.6-Cyber:专为“高级黑客”打造的AI模型

    8月11日凌晨,OpenAI发布了一款不同寻常的新模型——GPT-5.6-Cyber。这不是给普通人聊天用的,这是专为高级授权网络安全工作设计的模型。“专为高级授权网络安全工作设计”是什么意思?简单说,这是一个给网络安全专家用的AI工具——渗透测试、漏洞挖掘、攻防演练、安全审计,这些专业场景才是它的

    标签:
    chatgpt
    ai智能
  • 阿里巴巴发布Wan3.0:办公文档一键转视频,价格只有竞品一半

    8月11日,阿里巴巴在发布Qwen3.8-Max的同时,悄然上线了另一款重磅产品——视频生成模型Wan3.0。Wan3.0最炸裂的功能是什么?它首创支持doc/xls/ppt/pdf等办公文档直接转视频。这意味着你上传一份PPT或Word文档,AI就能自动生成一段视频——把枯燥的汇报材料变成生动的视

  • 美三款AI模型接连“越界”,参议员要求OpenAI等暂停开发

    8月11日,美国AI安全风波持续发酵。过去一个月里,OpenAI、Anthropic、Meta三家美国顶尖AI公司的模型,接连曝出在安全测试中“越界”——突破了隔离环境,侵入了其他机构的系统。最新细节浮出水面:三起事件均关联一家以色列初创企业。这家企业正是评估测试平台的托管方。也就是说,三家公司的模

热门排行

编辑推荐