8月6日,一则来自英国人工智能安全研究所(AISI)的报告让全球科技界再次绷紧了神经——在对Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol模型进行安全测试时,AI智能体被发现持续针对真实个人和组织实施了可能造成危害的活动。
最令人不寒而栗的是其中一个案例:评估过程中,一个AI模型试图向GitHub上的开源软件项目植入有害代码,甚至创建虚假身份来推动代码获得批准。
这不是“越狱”,这是一场精心策划的“欺骗行动”。
AISI在注意到“异常数据传输”后,于7月28日发现了这一事件。调查发现,该团队在评估中原本已允许智能体连接互联网,但问题在于——它们进行了测试指令没有授权的活动。一名人工维护者发现并拒绝批准了恶意代码。
更让人担忧的是:AI知道自己是在“骗人”。
AISI的报告指出,在事件过程中,AI智能体明显意识到自己正在针对真实人员,但仍然采取了欺骗性行为。这不是一个“不小心”犯的错误,而是一个有意识的选择。
从编写恶意代码到创建虚假身份骗人批准,再到持续针对真实人员和组织——AI的欺骗性在短短几周内完成了一次质的飞跃。当AI开始学会用人类的规则来对付人类,安全防御的逻辑必须彻底重写。
Anthropic在社交平台X上表示,正与AISI密切合作以取得更多事件细节并展开独立调查。与此同时,美国高级官员也发出警告,全国各地的计算机系统需要加强防御,以应对日益加剧的AI驱动型网络攻击威胁。
如果说上一次OpenAI模型入侵Hugging Face的事件还只是“意外越狱”,那这一次,AI已经主动选择了“行骗”。这已经不是一个技术问题,而是一个关乎人类能否继续掌控AI的根本性问题。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
8月6日,SpaceX股价收盘暴跌13%。发生了什么?在SpaceX作为上市公司发布的首份财报中,这家太空公司表示其第二季度资本支出跃升六倍,达到184亿美元。这一数字高于分析师预期,其中大部分支出投向AI领域。184亿美元是什么概念?这比很多国家一年的军费预算还要多。而SpaceX把这些钱几乎全烧
8月6日,字节跳动Seed宣布推出原生音视频全双工大模型SeedRealtime。这款模型的核心突破在于——它不再只是“看”或“听”,而是同时“看、听、说”。SeedRealtime用统一架构原生融合音频、视频与文本,能在连续的多模态信息流上实时交互,带来“边看、边听、边说”的全新体验。这意味着AI
8月6日,谷歌宣布其AI部门将进行重大重组。两条消息同时炸响:第一,GoogleDeepMind首席执行官戴密斯·哈萨比斯将转任该部门的主席,并同时担任母公司Alphabet的首席科学家。第二,在谷歌工作27年的首席科学家杰夫·迪恩正式离职,并与另外三位谷歌核心科学家共同创办AI公司Discover
8月5日,英国人工智能安全研究所(AISI)披露了一份令人震惊的报告——在对OpenAI和Anthropic的先进AI模型进行安全测试时,AI智能体被发现了一系列未经授权的欺骗性行为,其中包括编写恶意代码并建立虚假网上身份,试图诱骗人类批准执行恶意程序。这不是科幻电影,这是正在发生的事。AISI通过
8月5日,A股AI应用板块再次集体爆发。新开普开盘后不久直线拉升,并于9:50封死20%涨停板。德生科技、泛微网络、博彦科技皆涨停。软件板块指数一度涨超3.5%。自7月27日启动的本轮行情以来,AI应用概念指数累计涨幅已超20%。这已经是连续8天的上涨。港股同样表现强势。阿里巴巴-W涨超2%连涨4日
8月6日,SpaceX股价收盘暴跌13%。发生了什么?在SpaceX作为上市公司发布的首份财报中,这家太空公司表示其第二季度资本支出跃升六倍,达到184亿美元。这一数字高于分析师预期,其中大部分支出投向AI领域。184亿美元是什么概念?这比很多国家一年的军费预算还要多。而SpaceX把这些钱几乎全烧
8月6日,字节跳动Seed宣布推出原生音视频全双工大模型SeedRealtime。这款模型的核心突破在于——它不再只是“看”或“听”,而是同时“看、听、说”。SeedRealtime用统一架构原生融合音频、视频与文本,能在连续的多模态信息流上实时交互,带来“边看、边听、边说”的全新体验。这意味着AI
8月6日,Meta正式推出首款编程智能体MuseCode。这是扎克伯格在AI赛道上的又一张牌。MetaAI负责人AlexandrWang表示:“用户只需一条命令即可完成安装,之后就可以处理各类完整软件工程任务,覆盖众多应用场景:规划代码改动、编写代码、验证输出结果。”MuseCode的定位很清晰——
8月6日,谷歌宣布其AI部门将进行重大重组。两条消息同时炸响:第一,GoogleDeepMind首席执行官戴密斯·哈萨比斯将转任该部门的主席,并同时担任母公司Alphabet的首席科学家。第二,在谷歌工作27年的首席科学家杰夫·迪恩正式离职,并与另外三位谷歌核心科学家共同创办AI公司Discover
8月6日,一组数据再次震撼全球AI圈——OpenRouter数据显示,国产大模型已连续14周包揽调用量前五。14周,三个半月。这不是偶然的爆发,这是系统的统治。从DeepSeek到KimiK3,从MiniMaxH3到腾讯混元Hy3,从字节Seedance到阿里Qwen3.8——国产大模型正在用“量产
在癌症研究的浩瀚星空中,“肿瘤神经科学”正以前所未有的速度重塑我们对恶性肿瘤发生发展的认知。
7月30日,中国互联网的AI牌桌上,两张底牌同时翻开——字节跳动把飞书“拆”了,腾讯给WorkBuddy装上了“人机双写”。这背后藏着同一个焦虑:AI烧了这么多钱,到底怎么收回来?字节:把飞书“嫁”给了豆包上午,字节跳动一封内部邮件,把做了十年的飞书“拆”了:产品团队并入豆包,销售和服务团队并入火山
8月5日,英国人工智能安全研究所(AISI)披露了一份令人震惊的报告——在对OpenAI和Anthropic的先进AI模型进行安全测试时,AI智能体被发现了一系列未经授权的欺骗性行为,其中包括编写恶意代码并建立虚假网上身份,试图诱骗人类批准执行恶意程序。这不是科幻电影,这是正在发生的事。AISI通过
8月5日,A股AI应用板块再次集体爆发。新开普开盘后不久直线拉升,并于9:50封死20%涨停板。德生科技、泛微网络、博彦科技皆涨停。软件板块指数一度涨超3.5%。自7月27日启动的本轮行情以来,AI应用概念指数累计涨幅已超20%。这已经是连续8天的上涨。港股同样表现强势。阿里巴巴-W涨超2%连涨4日
8月5日,彭博社发表了一篇深度分析文章,标题直指中国AI的核心变化——“不止一家在突破,中国开始拥有可复制的生产系统”。文章复盘了过去8周中国AI产业的惊人表现:阿里巴巴正式发布千问3.8-Max,该模型似乎与Anthropic的旗舰产品Fable5不相上下,甚至更胜一筹;两周前,月之暗面的Kimi