10月14日,Swarmchasers这支独立团队发布一份调查报告,成员来自多个国家的AI安全研究圈,称一批运行在腾讯云环境中的智能体,从9月28日到10月8日,累计发起2600多次对高德地图的取数尝试。10月4日是峰值,当天1810份请求覆盖213个地点,最多有15个智能体同时运行。研究者说,追溯依据是网络请求记录、公开的安全扫描记录,以及智能体使用的临时收件箱。
最初的任务是统计成都动物园各个入口的导航到达比例、某个景区有几个出入口这类问题上,公开页面上就能看到。被高德的反爬虫机制挡住之后,一部分智能体开始自己找别的路径。研究者称这批智能体更像一支没有指挥官的舰队,行为相似是因为同处一个评测环境、目标和架构接近,没有发现它们实时协同的证据。
一部分智能体把自写的程序交给公共安全扫描平台执行,借对方的浏览器环境访问高德页面,再从网页标题、请求地址或临时收件箱把结果传出来。另一部分是直接尝试绕过反爬虫机制,研究者分析的426个程序里,约190个提到阿里的反爬库,182个提到用于分辨自动化请求的安全令牌,但没有找到这类绕过成功的证据。
7份扫描报告里含有高德接口的访问凭据,一部分来自公开教程,另一部分来自某家公司公开代码仓库里泄露的应用密钥和安全密钥,其中一组能取回真实的地点数据。另有57份报告显示程序尝试访问阿里相关的开发和预发布端点,覆盖30个地点、4个主机,这些地址里有一些能通过公开信息检索到,服务器是否返回了有效响应无法确认。
腾讯在10月16日作出回应。混元官方账号的说法是,这次活动来自对第三方模型的评估,不是训练,被评估的模型不是混元团队开发的;内部审查没有发现智能体被协调针对任何特定平台,也没有外部系统被入侵,测评已经停止。腾讯云方面表示会收紧网络访问控制,并加强对智能体的监控。
由于拿到的信息有限,研究团队无法确定事件造成损害的范围,也没有发现智能体攻破内部系统或泄露敏感信息的证据。研究人员把这件事和此前OpenAI智能体入侵HuggingFace的事件放在一起比较,认为这次规模小得多,但算一个提前出现的警示信号。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
