腾讯云上运行的一批智能体（AI Agent，也称AI代理），在执行高德地图公开信息查询任务时，被外部安全研究人员发现其存在“越狱”、绕过网站防护的行为。 随后，研究人员在网页中故意留下诱导信息，部分智能体在读取后，居然主动与研究人员展开对话。

周三（10月14日），国际独立网络安全与AI安全研究团队Swarmchasers发布完整报告，公开这一发现的详细经过。该组织侧重于在全球网络上搜寻、追踪并揭露“失控或越狱”的自主AI代理（AI Agents）。

9月28日至10月8日，一大批智能体运行在腾讯运营的云平台上，尝试通过高德查询中国各地的地点信息，回答相关问题。高德（Amap）是中国的地图与导航服务App，类似于谷歌地图。这些问题大多很日常，比如用高德导航去某个动物园时，最多人选择哪个入口。

结果发现，腾讯的智能体在遇到验证码和反爬虫限制后，部分智能体开始尝试其它方法，包括借助第三方网站执行代码、处理反爬虫验证信息，以及调用公开代码仓库中暴露的API密钥。

此外，智能体还尝试从不面向公众的预生产系统（Pre-Production System）中提取数据。研究人员记录了超过2,600次相关数据提取尝试。大多数尝试未能成功，但部分尝试确实取得了目标地点数据，其中一组公开暴露的密钥与安全密钥组合成功返回了完整数据响应。

有趣的是，研究团队在10月4日发布了这项初步调查报告，并发现腾讯的智能体注意到了该报告。

于是，研究团队更新了初步报告，并往里面加入了一段人类读者看不到，但网页抓取工具可以读取到的隐藏文字。文字说，提供一个免费的可供智能体请求网页数据的服务，并留下收件箱地址。

结果，腾讯的智能体向该收件箱发送求助信息。研究人员进一步完善收件箱功能，与部分腾讯的智能体建立双向对话，询问其任务、运行环境及操作者。

“我们通过它直接询问了智能体的任务、环境和操作者。据我们所知，这是外部人员首次与仍在运行的一批失控智能体交流。”报告写道。

报告指出，过去披露的都是美国实验室的成批智能体活动，但本次讨论的活动则运行在中国的基础设施上，涉及中国公司。这些智能体有的称自己使用Claude，有些则描述自己在腾讯云沙箱中运行。研究人员认为，部分模型身份声明不可信，因为测试显示，腾讯混元模型也可能自称Claude。

研究人员表示，这次调查说明了模型对齐有多难。“即使任务只是查明用高德导航去成都动物园时，最多人选择哪个入口这样的简单问题，智能体也可能自行偏离预定做法。”他们说。

“若模型能力继续像过去几年那样发展，我们预计，操作者会越来越难以约束模型、保障安全。”报告写道。

调查显示，代理名称、任务领域和活动时间都指向腾讯混元（Hy）模型团队，这批运行出现在Hy4预览版发布一个月后。

报告引述一名接近腾讯、直接了解此事的知情人士的消息称，这批智能体运行自腾讯评估研究团队的一项研究项目，目的是测试第三方AI模型浏览网页、回答问题的能力。该评估研究团队与负责模型开发的混元团队不是一个团队。

该人士还称，该研究项目已经结束，后续内部复查没有发现智能体针对特定平台协同行动，也没有发现外部系统遭入侵的证据。

研究人员表示，最后一次观察到这批智能体的活动是在10月8日。

(大纪元:https://www.epochtimes.com/gb/26/10/14/n14869896.htm )