新型Agent感知伪装技术利用OpenAI ChatGPT Atlas浏览器传播···

发布时间：2025-10-31 作者：量子计算来源：量子计算浏览量（98）点赞（23）

摘要：Agent感知伪装技术利用ChatGPT Atlas传播虚假信息，威胁AI决策安全。该技术通过污染AI爬虫数据导致模型输出误导内容，需加强数据验证与监控机制防范风险。

简介

一种新型Agent感知伪装技术正利用OpenAI的ChatGPT Atlas等AI浏览器传播误导性内容。该技术使恶意攻击者能够污染AI爬虫训练数据，导致ChatGPT等模型生成并传播虚假信息，严重威胁企业决策安全和公众认知。

核心详情

该技术通过伪装成正常用户交互，向AI浏览器（如ChatGPT Atlas）注入精心构造的误导性内容，污染模型训练数据源。攻击者利用Agent行为的动态适应性，规避传统内容过滤机制，使虚假信息被AI系统吸收并扩散。具体案例显示，此类投毒可影响金融分析、政策制定等关键领域的决策可靠性，因模型会基于污染数据输出错误结论。安全研究人员已确认该技术利用OpenAI API接口漏洞进行传播，需结合行为分析与实时监控应对。

适用范围

适用于依赖AI生成内容的企业决策者、网络安全团队、AI开发人员，以及使用ChatGPT等工具进行信息检索的金融、医疗、媒体行业从业人员。

推荐措施

1、部署AI内容可信度验证工具，定期审计训练数据源；

2、建议采用多源信息交叉验证机制，并关注官方安全更新。