OpenAI 警示 AI 浏览器面临长期安全风险_科学探索

创始人

2025-12-23 14:16:09

AIPress.com.cn报道

12月23日消息，OpenAI 针对其于今年 10 月推出的 Atlas AI 浏览器发布了关键安全警示。

OpenAI 坦言，尽管公司正在持续升级防御机制，但这类浏览器可能永远无法完全屏蔽“提示词注入（Prompt Injection）”攻击。此类攻击通过在网页或电子邮件中隐藏恶意指令，能诱导 AI 智能体背离用户意图，执行危险操作。

OpenAI 在官方博客中指出，提示词注入风险类似于互联网上的诈骗和社交工程学，在技术层面上很难被彻底“解决”。

事实上，自 Atlas 浏览器发布以来，其安全性便面临严峻挑战。研究人员曾演示通过 Google Docs 中的特定词汇成功篡改浏览器的底层行为。包括 Brave 在内的技术同行也指出，这种间接提示词注入是所有 AI 驱动浏览器共同面临的系统性难题。

为了在这场技术攻防战中占据主动，OpenAI 采取了层次化防御策略，其中包括开发一种“基于大语言模型的自动化攻击者”。该系统利用强化学习模拟真实黑客行为，在受控环境中预先挖掘 AI 代理的潜在漏洞，以便在恶意手段扩散至现实世界前先行封堵。

面对这一长期风险，OpenAI 强烈建议用户通过以下措施降低安全隐患：首先应尽量限制 AI 浏览器对个人账户的长效登录访问权限；其次，在 AI 智能体执行关键确认请求时，务必进行人工审查；最后，向智能体下达指令时应尽量具体化，避免给出过于宽泛的模糊命令，以减少隐藏恶意内容影响系统的机会。

随着 AI 智能体逐渐接管复杂的网络任务，OpenAI 表示将把提示词注入视为一项长期挑战，通过快速响应周期不断强化防御防线，力求在攻击者利用漏洞之前将其在内部化解。（AI普瑞斯编译）

注入 Atlas 技术浏览器恶意警示系统性 OpenAI 攻击智能智能体普瑞斯提示词