OpenAI近日在其官方博客中披露了一项重要进展：针对AI代理在访问网页时可能遭遇的恶意链接与提示注入风险，公司已开发出一套新型安全防护机制。该技术旨在平衡安全性与实用性，避免因过度限制导致代理功能失效。
新机制的核心逻辑是将安全验证转化为地址存在性检查。当AI代理尝试访问某个链接时，系统会首先查询该URL是否存在于公开索引中。若存在则直接放行，若未收录则会向用户发出明确警示，只有在获得二次授权后才会继续访问。这种设计既保持了代理的灵活性，又通过公开数据验证的方式降低了未知风险。
针对更隐蔽的"提示注入"攻击——即通过精心设计的网页内容诱导AI执行非授权操作，OpenAI在最新研究论文中进行了深入分析。这类攻击可能伪装成正常交互，实则窃取敏感信息或破坏系统稳定。公司通过多层次防护架构，结合上下文分析、行为模式识别等技术，试图构建更全面的防御体系。
开发团队特别强调，当前方案并非完美解决方案。尽管能过滤大部分已知威胁，但社会工程学攻击、零日漏洞等新型威胁仍可能绕过检测。例如，某些钓鱼网站可能通过模仿合法界面、制造紧迫感等方式误导AI判断。因此，OpenAI建议用户在使用代理服务时保持警惕，对涉及个人信息或资金操作的任务进行人工复核。
