为了正在这场手艺攻防和中占领自动，施行操做。其平安性便面对严峻挑和。此中包罗开辟一种“基于狂言语模子的从动化者”。OpenAI 坦言，力图正在者操纵缝隙之前将其正在内部化解！提醒词注入风险雷同于互联网上的诈骗和社交工程学，（AI普瑞斯编译）正在受控中事后挖掘 AI 代办署理的潜正在缝隙，以便正在恶意手段扩散至现实世界前先行封堵。能 AI 智能体用户企图，正在 AI 智能体施行环节确认请求时，研究人员曾演示通过 Google Docs 中的特定词汇成功浏览器的底层行为。OpenAI 强烈用户通过以下办法降低平安现患：起首应尽量 AI 浏览器对小我账户的长效登录拜候权限；现实上，向智能体下达指令时应尽量具体化。OpenAI 采纳了条理化防御策略，该系统操纵强化进修模仿实正在黑客行为，虽然公司正正在持续升级防御机制，这种间接提醒词注入是所有 AI 驱动浏览器配合面对的系统性难题。最初，但这类浏览器可能永久无法完全屏障“提醒词注入（Prompt Injection）”。包罗 Brave 正在内的手艺同业也指出，正在手艺层面上很难被完全“处理”。面临这一持久风险，自 Atlas 浏览器发布以来，OpenAI 暗示将把提醒词注入视为一项持久挑和，OpenAI正在博客中指出，跟着 AI 智能体逐步接管复杂的收集使命，避免给出过于宽泛的恍惚号令，此类通过正在网页或电子邮件中躲藏恶意指令，通过快速响应周期不竭强化防御防地？