OpenAI 推出锁定模式,以保护敏感数据免受提示注入攻击

qimuai 发布于 阅读:30 一手编译

OpenAI 推出锁定模式,以保护敏感数据免受提示注入攻击

内容来源:https://techcrunch.com/2026/06/06/openai-unveils-lockdown-mode-to-protect-sensitive-data-from-prompt-injection-attacks/

内容总结:

OpenAI推出“锁定模式”防范提示注入攻击

OpenAI近日宣布推出名为“锁定模式”的新功能,旨在加强防范针对聊天机器人的“提示注入攻击”——即恶意指令被隐藏于网页或其他内容源中,诱导AI泄露敏感信息。

启用该模式后,ChatGPT将禁用实时网页浏览(仅可访问已缓存内容)、限制网页图片抓取与显示(但AI仍可自主生成图片),同时关闭深度研究与代理模式。OpenAI坦言,即使开启这一模式,ChatGPT仍可能面临风险,例如“缓存网页或上传文件中潜藏的提示注入可能影响回复的准确性与行为”,但新功能的核心目标是降低敏感数据在交互过程中被窃取的可能性。

OpenAI强调:“锁定模式并非面向所有用户,而是专为处理敏感数据的个人及组织设计,旨在针对提示注入带来的数据泄露风险,提供更严格的防护。”目前,该功能已开始向符合条件的ChatGPT Business账户和个人用户逐步推送。

中文翻译:

OpenAI宣布了一项新功能,据称该功能将提供额外保护,抵御提示注入攻击——这类攻击将恶意聊天机器人指令隐藏在网页及其他内容源中。
其中,“锁定模式”将禁用实时网页浏览(仅可访问缓存内容)、从网络检索和显示图片(仍可生成图片)、深度研究功能以及代理模式。
该公司表示,即使启用锁定模式,ChatGPT仍可能面临提示注入攻击的风险——例如,“恶意指令可能出现在缓存网页内容或上传文件中,并仍会影响回复的行为或准确性”。
但其目标在于降低过程中敏感数据泄露的可能性。
OpenAI称:“锁定模式并非面向所有用户,而是为处理敏感数据、希望获得更严格保护以避免提示注入相关数据泄露风险的个人及组织设计。”
该公司表示,目前正逐步向自助式ChatGPT商业账户及符合条件的个人账户推出锁定模式。

英文来源:

OpenAI announced a new feature that it says will provide additional protection from prompt injection attacks, where malicious chatbot instructions are hidden in webpages and other content sources.
Among other things, Lockdown Mode will disable live web browsing (so you can only access cached content), the retrieval and display of images from the web (you can still generate images), deep research, and agent mode.
The company says that even with Lockdown Mode turned on, ChatGPT could still be vulnerable to prompt injections — which could, for example, “appear in cached web content or in an uploaded file, and could still affect the behavior or accuracy of a response.”
But the goal is to reduce the likelihood that sensitive data gets shared in the process.
“Lockdown Mode is not intended for everyone,” OpenAI says. “It is designed for people and organizations that handle sensitive data and want stricter protection from data exfiltration risks related to prompt injection.”
The company says it’s currently rolling Lockdown Mode out to self-serve ChatGPT Business accounts, as well as eligible personal accounts.

TechCrunchAI大撞车

文章目录


    扫描二维码,在手机上阅读