ChatGPT新功能封锁模式，防止敏感数据被偷走

6月7日, OpenAI近期推出来一项全新的可供选用的安全设定“封锁模式”（Lockdown Mode）, 当用户将其开启之后, GPT会对实时联网、深度探讨以及智能体模式等方面的性能加以限定, 从而去减少敏感数据因提示注入攻击（prompt injection）而遭窃取的风险。

OpenAI的帮助中心表明, Lockdown Mode现今已经朝着所有登录了的用户予以开放涵盖了各种各样不同的账户类型以及工作区。个人类型的用户能够在 “设置 - 安全” 那里予以开启 , 工作区的管理员同样则能够借助工作区设置以及角色权限来实施配置。

它防的是哪类风险

攻击者会将恶意指令隐匿于网页、文档或者其他外部内容之中这般的提示注入攻击。一旦GPT读取此种内容, 模型便有可能被诱导而忽略原本的规则, 进而执行本不该执行的动作。严重的情况下, 用户输入的敏感信息或许会借助联网能力被传到外部。

封锁模式有着别样思路, 并非要让模型去识别全部恶意指令, 而是着重限制最为危险的那一步, 即向外部发起网络请求。一旦开启, GPT的实时网页浏览就会受限, 仅能访问缓存里面的内容；搜索出来的结果也许并不完整, 或者无法使用, 又或者已然过时。GPT不会在普通回复里检索并展示源自网络的图片, 不过用户依旧能够自行上传图片文件, 并且图片生成功能也并不会受到影响。

同时, 深度研究即Deep Research会被关闭, 智能体模式也就是Agent Mode也会被关闭；GPT无法从网络下载文件来用于数据分析, 只能处理由用户手动上传的文件；Canvas生成的代码亦不能被批准联网访问。

对多数用户影响有限开云手机入口官网下载开云app在线入口,开云真人官方下载开运真人app下载苹果版,开运真人app下载，对企业是取舍开关

对于大多数普通的用户而言, 封锁模式不一定会持久地开启。许多人运用GPT, 是要为了进行联网搜索, 去整理资料, 做深度的研究, 或者调用外部的工具。在开启封锁模式之后, 这些能力会显著地受到限制, 所获取的信息或许也会更加陈旧。

然而就企业而言, 对于公共服务机构来讲, 从法律以及合规团队的角度出发这个开关的意义更为直接, 一旦对话当中存在可能出现客户隐私的情况, 或者有合同条款相关情形, 又或者涉及内部数据之际, 亦或是包含未公开材料之时, 管理者能够做出这种选择, 也就是牺牲掉一部分联网能力, 以此来换取更低的数据外泄风险句号。

OpenAI也表明, 封锁模式不会对对话记忆、文件上传、分享对话这类功能造成改变, 同样不会对对话是否被用以改进模型产生改变, 相关设置仍旧需要借助数据控制或者企业管理员权限来单独进行管理, 也就是说, 它并非是一个总的隐私开关, 仅仅是负责去减少提示注入所引发的数据外传风险。

这不是万能安全锁

OpenAI于帮助文档里明确予以了承认, 即封锁模式不能够确保提示注入攻击全然不会失效。恶意指令依旧有着可能出现在缓存下来的网页内容当中, 而且还可能隐匿在用户所上传的文件里边, 如此一来便会对GPT 的回答行为造成触动或者使得准确性受到影响。

这表明, AI产品正面临着一个更为现实的问题, 即, 模型越具备联网能力, 越能够调用工具, 越能够代表用户执行相应任务, 那么, 其攻击面也就越大, 智能体模式着重于使AI主动去访问网页, 去操作外部服务, 去完成多步骤任务, 然而, 这些能力恰恰是提示注入攻击最易于利用的入口。

锁封模式给这类能力设定了一道可见的边界, 这模式没承诺让GPT有着绝对的安全, 它是将“更强能力”以及“更低外泄风险”之间怎样去取舍这件事交给了用户还有管理员。

（本文由AI翻译，网易编辑负责校对）

标签： ChatGPT 安全设置 提示注入攻击 封锁模式 数据保护