封堵提醒注入破绽,OpenAI 为 ChatGPT 新增两大初级保险防护措施

OpenAI 发布公告为 ChatGPT 新增两项高级安全防护措施，用以应对 AI 系统在对接网页、外部应用场景中日益凸显的提示注入攻击风险，该类攻击会被第三方利用诱导 AI 执行恶意指令或泄露敏感信息，新措施均建立在平台现有沙箱机制、URL 数据外泄防护等多层安全体系之上。

此次推出的首个防护措施是Lockdown Mode（锁定模式），这是面向高安全需求用户的可选高级设置，并非面向普通用户，核心通过严格限制 ChatGPT 与外部系统的交互方式降低数据外泄风险。该模式会确定性禁用或限制易被利用的工具能力，比如网页浏览仅可访问缓存内容，无强安全保证的功能将直接禁用。

目前该模式适用于 ChatGPT Enterprise、Edu、医疗和教师版，管理员可在工作台设置中创建角色启用，且能细粒度管控锁定模式下可使用的外部应用及具体操作;OpenAI 还计划未来数月将该模式开放给消费者用户，同时 Compliance API Logs Platform 可辅助管理员实现应用使用、数据共享的监管审计。

第二项措施是在ChatGPT、ChatGPT Atlas 与 Codex中，为存在额外安全风险的功能统一标注 标签，标准化风险提示方式。

OpenAI 表示，部分网络相关能力虽能提升 AI 实用性，但存在尚未被行业防护措施完全解决的风险，标注标签能让用户清晰知晓风险，自主决定是否使用，尤其适用于处理私密数据的场景。以 Codex 为例，开发者开启其网络访问权限时，界面会显示该标签，并明确告知启用后的变化、潜在风险及适用场景，同时给出风险缓解建议。