OpenAI强化ChatGPT保险防线：锁定形式防注入,高风险功能加警示标签

OpenAI近日宣布为旗下AI产品ChatGPT推出两项重要安全升级，以应对日益严峻的“提示注入”攻击威胁。这类新型攻击通过构造恶意提示词，诱导AI系统执行未经授权的操作或泄露敏感信息，尤其在AI与外部应用交互的场景中风险显著增加。

针对高风险用户群体，OpenAI推出了“锁定模式”这一可选高级安全设置。该模式通过确定性禁用部分可能被利用的功能，大幅限制ChatGPT与外部系统的交互方式。例如，网页浏览功能将被限制为仅访问缓存内容，防止实时数据泄露；部分无法确保数据安全的功能则会被直接禁用。此功能目前面向企业版、教育版、医疗版及教师版用户开放，管理员可通过创建特定角色在Workspace设置中启用。

锁定模式建立在OpenAI现有安全体系之上，包括沙箱隔离、URL数据泄露防护、监测执行机制及企业级访问控制等。OpenAI强调，该模式并非面向普通用户，而是为大型组织高管、安全团队等需要应对高级威胁的群体设计。对于依赖外部应用的关键业务场景，管理员可获得细粒度控制权，精确选择允许在锁定模式下使用的应用及操作。

另一项重要升级是引入“Elevated Risk”风险标签系统。OpenAI承认，AI连接外部应用虽能提升实用性，但部分网络相关功能会带来尚未被行业完全解决的新风险。为保障用户知情权，ChatGPT、ChatGPT Atlas及Codex等产品将对这类功能统一标注风险标签，并提供详细使用说明。

以编程助手Codex为例，当开发者授予其网络访问权限时，设置界面将显示“风险提升”标签，明确说明启用后的变化、潜在风险及适用场景。OpenAI表示，此举旨在让用户自主决定是否承担风险使用特定功能，尤其在处理个人隐私数据时保持透明度。