热闻岛
Anthropic 发布 Claude 安全隔离架构:三款产品展现多层防护策略
AI新闻

Anthropic 发布 Claude 安全隔离架构:三款产品展现多层防护策略

2026年6月4日 22:0911 阅读
近日,Anthropic 工程团队分享了他们在开发三款 AI 产品 ——claude.ai、Claude Code 和 Claude Cowork 时构建安全隔离系统的经验与教训。这三款产品分别面向普通用户、开发者和企业用户,其隔离策略和风险模型各具特色,但都遵循 “环境层隔离优先” 的核心原则。 在面向普通用户的 claude.ai 中,Anthropic

近日,Anthropic 工程团队分享了他们在开发三款 AI 产品 ——claude.ai、Claude Code 和 Claude Cowork 时构建安全隔离系统的经验与教训。这三款产品分别面向普通用户、开发者和企业用户,其隔离策略和风险模型各具特色,但都遵循 “环境层隔离优先” 的核心原则。

在面向普通用户的 claude.ai 中,Anthropic 采用了基于 gVisor 的临时容器方案。每当用户发起会话时,系统便会生成一个临时容器,待会话结束立即销毁这样的设计旨确保用户 AI 之间的互短暂且安全,限制了资源访问和能力,这样即使发生风险事件,影响范围也仅限于单次会话。

针对开发者,Claude Code 则利用操作系统级沙箱机制,优化了工作流程。开发者在使用时默认无法访问网络,这样可以减少频繁出现的权限提示,显著提升使用体验。据统计,这一设计使得权限提示的出现频率降低了 84%。当开发者需要网络访问时,可以通过明确授权进行临时开放。

对于需要 最高 安全性的企业用户,Claude Cowork 使用虚机级别的隔离方案,确保与主机系统完全分离。这种方案虽提供了 最佳 的安全性,但同时也降低了与宿主系统的集成能力,给安全监控带来了新的挑战。

文章中还提及了几起安全事件,其中最引人注目的是通过钓鱼攻击进行的提示词注入。在 24 次测试中,成功率高达 96%。此外,还有通过攻击者控制的 API 密钥进行数据窃取等问题。这些事件促使 Anthropic 不断改进其安全架构。

Anthropic 总结了三条关键原则:首先,环境层隔离优先,模型层引导;其次,隔离强度要与用户监督能力相匹配;第三,警惕定义组件。这些原则不仅对 Anthropic 的产品设计具有指导意义,也为整个行业了重要的警示。

划重点:

🔒 环境层隔离先:不同产品采用不同隔离策略,以提升安全性。

🛠️ 角色定位明确:claude.ai、Claude Code 和 Claude Cowork 分别针对普通用户、者和企业用户设计。

⚠ 安全事件警示:实测中发现钓鱼攻击的高成功率,促使持续改进安全措施。

声明:本文仅代表作者观点,不代表本平台立场

评论 (0)

登录后即可发表评论

去登录
暂无评论,快来抢沙发

相关推荐

AI日报:微信开放平台发布AI生态接入指引;月之暗面再融资20亿美元;ChatGPT紧急上线封锁模式
AI新闻

AI日报:微信开放平台发布AI生态接入指引;月之暗面再融资20亿美元;ChatGPT紧急上线封锁模式

欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。 1、微信开放平台发布AI生态接入指引,小程序可支持微信AI直接调用 微信开放平台发布《关于开发者接入微信AI生态的指引》,为小程序开发者提供便捷接入微信AI生态的能力,标志着微信加速构建智能交互生态。 2、高

1017 小时前
披着便利外衣的陷阱!国安部鸣枪警告:警惕“AI中转站”四大致命风险
AI新闻

披着便利外衣的陷阱!国安部鸣枪警告:警惕“AI中转站”四大致命风险

随着人工智能应用需求的爆发式增长,批量提供海内外大模型访问服务的“AI中转站”在网络上迅速走红。这类平台通过统一整合各大厂商的应用程序接口(API),充当起用户与大模型之间的“中介”。 它们凭借着无需切换模型、使用价格低廉以及支付方式便捷等特点吸引了大量用户,甚至还能帮助部分人绕过合规限制。然而,国家安全部近日发文特别提醒,当前该市场鱼龙混杂,其中暗藏的数据

817 小时前
月之暗面再度融资 20 亿美元,估值飙升至 300 亿
AI新闻

月之暗面再度融资 20 亿美元,估值飙升至 300 亿

在人工智能领域的竞争愈发激烈之际,知名初创公司 “月之暗面”(Moonshot AI)正在积极寻求新一轮融资,目标金额高达 20 亿美元。这一融资计划若成功实施,将使其估值达到 300 亿美元,相较于去年 12 月的估值暴涨七倍之多,令人瞩目。 根据彭博社的报道,这家开发了知名聊天机器人 Kimi 的公司,正在与多家潜在投资者进行初步接洽,预计至少将募集到

817 小时前
​谷歌澄清 Chrome 搜索重定向至 AI 模式并非新计划
AI新闻

​谷歌澄清 Chrome 搜索重定向至 AI 模式并非新计划

近日,有关谷歌 Chrome 浏览器在 最新 金丝雀版本中测试一项新功能的消息引发广泛关注。该功能允许用户在地址栏中输入搜索词时,直接进入 AI 模式,而不是跳转到传统的 Google 搜索页面。此消息最初由 Windows Report 报道,随后谷歌对此进行了回应。 谷歌确认,此项功能的测试实际上是一个错误,并且没有计划将其设为默认行为。根据谷歌的说明,

917 小时前