|
|
昨日,Anthropic 对外宣布了其为 Chrome 打造的 Claude 扩展程序(插件)—— Claude For Chrome。
据介绍,Claude For Chrome 在接入浏览器并获得用户授权后,能够实现读取网页内容,并且支持点击、填写等网页操作能力。
而 Anthropic 也坦言,这种 Agent 般的自动化能力也会带来一定的安全隐患。
其指出,如果 Claude 拥有读取、回复邮件的权限后,攻击者可在邮件中暗藏恶意指令,从而导致 Claude 可能在不经意间执行,并造成数据泄露甚至触发删除文件、进行金融交易等严重后果。
对此,为降低风险,Anthropic 在扩展中引入了多项安全控制:用户可在设置中按站点授予或撤销访问权限;在执行发布、购买、分享个人数据等高风险操作前,Claude 会征求确认。
同时,Anthropic 还针对提示注入漏洞实施了技术缓解措施,并声称与现有的「电脑使用」功能相比,Claude for Chrome 将攻击成功率从 23.6% 降低至 11.2%。
目前 Claude For Chrome 首批招募 1000 名 Max 订阅用户,并将根据反馈逐步扩大范围。
文章来源:爱范儿
|
上一篇:华为新款三折叠 Mate XTs 定档 9 月发布下一篇:外媒:苹果对大型交易的抵触可能会阻碍自身 AI 发展
|