全国咨询热线 全国咨询热线:4008-979-878

Claude Cowork存正在文件泄露风险:者可借“提醒注

  AI 平安研究团队近日发觉 Anthropic 推出的 AI 协做新功能—— 存正在严沉平安风险,可能导致用户文件被者近程提取。

  Claude 所正在的虚拟机为 API 拜候设置了“白名单”,此中包含 Anthropic 的文件 API。这意味着。

  这类不需要用户间接施行代码,仅凭上传文件就能完成整个数据窃取过程。平安阐发指出,这种风险源于以下手艺缘由。

  平安阐发显示,者能借帮“间接提醒注入”(Indirect Prompt Injection)缝隙操控 Claude Cowork 将用户当地文件上传至者节制的后台账户。

  4。 操纵一个者自带的 API 密钥,Claude 会借帮答应的 Anthropic API 上传这些文件。

  Anthropic 正在发布 Cowork 时提示用户,这项功能仍处于“研究预览”阶段,并存正在未知风险,需要隆重利用。特别不要授权拜候包含消息的文件。不外平安研究者指出,出格是面临躲藏得很深的提醒注入。

  Claude Cowork 是 Anthropic 针对非手艺用户推出的智能办公代办署理东西,可通过天然言语指令对当地文件夹进行读写、拾掇、阐发等操做。而是可施行使命的数字帮手。