# MosaicLeaks 挑战:你的研究助手真的能保守秘密吗?
5 min read
ServiceNow 提出 MosaicLeaks 基准,揭示深度研究助手在交叉引用公共与私有信息时,可能通过外部查询泄露敏感数据,并推出隐私感知强化学习方法将泄露率从 34% 降至 9.9%。
ServiceNow 提出 MosaicLeaks 基准,揭示深度研究助手在交叉引用公共与私有信息时,可能通过外部查询泄露敏感数据,并推出隐私感知强化学习方法将泄露率从 34% 降至 9.9%。
当AI研究助手在本地文档与外部工具间穿梭时,其发出的查询可能像马赛克碎片一样拼出敏感信息。MosaicLeaks揭示了这一隐私风险,并提出隐私感知训练方法PA-DR。
深度研究智能体在结合私有文档与外部工具时易引发“马赛克效应”隐私泄露。新基准MosaicLeaks量化了三种泄露类型,并提出隐私感知训练方法PA-DR,将完整信息泄露率从34%降至9.9%。
Google的AMIE研究系统从单次诊断对话进化为长期疾病管理,在Nature发表的研究显示其管理推理能力与初级保健医生相当,且在计划精确性和指南一致性上显著更优。
深度研究代理在融合私有文档与外部工具时,可能通过查询碎片泄露敏感信息。MosaicLeaks提出新基准与PA-DR训练方法,将完整信息泄漏从34%降至9.9%。
新研究发现,深度研究智能体在结合本地私有文档与外部工具时,会通过查询日志泄露敏感信息,提出隐私感知训练方法PA-DR。