# MosaicLeaks 挑战:你的研究助手真的能保守秘密吗?
5 min read
ServiceNow 提出 MosaicLeaks 基准,揭示深度研究助手在交叉引用公共与私有信息时,可能通过外部查询泄露敏感数据,并推出隐私感知强化学习方法将泄露率从 34% 降至 9.9%。
ServiceNow 提出 MosaicLeaks 基准,揭示深度研究助手在交叉引用公共与私有信息时,可能通过外部查询泄露敏感数据,并推出隐私感知强化学习方法将泄露率从 34% 降至 9.9%。
当AI研究助手在本地文档与外部工具间穿梭时,其发出的查询可能像马赛克碎片一样拼出敏感信息。MosaicLeaks揭示了这一隐私风险,并提出隐私感知训练方法PA-DR。
深度研究智能体在结合私有文档与外部工具时易引发“马赛克效应”隐私泄露。新基准MosaicLeaks量化了三种泄露类型,并提出隐私感知训练方法PA-DR,将完整信息泄露率从34%降至9.9%。
深度研究代理在融合私有文档与外部工具时,可能通过查询碎片泄露敏感信息。MosaicLeaks提出新基准与PA-DR训练方法,将完整信息泄漏从34%降至9.9%。
新研究发现,深度研究智能体在结合本地私有文档与外部工具时,会通过查询日志泄露敏感信息,提出隐私感知训练方法PA-DR。
NVIDIA发布Nemotron 3.5内容安全模型,统一多模态输入、多语言覆盖和自定义策略执行,单次推理即可完成审核,支持全球企业部署。