# 超越LoRA:最流行的微调技术真的无可替代吗?
5 min read
LoRA在参数高效微调中占据98.4%的使用率,但Hugging Face在新博客中探讨了其他PEFT技术的潜力,包括DoRA、LoRA+等,并提供了自动化搜索工具帮助用户选择更优方法。
LoRA在参数高效微调中占据98.4%的使用率,但Hugging Face在新博客中探讨了其他PEFT技术的潜力,包括DoRA、LoRA+等,并提供了自动化搜索工具帮助用户选择更优方法。
深度研究智能体在结合私有文档与外部工具时易引发“马赛克效应”隐私泄露。新基准MosaicLeaks量化了三种泄露类型,并提出隐私感知训练方法PA-DR,将完整信息泄露率从34%降至9.9%。
Google的AMIE研究系统从单次诊断对话进化为长期疾病管理,在Nature发表的研究显示其管理推理能力与初级保健医生相当,且在计划精确性和指南一致性上显著更优。
LoRA占据98.4%的PEFT使用率,但Hugging Face团队通过实证发现,其他技术(如IA3、AdaLoRA)在某些任务上更优。文章提供选择指南与PEFT库的扩展支持。
Hugging Face推出针对代码代理的基准测试框架,衡量模型使用工具的效率(如token消耗、调试步数)。以transformers库为例,发现代理优化后的API可减少1.3-6倍token。
深度研究代理在融合私有文档与外部工具时,可能通过查询碎片泄露敏感信息。MosaicLeaks提出新基准与PA-DR训练方法,将完整信息泄漏从34%降至9.9%。