Skip to content
Artwork for 每日AI
每日AI · Monday · 15 min

Microsoft - SkillOpt:智能体技能自我演进的文本空间优化方法 不改权重的纯文本AI训练

SkillOpt 是一种专为语言模型代理设计的可控文本空间优化器,它通过将外部技能文档视为可训练状态,突破了传统手工编写或无约束自修正的局限。该系统利用前沿的优化模型将运行轨迹转化为有界限的增删改编辑,并通过保留机制与验证门控来确保每一次更新都能严格提升在留出验证集上的表现。整个优化流程支持动态学习率调度、被拒编辑缓冲区及周期性的慢速元更新,从而在不调整模型权重的情况下,实现了稳定且高效的领域适应。实验表明,该方法在各类基准测试、目标模型和执行环境中均取得了领先效果,并且优化的技能成果能够很好地跨模型、跨环境和跨任务进行迁移复用。

0:00-15:52

transcript

No transcript — this publisher did not publish one.

show notes

SkillOpt 是一种专为语言模型代理设计的可控文本空间优化器,它通过将外部技能文档视为可训练状态,突破了传统手工编写或无约束自修正的局限。该系统利用前沿的优化模型将运行轨迹转化为有界限的增删改编辑,并通过保留机制与验证门控来确保每一次更新都能严格提升在留出验证集上的表现。整个优化流程支持动态学习率调度、被拒编辑缓冲区及周期性的慢速元更新,从而在不调整模型权重的情况下,实现了稳定且高效的领域适应。实验表明,该方法在各类基准测试、目标模型和执行环境中均取得了领先效果,并且优化的技能成果能够很好地跨模型、跨环境和跨任务进行迁移复用。