感谢作者开源相关代码,注意到sft阶段有提供freeze的功能,由于计算资源限制的原因,想要在rl阶段也只训练sft解冻的层,这样是否会降低rl阶段的训练效果?
感谢作者开源相关代码,注意到sft阶段有提供freeze的功能,由于计算资源限制的原因,想要在rl阶段也只训练sft解冻的层,这样是否会降低rl阶段的训练效果?