# 奖励模型

Skywork-Reward-Gemma-2-27B是一个基于Gemma-2-27B架构的先进奖励模型，专为处理复杂场景中的偏好而设计。该模型使用了80K高质量的偏好对数据进行训练，这些数据来源包括数学、编程和安全等多个领域。Skywork-Reward-Gemma-2-27B在2024年9月的RewardBench排行榜上位居第一，展示了其在偏好处理方面的强大能力。

Llama3-70B-SteerLM-RM是一个70亿参数的语言模型，用作属性预测模型，一个多方面的奖励模型，它在多个方面对模型响应进行评分，而不是传统奖励模型中的单一分数。该模型使用HelpSteer2数据集训练，并通过NVIDIA NeMo-Aligner进行训练，这是一个可扩展的工具包，用于高效和高效的模型对齐。

HelpSteer2是由NVIDIA发布的一个开源数据集，旨在支持训练能够对齐模型以使其更加有帮助、事实正确和连贯，同时在响应的复杂性和冗余度方面具有可调节性。该数据集与Scale AI合作创建，当与Llama 3 70B基础模型一起使用时，在RewardBench上达到了88.8%的表现，是截至2024年6月12日最佳的奖励模型之一。

WARM是一种通过加权平均奖励模型（WARM）来对齐大型语言模型（LLMs）与人类偏好的解决方案。首先，WARM对多个奖励模型进行微调，然后在权重空间中对它们进行平均。通过加权平均，WARM相对于传统的预测集成方法提高了效率，同时改善了在分布转移和偏好不一致性下的可靠性。我们的实验表明，WARM在摘要任务上的表现优于传统方法，使用最佳N和RL方法，WARM提高了LLM预测的整体质量和对齐性。