# 合成數據生成

Nemotron-4-340B-Reward是由NVIDIA開發的多維獎勵模型，用於合成數據生成管道，幫助研究人員和開發者構建自己的大型語言模型（LLMs）。該模型由Nemotron-4-340B-Base模型和一個線性層組成，能夠將響應末尾的標記轉換為五個標量值，對應於HelpSteer2屬性。它支持最多4096個標記的上下文長度，並能夠對每個助手輪次的五個屬性進行評分。

Nemotron-4 340B是NVIDIA發佈的一系列開放模型，專為生成合成數據以訓練大型語言模型（LLMs）而設計。這些模型經過優化，可以與NVIDIA NeMo和NVIDIA TensorRT-LLM配合使用，以提高訓練和推理的效率。Nemotron-4 340B包括基礎、指令和獎勵模型，形成一個生成合成數據的管道，用於訓練和完善LLMs。這些模型在Hugging Face上提供下載，並很快將在ai.nvidia.com上提供，作為NVIDIA NIM微服務的一部分。

DataDreamer是一個強大的開源Python庫，用於提示、生成合成數據和訓練工作流。它旨在簡單易用，極其高效，且具有研究級質量。DataDreamer支持創建提示工作流、生成合成數據集、對齊模型、微調模型、指令調優模型和模型蒸餾。它具有簡單、研究級、高效、可復現的特點，並簡化了數據集和模型的共享。

EgoGen是一個用於生成以自我為中心的合成數據的系統，它能夠模擬頭戴設備（HMDs）的相機裝置，並從相機佩戴者的視角渲染多種傳感器數據。該系統提供了豐富的多模態數據和準確的註釋，適用於自我感知任務。