ReFT
R
Reft
簡介 :
ReFT是一種增強大型語言模型(LLMs)推理能力的簡單而有效的方法。它首先通過監督微調(SFT)對模型進行預熱,然後使用在線強化學習,具體來說是本文中的PPO算法,進一步微調模型。ReFT通過自動對給定問題進行大量推理路徑的採樣,並從真實答案中自然地得出獎勵,從而顯著優於SFT。ReFT的性能可能通過結合推理時策略(如多數投票和重新排名)進一步提升。需要注意的是,ReFT通過學習與SFT相同的訓練問題而獲得改進,而無需依賴額外或增強的訓練問題。這表明ReFT具有更強的泛化能力。
需求人群 :
用於增強大型語言模型的推理能力,特別是在數學問題解決等領域
總訪問量: 29.7M
佔比最多地區: US(17.94%)
本站瀏覽量 : 54.4K
產品特色
監督微調(SFT)
在線強化學習
PPO算法
推理路徑採樣
性能優化策略
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase