AoT
A
Aot
簡介 :
Atom of Thoughts (AoT) 是一種新型推理框架,通過將解決方案表示為原子問題的組合,將推理過程轉化為馬爾可夫過程。該框架通過分解和收縮機制,顯著提升了大語言模型在推理任務上的性能,同時減少了計算資源的浪費。AoT 不僅可以作為獨立的推理方法,還可以作為現有測試時擴展方法的插件,靈活結合不同方法的優勢。該框架開源且基於 Python 實現,適合研究人員和開發者在自然語言處理和大語言模型領域進行實驗和應用。
需求人群 :
該產品適合從事自然語言處理、大語言模型研究的學者、開發者以及對提升模型推理性能有需求的研究團隊。它為用戶提供了一種高效、靈活的推理框架,能夠幫助他們在推理任務中實現更好的性能和資源利用。
總訪問量: 492.1M
佔比最多地區: US(19.34%)
本站瀏覽量 : 64.9K
使用場景
使用 AoT 框架對數學問題進行推理,顯著提高模型解題準確率。
將 AoT 作為插件集成到現有推理框架中,提升整體性能。
通過收縮數據集,減少模型推理時的計算開銷,提高效率。
產品特色
支持多種推理場景,包括數學、多選題和多跳問答
可作為插件與現有測試時擴展方法結合,提升性能
通過原子狀態表示,提高計算資源利用效率
支持多種數據集和模型,如 gpt-4o-mini
提供快速啟動腳本,方便用戶進行實驗和測試
支持生成收縮後的數據集,用於與其他框架結合
開源代碼,便於研究人員和開發者進行二次開發
使用教程
1. 克隆項目到本地:`git clone https://github.com/qixucen/atom`
2. 創建 `apikey.py` 文件,配置 API 密鑰和 URL
3. 安裝依賴:`pip install -r requirements.txt`
4. 使用命令行運行推理腳本,例如:`python main.py --dataset math --start 0 --end 10 --model gpt-4o-mini`
5. 在插件模式下生成收縮數據集:`python main.py --dataset math --mode plugin --start 0 --end 10 --model gpt-4o-mini`
6. 查看 README.md 文件瞭解更多功能和參數配置
7. 根據需要調整代碼或擴展功能
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase