

Aot
簡介 :
Atom of Thoughts (AoT) 是一種新型推理框架,通過將解決方案表示為原子問題的組合,將推理過程轉化為馬爾可夫過程。該框架通過分解和收縮機制,顯著提升了大語言模型在推理任務上的性能,同時減少了計算資源的浪費。AoT 不僅可以作為獨立的推理方法,還可以作為現有測試時擴展方法的插件,靈活結合不同方法的優勢。該框架開源且基於 Python 實現,適合研究人員和開發者在自然語言處理和大語言模型領域進行實驗和應用。
需求人群 :
該產品適合從事自然語言處理、大語言模型研究的學者、開發者以及對提升模型推理性能有需求的研究團隊。它為用戶提供了一種高效、靈活的推理框架,能夠幫助他們在推理任務中實現更好的性能和資源利用。
使用場景
使用 AoT 框架對數學問題進行推理,顯著提高模型解題準確率。
將 AoT 作為插件集成到現有推理框架中,提升整體性能。
通過收縮數據集,減少模型推理時的計算開銷,提高效率。
產品特色
支持多種推理場景,包括數學、多選題和多跳問答
可作為插件與現有測試時擴展方法結合,提升性能
通過原子狀態表示,提高計算資源利用效率
支持多種數據集和模型,如 gpt-4o-mini
提供快速啟動腳本,方便用戶進行實驗和測試
支持生成收縮後的數據集,用於與其他框架結合
開源代碼,便於研究人員和開發者進行二次開發
使用教程
1. 克隆項目到本地:`git clone https://github.com/qixucen/atom`
2. 創建 `apikey.py` 文件,配置 API 密鑰和 URL
3. 安裝依賴:`pip install -r requirements.txt`
4. 使用命令行運行推理腳本,例如:`python main.py --dataset math --start 0 --end 10 --model gpt-4o-mini`
5. 在插件模式下生成收縮數據集:`python main.py --dataset math --mode plugin --start 0 --end 10 --model gpt-4o-mini`
6. 查看 README.md 文件瞭解更多功能和參數配置
7. 根據需要調整代碼或擴展功能
精選AI產品推薦

Elicit
Elicit是一款能夠以超人速度分析研究論文的AI助手。它可以自動完成繁瑣的研究任務,如論文摘要、數據提取和綜合研究發現。用戶可以搜索相關論文、獲取一句話摘要、從論文中提取詳細信息並進行整理、尋找主題和概念等。Elicit的準確度高,使用方便,已受到廣大研究者的信賴和好評。
研究工具
626.0K
中文精選

Findin AI
Findin AI 是一款旨在通過人工智能技術全面提速學術研究工作流的工具。它通過文獻篩選、論文閱讀、筆記摘錄、主題研究、文獻綜述和學術寫作等功能,幫助用戶高效管理文獻和知識,提升研究效率。產品利用AI技術,如自動總結、一鍵獲取參考文獻、文獻問答等,大幅減少研究過程中的重複勞動,使研究者能夠專注於創新和深度思考。
研究工具
298.4K