

Aot
简介 :
Atom of Thoughts (AoT) 是一种新型推理框架,通过将解决方案表示为原子问题的组合,将推理过程转化为马尔可夫过程。该框架通过分解和收缩机制,显著提升了大语言模型在推理任务上的性能,同时减少了计算资源的浪费。AoT 不仅可以作为独立的推理方法,还可以作为现有测试时扩展方法的插件,灵活结合不同方法的优势。该框架开源且基于 Python 实现,适合研究人员和开发者在自然语言处理和大语言模型领域进行实验和应用。
需求人群 :
该产品适合从事自然语言处理、大语言模型研究的学者、开发者以及对提升模型推理性能有需求的研究团队。它为用户提供了一种高效、灵活的推理框架,能够帮助他们在推理任务中实现更好的性能和资源利用。
使用场景
使用 AoT 框架对数学问题进行推理,显著提高模型解题准确率。
将 AoT 作为插件集成到现有推理框架中,提升整体性能。
通过收缩数据集,减少模型推理时的计算开销,提高效率。
产品特色
支持多种推理场景,包括数学、多选题和多跳问答
可作为插件与现有测试时扩展方法结合,提升性能
通过原子状态表示,提高计算资源利用效率
支持多种数据集和模型,如 gpt-4o-mini
提供快速启动脚本,方便用户进行实验和测试
支持生成收缩后的数据集,用于与其他框架结合
开源代码,便于研究人员和开发者进行二次开发
使用教程
1. 克隆项目到本地:`git clone https://github.com/qixucen/atom`
2. 创建 `apikey.py` 文件,配置 API 密钥和 URL
3. 安装依赖:`pip install -r requirements.txt`
4. 使用命令行运行推理脚本,例如:`python main.py --dataset math --start 0 --end 10 --model gpt-4o-mini`
5. 在插件模式下生成收缩数据集:`python main.py --dataset math --mode plugin --start 0 --end 10 --model gpt-4o-mini`
6. 查看 README.md 文件了解更多功能和参数配置
7. 根据需要调整代码或扩展功能
精选AI产品推荐

Elicit
Elicit是一款能够以超人速度分析研究论文的AI助手。它可以自动完成繁琐的研究任务,如论文摘要、数据提取和综合研究发现。用户可以搜索相关论文、获取一句话摘要、从论文中提取详细信息并进行整理、寻找主题和概念等。Elicit的准确度高,使用方便,已受到广大研究者的信赖和好评。
研究工具
632.0K
中文精选

Findin AI
Findin AI 是一款旨在通过人工智能技术全面提速学术研究工作流的工具。它通过文献筛选、论文阅读、笔记摘录、主题研究、文献综述和学术写作等功能,帮助用户高效管理文献和知识,提升研究效率。产品利用AI技术,如自动总结、一键获取参考文献、文献问答等,大幅减少研究过程中的重复劳动,使研究者能够专注于创新和深度思考。
研究工具
302.8K