# 数学的推論

Skywork-OR1は、昆侖万维天工チームが開発した高性能な数学コード推論モデルです。本モデルシリーズは、同等の規模のパラメータにおいて業界をリードする推論性能を実現し、大規模モデルにおける論理的理解と複雑なタスク解決における能力のボトルネックを突破しました。Skywork-OR1シリーズには、数学的推論、汎用推論、高性能推論タスクにそれぞれ焦点を当てた、Skywork-OR1-Math-7B、Skywork-OR1-7B-Preview、Skywork-OR1-32B-Previewの3つのモデルが含まれています。今回のオープンソース化は、モデルの重みだけでなく、トレーニングデータセットと完全なトレーニングコードも網羅しており、すべての資源はGitHubとHuggingfaceプラットフォームにアップロードされています。AIコミュニティに完全に再現可能な実践的な参考を提供します。このような包括的なオープンソース戦略は、推論能力研究におけるAIコミュニティ全体の進歩を促進するのに役立ちます。

混元T1はテンセントが発表した超大規模推論モデルであり、強化学習技術に基づいており、大量の後訓練によって推論能力を大幅に向上させています。長文処理とコンテキストの把握において優れた性能を発揮し、計算資源の消費も最適化されており、効率的な推論能力を備えています。あらゆる種類の推論タスクに適用でき、特に数学、論理推論などの分野で優れた性能を発揮します。本製品は深層学習をベースとしており、実際のフィードバックを参考に継続的に最適化されており、研究、教育など複数の分野での応用に向いています。

DeepSeek-R1-Distill-Qwen-7Bは、Qwen-7Bを蒸留最適化し、強化学習によって最適化された推論モデルです。数学、コード、推論タスクにおいて優れた性能を発揮し、高品質な推論チェーンと解決策を生成できます。大規模な強化学習とデータ蒸留技術により、推論能力と効率性が大幅に向上しており、複雑な推論と論理分析が必要なシナリオに適しています。

rStar-Mathは、より高度なモデルに依存することなく、小型言語モデル（SLM）がOpenAIのo1モデルに匹敵、あるいはそれを上回る数学的推論能力を獲得できることを証明することを目的とした研究です。本研究は、モンテカルロ木探索（MCTS）を用いて「深層思考」を実現しており、SLMベースのプロセス報酬モデルの指導の下で、数学戦略SLMがテスト時に探索を行います。rStar-Mathは、2つのSLMのトレーニングという課題に対処するため、3つの革新的な手法を導入し、4回の自己進化と数百万の合成解を通して、SLMの数学的推論能力を最先端レベルにまで向上させました。このモデルはMATHベンチマークテストで性能を大幅に向上させ、AIMEコンテストでも優れた成績を収めました。

Eurus-2-7B-SFTは、Qwen2.5-Math-7Bモデルをファインチューニングした大規模言語モデルであり、数学的推論と問題解決能力の向上に特化しています。模倣学習（教師ありファインチューニング）によって推論パターンを学習し、複雑な数学問題やプログラミングタスクを効果的に解決できます。主な利点は、強力な推論能力と数学問題への正確な処理であり、複雑な論理的推論を必要とする場面に適しています。このモデルはPRIME-RLチームによって開発され、暗黙的報酬によってモデルの推論能力を向上させることを目指しています。

QVQ-72B-PreviewはQwenチームが開発した実験的な研究モデルであり、視覚推論能力の強化に焦点を当てています。このモデルは、多様な分野の理解と推論において強力な能力を示し、特に数学的推論タスクにおいて著しい進歩を遂げています。視覚推論において進歩が見られる一方で、QVQはQwen2-VL-72Bを完全に代替するものではなく、複数ステップの視覚推論においては、画像内容への注意が徐々に低下し、幻覚が生じる可能性があります。さらに、QVQは基本的な認識タスクにおいて、Qwen2-VL-72Bよりも著しく優れた改善を示していません。

O1-Journeyは、上海交通大学GAIR研究グループが主導するプロジェクトであり、OpenAIのO1モデルの能力を複製し、再考することを目的としています。本プロジェクトは「ジャーニーラーニング」という新たな訓練パラダイムを提唱し、数学的推論において検索と学習を初めて統合することに成功したモデルを構築しました。このモデルは、試行錯誤、修正、後戻り、省察といった過程を経て、複雑な推論タスクを処理するための有効な方法となっています。

MathΣtralは、数学的推論と科学的発見のために設計された、70億パラメーター規模のAIモデルです。32kのコンテキストウィンドウを備え、Apache 2.0ライセンスの下で公開されています。高度な数学問題における複雑な多段階論理推論において卓越した性能を発揮し、科学界へのMistral AIチームからの貢献であり、学術プロジェクトの支援強化を目指しています。MathΣtralはSTEM分野に専門性を持ち、その推論能力は同規模のモデルの中で業界標準ベンチマークの先端レベルに達しています。

DeepSeek-Coder-V2は、GPT4-Turboに匹敵する性能を持つオープンソースのMixture-of-Expertsコード言語モデルです。コード関連の特定タスクにおいて優れたパフォーマンスを発揮します。6兆トークンを追加で事前学習させたことで、コーディング能力と数学的推論能力が強化され、一般的な言語タスクにおける性能も維持されています。DeepSeek-Coder-33Bと比較して、コード関連タスク、推論、および一般的な能力において顕著な進歩が見られます。さらに、対応プログラミング言語は86種類から338種類に、コンテキスト長は16Kから128Kに拡張されました。

InternLM-Math-Plusは、最新の双言語（英語と中国語）対応のオープンソース大型言語モデル（LLM）であり、数学的推論に特化しており、数学問題の解決、証明、検証、拡張能力を備えています。非公式な数学的推論（思考連鎖やコード解釈など）と公式な数学的推論（LEAN 4への変換と証明など）において顕著な性能向上を実現しています。