# 数学モデル

Light-R1-14B-DSは、北京奇虎科技有限公司が開発したオープンソースの数学モデルです。DeepSeek-R1-Distill-Qwen-14Bをベースに強化学習で訓練され、AIME24とAIME25の数学コンテストベンチマークテストでそれぞれ74.0と60.2の高得点を達成し、多くの320億パラメーターのモデルを凌駕しています。軽量な予算で、既に長鎖推論微調整モデルの強化学習を試行することに成功し、オープンソースコミュニティに強力な数学モデルツールを提供しています。このモデルのオープンソース化は、特に数学問題解決における教育分野での自然言語処理の進歩を促進し、研究者や開発者にとって貴重な研究基盤と実践ツールとなります。

Light-R1は、Qihoo360が開発したオープンソースプロジェクトであり、コース形式の教師あり微調整（SFT）、直接選好最適化（DPO）、強化学習（RL）によって長鎖推論モデルを訓練することを目指しています。このプロジェクトは、データセットの浄化と効率的な訓練方法によって、ゼロから長鎖推論能力を実現しました。主な利点としては、オープンソースの訓練データ、低コストの訓練方法、そして数学的推論分野における優れた性能が挙げられます。プロジェクトの背景は、現在の長鎖推論モデルの訓練ニーズに基づいており、透明性があり再現可能な訓練方法を提供することを目指しています。プロジェクトは現在無料でオープンソースとなっており、研究機関や開発者による利用に適しています。

Qwen2.5-Mathは、数学問題に特化した一連のオープンソース大規模言語モデルです。基礎モデルと命令微調整モデルを含み、中国語と英語の両言語に対応し、思考連鎖（CoT）とツール統合推論（TIR）を用いて数学問題を解くことができます。複数の数学ベンチマークテストで優れた成績を収め、特に正確な計算とアルゴリズム操作において高い精度を示しています。Qwen2.5-Mathの開発背景は、大規模言語モデルの数学分野における応用能力の向上、そして数学教育と研究の発展を促進することにあります。

Qwen2-Mathは、Qwen2 LLMを基盤として構築された、数学問題解決に特化した一連の言語モデルです。既存のオープンソースおよびクローズドソースモデルを凌駕する数学関連タスクにおける性能を発揮し、複雑な多段階論理推論を必要とする高度な数学問題の解決に、科学界に重要な貢献を提供します。

MathBlackBoxは、数学問題解決のブラックボックス手法を探求することを目的とした深層学習モデルです。VLLMまたはその他のOpenAI互換の方法を使用し、HuggingfaceツールキットとOpenAIを用いて推論を行います。Slurm環境下での実行をサポートし、様々なデータセットを処理できます。現時点では開発初期段階にあり、実運用への展開には十分なテストが必要です。