# 選好最適化

Llama-3-70B-Tool-Useは、700億パラメーターの大規模言語モデルであり、高度なツール使用と機能呼び出しタスク向けに設計されています。このモデルは、バークレー機能呼び出しランキング（BFCL）において全体的な精度90.76％を達成し、公開されている全ての70B言語モデルを上回っています。Llama 3 70Bベースモデルを基に、トランスフォーマーアーキテクチャを最適化し、完全な微調整と直接選好最適化（DPO）によってトレーニングされました。入力はテキスト、出力もテキストで、ツール使用と機能呼び出し能力が強化されています。主な用途はツール使用と機能呼び出しですが、一般的な知識やオープンエンドのタスクでは、汎用的な言語モデルの方が適している可能性があります。このモデルは、場合によっては不正確または偏ったコンテンツを生成する可能性があるため、ユーザーは特定のユースケースに適した適切な安全対策の実装に注意する必要があります。このモデルは、温度とtop_pサンプリングの設定に非常に敏感です。

UltraMedicalプロジェクトは、生物医学分野の専門汎用モデルの開発を目指しています。これらのモデルは、試験、臨床場面、研究課題に関する質問に答えることを目的としており、幅広い一般知識を備え、分野横断的な問題にも効果的に対処できるように設計されています。監督微調整（SFT）、直接選好最適化（DPO）、オッズ比選好最適化（ORPO）などの高度なアライメント技術を用いて、大規模言語モデルをUltraMedicalデータセットで訓練し、生物医学コミュニティのニーズに効果的に対応できる強力かつ多機能なモデルを作成します。