# 生成AIモデル

Phi-3 Miniは、Phi-2向けに合成されたデータとフィルタリングされたWebデータに基づいて構築された、軽量で最先端のオープンソース大規模言語モデルです。高品質で推論負荷の高いデータを提供することに重点を置いています。このモデルは、厳格な強化プロセスを経ており、教師あり微調整と直接的選好最適化を組み合わせることで、指示への正確な追従と強力なセキュリティ対策を確保しています。このリポジトリでは、CPUおよびGPUでのONNX Runtimeによる高速推論を可能にする、最適化されたPhi-3 MiniのONNXバージョンを提供しています。サーバー、Windows、Linux、Macなど、複数のプラットフォームをサポートし、各プラットフォームに最適な精度設定を提供しています。ONNX RuntimeのDirectMLサポートにより、開発者はAMD、Intel、NVIDIA GPU駆動のWindowsデバイスで大規模なハードウェアアクセラレーションを実現できます。

LMOpsは、LLMと生成AIモデルに基づくAI製品の基礎研究と技術です。自動プロンプト最適化、Promptist、拡張可能なプロンプト、汎用プロンプト検索、LLM検索などの機能を提供します。さらに、構造化プロンプト、拡張可能なプロンプト、LLMアクセラレータ、LLMカスタマイズ、コンテキスト学習といった基本機能も備えています。LMOps関連のリンクには、microsoft/unilmやmicrosoft/torchscaleなどがあります。テキストから画像への生成、長シーケンスプロンプトの消費と拡張プロンプトなど、様々なシナリオに適用可能です。LMOpsはMITライセンスに準拠したオープンソースプロジェクトです。