

Phi 3 Mini 128K Instruct ONNX
紹介 :
Phi-3 Miniは、Phi-2で使用された合成データとフィルタリングされたウェブサイトに基づいて構築された、軽量で最先端のオープンソースモデルであり、高品質の推論集約型データに焦点を当てています。このモデルはPhi-3シリーズに属し、miniバージョンには4Kと128Kのコンテキスト長をサポートする2つのバリエーションがあります。このモデルは、厳格な強化プロセス(教師あり微調整と直接選好最適化を含む)を経ており、指示への正確な準拠と強力なセキュリティ対策が確保されています。これらのONNX最適化済みのPhi-3 Miniモデルは、CPU、GPU、モバイルデバイスで効率的に動作します。Microsoftは、Phi-3の使用を簡素化するONNX Runtime Generate() APIも提供しています。
ターゲットユーザー :
["? 機械学習の研究者や開発者は、この最適化モデルを利用して推論性能を向上させることができます。","? さまざまなデバイス(サーバー、Windows、Linux、Mac、モバイルデバイス)に大規模言語モデルを展開する必要がある企業や組織","? 会話システム、Q\u0026Aシステム、コンテンツ生成などのタスクに従事する担当者は、このモデルを使用して高品質の出力を生成できます。","? 自然言語処理を行う必要があるアプリケーションはすべて、このモデルの強力な性能から恩恵を受けることができます。"]
使用シナリオ
1. あるテクノロジー企業は、Phi-3 Miniモデルを使用して高性能な会話エージェントを構築し、顧客に自動化されたQ&Aサービスを提供することができます。
2. あるニュース機関は、このモデルを利用して、高品質のニュース記事の概要と見出しを自動生成できます。
3. 研究者は、このモデルを使用して自然言語処理関連の実験や研究を行い、言語モデルの新しい用途を探求できます。
製品特徴
? ONNX形式をサポートし、CPU、GPU、モバイルデバイスでの推論を高速化
? DirectML向けのint4量子化、NVIDIA GPU向けのfp16およびint4量子化、CPUおよびモバイルデバイス向けのint4量子化など、複数の最適化構成を提供
? 強化されたトレーニングにより、指示への正確な準拠と強力なセキュリティが確保
? 軽量設計で、高品質の推論集約型データに焦点を当てている
? 新しいONNX Runtime Generate() APIを提供し、Phi-3の使用を簡素化
? 多様なハードウェアとプラットフォームで性能テストと最適化を実施済み
使用チュートリアル
1. GitHubリポジトリから、お使いのハードウェア構成に適したONNXモデルファイルをダウンロードします。
2. ONNX Runtime、transformersなど、必要なPythonパッケージをインストールします。
3. ONNX Runtime Generate() APIを使用してモデルを読み込み、推論を実行します。
4. 入力テキストまたは指示を用意します。
5. モデルを呼び出して予測または出力を生成します。
6. 必要に応じて、出力結果を後処理します。
7. 生成された出力をアプリケーションまたはワークフローに統合します。
おすすめAI製品

Deepmind Gemini
Geminiは、Google DeepMindが開発した次世代人工知能システムです。テキスト、画像、ビデオ、音声、コード間のシームレスな相互作用をサポートし、マルチモーダル推論を実行できます。言語理解、推論、数学、プログラミングなど、複数の分野において従来のシステムを凌駕し、現在までに開発された最も強力なAIシステムの一つとなっています。エッジコンピューティングからクラウドコンピューティングまで、様々なニーズに対応できる3つの異なる規模のバージョンがあります。Geminiは、クリエイティブデザイン、ライティングアシスタント、質問応答、コード生成など、幅広い分野で活用できます。
AIモデル
11.4M
中国語精選

Liblibai
LiblibAIは、中国をリードするAI創作プラットフォームです。強力なAI創作能力を提供し、クリエイターの創造性を支援します。プラットフォームは膨大な数の無料AI創作モデルを提供しており、ユーザーは検索してモデルを使用し、画像、テキスト、音声などの創作を行うことができます。また、ユーザーによる独自のAIモデルのトレーニングもサポートしています。幅広いクリエイターユーザーを対象としたプラットフォームとして、創作の機会を平等に提供し、クリエイティブ産業に貢献することで、誰もが創作の喜びを享受できるようにすることを目指しています。
AIモデル
6.9M