# モデル推論

Genie Studioは、智元机器人が具現化された知能シナリオのために特別に開発されたワンストップ開発プラットフォームであり、データ収集、モデルトレーニング、シミュレーション評価、モデル推論の全工程に対応した製品機能を備えています。開発者に対し、「収集」「トレーニング」「テスト」「推論」の標準化されたソリューションを提供することで、開発のハードルを大幅に下げ、開発効率を向上させます。このプラットフォームは、効率的なデータ収集、柔軟なモデルトレーニング、正確なシミュレーション評価、シームレスなモデル推論を通じて、具現化された知能技術の急速な発展と応用を促進します。Genie Studioは強力なツールを提供するだけでなく、具現化された知能の規模拡大に向けた展開を支援し、業界が標準化、プラットフォーム化、量産化に向けた新たな段階への飛躍を加速させます。

Patronus GLIDERは、微調整済みのphi-3.5-mini-instructモデルに基づく汎用評価モデルです。ユーザー定義の基準と採点規則に基づいて、テキスト、会話、RAG設定を評価します。合成データとドメイン適応データを使用してトレーニングされており、金融や医療など183個の指標と685個の分野を網羅しています。最大シーケンス長は8192トークンですが、テストでは最大12000トークンの長いテキストにも対応可能です。

Recursal AIは、言語や国籍を問わず、すべての人にとって人工知能技術を利用しやすくすることを目指しています。featherless.ai、RWKV、recursal cloudといった製品を提供しています。featherless.aiは、サーバーレスで即時利用可能なHugging Faceモデル推論サービスを提供します。RWKVは、100種類以上の言語に対応し、推論コストを100分の1に削減した次世代基盤モデルです。recursal cloudでは、ユーザーはRWKVモデルを簡単に微調整およびデプロイできます。これらの製品と技術の主な利点は、AI技術の参入障壁を下げ、効率を向上させ、多言語をサポートすることです。これは、グローバルな背景を持つ企業や開発者にとって非常に重要です。

Cog inference for flux models は、Black Forest Labsが開発したFLUX.1 [schnell]およびFLUX.1 [dev]モデル向けの推論エンジンです。コンパイルと量子化、有害コンテンツ検出、img2imgサポートに対応しており、画像生成モデルのパフォーマンスとセキュリティの向上を目指しています。

DeepSeek-Coder-V2は、コード言語向けに設計されたオープンソースのエキスパート混合モデル（Mixture-of-Experts、MoE）です。その性能はGPT4-Turboに匹敵します。コード固有のタスクにおいて優れた性能を発揮し、一般的な言語タスクにおいても同等の性能を維持しています。DeepSeek-Coder-33Bと比較して、V2版はコード関連タスクと推論能力が大幅に向上しています。さらに、サポートするプログラミング言語は86種類から338種類に、コンテキストの長さは16Kから128Kに拡張されました。

火山方舟は、モデルのトレーニング、推論、評価、微調整など、包括的な機能とサービスを提供し、大規模モデルエコシステムを重点的にサポートします。厳選されたモデルによりモデルの安定性を確保し、豊富なプラットフォームアプリケーションとツール、情報セキュリティ、強力なコンピューティングパワー、専門的なサービスを提供します。主な機能には、モデル広場、モデル体験、モデルトレーニングと推論、モデルアプリケーションなどがあります。自動車、金融、大消費、インターネット関連、教育、オフィスなど、幅広い業界のシナリオに適用可能です。