# NVIDIA NIM

NVIDIA AI Blueprint for Video Search and Summarizationは、NVIDIA NIMマイクロサービスと生成AIモデルに基づいた、自然言語プロンプトを理解し、ビジュアルな質問応答を実行するビジュアルAIエージェント構築のための参考ワークフローです。これらのエージェントは、工場、倉庫、小売店、空港、交差点など、さまざまな場面に展開でき、運用チームが自然なインタラクションから得られる豊富な洞察に基づいて、より良い意思決定を支援します。

Mistral-NeMo-Minitron 8Bは、NVIDIAがリリースした小型言語モデルです。Mistral NeMo 12Bモデルを簡素化したもので、高精度を維持しながら計算効率を高めており、GPUアクセラレーション対応のデータセンター、クラウド、ワークステーションで動作します。NVIDIA NeMoプラットフォームを使用してカスタム開発されており、枝刈り（Pruning）と蒸留（Distillation）という2つのAI最適化手法を組み合わせることで、計算コストを削減しつつ、元のモデルと同等の精度を実現しています。

Nemotron-4 340Bは、NVIDIAがリリースした一連のオープンモデルであり、大規模言語モデル（LLM）のトレーニングのための合成データ生成を目的として設計されています。これらのモデルは、NVIDIA NeMoおよびNVIDIA TensorRT-LLMと連携して使用することで、トレーニングと推論の効率を向上させるよう最適化されています。Nemotron-4 340Bには、基礎モデル、指示モデル、報酬モデルが含まれており、LLMのトレーニングと改善に使用される合成データ生成パイプラインを形成します。これらのモデルはHugging Faceでダウンロード可能で、まもなくai.nvidia.comでもNVIDIA NIMマイクロサービスの一部として提供される予定です。