# コンテンツモデレーション

Mistral Moderation APIは、Mistral AIが提供するコンテンツモデレーションサービスです。望ましくないテキストコンテンツの検出とフィルタリングを支援します。このAPIは、Le Chatで使用されているモデレーションサービスと同一の技術に基づいており、ユーザーが特定のアプリケーションやセキュリティ基準に合わせてカスタマイズして使用できるように公開されています。このモデルはLLM（大規模言語モデル）ベースの分類器であり、テキスト入力を9つのプリセットカテゴリに分類できます。Mistral AIのこのAPIはネイティブ多言語に対応しており、特にアラビア語、中国語、英語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語についてトレーニングされています。このAPIの主な利点としては、モデレーションのスケーラビリティと堅牢性の向上、および技術ドキュメントによる詳細なポリシー定義と導入ガイドラインの提供による、効果的なシステムレベルのセキュリティ対策の実装支援が挙げられます。

Claude 3.5 Haikuは、Anthropic社が発表した最新かつ最速のモデルです。プログラミング、ツール使用、推論タスクにおいて優れたパフォーマンスを発揮し、価格も手頃です。速度はClaude 3 Haikuとほぼ同等ですが、あらゆるスキルにおいて向上しており、多くのインテリジェンスベンチマークにおいて、前世代の最大モデルであるClaude 3 Opusを上回っています。Anthropic社はAIの安全性に注力しており、Claude 3.5 Haikuは開発過程において多言語および政策分野における広範な安全評価を受けており、機密情報の処理能力が強化されています。

omni-moderation-latestは、GPT-4oを基盤とした新世代のマルチモーダルコンテンツモデレーションモデルです。テキストと画像コンテンツの有害情報検出において高い精度を実現し、より強力なモデレーションシステム構築を開発者に支援します。テキストと画像の両方の入力をサポートし、特に非英語圏言語において高い精度を誇ります。ヘイトスピーチ、暴力、自傷行為などのカテゴリーに該当するかどうかを評価し、より詳細なモデレーション判断を提供します。さらに、コンテンツと検出カテゴリーの一致可能性を示す確率スコアも提供します。本モデルは全開発者向けに無料で公開されており、最新の研究とセキュリティシステムへの投資を活用できるよう支援することを目的としています。

Le Chat Mistralは、Mistral AIモデルに基づく多言語対応の会話アシスタントであり、Mistral技術の実用的な応用事例を示すことを目的としています。教育的で楽しい方法で、ユーザーがMistral AI技術を探求できるように設計されています。Mistral LargeまたはMistral Smallモデル、あるいはMistral Nextというプロトタイプモデルを使用できます。Mistral AIは、モデルを可能な限り有用でバイアスが少ないものにすることに尽力していますが、改善の余地は依然として多く残されています。Le Chatは、システムレベルの調整可能なコンテンツモデレーションメカニズムも備えており、ユーザーがセンシティブな内容や論争を招く可能性のある会話の方向に進もうとしている場合に、非侵襲的な方法で警告します。

Wavuは、ユーザー生成コンテンツのモデレーション負担を軽減することを目的としたスパム検知ツールです。クリエイターや開発者がコンテンツを簡単に審査し、保護サービスを提供できるよう、シンプルで効率的な方法を提供することを目指しています。Wavuは、AI駆動のスパム検知、GEO-IPとブラックリスト検知、AI生成コンテンツ検知、プライバシーとセキュリティ保護などの機能により、スパムのないエクスペリエンスを提供します。個人、プロフェッショナル、企業、カスタムニーズに対応する様々な価格プランをご用意しています。

信頼と安全のためのコンテンツモデレーションプラットフォームは、コーディング不要で、信頼と安全に関するあらゆる操作を管理できるプラットフォームです。カスタマイズ可能なモデレーションキューと操作、ポリシーベースの自動化ワークフロー、カスタマイズ可能な分析ダッシュボード、モデレーションコントロールセンター、カスタマイズ可能なリスクスコア閾値、ポリシーコントロールセンターなどの機能を備えています。このプラットフォームは、サードパーティツールとのシームレスな統合をサポートし、データセキュリティ要件と規制コンプライアンスに準拠しています。