

Omni Moderation Latest
紹介 :
omni-moderation-latestは、GPT-4oを基盤とした新世代のマルチモーダルコンテンツモデレーションモデルです。テキストと画像コンテンツの有害情報検出において高い精度を実現し、より強力なモデレーションシステム構築を開発者に支援します。テキストと画像の両方の入力をサポートし、特に非英語圏言語において高い精度を誇ります。ヘイトスピーチ、暴力、自傷行為などのカテゴリーに該当するかどうかを評価し、より詳細なモデレーション判断を提供します。さらに、コンテンツと検出カテゴリーの一致可能性を示す確率スコアも提供します。本モデルは全開発者向けに無料で公開されており、最新の研究とセキュリティシステムへの投資を活用できるよう支援することを目的としています。
ターゲットユーザー :
ターゲットユーザーは、より安全な製品を構築してユーザーを保護する必要があるソーシャルメディアプラットフォーム、生産性向上ツール、生成系AIプラットフォームなどを含みます。例えば、Grammarlyは、このAPIを使用してAIコミュニケーション支援製品の安全性と公平性を確保しています。ElevenLabsは、このAPIを使用してオーディオAI製品が生成するコンテンツをスキャンし、ポリシー違反の出力の防止と検出を行っています。
使用シナリオ
Grammarlyは、このAPIを使用してAIコミュニケーション支援製品の安全性と公平性を確保しています。
ElevenLabsは、このAPIを使用してオーディオAI製品が生成するコンテンツをスキャンし、ポリシー違反の出力の防止と検出を行っています。
他の企業もこのAPIを使用して、ユーザーを有害コンテンツから保護するより安全な製品を構築しています。
製品特徴
テキストと画像入力に対応したマルチモーダル有害コンテンツ分類
テキスト限定の有害コンテンツカテゴリー2種追加:違法行為、暴力を含む違法行為
非英語コンテンツの検出精度向上(40言語対応)
低資源言語(クメール語やスワヒリ語など)の検出性能を70%向上
キャリブレーション済みのスコアを提供し、コンテンツが関連ポリシーに違反する可能性をより正確に反映
全開発者向けに無料提供(利用レベルに応じたレート制限あり)
使用チュートリアル
OpenAIのModeration APIガイドページにアクセスする
登録してAPIキーを取得する
ドキュメントを読み、テキストまたは画像コンテンツを送信してモデレーションする方法を理解する
APIドキュメントに従ってコードを記述し、omni-moderation-latestモデルを呼び出す
コンテンツをAPIに送信し、モデレーション結果を受信する
カテゴリーと確率スコアを含む、返されたモデレーション結果を分析する
モデレーション結果に基づいて、適切なコンテンツ管理措置を講じる
おすすめAI製品

Deepmind Gemini
Geminiは、Google DeepMindが開発した次世代人工知能システムです。テキスト、画像、ビデオ、音声、コード間のシームレスな相互作用をサポートし、マルチモーダル推論を実行できます。言語理解、推論、数学、プログラミングなど、複数の分野において従来のシステムを凌駕し、現在までに開発された最も強力なAIシステムの一つとなっています。エッジコンピューティングからクラウドコンピューティングまで、様々なニーズに対応できる3つの異なる規模のバージョンがあります。Geminiは、クリエイティブデザイン、ライティングアシスタント、質問応答、コード生成など、幅広い分野で活用できます。
AIモデル
11.4M
中国語精選

Liblibai
LiblibAIは、中国をリードするAI創作プラットフォームです。強力なAI創作能力を提供し、クリエイターの創造性を支援します。プラットフォームは膨大な数の無料AI創作モデルを提供しており、ユーザーは検索してモデルを使用し、画像、テキスト、音声などの創作を行うことができます。また、ユーザーによる独自のAIモデルのトレーニングもサポートしています。幅広いクリエイターユーザーを対象としたプラットフォームとして、創作の機会を平等に提供し、クリエイティブ産業に貢献することで、誰もが創作の喜びを享受できるようにすることを目指しています。
AIモデル
6.9M