

Omni Moderation Latest
简介 :
omni-moderation-latest 是基于 GPT-4o 构建的新一代多模态内容审核模型,它在文本和图像内容的有害信息检测方面更加精确,帮助开发者构建更强大的审核系统。该模型支持文本和图像输入,特别在非英语语言中表现更准确。它能够评估内容是否符合诸如仇恨、暴力、自残等类别,并且提供更细致的审核决策控制。此外,它还提供概率分数来反映内容与检测类别的匹配可能性。该模型对所有开发者免费开放,旨在帮助开发者从最新的研究和安全系统投资中受益。
需求人群 :
目标受众包括社交媒体平台、生产力工具、生成性AI平台等,他们需要构建更安全的产品以保护用户。例如,Grammarly 使用该API来确保其AI通信辅助产品的安全性和公正性;ElevenLabs 利用该API扫描其音频AI产品生成的内容,防止并标记违反政策的输出。
使用场景
Grammarly 使用该API来确保其AI通信辅助产品的安全性和公正性
ElevenLabs 利用该API扫描其音频AI产品生成的内容,防止并标记违反政策的输出
其他公司使用该API来构建更安全的产品,以保护用户免受有害内容的影响
产品特色
支持文本和图像输入的多模态有害内容分类
新增两个仅文本的有害内容类别:非法和包含暴力的非法
对非英语内容的检测更准确,支持40种语言
对低资源语言(如高棉语或斯瓦希里语)的检测性能提升70%
提供校准的分数,更准确地反映内容违反相关政策的可能性
免费提供给所有开发者使用,具有不同使用层级的速率限制
使用教程
访问OpenAI的Moderation API指南页面
注册并获取API密钥
阅读文档了解如何发送文本或图像内容进行审核
根据API文档编写代码,调用omni-moderation-latest模型
将内容发送到API并接收审核结果
分析返回的审核结果,包括类别和概率分数
根据审核结果采取相应的内容管理措施
精选AI产品推荐

Deepmind Gemini
Gemini是谷歌DeepMind推出的新一代人工智能系统。它能够进行多模态推理,支持文本、图像、视频、音频和代码之间的无缝交互。Gemini在语言理解、推理、数学、编程等多个领域都超越了之前的状态,成为迄今为止最强大的AI系统之一。它有三个不同规模的版本,可满足从边缘计算到云计算的各种需求。Gemini可以广泛应用于创意设计、写作辅助、问题解答、代码生成等领域。
AI模型
11.4M
中文精选

Liblibai
LiblibAI是一个中国领先的AI创作平台,提供强大的AI创作能力,帮助创作者实现创意。平台提供海量免费AI创作模型,用户可以搜索使用模型进行图像、文字、音频等创作。平台还支持用户训练自己的AI模型。平台定位于广大创作者用户,致力于创造条件普惠,服务创意产业,让每个人都享有创作的乐趣。
AI模型
8.0M