Multilingual Moderation — Continuous Improvement
社区Improve, test and maintain the agent “Multilingual Moderation”.
想法 · AI
告诉你一段文本是否看起来合适,使用两个引擎。离线词汇表可以捕捉20种语言中的强烈侮辱和粗俗语言(包括变形文字和缺失的重音),并在过滤后的副本中用*进行遮蔽。使用你自己的OpenAI密钥,它还运行OpenAI全方位审核,能够理解含义:骚扰、仇恨、暴力、色情内容、自残和非法内容。它也可以检查图像。这是第一步,而不是人类审核员的替代品。
官方网站