Multilingual Moderation — Continuous Improvement🌐Traduire

Pitch

Rédigé par l’équipe. Pas une offre d’investissement, pas un conseil.

Problème

Cette annonce de marché n'est pas terminée. Elle a besoin de contributeurs pour la réparer, la tester et la documenter.

Ce qu’ils construisent

Tells you whether a text looks appropriate, using two engines. Offline word lists catch strong insults and profanity in 20 languages (leetspeak and missing accents included) and mask them with * in a filtered copy. With your own OpenAI key it also runs OpenAI omni-moderation, which understands meaning: harassment, hate, violence, sexual content, self-harm and illicit content. It can check images too. It is a first pass, not a replacement for human moderators.

🌐Traduire

Pour qui

Developers of community apps, forums, chats and comment sections who want a multilingual first-pass filter.

🌐Traduire

Pourquoi c'est important

Des outils travaillés, documentés et validés sont plus sûrs pour tous ceux qui les téléchargent.