Résumé
La prolifération du contenu généré par les utilisateurs empêche les modérateurs humains de gérer efficacement des plateformes en ligne. Pourtant, à mesure que le contenu généré par les utilisateurs gagne en importance, il en est de même pour la sécurité en ligne.
Azure AI Sécurité du Contenu utilise des modèles permettant de détecter automatiquement en temps réel un texte un caractère violent, haineux, sexuel ou traitant d’automutilation. Il attribue un niveau de gravité afin que les modérateurs humains puissent se concentrer sur des cas à haute priorité et soient moins exposés à des contenus gênants. Azure AI Sécurité du Contenu inclut des fonctionnalités pour modérer les informations générées par les êtres humains et les informations générées par l’IA.
Dans ce module, vous avez découvert comment les fonctionnalités d’Azure AI Sécurité du Contenu peuvent permettre aux marques du commerce électronique, aux sociétés de jeux et aux enseignants d’offrir des espaces plus sécurisés aux utilisateurs.