Einführung
Die Menge der von Benutzern generierten Inhalte, die online gepostet werden, wächst schnell. Wir sind uns auch zunehmend bewusst, dass jeder vor unangemessenen oder schädlichen Inhalten geschützt werden muss.
Azure KI Inhaltssicherheit ist ein KI-Dienst, der Entwicklern dabei hilft, erweiterte Inhaltssicherheit in ihre Anwendungen und Dienste einzubeziehen.
Die Herausforderungen beim Verwalten sicherer und respektvoller Online-Räume wachsen für Entwicklerteams, die für das Hosting von Onlinediskussionen verantwortlich sind. Azure KI Inhaltssicherheit identifiziert potenziell unsichere Inhalte und hilft Organisationen dabei, Vorschriften einzuhalten und ihre eigenen Qualitätsstandards zu erfüllen.
Es gibt vier wichtige Gründe für die Notwendigkeit, die Sicherheit von Onlineinhalten zu verbessern:
- Erhöhung der schädlichen Inhalte: Es gab ein großes Wachstum bei vom Benutzer generierten Onlineinhalten, einschließlich schädlicher und unangemessener Inhalte.
- Regulatorischer Druck: Druck seitens der Regulierungen zur Regulierung von Onlineinhalten.
- Transparenz: Benutzer benötigen Transparenz hinsichtlich Standards und der Durchsetzung von Inhalten.
- Komplexe Inhalte: Technologische Fortschritte erleichtern Benutzern das Posten von multimodalen Inhalten und Videos.
Hinweis
Azure KI Inhaltssicherheit ersetzt Azure Content Moderator, der im Februar 2024 veraltet war und bis Februar 2027 eingestellt wird.
In diesem Modul erfahren Sie mehr über die wichtigsten Features von Azure KI Inhaltssicherheit und wann sie eingesetzt werden können.