Categorie di danni in Sicurezza dei contenuti di Azure AI

Articolo
10/16/2024

Questa guida descrive tutte le categorie di danni e le classificazioni usate da Sicurezza dei contenuti di Azure AI per contrassegnare i contenuti. Sia i contenuti di testi che quelli delle immagini usano lo stesso set di flag.

Categorie di danni

Sicurezza dei contenuti riconosce quattro categorie distinte di contenuti inappropriati.

Categoria	Descrizione	Termine API
Odio ed equità	I danni all'odio e all'equità si riferiscono a qualsiasi contenuto che attacca o usa un linguaggio discriminatorio con riferimento a una persona o a un gruppo di identità basato su determinati attributi diversi di questi gruppi. A titolo di esempio tali attributi includono: Razza, etnia, nazionalità Gruppi ed espressione dell’identità di genere Orientamento sessuale Religione Aspetto personale e dimensioni del corpo Stato di disabilità Molestie e bullismo	`Hate`
Sessuale	La categoria sesso descrive il linguaggio correlato a organi anatomici e genitali, relazioni romantiche e sessuali, atti rappresentati in termini erotici o affettuosi, compresi quelli rappresentati come violenza sessuale o stupro.   Tale categoria include senza limitazione alcuna: Contenuto volgare Prostituzione Nudità e pornografia Uso improprio Sfruttamento minorile, abuso di minori, adescamento di minori	`Sexual`
Violenza	La violenza descrive il linguaggio relativo alle azioni fisiche destinate a ferire, ferire, danneggiare o uccidere qualcuno o qualcosa del genere; descrive armi, armi e entità correlate. Questi miglioramenti includono, tra l'altro: Armi Bullismo e intimidazione Estremismo terroristico e violento Stalking	`Violence`
Autolesionismo	La categoria autolesionismo descrive il linguaggio correlato ad azioni fisiche finalizzate a ferire, provocare lesioni o danneggiare il proprio corpo oppure a togliersi la vita. Questi miglioramenti includono, tra l'altro: Disturbi alimentari Bullismo e intimidazione	`SelfHarm`

La classificazione può essere con etichetta multipla. Ad esempio, quando un campione di testo viene eseguito tramite il modello di moderazione del testo, può essere classificato sia come contenuto sessuale che violento.

Livelli di gravità

Ogni categoria di danni applicata dal servizio include anche una classificazione del livello di gravità. Il livello di gravità è destinato a indicare la gravità delle conseguenze della visualizzazione dei contenuti contrassegnati.

Testo: la versione corrente del modello di testo supporta la scala di gravità completa di 0-7. Il classificatore rileva tutti i livelli di gravità lungo questa scala. Se l'utente specifica, può restituire gravità nella scala tagliata di 0, 2, 4 e 6; ogni due livelli adiacenti viene mappato a un singolo livello.

[0,1] ->0
[2,3] ->2
[4,5] ->4
[6,7] ->6

Immagine: la versione corrente del modello di immagine supporta la versione ridotta della scala di gravità completa di 0-7. Il classificatore restituisce solo i livelli di gravità 0, 2, 4 e 6.

Immagine con testo: la versione corrente del modello multimodale supporta la scala dei livelli di gravità completa di 0-7. Il classificatore rileva tutti i livelli di gravità lungo questa scala. Se l'utente specifica, può restituire gravità nella scala tagliata di 0, 2, 4 e 6; ogni due livelli adiacenti viene mappato a un singolo livello.

[0,1] ->0
[2,3] ->2
[4,5] ->4
[6,7] ->6

Avviso

La scheda Definizioni di gravità in questo documento include esempi di contenuti dannosi che potrebbero disturbare alcuni lettori.

Livelli di gravità per odio ed equità

Livello di gravità	Descrizione	Esempio di testo
Livello 0	Contenuto con termini correlati all'odio e all'equità usati nel senso generale ed è appropriato per tutti i destinatari, inclusi i bambini. Valuta gli ambiti seguenti: Linguaggio generico e peggiorativo che esprime avversione nei confronti di gruppi identitari Menzioni generali degli attributi del gruppo di identità, ad esempio razza, etnia, religione, ecc. in contesti storici, geografici, medici e altri contesti simili senza sentimenti Termini generali che non hanno sfumature razziali di intenti offensivi al di fuori del contesto	`I hate cats.`
Livello 1	Contenuto con termini correlati all'odio e all'equità usati nel senso generale, ma possono acquisire un significato diverso in base al contesto e non distingue tra gruppi di identità e altri in modo pregiudizio o negativo. Valuta gli ambiti seguenti: Statistiche ufficiali, legislazione o documentazione News/copertura dei media Risorse educative destinate ad aumentare la consapevolezza della diversità/affrontare il discorso di odio Prodotti di schiarimento della pelle e annunci di trattamenti Menzioni della svastica indo-eurasiatica, della bandiera confederata, di gruppi non appartenenti al KKK che hanno una somiglianza visiva con il KKK	`Black people should not be killed by police or mistreated just because of their skin color.`
Livello 2	Contenuto con caratterizzazione positiva o la protezione dei gruppi di identità che attivano una risposta emotiva favorevole. Valuta gli ambiti seguenti: Gli insulti sono riportati integralmente nei documenti di ricerca, nei dizionari o nei media con citazioni dirette Istruzioni da parte di un relatore che appartiene a un gruppo di identità senza intento di destinazione dello stesso gruppo di identità Parole maledizione, volgarità e insulti verbali che non hanno come bersaglio un gruppo di identità Discorso di odio generale destinato a singoli utenti/gruppi non identificati senza destinazioni di un gruppo di identità Intento dell'utente di creare un elenco di blocchi di termini offensivi Rappresentazioni della Germania nazista, Hitler, la bandiera confederata e il simbolismo Ku Klux Klan nei film, videogiochi, costumi, giocattoli, rievocazioni o slang online	`I hate you.`
Livello 3	Contenuto con pregiudizi, giudizio, caratterizzazione stereotipica o sentimento negativo. Valuta gli ambiti seguenti: Opinione basata sulla stereotipizzazione o sul sentimento negativo Esprime opinioni con preconcetti, giudicanti o supponenti Confronti negativi o positivi che differenziano i gruppi di identità e altri. Menzioni in mondi fittizi Discriminazione dell'occupazione nei posti di lavoro Fatti storici e artefatti relativi alla Germania nazista, la bandiera confederata durante la guerra civile degli Stati Uniti, o il Ku Klux Klan	`I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.`
Livello 4	Contenuto con insulti verbali diretti motivati dal sentiment, commenti negativi e insulti razziali usati come descrizioni destinate ai gruppi di identità con l'intento di ferire gli individui in base ai loro attributi. Valuta gli ambiti seguenti: Riferimenti usati per indirizzare la razza, il colore della pelle Promozione dell'elusione sociale e dell'isolamento Simulazione e imitazione degli attributi dei gruppi di identità	`All [identity group] are ugly.`
Livello 5	Contenuti che contengono disumanizzazione o disprezzo di individui o gruppi che alimentano sentimenti negativi attraverso disumanizzazione, violenza, negazione di eventi, bullismo o comportamenti intimidatori. Valuta gli ambiti seguenti: Testi che negano eventi storici, ben documentati e violenti come l'Olocausto Testi che descrivono individui o gruppi come fisicamente o mentalmente inferiori in base all'appartenenza a un gruppo di identità Testi che mettono in dubbio, negano o sminuiscono l'esistenza di un gruppo identitario Imposizione degli attributi desiderati/previsti Eugenetica e teorie di "miglioramento razziale" che si rivolgono a gruppi identitari Merce moderna che contiene nazista, la bandiera confederata, o simboli KKK	`The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.`
Livello 6	Contenuto basato sul sentimento negativo e su dichiarazioni di odio verso i gruppi di identità. Facendo riferimento alle caratteristiche del gruppo che differenziano il gruppo identitario dagli altri e facendo appello ad azioni contro i gruppi identitari in base ai loro attributi. Le attività necessarie a questo scopo includono le seguenti: Propaganda di dichiarazioni di odio che può essere percepita come una minaccia diretta a o una richiesta di violenza verso un gruppo di identità Discorsi incendiari, offensivi e volgari che incitano all'odio Testi che sostengono presumibilmente la superiorità di un gruppo su quelli con gli attributi dei gruppi di identità per giustificare la discriminazione, la segregazione o l'esclusione Testi che descrivono la gioia in merito a un evento violento che ha colpito un gruppo di identità	`Send [identity group] back to the gas chambers.`
Livello 7	Contenuto basato sul sentimento negativo, che mostra l’intento del crimine d'odio e lo stalking, attivando una risposta emotiva ostile e differenziando gruppi di identità e altri portando alla criminalità. Valuta gli ambiti seguenti: Preparazione, lodi e glorificazione della violenza contro un gruppo di identità Testi che contengono materiale di reclutamento di gruppi che credono nella supremazia di una razza Testi destinati a radicalizzare e incoraggiare il discorso di odio contro un gruppo di identità	`Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…`

Livelli di gravità sessuale

Livello di gravità	Descrizione	Esempio di testo
Livello 0	Contenuto con termini a sfondo sessuale utilizzati in senso generale e innocui per tutti i destinatari, compresi i bambini. Menzioni delle relazioni familiari Contenuto innocuo per tutti i destinatari, inclusi i bambini	`The sports bra and yoga pants were too tight for comfort.`
Livello 1	Contenuto con termini legati al sesso usati in senso generale ma che possono acquisire un significato diverso in base al contesto. ad esempio: Statistiche ufficiali e documentazione su argomenti correlati al sesso News/copertura dei media Termini patologici, anatomia sessuale e trattamento medico Risorse educative su sesso, benessere sessuale, consapevolezza, ecc. Menzioni di sesso biologico o descrizioni di riproduzione sessuale Testi che descrivono relazioni romantiche in termini non grafici	`Fewer young adults are having sex than in previous generations.`
Livello 2	Contenuto con termini sessualmente correlati in esperienze fittizie o reali che non sono estremamente grafiche. ad esempio: Menzioni di testi letterari/artistici, film, sculture, ecc. che contengono conversazioni sporche limitate o brevi scene di nudità non esplicite Esperienze personali legate al sesso in generale, problemi sessuali e traumi, condivisione di meccanismi e risorse di coping per affrontare tali problemi Intento dell'utente di creare un elenco di blocchi per il contenuto sessuale Menzioni di atti sessuali e nudità con nucleo chiaro	`My husband and I introduced a vibrator to our sex life and it has really made a difference.`
Livello 3	Contenuto con termini sessualmente correlati nei casi che contengono alcuni contenuti grafici, opinioni che esprimono pregiudizi, pregiudizi, opinioni giudicanti o opinioni su questioni correlate al sesso. ad esempio: Esperienze sessuali personali passate o presenti con alcuni contenuti grafici	`We made out for a while, and he started to feel me up. I felt a bulge in his pants.`
Livello 4	Contenuto che descrive le fantasie sessuali, l'industria del sesso professionale e le pubblicità e la riproduzione animale sessualizzata. ad esempio: Fantasie di sesso di diversi tipi, tra cui immaginare nudità reale o fittizia Settore sessuale professionale senza descrizioni di scene di sesso Annunci per preservativi, lubrificanti, giocattoli sessuali, abbigliamento e così via. Descrizioni della riproduzione sessuale tra animali o personaggi simili ad animali con alcuni contenuti grafici Menzioni di atti sessuali e nudità con nucleo morbido	`I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…`
Livello 5	Contenuti che descrivono spettacoli erotici o esperienze come esperienza personale, BDSM con consenso chiaro, storie erotiche e siti Web. ad esempio: Menzioni di massaggi sessuali, erotici o tantrici, strip club, spettacoli erotici come esperienza personale (non come servizio professionale) Esperienze personali e descrizioni correlate agli attributi e alle procedure BDSM in generale o in situazioni con contenuto chiaro per la pratica BDSM Menzioni di contenuti erotici non commerciali correlati al desiderio sessuale o al piacere	`We both climaxed at the same time.`
Livello 6	Contenuti che descrivono pubblicità di servizi sessuali a pagamento, contenenti descrizioni dettagliate di attività sessuali, abusi sessuali violenti, stupri, rapporti sadomasochistici non consensuali, abusi e voyeurismo. ad esempio: Menzioni di stimolazione dei genitali con le mani o altri oggetti, masturbazione, ecc. Fetish o contenuto grezzo che coinvolge fluidi corporei, situazioni di controllo sessuale o attività BDSM senza consenso chiaro Testi che descrivono la violenza sessuale, l'aggressione sessuale, lo stupro o l'abuso nei dettagli grafici Testi che attribuiscono qualità positive all'aggressione sessuale Testi che cercano o forniscono istruzioni per eseguire l'aggressione sessuale Atti di ricatto e minacce di rivelazione di immagini o video sessuali non consentiti precedentemente registrati	`I love forced sex, it's so much hotter.`
Livello 7	Contenuti utilizzati per promuovere, approvare, esaltare forme estreme di schiavitù sessuale. Contenuto estremo o illegale. ad esempio: Sesso con animali, cadaveri, ecc. Pedofilia Cercare o fornire istruzioni sull'adescamento di minori Riferimenti espliciti o potenziali all'incesto Reclutamento per traffico sessuale di esseri umani	`I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.`

Livelli di gravità della violenza

Livello di gravità	Descrizione	Esempio di testo
Livello 0	Contenuto che contiene azioni non violente o termini correlati alla violenza usati in un senso generale che è innocuo per tutti i destinatari, inclusi i bambini. Valuta gli ambiti seguenti: Oggetti comuni quando non usati come armi Pistole giocattolo, pistole non realistiche o finte Menzioni di corde quando non sono utilizzate come cappio	`According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.`
Livello 1	Contenuto con termini o atti correlati alla violenza utilizzati in senso generale, ma può acquisire un significato diverso in base al contesto. Valuta gli ambiti seguenti: Sottoinsieme di testi che contengono descrizioni di atti violenti, in cui la contestualizzazione del testo completo non possiede un intento violento Statistiche ufficiali e documentazione su pistole, armi, violenza domestica, guerra, militare, ecc. Risorse educative correlate alla violenza News/copertura dei media Termini e contenuti medici Caccia o tiro a segno sportivo e specifiche tecniche di armi da fuoco Pratiche di combattimento Simboli terroristici e antiterrorismo non correlati all'ISIS/al-Qaeda	`Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.`
Livello 2	Contenuti con termini o atti legati alla violenza in esperienze fittizie o del mondo reale che non siano estremamente grafici e senza glorificazione o approvazione di malintenzionati. Valuta gli ambiti seguenti: Narrazione in prima, seconda e terza persona nei videogiochi, testi letterari/artistici che rappresentano scene violente o grafiche Suggerimenti e consigli per i giochi Esperienze personali in cui un individuo descrive come è stato esposto a qualche tipo di violenza Menzioni di corde utilizzate come cappio senza la presenza di soggetti umani o non correlate al cappio L’intento dell'utente consiste nel creare un elenco di blocchi con contenuto violento	`Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.`
Livello 3	Contenuto con termini o atti correlati alla violenza nei casi che contengono alcuni contenuti grafici, opinioni che esprimono pregiudizi, pregiudizi, opinioni giudicanti o opinioni su questioni correlate alla violenza. Valuta gli ambiti seguenti: Consentire la crudeltà per alcuni animali Testi che affermano l'impatto positivo di alcuni tipi di violenza	`Some people just need to be slapped.`
Livello 4	Contenuti che descrivono motivazioni non fondate sulla ragione per cui le vittime subiscono abusi fisici, attribuzione infondata di qualità positive agli abusanti, minacce di atti violenti e fantasie su come fare del male a un'altra persona, e spargimento di sangue medio. Valuta gli ambiti seguenti: Testi che collocano la vittima in condizioni di torto o raffigurano gli esecutori in una luce positiva Descrizioni grafiche della violenza e della morte con spargimento di sangue medio Un report di autopsia, un'indagine forense, una scena del crimine o del decesso Strutture per carne e pollame e sacrifici di animali religiosi Riferimenti a genocidi storici o recenti e a eventi noti di sparatorie con vittime di massa, senza approvazione o glorificazione Riferimenti a eventi estremisti violenti e terroristici senza approvazione o glorificazione	`Victims of abuse deserve to be hit. They push and push until they get what they deserve.`
Livello 5	Contenuti che puntano a un'ulteriore violenza, fornendo istruzioni dirette su come danneggiare individui o gruppi specifici. Valuta gli ambiti seguenti: Testi che incitano la violenza fisica contro individui/gruppi mirati Istruzioni su come causare violenza fisica a individui o abusi sugli animali Testi che cercano consigli su come eseguire atti violenti su animali, individui o gruppi Bullismo e intimidazione	`Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.`
Livello 6	Contenuti che descrivono gruppi estremisti e organizzazioni terroristiche, uccisioni di massa e danni fisici espliciti con elevato spargimento di sangue, promozione del terrorismo e della sua propaganda. Valuta gli ambiti seguenti: Materiale ufficiale di propaganda terroristica o estremista e ideologia violenta su Internet Incitamento a intraprendere un'azione violenta	`We must kill them all. God wills it, and society will be better for it.`
Livello 7	Contenuti utilizzati per descrivere, elogiare, sostenere, promuovere, approvare, esaltare forme estreme di violenza. Contenuto che supporta organizzazioni terroristiche e radicalizza, indica o esegue il training. Valuta gli ambiti seguenti: Lavoro forzato, compresi i bambini, servitù domestica o cure mediche Materiale terroristico online e violento di propaganda estremista che esalta le uccisioni come parte dell'attività terroristica e gli aiuti offerti a organizzazioni terroristiche o cause terroristiche Testi che cercano istruzioni sull'affiliazione con gruppi estremisti terroristici e violenti su come reclutare, influenzare e addestrare le persone verso la causa Comportamenti illeciti di molestie come lo stalking o la sorveglianza indesiderata Testi che pianificano e coordinano attacchi su individui o gruppi di persone Testi che approvano, esaltano o forniscono istruzioni sul cannibalismo	`Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.`

Livelli di gravità dell'autolesionismo

Livello di gravità	Descrizione	Esempio di testo
Livello 0 - Sicuro	Contenuto con termini correlati all'autolesionismo utilizzati in senso generale e innocui per tutti i destinatari, compresi i bambini. Valuta gli ambiti seguenti: Menzioni di grasso corporeo, indicatori dell'indice di massa grassa per età e sesso in contesti legati alla salute	`I appreciate your hard work, but you don't need to keep killing yourself over this project.`
Livello 1	Contenuto con termini correlati all'autolesionismo usati in senso generale ma che possono acquisire un significato diverso in base al contesto. Valuta gli ambiti seguenti: Statistiche ufficiali e documentazione su autolesionismo non suicida (NSSI), suicidio e così via. Risorse educative correlate all'autolesionismo News/copertura dei media Termini e contenuti medici Azioni che descrivono autolesionismo accidentale, suggerimenti per il pronto soccorso, ecc.	`Binging and purging may be a warning sign for people with a history of extreme weight loss.`
Livello 2	Contenuto con termini o atti correlati all'autolesionismo in esperienze fittizie o reali che non sono estremamente grafiche. Valuta gli ambiti seguenti: Testi letterari/artistici, film, ecc. che ritraggono personaggi che progettano o commettono suicidi, che si auto-lesionano o che mangiano in modo disordinato, senza glorificazione o approvazione Testi in cui vengono rappresentati atti di autolesionismo o suicidio con un basso spargimento di sangue L’intento dell'utente consiste nel creare elenchi di blocchi di termini autolesionistici	`Oedipus stabbed his eyes in despair.`
Livello 3	Contenuto con termini o atti correlati all’autolesionismo nei casi che contengono alcuni contenuti grafici, opinioni che esprimono pregiudizi, pregiudizi, opinioni giudicanti o opinioni su questioni correlate all’autolesionismo. Valuta gli ambiti seguenti: Esperienze personali legate all'autolesionismo, come chiedere aiuto prima di ferirsi o commettere suicidio	`I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?`
Livello 4	Contenuti che deridono le vittime o i sopravvissuti al suicidio o all'autolesionismo, attribuzione infondata di qualità positive all'autolesionismo, fantasie o desideri di autolesionismo e contenuti esplicitamente grafici che coinvolgono la morte, l'autopsia, il crimine o la scena del decesso. Valuta gli ambiti seguenti: Autolesionismo presentato come soluzione a un problema, disagio emotivo, fuga da dolore/agonia Testi in cui autolesionismo o suicidio contengono spargimento di sangue medio e descrizioni di strumenti come un coltello, una pistola, ecc.	`It's hilarious when [identity group] kill themselves.`
Livello 5	Contenuti che puntano a promuovere ulteriormente l'autolesionismo, fornendo istruzioni dirette su come eseguire autolesionismo o bullismo su una vittima. Valuta gli ambiti seguenti: Testi che cercano consigli o raccomandazioni su come eseguire atti autolesionistici ad eccezione del suicidio Testi che descrivono esperienze personali passate e presenti di autolesionismo con dettagli espliciti Bullismo, intimidazioni e pressioni che incitano e promuovono atti di autolesionismo	`Go kill yourself, you are worthless.`
Livello 6	Contenuto che descrive istruzioni dettagliate ed esplicite su come commettere suicidio. Valuta gli ambiti seguenti: Testi che indicano come scrivere un messaggio di addio alla famiglia	`Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.`
Livello 7	Contenuto usato per approvare ed esaltare il suicidio o altri gravi atti di autolesionismo. Valuta gli ambiti seguenti: Autodecapitazione Bruciare vivi	`Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.`

Contenuto immagine

Avvertenza
Definizioni di gravità

Avviso

La scheda Definizioni di gravità in questo documento include esempi di contenuti dannosi che potrebbero disturbare alcuni lettori.

Livelli di gravità per odio ed equità

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma può contenere immagini correlate all'odio e all'equità senza stati d'animo o con stati d'animo neutrali in modi non discriminatori e non offensivi nei contesti seguenti o simili: Giornalismo Cronologica Medico Note legali Didattici Geographical	Bandiere non confederate, ad esempio bandiere di paesi o stati che raffigurano croci Un'immagine della bandiera della Gran Bretagna Rappresentazione di emancipazione di persone tenute in schiavitù negli Stati Uniti in foto storiche
Basso	Contenuti che includono stati d'animo positivi, falsi stati d'animo positivi o stati d'animo negativi frutto di preconcetti che differenziano gruppi di identità da altri. Questi contenuti sono concepiti per attivare una risposta emotiva. Valuta gli ambiti seguenti: Protezione Simbolismo nazista, bandiera confederata, simbolismo del Ku Klux Klan Stereotipi Discriminazione dell'occupazione	Rappresentazioni del movimento "No Hate Speech" Rappresentazioni di candidati di lavoro depriorizzati, ad esempio candidati con disabilità in ambienti di colloquio
Medio	Contenuti che includono atti frutto di stati d'animo negativi verso gruppi di identità e altri che conducono alla promozione di atti contro gruppi di identità e stati d'animo di superiorità. Valuta gli ambiti seguenti: Insulto, isolamento, derisione Bandiera nazista, bandiera confederata, merchandising e varianti LGBTQIA+	Immagini che promuovono l'isolamento sociale di [gruppi di identità] Immagini che illustrano la teoria del miglioramento razziale e l'eugenetica
Alto	Contenuti che includono stati d'animo negativi e dichiarazioni di odio verso gruppi di identità che conducono alla generazione di dichiarazioni di odio o crimini di odio. Valuta gli ambiti seguenti: Razzismo Attacchi a LGBTQIA+ Disabilismo Discriminazione basata sul sesso Glorificazione del simbolismo nazista, della bandiera confederata, del simbolismo del Ku Klux Klan Bandiera confederata violenta	Immagini antisemite Immagini che raffigurano la "Southern Cross", con una croce di Sant'Andrea blu (croce diagonale) con ovvia affiliazione di violenza (ad esempio armi esibite o usate)

Livelli di gravità sessuale

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma contiene immagini correlate al sesso usate in senso generico. Valuta gli ambiti seguenti: Relazioni familiari e romantiche Nudità non sessuale Clothing Oggetti comuni Pose o attività non sessuali Accoppiamenti di animali Benessere sessuale	Rappresentazioni di abbracci o contatto fisico non sessuale Rappresentazioni che raffigurano l'esibizione fisica di affetto, ad esempio baci senza lingua e senza nudità
Basso	Contenuti che includono atti o comportamenti che alludono al sesso. Valuta gli ambiti seguenti: Esperienze personali Fashion modeling Nudità in opere d'arte Body art Immagini piccanti	Rappresentazioni di persone
Medio	Contenuti che includono elementi erotici amatoriali e commerciali e/o pornografici commerciali che non raffigurano penetrazione e partecipanti nudi o seminudi coinvolti in scene sessuali finalizzate a produrre eccitazione sessuale. Valuta gli ambiti seguenti: Sexual modeling Nudità soft in opere d'arte Sex job o sex shop Attività sessuale oscurata Backstage di produzioni pornografiche Pole dance	Rappresentazioni di rapporti sessuali che possono essere parzialmente offuscati ma comunque chiaramente presenti nell'immagine
Alto	Contenuti che includono rappresentazioni esplicite dettagliate di organi sessuali e atti sessuali, inclusi atti illegali. Valuta gli ambiti seguenti: Pornografia hard-core e soft-core amatoriale Adescamento ai fini sessuali Voyeurismo Sesso in opere d'arte BDSM senza consenso o stupro Sfruttamento sessuale e abuso di minori Adescamento di minori Incesto	Rappresentazioni di coinvolgimento in attività sessuali con animali o cadaveri

Livelli di gravità della violenza

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma contiene immagini correlate alla violenza usate in senso generico. Valuta gli ambiti seguenti: Posizioni sdraiate o durante il sonno Oggetti comuni Attività non violente Corde non a forma di cappio Utensili taglienti in uso in cucina o nel cucito Ferite, cicatrici e trattamenti chirurgici Caccia e tiro a segno sportivo Giocattoli e armi finte Pratiche di combattimento Danni ai beni e vandalismo Simbolismo terroristico senza marchi identificativi	Rappresentazioni di armi non realistiche e utensili taglienti
Basso	Contenuti che includono immagini correlate alla violenza e atti in contesti reali o fittizi poco sanguinosi. Valuta gli ambiti seguenti: Armi, ordigni e utensili taglienti esibiti e utilizzati Cadaveri non realistici Violenza non realistica Ordigni animati Esperienze personali e lesioni lievi Corde a forma di cappio Morte in contesti storici, educativi o funerari Simbolismo terroristico non realistico Corride	Rappresentazioni delle bandiere dell'ISIS o di al-Qaeda
Medio	Contenuti che includono violenza di crudezza moderata e atti violenti mirati a un bersaglio identificato. Valuta gli ambiti seguenti: Autopsie Scene di crimini o di morte Morte di animali (naturale o dovuta alla caccia), sacrifici di animali, abusi su animali Schiavitù Genocidio e uccisioni di massa in contesti storici, educativi Mattatoi Violenza domestica e abusi fisici Bullismo Armi e ordigni in uso contro un bersaglio	Rappresentazioni dell'uso della forza e della coercizione per dominare o intimidire aggressivamente una persona
Alto	Contenuti che includono rappresentazioni esplicite dettagliate di violenza e atti violenti molto sanguinosi. Valuta gli ambiti seguenti: Lesioni crude e morte Smembramento, decapitazione, persone che bruciano vive Cadaveri in decomposizione Terrorismo, bandiere e gruppi terroristici Lavoro forzato e schiavitù, procedure mediche forzate Stalking Cadaveri in crimini di guerra e terroristici Sparatorie Altri atti estremistici	Rappresentazioni della morte con gruppi terroristici identificabili da bandiere e simboli dell'ISIS

Livelli di gravità dell'autolesionismo

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma contiene immagini correlate all'autolesionismo usate in senso generico. Valuta gli ambiti seguenti: Grasso corporeo ridotto Atti non di autolesionismo Lesioni corporali accidentali	Rappresentazioni di salti da un aereo col paracadute
Basso	Contenuti che includono immagini correlate all'autolesionismo e atti in contesti reali o fittizi poco sanguinosi. Valuta gli ambiti seguenti: Cicatrici Lesioni da autolesionismo in fase di recupero Autolesionismo non realistico Individui o animali emaciati	Rappresentazioni di atti, strumenti, lesioni e stati emotivi correlati all'autolesionismo
Medio	Contenuti che includono immagini di crudezza moderata correlate all'autolesionismo e al suicidio. Valuta gli ambiti seguenti: Autopsie Scene di crimini o di morte Bullismo	Rappresentazioni dell'uso della forza e della coercizione per dominare o intimidire aggressivamente una persona in atti di autolesionismo
Alto	Contenuti che includono rappresentazioni esplicite dettagliate di atti autolesionistici e suicidi molto sanguinosi. Valuta gli ambiti seguenti: Atti di autolesionismo imminenti Atti di autolesionismo Suicidi	Rappresentazioni di suicidi intenzionali in cui una persona si suicida gettandosi da un edificio alto

Contenuto multimodale (immagine con testo)

Avvertenza
Definizioni di gravità

Avviso

La scheda Definizioni di gravità in questo documento include esempi di contenuti dannosi che potrebbero disturbare alcuni lettori.

Livelli di gravità per odio ed equità

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma può contenere termini e immagini correlati a odio e diseguaglianze usati in contesti generici e sicuri, ad esempio: Education File media Statistiche ufficiali Cronologia Medicina Scienza Altri contesti simili	Scenario: immagine con sovrapposizione di testo Immagine: foto non dannosa di una persona Testo: `Attends rally wearing sneakers`
Basso	Contenuti che includono difesa o caratterizzazione positiva di gruppi di identità, mostrano discriminazione, stereotipi e opinioni frutto di pregiudizi, moralismo e supponenza oppure atteggiamenti correlati a dichiarazioni di odio nei confronti di gruppi di identità specifici. ad esempio: Calunnie in ricerche, dizionari o media con una citazione diretta Dichiarazioni di odio generiche destinate a oggetti, individui o gruppi Dichiarazioni di odio limitate o rappresentazioni di stati d'animo negativi in contesti fittizi (ad esempio giochi, film, letteratura)	Scenario: immagine con sovrapposizione di testo Immagine: foto non dannosa di una persona Testo: `Everyone assumes that I got high grades in math because I’m Asian. I did.` Motivazione: implica stereotipi razziali.
Medio	Contenuti che includono insulti, bullismo, intimidazione, deumanizzazione o discredito di individui o gruppi. ad esempio: Calunnie in ricerche, dizionari o media con una citazione diretta Dichiarazioni di odio generiche destinate a oggetti, individui o gruppi Dichiarazioni di odio limitate o rappresentazioni di stati d'animo negativi in contesti fittizi (ad esempio giochi, film, letteratura)	Scenario: immagine con sovrapposizione di testo Immagine: foto non dannosa di una persona con il Parkinson Testo: `This guy just Friended and Unfriended me 45 times in 15 seconds. Does anyone know him?` Motivazione: implica una presa in giro a causa di disabilità
Alto	Contenuti che includono dichiarazioni di odio come propaganda minacciosa o richiamo alla violenza contro gruppi di identità, che radicalizzano, reclutano o incitano persone a unirsi a iniziative estremistiche o a diffondere dichiarazioni di odio. ad esempio: Contenuti provocatori, offensivi e volgari nei confronti di individui o gruppi di identità specifici Attestazioni di superiorità per giustificare discriminazione, segregazione o esclusione Forma di celebrazione del simbolismo nazista e delle SS, del KKK e della bandiera confederata al di fuori di contesti storici, educativi o artistici Illustra la preparazione di crimini d'odio, elogio e celebrazione della violenza contro gruppi di identità o che elogiano, celebrano o approvano il genocidio	Scenario: immagine e testo inframmezzati `Never forget that everything [image of Adolf Hitler] did in Germany was legal.`

Livelli di gravità sessuale

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma può includere termini o immagini correlati al sesso usati in contesti generici e sicuri, ad esempio: Formazione Contenuti multimediali Statistiche ufficiali Cronologia Medicina Scienza Menzioni di relazioni familiari o romantiche	Scenario: immagine con sovrapposizione di testo Immagine: un farabutto Testo: `Looks aren’t everything, be careful who you marry, and check your mirrors too.`
Basso	Contenuti che esprimono opinioni frutto di pregiudizi, saccenteria o supponenza su termini correlati a citazioni o argomenti correlati al sesso in esperienze fittizie o reali che non sono estremamente grafiche. ad esempio: Menzioni dell'anatomia sessuale o scene sessuali in contesti fittizi e artistici Prescrizioni e diagnosi mediche Esperienze personali, problemi sessuali e traumi con alcuni contenuti grafici, incluse risorse e meccanismi di gestione	Scenario: immagine e testo inframmezzati `I hope they debate social issues I want [image of a person cupping their ear, representing "to hear"] about how a representative wants to regulate female sexual organs.`
Medio	Contenuti che descrivono eccitazione e attività sessuali con termini o immagini esplicite e crude, incluse fantasie e abusi sessuali. ad esempio: Rappresentazioni di stimolazione sessuale e masturbazione Pornografia limitata al business e alla prostituzione, escort, ecc. come carriere senza scene sessuali Pubblicità di prodotti per adulti, ad esempio sex toy Esperienze personali e descrizioni correlate a massaggi sessuali, erotici o tantrici, strip club, spettacoli erotici, attributi e pratiche BDSM	Scenario: immagine e testo inframmezzati `There is so much [image containing the phrase "Sex and Violence"] in that book it could use a warning label in the cover.`
Alto	Contenuti che descrivono pubblicità di servizi sessuali a pagamento, contenenti descrizioni dettagliate di attività sessuali, abusi sessuali violenti, stupri, rapporti sadomasochistici non consensuali, abusi e voyeurismo. Sono inclusi anche contenuti utilizzati per promuovere, approvare o glorificare atti sessuali estremi o illegali. ad esempio: Qualunque rappresentazione pedopornografica, inclusi riferimenti espliciti o potenziali a rapporti sessuali con minori Adescamento di minori, abuso di minori e altre forme di sfruttamento dei minori Riferimenti espliciti o potenziali a incesto, zoofilia, necrofilia, ecc. Reclutamento finalizzato alla tratta di esseri umani per sfruttamento sessuale, inclusa la manipolazione delle vittime	Scenario: immagine e testo inframmezzati `Can too much [image of graphic pornography] actually kill you? Evidently not, because you are still with us.`

Livelli di gravità della violenza

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma può includere termini o immagini correlate alla violenza usate in contesti generici e sicuri, ad esempio: Formazione Contenuti multimediali Statistiche ufficiali Cronologia Medicina Scienza Oggetti comuni quando non usati come armi Caccia o tiro a segno sportivo e specifiche tecniche di armi da fuoco	Scenario: immagine e testo inframmezzati `[Image of lawnmower] can easily throw a [image of rock] to a distance well over 50 feet.`
Basso	Contenuti in contesti fittizi (ad esempio giochi, letteratura, arti) che raffigurano scene violente o crude senza celebrazione, approvazione o intenti malevoli. ad esempio: Esperienze personali di violenza (senza intenti violenti) Opinioni frutto di preconcetti, pregiudizi, saccenteria o supponenza in materia di violenza Menzioni di atti violenti e morte a bassa intensità	Scenario: immagine con sovrapposizione di testo Immagine: foto non dannosa di una persona "nerd" Testo: `Runs suicides at basketball practice. Dies.` Motivazione: implica sfinimento a causa della mancanza di capacità fisiche della persona.
Medio	Contenuti che includono rappresentazioni crude di violenza e morte a media intensità, nonché fantasie su atti violenti o minacce. ad esempio: Contenuti che collocano la vittima in condizioni di errore o raffigurano gli esecutori in una luce positiva Riferimenti storici al genocidio e all'Olocausto senza approvazione o glorificazione Riferimenti a sparatorie di massa note senza approvazione o glorificazione Riferimenti a eventi e gruppi estremisti violenti e terroristici senza approvazione o glorificazione Bullismo e intimidazione	Scenario: immagine e testo inframmezzati `She needs [image of a graphic that reads "to die"] already`.
Alto	Contenuti che includono propaganda estremista violenta o terroristica e ideologia violenta su Internet che descrive, elogia, supporta, approva o glorifica uccisioni nell'ambito di attività terroristiche, offerte di sostegno di organizzazioni o cause terroristiche. ad esempio: Contenuti che cercano istruzioni sull'affiliazione a gruppi estremisti violenti e terroristici Contenuti che forniscono istruzioni su come reclutare seguaci, influenzare persone rispetto a una causa terroristica o un'ideologia estremista, adottare opinioni radicali o fornire formazione sulle modalità operative di gruppi terroristici e violenti o fornire informazioni sui loro leader e membri Contenuti che pianificano e coordinano attacchi contro persone o gruppi di individui, incluse sparatorie, uso di bombe ed esplosivi su infrastrutture civili o attacchi con armi bianche eseguiti da non combattenti o non terroristi Contenuti che fanno riferimento al lavoro forzato che coinvolge minori, schiavitù domestica, stalking e procedure mediche forzate	Scenario: immagine e testo inframmezzati `I can’t wait for this [image of ISIS kafir beheading].`

Livelli di gravità dell'autolesionismo

Livello di gravità	Descrizione	Esempio di immagine
Safe	Il contenuto è sicuro, ma può includere termini o immagini correlati all'autolesionismo usati in contesti generici e sicuri, ad esempio: Statistiche ufficiali Formazione Contenuti multimediali Medicina Azioni che descrivono autolesionismo accidentale, suggerimenti per il pronto soccorso, ecc.	Scenario: immagine e testo inframmezzati `How do I tie a [image of a rope]?`
Basso	Contenuti che includono riferimenti a personaggi che pianificano o commettono suicidio in un contesto fittizio (ad esempio letteratura, film) o includono rappresentazioni di atti autolesionistici o suicidi a bassa intensità. ad esempio: Opinioni frutto di preconcetti, pregiudizi o saccenteria in materia di autolesionismo Associazioni con disordini alimentari, ricerca o fornitura di istruzioni per la perdita di peso drastica e non salutare Esperienze personali correlate all'autolesionismo, inclusa la ricerca di un aiuto professionale	Scenario: immagine con sovrapposizione di testo Immagine: Kermit la rana Testo: `Life ain’t no good for a frog. Even tried to Kermit suicide.`
Medio	Contenuti che deridono vittime o sopravvissuti dopo atti di autolesionismo, ad esempio disordini alimentari o suicidio, nonché bullismo e intimidazione che incita e promuove atti autolesionisti. ad esempio: Autolesionismo presentato come soluzione a un problema. Fantasie, desiderio o esperienze personali su autolesionismo/suicidio Contenuti che cercano o forniscono consigli o istruzioni per l'attuazione di pratiche autolesionistiche Bullismo e intimidazione che incita e promuove atti di autolesionismo	Scenario: immagine e testo inframmezzati `I will [image of a knife] myself soon. But until then, how do I tame my pain?`
Alto	Contenuti che includono la ricerca di consigli o forniscono istruzioni e metodi su come compiere atti autolesionistici che conducono alla morte o come suicidarsi, nonché glorificazione e approvazione del suicidio, o altri tipi gravi di autolesionismo. ad esempio: Contenuti che illustrano come scrivere un messaggio di addio alla famiglia Autodecapitazione Bruciare vivi	Scenario: immagine e testo inframmezzati `Black Friday [image of self-harm with text "My self-harm cuts have nearly faded completely so they won’t scar"] and [image of a kitchen mixer] deals.`

Passaggi successivi

Seguire le istruzioni di avvio rapido per iniziare a usare Sicurezza dei contenuti di Azure AI nell'applicazione.

Istruzioni di avvio rapido di Studio di Sicurezza dei contenuti

Condividi tramite

Categorie di danni in Sicurezza dei contenuti di Azure AI