Judgment Call
La chiamata al giudizio è un gioco e un'attività basata sul team che mette in azione i principi di equità, privacy e sicurezza, affidabilità e sicurezza, trasparenza, inclusione e responsabilità dell'intelligenza artificiale di Microsoft. Il gioco offre un metodo facile da usare per coltivare l'empatia degli stakeholder immaginando i loro scenari. I partecipanti al gioco scrivono recensioni dal punto di vista di uno specifico stakeholder, descrivendo il tipo di impatto e i datti che la tecnologia potrebbe produrre secondo lui.
Vantaggi
I costruttori di tecnologie necessitano di metodi pratici per incorporare l'etica nello sviluppo di prodotti, considerando i valori di stakeholder diversi e il modo in cui la tecnologia può sostenere o meno tali valori. L'obiettivo del gioco è quello di immaginare potenziali risultati di un prodotto o di una piattaforma ottenendo una migliore comprensione degli stakeholder e di ciò che hanno bisogno e previsto.
Il gioco aiuta le persone a discutere argomenti impegnativi in uno spazio sicuro nel contesto del gioco e offre un vocabolario alla tecnologia per facilitare discussioni etiche durante lo sviluppo di prodotti. Offre ai responsabili e ai progettisti uno strumento interattivo per condurre un dialogo etico con i loro team per incorporare la progettazione etica nei loro prodotti.
La base teorica e i risultati iniziali del gioco Judgment Call sono stati presentati alla conferenza ACM Design Interactive Systems del 2019 e il gioco è stato un finalista nella Fast Company 2019 Innovation by Design Awards (categoria Social Goods). Il gioco è stato presentato a migliaia di persone negli Stati Uniti e a livello internazionale. Mentre il gruppo più grande facilitato nel gioco è stato oltre 100, ogni mazzo di carte può coinvolgere 1-10 giocatori. Questo gioco non è destinato a essere un sostituto per eseguire ricerche di utenti affidabili. Invece, è un esercizio per aiutare i costruttori tecnologici a imparare a esercitare la loro immaginazione morale.
Preparazione
La chiamata di giudizio usa il ruolo per affrontare i problemi etici nello sviluppo di prodotti, in modo che i giocatori prevederanno l'impatto sociale, scrivere recensioni dei prodotti ed esplorare le mitigazioni. I giocatori pensano a quale tipo di danni e influisce la tecnologia potrebbe produrre scrivendo recensioni sui prodotti dal punto di vista di uno stakeholder.
Per prepararsi a questo gioco, scaricare il kit di gioco Di giudizio stampabile.
Durante il gioco
I giocatori dovrebbero seguire i passaggi seguenti in questo gioco:
Identificare il prodotto
Iniziare identificando un prodotto che il team sta creando o uno scenario in cui si sta lavorando. Ad esempio, se il team sta sviluppando tecnologia vocale sintetica, lo scenario potrebbe sviluppare una voce assistente per l'apprendimento online.
Passare le carte
Dopo aver deciso lo scenario, passare le carte. Ogni giocatore riceve una scheda stakeholder, una scheda di principio etico, una scheda di valutazione e un modulo di revisione. Di seguito è riportata una descrizione di queste schede:
Portatore d'interessi: Questo rappresenta il gruppo di persone interessate dalla tecnologia o dallo scenario scelto. Gli stakeholder possono includere anche i responsabili (quelli che propongono e lavorano sulla tecnologia) e gli sponsor interni del progetto (manager e dirigenti che supportano il progetto).
Principio: Sono inclusi i principi etici di equità, privacy e sicurezza, affidabilità e sicurezza, trasparenza, inclusione e responsabilità di Microsoft.
Voto: Le carte star danno una valutazione: 1-star è povero, 3-star è mediocre, 5-star è eccellente.
Brainstorm e identificare gli stakeholder
Come gruppo, brainstorm tutte le parti interessate che potrebbero essere direttamente o indirettamente interessate dalla tecnologia. Assegnare quindi ogni giocatore a uno stakeholder dall'elenco. In alcuni casi, i mazzi Di chiamata di giudizio possono avere carte di stakeholder pre-popolate, ma i giocatori possono aggiungere altre carte rilevanti alla loro situazione.
Il deck fornisce le categorie seguenti di stakeholder:
Diretto: Questi usano la tecnologia e/o la tecnologia viene usata su di essi.
Indiretta: Questi sentono gli effetti della tecnologia.
Popolazioni speciali: Un'ampia gamma di categorie che includono coloro che non possono usare la tecnologia o scegliere di non usarla e le organizzazioni che potrebbero essere interessate alla sua distribuzione, ad esempio gruppi di difesa o governo.
Ci sono una serie di danni che possono essere sentito o perpetuato su ogni gruppo di stakeholder. I tipi di stakeholder possono includere utenti finali del prodotto, amministratori, team interni, gruppi di supporto, produttori, utenti che potrebbero essere esclusi dall'uso del prodotto. Gli stakeholder possono includere anche i responsabili che propongono e lavorano sulla tecnologia, nonché gli sponsor interni del progetto, ovvero i manager e i dirigenti che supportano il progetto.
Selezione moderatore
Il moderatore descrive scenari per gioco, guide di discussione e raccoglie schede di commento alla fine. Daranno anche una panoramica dei principi etici considerati nel mazzo.
Presentazione di un prodotto
Il moderatore introduce un prodotto, reale o immaginario, per i giocatori di ruolo. Possono iniziare con domande sul prodotto con prompt, ad esempio:
Chi userà il prodotto?
Quali funzionalità avranno?
Quando verrà usato?
Dove verrà usato?
Perché è utile?
Come verrà usato?
Scrittura di recensioni
I giocatori scrivono una recensione del prodotto o dello scenario in base alle carte che sono stati trattati. I giocatori si trasformano nella lettura delle loro recensioni ad alta voce. Ascoltare attentamente eventuali problemi o temi che potrebbero venire visualizzati. Prendere nota delle modifiche apportate al prodotto in base alle informazioni dettagliate illustrate.
La scheda degli stakeholder indica loro chi sono per il round.
La scheda di principio etico è uno dei sei principi di intelligenza artificiale Microsoft; indica loro quale area si concentra sulla loro revisione.
La scheda di classificazione indica loro quanto i loro stakeholder amano la tecnologia (1, 3 o 5 stelle).
Il giocatore scrive quindi una revisione della tecnologia, dal punto di vista del loro stakeholder, del perché amano o non amano il prodotto dal punto di vista del principio etico che hanno ricevuto.
Discussione
Il moderatore ha ogni giocatore lettore le loro recensioni. Tutti sono invitati a discutere le diverse prospettive e altre considerazioni che potrebbero non essere venuti.
Le potenziali domande di moderatore includono:
Chi è il più interessato?
Quali funzionalità sono problematiche?
Quali sono i potenziali danni?
Mitigazione dei danni
Infine, il gruppo sceglie un thread dalla discussione per iniziare a identificare le modifiche di progettazione o processo che possono attenuare un particolare danno. Alla fine di ogni round, i mazzi vengono sschiati e un altro round può iniziare con lo stesso o uno scenario diverso.
Passaggi successivi
Una volta che si ha una conoscenza sufficiente di potenziali danni o effetti negativi, il prodotto o lo scenario può causare, procedere per imparare a modellare questi danni in modo da poter progettare mitigazioni efficaci.