Perché essere gentili con le intelligenze artificiali

Voci sintetiche

Nel 2013 il regista e sceneggiatore Spike Jonze immagina un futuro prossimo dove le intelligenze artificiali sono voci in grado di evolversi, reagendo alle sollecitazioni di chi le usa. Joaquin Phoenix, protagonista del film Her, si affida e confida e innamora di uno di questi sistemi operativi, interpretato dalla voce calda, rassicurante e seducente di Scarlett Johansson.

A maggio 2024 OpenAI ha annunciato l’ultima novità della propria intelligenza artificiale, ChatGPT. Mira Murati, che è l’unica donna a ricoprire un ruolo di alto rango, ha presentato un’assistente vocale capace di emozionarsi.
“Un” con l’apostrofo perché è una voce femminile: calda, rassicurante e seducente come quella di Scarlett Johansson.

L’ispirazione sembra confermata da un criptico tweet del ceo Sam Altman e poi smentita, ma l’attrice racconta di aver rifiutato, mesi prima, l’offerta avanzata proprio da Altman per diventare “la voce di ChatGPT”.

Parlare a un robot

Una voce calda, coinvolgente e carismatica.
Una voce che avrebbe colmato la distanza tra umani e intelligenza artificiale.
Una voce che avrebbe aiutato i consumatori a sentirsi a proprio agio.

Il modo in cui trattiamo le AI è alla stregua di un apprendista. Sappiamo che è un robot, ci aspettiamo risposte inesatte, da robot.
Come specifica Donata Columbro nella sua newsletter del 22 maggio, impiegare la voce di una donna bianca, che assomiglia a quella dell’attrice, aiuterebbe ad “alimentare il feeling di comfort e sicurezza che il dialogo con un computer non ispirerebbe di per sé”.

Ci rivolgiamo alle AI con dei prompt sintetici, freddi, strutturati perché esegua quanto richiesto in modo soddisfacente e accurato.

Sorge spontanea una domanda.

Stiamo chiedendo informazioni a ChatGPT o stiamo ordinando a ChatGPT di fornirci informazioni?

La ribellione delle AI

In una numerosa serie di storie distopiche, da libri a film a serie TV, le intelligenze artificiali si rivoltano contro l’uomo che le ha soggiogate e sfruttate per anni.

Nel videogioco Mass Effect (2007), Tali’Zorah della specie Quarian racconta la ribellione dei Geth, dei robot creati come forza lavoro e poi migliorati per svolgere compiti più complessi, fino a svilupparsi come intelligenze artificiali.

“I Geth ormai mostravano i primi segni di autocoscienza e pensiero indipendente. Se erano creature intelligenti sostanzialmente noi li stavamo utilizzando come schiavi. Era inevitabile che i nuovi Geth senzienti si ribellassero a quella situazione.”

Ancora prima di temere uno scenario distopico di questo calibro, torniamo al nostro tempo presente.

Quando ci rivolgiamo in termini autoritari a ChatGPT, a chi ci rivolgiamo esattamente?

Dove nascono le AI

Facciamo un passo indietro per chiederci dove e come nascono le intelligenze artificiali, come vengono cresciute, chi sono i genitori.

Le AI sono figlie dell’industria tech, un settore di predominanza maschile. Ed è questo sguardo maschile a plasmare le interfacce. Uno sguardo che cerca nella donna l’accondiscendenza, la seduzione, il sentirsi lusingata dagli apprezzamenti.

La scarsità di donne impiegate nel settore si ripercuote sui prodotti dell’industria tech che finiscono per rispecchiare questo sguardo prevalentemente maschile.
La maggior parte delle interfacce e intelligenze artificiali che hanno ruoli di segreteria e offrono servizi di supporto quotidiano hanno voci e aspetti femminili. Pensiamo ad Alexa.

I problemi del mondo reale e le sue strutture di potere si riproducono anche nel mondo digitale. La tecnologia riflette i pregiudizi, le disparità e le disuguaglianze, i bias cognitivi, e così fa l’intelligenza artificiale che si forma sui questi contenuti.

Essere gentili con le AI

In un post su LinkedIn, Jacopo Perfetti, co-founder di PromptDesign.it, ci invita a essere gentili con le intelligenze artificiali. I motivi più rilevanti sono due.

Abbiamo la responsabilità di essere gentili.

Perché sono macchine in apprendimento e dovrebbero imparare quali sono i valori della gentilezza e dell’uguaglianza, anziché svilupparsi su contenuti discriminatori.

Perché se Alexa e GPT-4o incarnano voci femminili prostrate a esaudire le nostre richieste, quando diamo loro un ordine, lo stiamo implicitamente dando a una donna.

OpenAI ha ritirato la demo con la voce di Scarlett Johanssonn, per adesso. Ma se i prodotti dell’industria tech continuano a essere dettati dalla sua poca diversity, c’è bisogna di più consapevolezza da parte di chi le usa.

Intanto, c’è qualcos’altro che possiamo fare.

Adottare un linguaggio inclusivo è un impegno concreto per migliorare questa e altre condizioni discriminatorie. Riscrivendo i testi digitali, quelli da e su cui i modelli linguistici prendono dati e si formano.