L'Intelligenza Artificiale è piena di bias cognitivi e pregiudizi culturali.
L'Intelligenza Artificiale - e in particolare i modelli linguistici come ChatGPT è sempre più presente nella nostra vita quotidiana. Risponde alle domande, scrive testi, propone idee, analizza documenti e, spesso, sembra "ragionare" come noi.
Ma una domanda fondamentale è rimasta a lungo sottovalutata: quando l'Intelligenza Artificiale imita l'essere umano, quale essere umano sta imitando?
Secondo lo studio "Which Humans?" del 2023 proposto dalla Harvard University, i sistemi di Intelligenza Artificiale non sono affatto neutri: riflettono soprattutto i valori e i comportamenti delle popolazioni occidentali. Questo fenomeno ha ovviamente importanti conseguenze.
Che cosa significa WEIRD e perché riguarda l’Intelligenza Artificiale
Gran parte dei contenuti web sono prodotti da utenti di Paesi detti "WEIRD", acronimo usato dagli scienziati per indicare società:
-
Western - Occidentali
-
Educated - Istruite
-
Industrialized - Industrializzate
-
Rich - Benestanti
-
Democratic - Democratiche
Parliamo quindi sostanzialmente di:
- Stati Uniti
- Canada
- Germania
- Regno Unito
- Australia
- Paesi europei
Queste nazioni rappresentano solo una parte limitata della popolazione mondiale, eppure producono la maggior parte dei contenuti digitali utilizzati per addestrare l’Intelligenza Artificiale. Quindi, se la maggior parte dei testi proviene dal mondo occidentale: inevitabilmente l’Intelligenza Artificiale assorbe logiche, valori e modi di pensare tipici dell’Occidente.
Perché l’AI "pensa" come un occidentale
Gli algoritmi non nascono imparziali: apprendono da ciò che leggono. Se l’Intelligenza Artificiale viene addestrata soprattutto su fonti europee e americane, tenderà a:
- ragionare in modo individualista
- interpretare il mondo con categorie occidentali
- rispondere secondo valori tipici di quelle società
- considerare "normale" ciò che è normale solo in una parte del pianeta
La ricerca accademica condotta dalla Harvard University, analizzando migliaia di risposte generate da un modello linguistico, ha dimostrato che le opinioni e il "stile di pensiero" dell'Intelligenza Artificiale sono molto più simili a quelli degli statunitensi che a quelli di popolazioni africane, asiatiche o sudamericane.
In alcuni casi la correlazione è talmente precisa da mostrare una cosa chiara: più un Paese è simile culturalmente agli Stati Uniti, più l’Intelligenza Artificiale risponde come i suoi abitanti.
L’Intelligenza Artificiale non è neutrale: il problema del bias culturale
Erroneamente si può immaginare la tecnologia come oggettiva, impersonale, universale.
Ma quando parliamo di algoritmi basati su testi umani, succede l'opposto: l'Intelligenza Artificiale riflette una parte specifica dell'umanità, di quella umanità che la utilizza maggiormente.
Quindi non tutti i popoli sono rappresentati allo stesso modo. Da qui il bias culturale principale, poiché ciò che è culturalmente accettabile per alcuni può essere inaccettabile altrove.
Questo è il bias culturale dell’Intelligenza Artificiale, e oggi è uno dei problemi più discussi nell'ambito della sicurezza digitale e dell’etica dell’Intelligenza Artificiale.
Conseguenze concrete del bias culturale dell'Intelligenza Artificiale
L'uso dell’Intelligenza Artificiale sta crescendo in settori decisivi, tra cui:
- istruzione
- medicina
- ricerca sociale
- logistica
- sicurezza
- pubblica amministrazione
- comunicazione
- consulenza e analisi dei dati
Se gli algoritmi "ragionano" esclusivamente secondo logiche occidentali, cosa succede quando rispondono a chi vive in altre aree del mondo?
- consigli non adatti al contesto culturale
- interpretazioni errate di valori e comportamenti
- rischi di discriminazione involontaria
- soluzioni percepite come arroganti o inadeguate
E non si tratta solo di opinioni: anche il modo di ragionare, di classificare oggetti, di risolvere problemi può cambiare da cultura a cultura.
Come rendere l’Intelligenza Artificiale più inclusiva
I ricercatori suggeriscono alcune possibili soluzioni:
- ampliare i dataset con lingue e culture diverse
- coinvolgere annotatori da tutto il mondo
- non dare per scontato che l'"utente standard" sia occidentale
- valutare i modelli con test indipendenti da più continenti
In altre parole, non è sufficiente un'Intelligenza Artificiale più potente, ma un'Intelligenza Artificiale più rappresentativa dell'umanità reale.
Conclusione
L'Intelligenza Artificiale sta trasformando il mondo, ma oggi riflette solo una porzione dell'umanità.
Perché diventi davvero utile a tutti, deve essere costruita su basi culturali più ampie, più varie e più inclusive.
Un'Intelligenza Artificiale imparziale non è soltanto più etica: è anche più intelligente!
FAQ - Domande frequenti sull’Intelligenza Artificiale e il bias culturale
- L'Intelligenza Artificiale è neutrale?
No. Apprende dai testi prodotti dagli esseri umani, quindi eredita valori e prospettive culturali da chi scrive quei contenuti. - Perché il web influenza l'Intelligenza Artificiale?
Perché i modelli linguistici vengono addestrati analizzando miliardi di pagine, articoli e conversazioni online. - Che cosa significa popolazione WEIRD?
Indica le società occidentali, istruite, industrializzate, benestanti e democratiche: una parte limitata ma molto presente online. - Possiamo creare un'Intelligenza Artificiale più imparziale?
Sì, ampliando i dati, includendo più lingue e adottando una supervisione multiculturale.
[Fonte dello studio citato nell'articolo]:
"Which Humans?" - Mohammad Atari, Mona J. Xue, Peter S. Park, Damián E. Blasi, Joseph Henrich - Harvard University (2023).
Il documento analizza in modo approfondito la relazione tra Intelligenza Artificiale e bias culturale, mostrando come i modelli linguistici siano più simili psicologicamente agli individui appartenenti alle società WEIRD rispetto al resto del mondo.
Puoi scaricare gratuitamente il paper completo dello studio cliccando qui.
