I sistemi di intelligenza artificiale generativa riproducono e talora rafforzano pregiudizi e stereotipi, in particolare nella rappresentazione di donne, persone nere, persone anziane e persone con disabilità visibili, proposta dalle immagini professionali generate dall’intelligenza artificiale stessa: è quanto emerge da uno studio canadese, che vede appunto le persone con disabilità visibili del tutto assenti in ogni categoria professionale considerata dall’indagine
I sistemi di intelligenza artificiale (IA) generativa riproducono e rafforzano pregiudizi e stereotipi antidemocratici, in particolare nella rappresentazione di donne, persone nere, persone anziane e persone con disabilità visibili, espressa nelle immagini professionali generate dall’IA stessa: è quanto emerge dallo studio denominato Generative AI Carries Non-Democratic Biases and Stereotypes: Representation of Women, Black Individuals, Age Groups, and People with Disability in AI-Generated Images across Occupations, condotto da Ayoob Sadeghiani della Toronto Metropolitan University, e pubblicato sulla rivista «JEOD – Journal of Entrepreneurial and Organizational Diversity» (14(1): 119-130 del 2025).
In particolare, l’Autore dello studio ha analizzato 444 immagini generate da Microsoft Designer, Meta AI e Ideogram in 37 professioni, riscontrando significative disparità nella rappresentazione. Le donne sono sottorappresentate nei ruoli dirigenziali e tecnologici, le persone nere sono quasi assenti e le persone con disabilità visibili sono completamente assenti in tutte le categorie.
È stato inoltre osservato un chiaro pregiudizio legato all’età, con i giovani rappresentati prevalentemente.
Questi modelli suggeriscono dunque che gli strumenti di intelligenza artificiale generativa replichino, e in alcuni casi amplifichino, le disuguaglianze e gli stereotipi esistenti sul posto di lavoro, minando i valori democratici di equità e inclusione.
Queste le osservazioni di Sadeghiani in merito all’esito dell’indagine: «I miei risultati evidenziano l’urgente necessità di un’esposizione algoritmica alla diversità e raccomando agli sviluppatori di intelligenza artificiale e agli utenti aziendali di verificare i propri strumenti per individuare i rischi legati a equità, diversità e inclusione (EDI). Sostengo l’importanza dell’inclusione di gruppi diversi nello sviluppo e nella governance dell’intelligenza artificiale, per promuovere tecnologie più democratiche e socialmente responsabili». (Simona Lancioni)
Si ringrazia Andrea Pancaldi per la segnalazione.