«Rubano immagini in rete e le “danno in pasto” all’intelligenza artificiale, per creare profili falsi (“deepfake”) di avvenenti ragazze e donne con sindrome di Down: è l’ultima, allarmante moda, che si sta rapidamente diffondendo in rete, specialmente sui social, in particolare su alcune piattaforme, tra cui OnlyFans»: a denunciarlo è l’Associazione AIPD che sottolinea come sia fondamentale porre l’attenzione su questo fenomeno di estrema pericolosità
«Rubano immagini in rete e le “danno in pasto” all’intelligenza artificiale, per creare profili falsi (tecnicamente, deepfake) di avvenenti ragazze e donne con sindrome di Down: è l’ultima, allarmante moda, che si sta rapidamente diffondendo in rete, specialmente sui social, in particolare su alcune piattaforme, tra cui OnlyFans, con l’obiettivo di catturare l’attenzione di chi, attratto da questi profili, è pronto a pagare per avere loro foto o video»: la denuncia arriva dall’AIPD (già Associazione Italiana Persone Down, ma da qualche settimana divenuta Associazione Italiana Persone con Sindrome di Down), che spiega ancora come «OnlyDown sia il trend diffusosi nelle scorse settimane, dando particolare visibilità ad alcuni di questi profili, tra cui quello di una certa Maria Dopari: i tratti somatici caratteristici della sindrome di Down erano prestati a un corpo che si mostra, provocante, in varie pose e angolazioni. Dal profilo Instagram si viene quindi dirottati a Telegram e di qui viene proposto l’acquisto del relativo account di OnlyFans. I contenuti sono quasi sempre molto espliciti».
A spiegare ancor meglio come funziona il tutto è Matteo Flora, imprenditore, professore in Sicurezza delle Intelligenze Artificiali e delle SuperIntelligenze all’European School of Economics, conduttore televisivo e autore, tra l’altro, di Ciao Internet, il più seguito canale YouTube di Tech Policy in Italia. «Recentemente – spiega Flora nell’introduzione del video in cui illustra il trend OnlyDown – sui social come TikTok e Instagram si è registrato un trend apparentemente positivo legato a ragazze con sindrome di Down che mostrano con naturalezza la propria vita quotidiana. Tuttavia, scavando più a fondo, emerge una realtà molto più inquietante: profili fake generati tramite intelligenza artificiale che sfruttano l’immagine di persone reali (ignare e modificate), per vendere contenuti su piattaforme come OnlyFans. Dietro al fenomeno ci sono problematiche complesse: l’insufficiente regolamentazione legale e tecnologica contro questi abusi; le difficoltà di moderazione da parte delle piattaforme social; il confine molto labile tra inclusione e feticizzazione di persone vulnerabili».Proprio per prevenire e contrastare questi abusi, lo stesso Flora ha segnalato numerosi profili, alcuni dei quali sono stati rimossi, come quello citato di Maria Dopari, che aveva raggiunto quasi 150.000 follower.
Interpellato dall’AIPD, per averne un consiglio da rivolgere alle persone con sindrome di Down e alle loro famiglie, consentendo loro di proteggersi da questi abusi, Matteo Flora ha detto di «avere già fatto rimuovere circa un migliaio di contenuti, ma l’AIPD, come Associazione, potrebbe interfacciarsi direttamente tramite l’AGCOM (Autorità per le Garanzie nelle Comunicazioni), per chiedere le singole rimozioni. Sarebbe ancora una volta l’affermazione di una leadership nel campo, che secondo me l’AIPD deve reclamare a gran voce».
Il suggerimento è stato accolto con favore da Gianfranco Salbini, presidente nazionale dell’AIPD, consapevole di quanto il problema richieda attenzione: «La ricerca di visibilità attraverso l’esposizione dei propri figli – afferma – è diventata, purtroppo, una pratica comune. Tuttavia, è fondamentale porre l’attenzione su questo fenomeno, ancora più allarmante: l’utilizzo dei deepfake per sfruttare l’immagine delle persone con disabilità. Anche se parlarne potrebbe generare un effetto di emulazione, è essenziale sensibilizzare le famiglie sull’estrema pericolosità di queste pratiche. Il mercato dell’immagine umana, quando non regolamentato, può diventare uno strumento diabolico di sfruttamento, soprattutto per le comunità più vulnerabili».
«In Italia – aggiunge Salbini -, la legge prevede pene detentive da uno a cinque anni per chi crea e diffonde contenuti deepfake che causano danni ingiusti. Tuttavia, la rapidità con cui queste tecnologie si evolvono richiede un costante aggiornamento delle normative e una maggiore consapevolezza da parte del pubblico. Ritengo quindi fondamentale approfondire e diffondere queste informazioni, per proteggere le persone con disabilità e prevenire ulteriori abusi». (S.B.)