ROMA – Prima l’umiliazione della supplica con la pistola alla testa, poi l’esecuzione che manda a terra il corpo di una donna. Non è il trailer di un action movie, né una scena di vita reale, ma lo schema replicato in decine di video Ia che mostrano l’esasperazione della cultura di dominio maschile racchiusa in frame di pochi secondi. Uomini che odiano le donne. L’ultima frontiera della misoginia è stata varcata su YouTube con il passepartout dell’Intelligenza Artificiale, nel canale Woman Shot A.I, chiuso dopo una segnalazione del sito 404 Media.
Lo schema della misoginia
I contenuti sono apparsi sulla piattaforma il 25 giugno 2025, data di apertura del canale e in poche settimane hanno attirato oltre 175 mila visualizzazione e racimolato oltre mille iscritti, con l’evidente obiettivo di veicolare messaggi discriminatori e violenti nei confronti delle donne.
Il lato oscuro dell’Ia
Ogni video però si tradisce da sé: il watermark posto in basso a destra rivela la provenienza dei contenuti nel pacchetto Gemini. Per la realizzazione del suo scrolling perverso il creator si affida a Veo, uno strumento di generazione video sviluppato da Google, lamentandosi però del fatto che fosse accessibile solo nella versione a pagamento e per contenuti limitati: solo 3 video di 8 secondi per ogni profilo. “Per ogni account devo pagare circa 300 dollari al mese. Devo spendere un bel po’ di soldi solo per divertirmi”, ha scritto in un post pubblico su YouTube.
Esecuzioni personalizzate
Ma nonostante i limiti numerici della generazione Ia, il canale offriva ai suoi utenti un ampio catalogo di vittime, proponendo anche alcune varianti “a tema”. La pistola poteva essere puntata su chiunque: personaggi di videogiochi, scolarette giapponesi, casalinghe provocanti, giornaliste uccise e donne con la bandiera ucraina sul petto. Ad aumentare l’engagement della piattaforma anche l’opzione inquietante di personalizzare, a seconda dei propri gusti, l’etnia e colore della pelle della vittima.
Carenza di controllo e moderazione
Dopo la segnalazione di 404 media, Youtube ha rimosso Woman Shot A.I. per violazione dei Termini di servizio, e in particolare per aver continuato a pubblicare anche dopo una precedente chiusura. Questo dimostra le persistenti difficoltà con cui la piattaforma non riesce ancora a gestire la moderazione di contenuti violenti, ma solleva anche dei dubbi su possibili falle nei sistemi di sicurezza dell’intelligenza artificiale. “I nostri strumenti di Gen AI sono progettati per seguire le istruzioni fornite dall’utente”, ha dichiarato un portavoce di Google. Malgrado l’esistenza di politiche sull’utilizzo di questi strumenti, il caso riapre il dibattito sulle modalità di controllo attualmente utilizzate da Google, evidentemente non ancora sufficienti per contrastare la creazione di contenuti violenti.
