Brand

L’intelligenza artificiale per mappare e contrastare l’odio nei social media

Studiamo il fenomeno dell’odio nei social media sviluppando strumenti di linguistica computazionale per la sua rilevazione e analisi automatica. Tali strumenti consentono di generare mappe utili al monitoraggio e alla comprensione della natura e della diffusione della misoginia e dell’odio verso i migranti.

Le espressioni di odio si definiscono specificamente con il termine hate speech. Consistono in attacchi verbali volti a suscitare violenza e discriminazione contro singole persone o interi gruppi caratterizzati da una particolare razza o etnia (gli africani, i rom, ecc.), religione (i musulmani, gli ebrei, ecc.), genere (le donne), orientamento sessuale.
Molti studi in ambito psico-sociale hanno affrontato la natura del fenomeno, i meccanismi cognitivi che ne determinano la nascita e la diffusione in rete, mentre la descrizione delle forme verbali di incitamento all'odio, come insulti, sarcasmo e ironia, sono oggetto di studi linguistici. L’area dell’intelligenza artificiale che si occupa del linguaggio umano, la linguistica computazionale, ha invece sviluppato sistemi che rilevano la presenza dell’hate speech nei testi e consentono di analizzarne tipologia, frequenza e distribuzione.

Il nostro gruppo ha lavorato a diversi progetti dove l’applicazione di tecniche di analisi automatica ai testi estratti da social media permette di rilevare la presenza delle varie sfaccettature dell'hate speech nei confronti dei migranti e delle donne e di favorire lo sviluppo di percorsi di contrasto alla discriminazione.
Sono state sviluppate basi di conoscenza linguistica, usate in campagne di valutazione per misurare la capacità dei sistemi automatici di riconoscere l’odio in varie lingue, e piattaforme web per monitorare i discorsi di odio e visualizzarne la diffusione tramite mappe.

Componenti del gruppo:
Giancarlo Ruffo, Manuela Sanguinetti, Valerio Basile, Fabio Poletto, Arthur Capozzi, Endang Wahynu Pamungkas, Simona Frenda, Sohail Aktar, Mirko Lai, Komal Florio, Alessandra Teresa Cignarella.
Collaboratori:
Marco Stranisci (ACMOS), Paolo Rosso (Universitat Politècnica de València, Spain), Elisabetta Fersini (University of Milano-Bicocca).


impatto sulla società

La crescente diffusione di discorsi di odio nei social media sta creando una lacerazione nel tessuto della società. La necessità di contrastarle è assurta negli ultimi anni a priorità per l’Italia e per la Comunità Europea spingendole a promuovere interventi legislativi e di prevenzione. Lo sviluppo di strumenti di analisi automatica può contribuire in modo significativo, sia rendendo i dati più leggibili da fasce ampie di popolazione, sia supportando la costruzione di percorsi educativi di prevenzione anche relativi al riconoscimento di stereotipi e pregiudizi alla base dei discorsi di odio.


galleria di immagini




referente

Cristina Bosco
Viviana Patti
gruppo di lavoro

Giancarlo Francesco Ruffo
dipartimento


condividi
progetti di ricerca rilevanti
potrebbero interessarti anche