06/09/2023
Intelligenza artificiale, ecco i risultati di uno studio presentato a Trento![](/var/014/storage/images/media/images/artificial-intelligence-6767502_1280/243524-1-ita-IT/artificial-intelligence-6767502_1280_imagefull.jpg)
06/09/2023
Intelligenza artificiale, ecco i risultati di uno studio presentato a Trento
I pregiudizi negli algoritmi tendono a manifestarsi e ad amplificarsi nel tempo, influenzando la vita delle persone e potenzialmente creando situazioni discriminatorie. Se n’è parlato a Trento in occasione di un recente seminario internazionale FBK-ISR. La ricercatrice Ilaria Valenzi ha illustrato il report “Bias in Algorithms – Artificial Intelligence and Discrimination”, pubblicato dalla
European Union Agency for Fundamental Rights
. Lo studio ha esaminato l’utilizzo dell’intelligenza artificiale nel campo della polizia predittiva e nel rilevamento dei discorsi offensivi online, mostrando come funzionano gli algoritmi nella pratica, sviluppando dei modelli e valutandone l’affidabilità per i diritti, in particolar modo delle minoranze.
Sono numerosi i casi di intelligenza artificiale che ha “imparato” a discriminare secondo il genere o l’etnia per la selezione di curricula o per il riconoscimento facciale (in cui la macchina riconosce ad esempio il volto di persone bianche di sesso maschile ma non quello di persone nere di sesso femminile), o associando il colore della pelle esclusivamente ad alcune mansioni di lavoro.
I risultati della ricerca evidenziano come alcuni termini legati a caratteristiche protette delle persone, come ad esempio la religione, l’etnia, il genere e l’orientamento sessuale, contribuiscono a classificare un testo, un post o un commento online, come offensivo.
Non sempre il modello algoritmico funziona: possono essere segnalati come offensivi commenti che in realtà non lo sono mentre sfuggono al controllo situazioni di offensività non riconosciuta. Ciò rischia di limitare alcuni diritti fondamentali o di non garantirne la tutela.
Lo studio conclude con il suggerimento di prestare particolare attenzione all’uso di algoritmi di apprendimento automatico e al processo decisionale automatizzato, assicurandosi che vengano effettuate valutazioni periodiche, migliorando la qualità dei dati. Sarà inoltre sempre più necessario promuovere la diversità linguistica per mitigare i pregiudizi negli algoritmi e restituire la varietà dei nostri contesti sociali e culturali.