Quando gli algoritmi generano discriminazioni / Notizie / Comunicazione / Cinformi

Quando gli algoritmi generano discriminazioni

06/09/2023

Intelligenza artificiale, ecco i risultati di uno studio presentato a Trento

I pregiudizi negli algoritmi tendono a manifestarsi e ad amplificarsi nel tempo, influenzando la vita delle persone e potenzialmente creando situazioni discriminatorie. Se n’è parlato a Trento in occasione di un recente seminario internazionale FBK-ISR. La ricercatrice Ilaria Valenzi ha illustrato il report “Bias in Algorithms – Artificial Intelligence and Discrimination”, pubblicato dalla European Union Agency for Fundamental Rights . Lo studio ha esaminato l’utilizzo dell’intelligenza artificiale nel campo della polizia predittiva e nel rilevamento dei discorsi offensivi online, mostrando come funzionano gli algoritmi nella pratica, sviluppando dei modelli e valutandone l’affidabilità per i diritti, in particolar modo delle minoranze.
Sono numerosi i casi di intelligenza artificiale che ha “imparato” a discriminare secondo il genere o l’etnia per la selezione di curricula o per il riconoscimento facciale (in cui la macchina riconosce ad esempio il volto di persone bianche di sesso maschile ma non quello di persone nere di sesso femminile), o associando il colore della pelle esclusivamente ad alcune mansioni di lavoro.
I risultati della ricerca evidenziano come alcuni termini legati a caratteristiche protette delle persone, come ad esempio la religione, l’etnia, il genere e l’orientamento sessuale, contribuiscono a classificare un testo, un post o un commento online, come offensivo.
Non sempre il modello algoritmico funziona: possono essere segnalati come offensivi commenti che in realtà non lo sono mentre sfuggono al controllo situazioni di offensività non riconosciuta. Ciò rischia di limitare alcuni diritti fondamentali o di non garantirne la tutela.
Lo studio conclude con il suggerimento di prestare particolare attenzione all’uso di algoritmi di apprendimento automatico e al processo decisionale automatizzato, assicurandosi che vengano effettuate valutazioni periodiche, migliorando la qualità dei dati. Sarà inoltre sempre più necessario promuovere la diversità linguistica per mitigare i pregiudizi negli algoritmi e restituire la varietà dei nostri contesti sociali e culturali.

Il sito Magazine di FBK

Agenzia UE per i diritti fondamentali

torna all'inizio del contenuto

Pubblicato il: Mercoledì, 06 Settembre 2023 - Ultima modifica: Martedì, 12 Settembre 2023

Valuta questo sito

torna all'inizio del contenuto

Menu di navigazione

Quando gli algoritmi generano discriminazioni

Comunicazione

gallery