AI Generativa, Bias e Fairness nei Sistemi Socio-tecnici

I sistemi di intelligenza artificiale generativa sono sempre più adottati in contesti decisionali ad alto impatto sociale, come la selezione del personale e la valutazione di candidati. Questi sistemi vengono addestrati su dati che riflettono le disuguaglianze della nostra società e, pertanto, non sono neutri. Essi tendono a riprodurre e, in alcuni casi, ad amplificare le stesse dinamiche patriarcali e razziste con cui determinate categorie di persone devono confrontarsi quotidianamente.

Questo seminario esplora come i large language models riproducano stereotipi sociali, attraverso esperimenti condotti su diversi modelli di AI generativa e combinando approcci quantitativi e qualitativi: dall’analisi delle discriminazioni di genere nei processi di recruitment, alle forme di bias razzista emerse dallo studio del comportamento dei modelli quando interrogati con varietà linguistiche non dominanti.

A partire da questi risultati, il seminario propone una riflessione critica sull’uso dell’intelligenza artificiale generativa in contesti ad alto rischio sociale e sulla responsabilità della ricerca nell’interrogare e rendere visibili i meccanismi di riproduzione del privilegio nei sistemi algoritmici.