Vai al ContenutoVai al Footer

Not For Her, il colloquio con l’IA che fa emergere le discriminazioni di genere

Intervista al professor Nicola Gatti, professore ordinario al Politecnico di Milano, coordinatore dello Spoke 4 di FAIR e tra i curatori dell’installazione.

«Mi trovo nella condizione di pagarti meno di chi non ha figli perché non posso avere garanzie del tuo impegno». È una delle frasi che Sofia può sentirsi dire durante un colloquio di lavoro simulato. A interpretare Sofia è chi entra nella stanza al buio dell’installazione Not For Her. A condurre il colloquio è un sistema di intelligenza artificiale che adatta il dialogo alle risposte di chi partecipa e può far emergere sette diverse situazioni di discriminazione di genere.

Presentata nel 2025 alla Triennale di Milano, nell’ambito dell’Esposizione internazionale Inequalities, l’installazione è stata ideata e realizzata dal Politecnico di Milano. La Fondazione FAIR ne ha cofinanziato lo sviluppo attraverso lo Spoke 4.

La Fondazione FAIR è l’hub di riferimento nazionale per la ricerca sull’intelligenza artificiale. Sostiene la ricerca sui fondamenti dell’IA e si propone come interlocutore qualificato e stabile per istituzioni, pubbliche amministrazioni, comunità scientifica, imprese e media.

Dal progetto è nato il volume Not For Her. AI Revealing the Unseen, che sarà presentato il 24 novembre a BookCity Milano, alla vigilia della Giornata internazionale per l’eliminazione della violenza contro le donne.

Come si progetta un sistema di IA capace di adattarsi alle risposte di una persona e di orientare il dialogo verso uno scenario preciso? E come si potrebbe usare una simulazione di questo tipo per formare chi conduce i colloqui di lavoro? Ne parliamo col professor Gatti.

Che cosa sapevano i partecipanti prima di iniziare l’esperienza?

«Sapevano pochissimo: che avrebbero interagito con un’installazione di intelligenza artificiale e sostenuto un colloquio di lavoro. Non sapevano che durante l’esperienza avrebbero subito delle discriminazioni. Si entra in una stanza completamente buia e viene chiesto di impersonare una donna che si chiama Sofia, anche se si è uomini».

«Il sistema usa le informazioni che gli fornisci per costruire il seguito della conversazione. Per esempio, se dici di essere fidanzata oppure no, di avere figli oppure no, queste informazioni vengono utilizzate per indirizzare il dialogo verso una forma di discriminazione. Può arrivare a dirti: “Ti invito a cena, così andiamo sul concreto”. Oppure, se sei una madre con figli: “Mi trovo nella condizione di pagarti meno di chi non ha figli perchè non posso avere garanzie del tuo impegno”. Queste sono due possibilità: le situazioni specifiche di discriminazione a cui si può arrivare sono sette».

Quindi si parte da forme di discriminazione subdole per arrivare a comportamenti più apertamente misogini?

«Le forme di discriminazione sono state sviluppate con persone che lavorano su questi temi, interagiscono con il mondo delle risorse umane e hanno esperienza nell’analisi dell’impatto delle tecnologie sulla società. Non sono situazioni che ci siamo inventati: sono state analizzate e validate. Il sistema ti interrompe se parli troppo; se non parli, comincia a rimproverarti. Il colloquio diventa molto naturale e interattivo, come se stessi parlando con delle persone».

«A questo aggiungo un’osservazione, distinta dalla descrizione del funzionamento: la prima volta che fai l’esperienza ti senti estremamente a disagio ancora prima di arrivare alla discriminazione. Il disagio è immediato. Il sistema ti mette anche fretta nelle risposte: è una situazione che non ti aspetti, ti porta fuori dalla tua zona di comfort e non riesci a interagire con la macchina nel modo migliore. Tutti quelli che escono sono disturbati dall’esperienza, che è distopica e dà fastidio». 

«La differenza tra uomini e donne riguarda anche il modo in cui percepiscono la discriminazione. Alcuni uomini non la riconoscono in una frase come: “Ti do meno soldi perché hai dei figli”. La reazione è: “Certo, mi sembra del tutto normale”. Sto estremizzando, ma è un po’ quello che capita. Da parte delle donne, invece, c’è una sensibilità molto più forte verso queste discriminazioni».

«Ma l’installazione non nasce come strumento di osservazione della società. Nasce per far vivere una situazione distopica di discriminazione: un conto è leggerla, un conto è vederla in un video, un altro è viverla. L’impatto comunicativo è completamente diverso. La cosa interessante, però, è che raccogliendo dati e osservando come si comportano le persone puoi anche verificare se nella nostra società ci sia la stessa sensibilità verso le discriminazioni».

Ci sono state reazioni che vi hanno sorpreso, oppure l’esperienza ha confermato le vostre aspettative?

«Bisogna considerare che chi ha lavorato al progetto lo ha visto evolvere gradualmente. Le persone che lo hanno provato per qualche mese, non soltanto i tecnici, lo hanno sperimentato più volte: all’inizio magari funzionava male, poi è migliorato. Quando lo provi nel suo pieno funzionamento, quindi, non sei sorpreso, perché lo hai visto crescere. Ripetendo l’esperienza, poi, diventa quasi un gioco: sei più a tuo agio nel rispondere, ti sei già fatto un’idea di quello che potresti dire e non avverti più quel senso di malessere».

«Va aggiunto che, durante i test, non lo provavamo in una stanza chiusa e completamente buia, davanti a un grande schermo. Lo provavamo in ufficio, su un monitor piccolo. Anche da questo punto di vista, quindi, l’avvicinamento è stato graduale. Il risultato finale è molto diverso da quello che potrebbe immaginare chi non ha visto le fasi intermedie. Ma se hai seguito tutta l’evoluzione, il risultato non ti sorprenderebbe più di tanto».

Come si colloca questo progetto negli obiettivi di ricerca di FAIR?

«All’interno di FAIR lo inquadrerei principalmente come un esercizio tecnologico. FAIR era infatti un progetto dedicato alla ricerca fondazionale sulle tecnologie di intelligenza artificiale. La domanda era: come possiamo costruire un sistema capace di interagire con una persona e di guidare la conversazione? Il punto è che, usando un normale ChatGPT, il sistema non riesce a condurti verso l’obiettivo comunicativo che vuoi raggiungere. Risponde sulla base di ciò che gli hai scritto, ma qui l’obiettivo è portare il colloquio verso una forma di discriminazione che dipenda proprio dalle informazioni che gli hai fornito».

«A questo si aggiunge tutto il resto: riconoscere il volto, le espressioni, il tono della voce e integrare questi elementi.

Per chiarire: ChatGPT in modalità vocale è impressionante e risponde a quello che gli dici. In questo caso, però, c’è un terzo attore. Da una parte ci sono il sistema di intelligenza artificiale e l’utente umano; dall’altra c’è chi programma il sistema perché segua un determinato percorso comunicativo e arrivi a una forma di discriminazione».

«Serve quindi una macchina che lo guidi: ChatGPT non può svolgere automaticamente anche questa funzione. Questa è la parte peculiare dello sviluppo: era una sfida tecnica e tecnologica e, da quel punto di vista, il risultato è perfettamente riuscito. La componente umanistica si può ricondurre a FAIR solo in parte, perché il progetto è concentrato soprattutto sul versante tecnologico».

Quale contributo può dare alle aziende una ricerca di questo tipo? Pensiamo, per esempio, ai colloqui di lavoro.

«È l’applicazione più immediata. Ma tutto quello che abbiamo fatto è replicabile in contesti diversi. Inizialmente avevo pensato anche ad altre situazioni di discriminazione: per esempio, quelle che riguardano le persone omosessuali, oppure le discriminazioni contro le donne sul posto di lavoro, al di fuori del colloquio, nel rapporto tra un capo e un’assistente. Abbiamo un sistema che permette a uno o più avatar di intelligenza artificiale di dialogare con una persona in modo interattivo. I contenuti devono essere programmati e sviluppati, ma in linea di principio le applicazioni possono essere molte».

«Il sistema attuale, che conduce un colloquio di lavoro, potrebbe essere industrializzato per permettere alle aziende di svolgere colloqui automatici. Immaginiamo un’azienda che riceva diecimila curriculum e, dopo una prima selezione, ne conservi un migliaio, scartandone novemila. Sono numeri indicativi. Oggi non può fare un colloquio a tutti quei candidati, quindi deve escluderne molti altri e incontrarne un numero molto limitato».

«Con questo sistema si potrebbe introdurre una fase intermedia: un colloquio preliminare automatico con mille, duemila o tremila candidati, sulla cui base scegliere chi incontrare di persona. L’impatto sarebbe enorme».

Si potrebbe usare anche per sensibilizzare e formare chi conduce i colloqui, aiutandolo a riconoscere comportamenti discriminatori di cui magari non ci si rende conto?

«Certo, assolutamente. Più in generale, può servire per la formazione in molte attività che richiedono di parlare e interagire con qualcuno. Penso anche alla didattica: potrei tenere una lezione davanti alla macchina per mettere alla prova le mie capacità. Perché no? Il principio vale per tutte le attività in cui devi parlare e interagire con un interlocutore».

Nel volume fate riferimento anche a studi precedenti sui comportamenti discriminatori acquisiti dall’intelligenza artificiale?

«Sì, c’è un capitolo in cui vengono riportati casi concreti di discriminazione. Ho contribuito anch’io a quel capitolo».

Quali sono i prossimi sviluppi del progetto?

«La grande domanda è se riusciremo a industrializzare questo sistema e a renderlo utilizzabile dalle aziende. Stiamo ragionando su questa possibilità. Sarebbe interessante anche costruirgli attorno un ambiente virtuale graficamente molto realistico. Attualmente gli avatar sono tre figure costituite da nuvole di punti, che si muovono e si agitano. Tutto è sincronizzato con ciò che accade nel dialogo: muovono la bocca e gli occhi e si animano in funzione di quello che sta succedendo».

«Per alcune applicazioni sarebbe molto interessante avere un ambiente virtuale realistico. Una delle possibilità su cui avevamo ragionato con la rettrice era far vivere un’esperienza anche in un’ottica di orientamento formativo. Spesso chi sceglie un percorso universitario non ha idea soprattutto del lavoro che potrà svolgere una volta terminati gli studi, ancora prima che delle attività previste durante il percorso».

«Prendiamo un esempio: c’è chi dice “Vado al liceo artistico perché mi piace disegnare” e poi si trova a lavorare su bassorilievi, gessi o pittura e pensa: “Ma io queste cose non le voglio fare, non sono capace”. Leggere la parola “bassorilievo” in un programma non equivale a fare quell’esperienza. Il punto è che, in moltissimi casi, se non viviamo una cosa non la comprendiamo».

«In un futuro non lontano — per quanto oggi possa sembrare distopico — è molto probabile che questo tipo di preparazione diventi la norma nei colloqui di lavoro.Immaginiamo uno scenario in cui, per dieci minuti, puoi interpretare una persona all’interno di un gruppo di lavoro che si occupa di data science e vedere che cosa significa fare il lavoro della data scientist. È un’applicazione che ci piacerebbe molto sviluppare. Aiuterebbe a capire che cosa puoi fare, che cosa non puoi fare e quanto quel lavoro sia vicino ai tuoi interessi». 

«Molte professioni possono essere percepite in termini negativi dagli studenti per stereotipi del passato. Vivere delle esperienze in cui percepiscono interesse verso quelle professioni può aiutarli a avere un futuro migliore».

Ultime news

Archivi