Il pregiudizio degli algoritmi

Team Comunicazione
25-08-2020

Nel mondo 35 ragazze su 100 scelgono di iscriversi a facoltà scientifiche. Tra loro ci sono matematiche, ingegneri e scienziate. Nel tempo, sta emergendo una figura professionale molto richiesta: il data scientist. Di tutte le laureate nelle materie STEM solo il 15% diventa una data scientist. È quanto emerge dal nuovo studio di Boston Consulting Group (BCG) “What’s Keeping Women Out of Data Science?” realizzato su un campione di 9.000 studenti e laureati,under-35 di 10 paesi (Australia, Canada, Cina, Francia, Germania, India, Giappone, Spagna, Stati Uniti, Regno Unito).

 

«Lo dicono i numeri: a livello globale, le donne rappresentano solo il 15% dei professionisti della data science, uno squilibrio di genere che rende monocolore un ambito come quello dell'Intelligenza Artificiale, dove l'elemento umano e la diversità che porta con sé restano fondamentali».

Laura Alice Villani, Managing Director e Partner di BCG

 

La scienza dei dati, come la maggior parte dei campi STEM, ha ancora un problema scoraggiante di diversità di genere. Mentre le donne costituiscono, in media in tutti i Paesi, circa il 55% dei laureati, le donne rappresentano poco più di un terzo delle laureate STEM. Da questo prezioso pool di talenti, solo due terzi passano a una carriera in un campo legato alla STEM come l'ingegneria, l'analisi o lo sviluppo di software, e ancora meno passano a una carriera nella scienza dei dati. Il consenso tra i vari sondaggi è che solo dal 15% al 22% circa di tutti i professionisti in ruoli legati alla scienza dei dati sono donne.

 

 

Eppure nella costruzione di team, il raggiungimento di una diversità di approcci e punti di vista non è solo auspicabile - è fondamentale. L'interpretazione delle relazioni causali e delle correlazioni in grandi insiemi di dati richiede sottigliezza e sensibilità. E ci sono effetti negativi quando tali applicazioni sono utilizzate nei processi di gestione delle risorse umane e del personale, come l'assunzione o la valutazione delle prestazioni. Gli algoritmi di AI che si basano su dati storici (come le decisioni di assunzione passate di un'azienda, ad esempio o influenzando il divario nella pipeline di leadership) sono suscettibili di imparare e perpetuare i pregiudizi esistenti.  Amazon ha scoperto che un algoritmo sviluppato come strumento di assunzione penalizzava le donne: i dati su cui si basava erano stati raccolti da dieci anni di curriculum, per lo più maschile. Questo, naturalmente, è un altro motivo per cui è così importante aumentare la percentuale di donne nello sviluppo dell'IA.

La costruzione di tali algoritmi, come sostiene l'articolo del BCG "How AI Could Help-or Hinder-Women in the Workforce", ci vuole un team diversificato di uomini e donne per garantire che i modelli che sono suscettibili di pregiudizi producano risultati accurati ed equilibrati, che rispettino la parità di genere.

 

Le conseguenze del gender gap nella data science

Secondo BCG, la scarsa presenza di data scientist donna rappresenta quindi un rischio per la competitività e la crescita sostenibile delle economie e per la qualità dell’intelligenza artificiale perché inficia l’analisi oggettiva dei dati e le decisioni che si prendono basandosi su di essi. Le aziende cercano i data scientist e li trovano con difficoltà. La presenza di più donne scienziate dei dati aiuterebbe a colmare questa penuria che non permette alle imprese di avere competenze sufficienti per sfruttare a pieno le potenzialità dell’Ai ed eliminare quegli elementi di “pregiudizio” negli algoritmi grazie alla diversity dei professionisti dei dati.

Il trend negativo femminile, secondo Bcg, si interromperà se lo stereotipo lavorativo si adeguerà agli interessi e alle attitudini di una diversità di lavoratori. Ad esempio, le aziende dovranno modificare le tecniche di recruiting  favorendo la collaborazione. Dovrà migliorare anche la comunicazione del valore aggiunto e dell’utilità pratica del lavoro di data scientist (il 45% delle donne si dice poco informata sulle caratteristiche e finalità di questa professione).

 

 

Associarsi
Entra in un network di oltre 200 aziende, accedi a esclusivi percorsi di formazione e scambia best practice con le altre imprese associate.
scopri di più
ENG