Negli Stati Uniti, lo Stato di New York ha aperto un’indagine per accertare se davvero la Apple Card, la prima carta di credito di Cupertino (gestita dalla banca Goldman Sachs), offra differenti limiti di credito per uomini e donne, dunque discriminando fra i generi, come riportato ad esempio dal New York Times. All’algoritmo impiegato da Goldman Sachs per valutare i singoli intestatari va dunque attribuita una discriminazione di genere?
Stando a quanto affermato in una serie di tweet dal programmatore e imprenditore danese David Heinemeier Hansson, i suoi sono di gran lunga più elevati rispetto a quelli della moglie, sebbene lui e la moglie presentino una dichiarazione dei crediti congiunta e la donna abbia un migliore “credit score”, per quest’ultima il limite di spesa è significativamente più basso. Dello stesso parere Steve Wozniak, co-fondatore di Apple.
I bias nell’Intelligenza Artificiale
Ma è impossibile sapere se la Apple Card – o qualsiasi altra carta di credito – discrimina le donne, perché gli algoritmi di solvibilità sono notoriamente opachi. I criteri utilizzati dalla Apple Card sono ora all’esame del New York State Department of Financial Service: “Qualsiasi algoritmo che intenzionalmente o non si traduce in un trattamento discriminatorio delle donne o qualsiasi altra classe protetta viola la legge di New York,” ha detto un portavoce dell’agenzia in una dichiarazione il sabato sera.
La banca ha affermato invece che ogni richiesta di erogazione viene valutata in modo indipendente, sulla base di fattori come le entrate e la cronologia legata alla situazione finanziaria (spese, debiti, guadagni e così via), aggiungendo che “Non abbiamo mai preso, e non prenderemo mai, decisioni basate su fattori come il genere“.
Eppure l’intelligenza artificiale si è dimostrata, in diversi contesti, caratterizzata da bias di genere, e si è rivelata un problema nel settore dei servizi finanziari per decenni, e non solo per le società di carte di credito, ma anche per gli istituti di credito e le banche. Questo tipo di storie sono in corso da molto tempo. L’idea è che risolve il pregiudizio perché è una macchina. Ma i codici su cui si basa il funzionamento sono ancora scritti dagli esseri umani, e gli esseri umani sono naturalmente influenzati da bias.
