La Matematica esige scelte morali che abbiano un valore positivo. Le armi di distruzione matematica aggravano e perpetuano le ingiustizie nei confronti dei poveri.
Recensione: Cathy O’ Neil, Armi di distruzione matematica. Come i Big Data aumentano la disuguaglianza e minacciano la democrazia, Bompiani, 2017 (Weapons of Math Destruction. How Big Data increases Inequality and Threatens Democracy, Copyright © 2016 by Cathy O’ Neil)
Premessa
Fin dall’antichità nel nostro mondo la matematica è nata per costruire. La sua essenza non si riduce a mero calcolo. È densa di valore umano. Purtroppo se ne può fare un uso perverso. La si può forzare a distruggere. Lo documenta e lo stigmatizza Cathy O’ Neil.
L’Autrice
Studia Matematica ad Harvard e al MIT – Massachusetts Institute of Technology, Diviene docente universitaria. Decide poi di dedicarsi all’e-commerce con una società di investimento. Da questa passa a un gruppo di analisi del rischio economico-finanziario. Giunge ad addentrarsi nella Internet Economy come Data Scientist. Nonostante le ottime retribuzioni, sono per lei tutte esperienze deludenti. Diviene quindi esponente del movimento Occupy Wall Street. Suo il sito mathbate.org.
Contro i “dettami degli dei algoritmici”
Nell’introduzione l’Autrice riferisce sul Distretto Scolastico di Washington. Vi si fa uso di sistemi algoritmici per misurare il rendimento dei docenti. Ne deriva l’effetto iniquo del licenziamento dei docenti più validi. Esemplare in tal senso il caso di Sarah Wysocki. Professoressa fra le migliori, viene giudicata incapace da un algoritmo. Per fortuna la riassume in servizio un’istituzione scolastica per ricchi. L’ambiente povero ove operava ha perduto così un’ottima insegnante. In genere tutti i test di valutazione dei docenti sono inadeguati.
Modellizzare il reale
È possibile elaborare modelli matematici predittivi nei più diversi campi. Tuttavia nessun modello è necessariamente perfetto. Di qui gli effetti perversi nei campi più delicati. Uno di questi, come si è detto, è il campo della scuola, ove imperfetto è il modello con cui si presume di poter valutare i docenti sulla base dei risultati ottenuti dai loro allievi nei test. Un altro è il campo della giustizia, ove i dati da elaborare sono desunti da questionari che i detenuti sono tenuti a compilare per stabilire se siano recidivi. Un altro ancora è il campo dell’economia, sul quale l’Autrice è in grado di riferire per diretta esperienza. In forma autobiografica documenta i modi in cui i calcoli non sono in grado di impedire il crollo dei mercati, mentre favoriscono la fortuna dei lobbisti. Risalta fra l’altro la concessione di prestiti al massimo degli interessi a danno degli afroamericani. Ancora una volta sono i più poveri a soffrire. Il disagio etico dell’Autrice va crescendo:
“Cresceva la mia angoscia per la separazione fra i modelli tecnici e le persone in carne e ossa, e per le ripercussioni morali di questa separazione”
Conseguenze distruttive delle classifiche di eccellenza
L’Autrice riferisce su un progetto messo in atto dalla Rivista US News. Si tratta di valutare college e università statunitensi e stilare una classifica di eccellenza. Il modello è rigido. Non si sa quali siano i fattori e le variabili oggetto di quantificazione. I feedback sono distruttivi. La competizione degenera in vera e propria guerra. Le istituzioni cercano di difendersi truccando i dati. Oppure si rivolgono a società di consulenza per migliorare in graduatoria. Diventa fiorente e redditizio il mercato degli aggiramenti algoritmici. Intanto resta un tabù l’eventuale messa a disposizione dei dati per i soggetti interessati.
Propaganda online e mercato dei dati personali
Ormai le persone, ridotte ad acquirenti da plagiare, sono spiate in rete. Per calamitarle, occorre conoscere le loro aspettative. In questo dominio si ricorre al metodo di analisi che vien detto bayesiano. Metodo che non garantisce il raggiungimento di quell’oggettività da tanti decantata. Il calcolo delle probabilità resta aleatorio. Nonostante ciò, questa via continua ad essere seguita. Per ottimizzare i database si va alla ricerca di metodi di apprendimento automatico computerizzato. Ne derivano iniquità. Un caso particolare è quello dei college e dei cosiddetti atenei for profit, in realtà diplomifici, che riescono ad attrarre i soggetti più vulnerabili, quelli delle classi più povere.
Iniquità dei modelli per prevenire i crimini
Anche nel campo giudiziario si fa largo uso di modelli matematici. Il modello PredPol è predisposto per monitorare e prevedere anche i reati minori. Reati anche di scarsa entità, che si verificano con maggiore frequenza nei quartieri più degradati. Così l’indice di pericolosità sociale per i reati minori aumenta in misura maggiore rispetto a quello dei reati più gravi. Perciò nei confronti delle minoranze etniche ivi presenti, quelle degli afroamericani in particolare, vi è tolleranza zero. I crimini dei signori della finanza invece sfuggono. L’alleanza banchieri-politici resta intatta. Fatto sta che l’imparzialità non è codificabile.
Selezione del personale per il mercato del lavoro
Altro campo di azione per le armi di distruzione matematica è quello del lavoro. Società come la Kronos vendono batterie di test alle aziende, che se ne servono per la selezione del personale. Ne derivano ipotesi inappellabili, sottratte ad ogni verifica, senza alcunché di seriamente predittivo. Non mancano conseguenze giudiziarie. I test di intelligenza sono stati dichiarati illegali in diversi Stati. Sostituiti da test di personalità, hanno continuato ad essere ingiustamente discriminatori a danno dei soggetti più deboli.
Orari di lavoro e conseguenze esistenziali
Per l’impiego ottimale della forza lavoro si ricorre a software di programmazione degli orari. Sono programmi di scienza gestionale o ricerca operativa analoghi a quelli per uso bellico. Questo tipo di programmazione comporta conseguenze esistenziali negative per i lavoratori e le loro famiglie. La vita di chi lavora è subordinata alle esigenze del profitto. Siamo di fronte a una forma di schiavitù informatica.
Efficienza industriale e produzione di idee
I trattamenti disumani non impressionano le aziende. Ciò che conta è migliorare l’efficienza industriale. A tale scopo si rende necessario anche avvalersi di un team qualificato per l’ottimizzazione del prodotto. Una produzione ottimale dipende dalla capacità ideativa del team. Esistono anche software per valutare la “capacità di produrre idee”. Sono software tarati per testare singoli individui. Sennonché il team più efficiente risulta anche quello più socievole. L’aumento della capacità ideativa dovuto alle interazioni fra individui sfugge al software. Intanto stenta ad affermarsi il giudizio di inaffidabilità delle statistiche, dovuta al paradosso di Simpson. Vengono ignorate quelle variabili nascoste che potrebbero rovesciare i risultati acquisiti con le sole variabili palesi.
Gli errori dei supercomputer
Dall’automatismo all’efficienza e dall’efficienza al profitto: questo il mito del nostro tempo. Ci si affida perciò ai supercomputer tipo Watson. Eppure nemmeno un supercomputer è esente da errori. Ad esempio, se si imbatte in casi di omonimia, il che è più frequente di quanto si possa credere, il supercomputer non è in grado di distinguere una persona dall’altra. Una volta avvenuti, gli errori tendono a perpetuarsi. In ogni caso la verifica umana resta indispensabile.
Altri effetti perversi
Nel mondo bancario ci si affida ai punteggi elettronici per valutare l’affidabilità creditizia. L’assunzione di personale è subordinata a questa verifica di affidabilità. Verifica solo in apparenza oggettiva Tale metodo è stato dichiarato illegale in diversi Stati, ma non in tutti. Effetti perversi delle armi di distruzione matematica si riscontrano insomma nei più svariati settori, fra cui particolarmente delicati sono il medico sanitario e l’assicurativo.
La privazione di privacy
Le vite di noi persone, come si è già ricordato, sono spiate di continuo. Prendiamo Facebook. Raccoglie dati in base ai quali seleziona chi vedrà e chi non vedrà un dato messaggio. L’informazione in rete viene manipolata. Le notizie fasulle – fake news secondo la dilagante moda linguistica degli anglicismi – non vengono verificate. Questa informazione manipolata finisce con l’influenzare le più importanti decisioni individuali, ad esempio quelle del voto elettorale. Così dal “cittadino targettizzato” discende la crisi della democrazia.
Dalla distruzione alla costruzione matematica
L’Autrice conclude con proposte costruttive. Ricorda il giuramento informatico elaborato nel 2008 da due ingegneri finanziari alla stregua di quello ippocratico. Bisogna impegnarsi per imporre valori umani contro i “dati vicarianti”. Occorre il coraggio di compiere “scelte morali” che abbiano un valore positivo:
“La matematica merita ben altro di queste armi di distruzione, e altrettanto la democrazia”.
Riflessioni a margine
La scelta esemplare di Cathy O’ Neil
I punti enucleati in questa recensione sono una pallida immagine della documentata analisi compiuta nel volume. Si tratta di un’opera fondamentale, sulla quale meditare per agire. In Cathy O’ Neil è da apprezzare il coraggio intellettuale. La sua denuncia ha il peso di una testimonianza autobiografica. Lei avrebbe potuto integrarsi in quel mondo informatico. Invece ha scelto di rivendicare il valore etico della matematica.
Dalla realtà statunitense alla realtà italiana
La diagnosi effettuata da Cathy O’ Neil proviene dalla realtà statunitense. Realtà in cui le armi di distruzione matematica aggravano e perpetuano le ingiustizie nei confronti dei poveri. L’America di Donald Trump deve essere valutata alla luce di queste informazioni sugli usi perversi dell’informatica. Nel contempo bisogna prendere atto della resistenza di valori umanistici in quel contesto. Resistenza che dovrebbe suscitare una presa di coscienza nel contesto europeo e in particolar modo in Italia. Intendere l’informatica in modo distorto costituisce un pericolo da scongiurare.
Matematica per la civilizzazione
Qualcuno, non ricordo però chi, ha affermato che il destino della civiltà sul pianeta è affidato ai matematici. L’uomo del nostro tempo, come canta Salvatore Quasimodo, è ancora quello della pietra e della fionda. Alla materialità delle armi primitive è subentrata la virtualità ancor più distruttiva delle armi matematiche e informatiche. È indispensabile prendere posizione a favore di un uso etico di queste branche del sapere umano. I docenti di matematica possono essere i nuovi umanisti. È la scuola che prepara il futuro.
Schiavitù informatica
Il revival del pensiero di studiosi come Karl Marx va incontro a giudizi negativi a causa delle degenerazioni storiche del marxismo. Resta però il fatto che a Karl Marx si deve la denuncia della schiavitù dei lavoratori. Schiavitù che viene ribadita e aggravata dalle odierne armi di distruzione matematica. Riflettendo su queste, viene in mente anche l’attuale impegno di Angela Davis. Intervistata da Manuela Cavalieri e Donatella Mulvoni per “L’Espresso”, 21 giugno 2020, l’attivista fra l’altro dichiara:
“Credo che oggi più che mai sia importante sollevare critiche al capitalismo. È necessario spostarci verso un sistema economico e sociale più giusto, equo.”
È necessario quindi impegnarsi affinché con matematica e informatica si passi dal distruggere al costruire.
Economia ed etica nella situazione italiana
In Italia è in atto un processo di imitazione degli aspetti matematici distruttivi diffusi nella società statunitense. Vengono elaborati modelli più o meno velatamente oppressivi. Modelli funzionali al profitto a scapito dei valori morali. Si ha l’impressione che le voci degli umanisti a tal riguardo si siano affievolite. È giunto il momento in cui tocca ai nostri docenti di matematica far sentire le loro voci a difesa dell’umanità.
Apparizione e scomparsa di un giuramento
Nel testo di Cathy O’ Neil il giuramento informatico stilato da due ingegneri nel 2008 è riportato. Non lo si ritrova in rete. Ci si aspetterebbe di ritrovarne in rete qualche altra versione.
Se si va su scikingpc.eu ci si imbatte in una insulsa parodia, sulla quale non è proprio il caso di soffermarsi.
Su books.google.it nel paragrafo La testimonianza e le prove informatiche dal volume Le prove informatiche nel processo civile di Filippo Novario c’è solo qualche accenno al giuramento. Non si tratta però di giuramento nel senso ippocratico.
Su reddit.com si legge:
“Giuramento di Ippocrate per matematici e informatici. Potrebbe riportare in po’ di etica nella tecnologia?
Sorry, this post was deleted by the person who originally posted it.
It doesn’t appear in any feeds, and anyone with a direct link to it will see a message like this one.”
Su ilpost.it si trova il punto della questione, ancorché in forma interrogativa. Un giuramento di Ippocrate per i matematici? è il titolo di un problematico intervento di Maurizio Codogno (2019). In fine di intervento si rinvia a un editoriale su theguardian.com dal titolo The Guardian view on ethics for mathematicians: an essential addition. Piace qui concludere col sottotitolo dell’editoriale:
“Science may be morally neutral but scientists can’t be. They need to take seriously the ethical consequences of their work.”
COMMENTS