Sorveglianza digitale

Società digitali, razzismo e controllo

 di Silvia Ribeiro (*); da: lahaine.org; 7.6.2020

La pandemia è stata la scusa perfetta per andare avanti a passi da gigante nei meccanismi imprenditoriali e governativi di vigilanza e controllo della popolazione in molte parti del mondo.

E’ una situazione che rappresenta un problema in se stessa ma porta con sé aspetti nascosti, tanto o più inquietanti come la gestione dei nostri dati per indurci a comportamenti di consumo o di scelte politiche, tra altro.

Con la scusa che per il controllo della pandemia è necessario sapere chi sono e dove sono i contagiati (cosa che potrebbe anche essere positiva), sono state prodotte più di 40 app elettroniche di monitoraggio. Sono commerciali, a volte patrocinate da governi che hanno imposto il loro uso obbligatorio alla popolazione, come in Cina o in Australia. Nella maggior parte dei casi invece i governi consigliano alla popolazione di usare qualche applicazione, spesso sviluppata in collaborazione con istituzioni governative. In un articolo precedente avevo citato il fatto che Google e Apple, classici concorrenti, si sono messi d’accordo per sviluppare e offrire un’applicazione di questo tipo (https://tinyurl.com/y9b2nhoa).

Nonostante queste applicazioni vengano ora promosse nel contesto della pandemia di Covid-19, esse possono essere utilizzate per molti altri fini.

Ad esempio, a partire dalle proteste per l’assassinio razzista di George Floyd da parte della polizia USA, il sovrintendente alla Pubblica Sicurezza del Minnesota, John Harrington, ha annunciato che i dati raccolti tramite le applicazioni di monitoraggio, le videocamere ecc. sarebbero stati usati  per identificare le persone che protestavano, con chi si univano, cosa facevano, dove andavano, se erano terroristi o appartenenti al crimine organizzato ecc. ecc. Harrington ha così rivelato che le autorità possono raccogliere le informazioni dei sistemi di monitoraggio elettronico – privati e pubblici – e che questi vengono accumulati in basi-dati che forniscono i profili di ogni persona incrociando e interpretando le informazioni. Data la quantità di dati che è necessario gestire, questi profili sono costruiti da programmi di intelligenza artificiale, i cui algoritmi sono programmati da persone concrete.

Per far questo si basano su dati reali già esistenti, per cui riproducono valori razzisti, patriarcali, sessisti e discriminatori dei poveri, dei migranti, ecc.

Con l’assassinio di George Floyd è stato diffuso uno studio che mostra come una persona nera ha tre volte più possibilità che la polizia la uccida rispetto ad una bianca. Questo, tradotto in dati, fa sì che l’algoritmo non registra la violenza poliziesca ma che la popolazione afroamericana (o latina, giovane, migrante, ecc.) è più pericolosa, più tendente ad essere criminale, che si unisce ai suoi simili, ecc.

Ci sono vari studi su queste parzialità dei sistemi di intelligenza artificiale. Anche se si tratta di una cosa ingiusta e preoccupante, è comunque solo un aspetto del problema ed è importante vedere l’insieme dei rischi che comporta l’onnipresenza delle piattaforme digitali nelle nostre vite.

Le crescenti proteste sulle parzialità degli algoritmi probabilmente obbligheranno le aziende a correggerli, ma non è detto che lo facciano e che non ne commetteranno altre nuove. 

Al di là della vigilanza ad uso delle autorità, il fine chiave delle piattaforme digitali (perché si tratta di quello che più soldi porta loro e che le ha reso miliardarie) è la raccolta permanente di dati su ognuno di noi, sulle nostre famiglie e i nostri amici, sulle nostre scelte di ogni tipo (di consumo, politiche, estetiche, sessuali e molto altro).

Non solo quello che scriviamo sulle reti sociali e diciamo in pubblico. Quello che queste società raccolgono è molto più di quanto crediamo di condividere.

Oltre a ciò che esprimiamo con le parole, esiste una enorme industria di raccolta di dati e di nuove analisi biometriche che analizzano al millimetro le diverse espressioni colte nelle foto, nei video, nelle telecamere e sistemi che interpretano queste microespressioni, connettendole con luoghi, situazioni, emozioni, reazioni a messaggi, ecc.

A sua volta Facebook (e altre reti) integrano queste analisi con profili psicologici e geo-referenziati, che gli permettono di offrire al miglior offerente - commerciale o politico - i dati di milioni di persone per gruppi di età, sesso, quartiere, capacità di acquisto, preferenze.

Con la pandemia, spiega Naomi Klein,  i lobbysti delle più grandi piattaforme digitali sono stati molto attivi nel chiedere ai governi di semplificare le procedure e costruire rapidamente le infrastrutture che permettano di espandere le loro reti ad ogni angolo della terra. Affermano che la pandemia ha permesso loro di realizzare un vero “esperimento nell’educazione e nell’attenzione per la salute virtuale, e che possono così sostituire milioni di maestri e di personale sanitario”.

Hanno raccolto un volume indescrivibile di nuovi dati sugli studenti di ogni livello e su pazienti e sistemi di salute che aggiungono alle loro banche dati. In molti casi, come succede anche in Messico, gli stessi governi cedono a queste società la gestione dei dati su educazione e salute.

Come dice Naomi Klein, si tratta di una vera dottrina dello shock nel nuovo capitalismo della vigilanza.

(*) Ricercatrice e giornalista uruguayana, responsabile dei programmi messicani del Gruppo ETC (Gruppo di Azione sull’Erosione, la Tecnologia e la Concentrazione) 

(traduzione di Daniela Trollio

 Centro di Iniziativa Proletaria “G.Tagarelli”

 Via Magenta 88, Sesto S.Giovanni)