Nell'epoca della sorveglianza, il profitto siamo noi

Una delle maschere dell'artista Leo Selvaggio per ingannare il riconoscimento facciale

“Le app per controllare la diffusione del virus? Dovrebbero esser gestite da istituzioni pubbliche e diventare obbligatorie come i vaccini”. Un’affermazione pragmatica, ma controintuitiva se a pronunciarla, ai primi di aprile, è stata Shoshana Zuboff, sociologa ad Harvard, massima teorica del capitalismo di sorveglianza, di cui ha scritto nell’omonimo libro best seller del 2019, un ponderoso volume di 600 pagine che descrive come le nuove forme dei capitalismo digitale abbiano trasformato la stessa natura umana nella materia prima da spolpare e mettere a profitto, così come ha fatto il vecchio capitalismo industriale con la natura e il pianeta Terra. Niente di buono insomma. L’opera di Zuboff è stata concepita e portata a termine ben prima della pandemia e del lockdown, anni prima, per dirla con il filosofo Giorgio Agamben, dello stato di eccezione in cui siamo piombati nel giro di 24 ore, accettando volontariamente forme di controllo che mai avremmo immaginato di poter tollerare solo cinque mesi fa. La parola “sorveglianza” in questi mesi si è intrecciata con le nostre vite, sia per i suoi eccessi, che per le  sue lacune: l’insufficiente sorveglianza attiva dei malati abbandonati a casa, la mancanza dei tamponi e dei test, le quarantene illimitate che, senza vero controllo, si sono trasformate in forme di coercizione ingiustificata. Tracciamento e raccolta dati possono quindi avere due facce, una buona e una cattiva, come ha mostrato la discussione sui rischi per la privacy connessi all’app Immuni, al debutto questa settimana. Anche dal punto di vista di Zuboff, alla faccia dei negazionisti no vax e complottisti da tastiera, le app di tracciamento se sono gestite da istituzioni pubbliche, nel caso di Immuni il Governo e il Ministero della Salute, servono.

Ma leggendo Il Capitalismo di sorveglianza durante le interminabili giornate di lockdown, si capisce che tutte le preoccupazioni per le app, per i posti di blocco in pianura Padana e i moduli sulla natura dei tuoi affetti stabili, o i droni che misurano il distanziamento sociale in spiaggia, sono pure contingenze. Quello che noi temiamo possa succedere è già accaduto e non abbiamo, quasi, armi di difesa. Mentre un altro pensatore di successo che ama terrorizzarci sulle prospettive catastrofiche dell’era digitale come Yuval Noah Harari ci ha mostrato come l’uomo stia diventando un tool obsoleto, Zuboff ci spiega come noi, le nostre emozioni, quello che pensiamo, o che pensiamo di pensare e di decidere, ovvero il nostro surplus  comportamentale, sia il carburante di un nuovo capitalismo di rapina in mano ad un gruppo di industriali dei big data senza scrupoli e refrattari alle regole, che rispondono al nome di Google, Facebook, e poi a seguire Amazon, Apple, Microsoft. La loro principale attività è raccogliere dati senza il nostro permesso per trasformarli, grazie ad una potenza di calcolo senza precedenti, in strumenti predittivi  da vendere alle aziende in modo da predeterminare e condizionare con una precisione sempre più millimetrica i nostri consumi. 

Un processo che ha una precisa data di inizio,  quando nel 2000 Amit Patel, ricercatore di Standford da poco assunto da Google,  si rese conto che 

«era possibile ricostruire, partendo dalle query degli utenti (numero e pattern dei dati cercati, spelling, la formulazione e la punteggiatura della ricerca effettuata on line, il tempo di sosta e la localizzazione) un rilevatore del comportamento umano».

Allora anche Yahoo era arrivato alla stessa conclusione, ma rinunciò allo sfruttamento di quei dati.  Da allora tutto è cambiato.

Nell'era dei Big Data abbiamo perso la faccia

Il futuro è già qui e non è una buona notizia. Perché ci coglie di sorpresa, come spesso accade, e poco attrezzati a fronteggiare le insidie che la nuova società degli algoritmi ci sta apparecchiando, rubandoci bit dopo bit le nostre identità sociali, economiche, persino fisiche ed emozionali. Non si parla d’altro, tra narrazione e contronarrazione, tra apocalittici visionari e ottimisti pragmatici dell’intelligenza artificiale, ma la realtà corre più veloce della nostra presa di coscienza. Salvo rari squarci. Qualche settimana fa i giovani ribelli di Hong Kong nella loro  furia iconoclasta, ma anche per un sano istinto di sopravvivenza, hanno abbattuto le torri-totem dei dispositivi di riconoscimento facciale, che in Cina colonizzano ogni ambito della vita sociale, dalla sicurezza ai consumi. Perché lì ormai la carta di credito è vintage e si paga con la scannerizzazione dei dati biometrici. E se non sei un buon pagatore te lo si legge letteralmente in faccia.

 Una bella scossa alla nostra consapevolezza, plasticamente dispiegata nello spazio dell’Osservatorio della Fondazione Prada in Galleria Vittoria Emanuele a Milano,  la dà la mostra “Training Humans” curata da una coppia di artisti-ricercatori: Kate Crawford, australiana, musicista, docente e studiosa delle implicazioni etiche dell’Ai in diverse università del mondo, e Trevor Paglen, artista americano da anni impregnato in un progetto sulla società della sorveglianza di massa. Più che una mostra è un catalogo di tutto ciò che è stato fatto negli ultimi sessant’anni nel campo del riconoscimento facciale e del machine learning, l’addestramento dell’intelligenza artificiale a classificare e riconoscere le persone. Il lavoro dei due artisti è stato innanzitutto quello di raccogliere migliaia di immagini, la maggior parte delle quali archiviate in database non destinati alla pubblicazione  e finalizzate a elaborare sistemi di riconoscimento biometrico. A partire dal Facial Recognition Project Report, realizzato dalla Cia nel 1963, che classifica migliaia di foto di volti per estrapolare pattern, a cui seguono video di  crudelissimi esperimenti su gattini condotti nel 1973 per progettare la computer vision. Video e fotografie esposti mostrano l’acquisizione di scansioni di volti, impronte digitali, stili di camminata, impronte vocali. Su una parete sono appese le sequenze di foto segnaletiche di criminali più volte arrestati nel corso della loro vita, elaborate per istruire un sistema di riconoscimento facciale che calcoli l’invecchiamento e  conservate nel National Institute of Standard americano, quello che appunto certifica gli standard e le unità di misura.