Imperativi del Capitalismo di sorveglianza

27 Febbraio 2020 – RENOVATIO 21 – 16-22 minutes

Elementi di Capitalismo di sorveglianza

Renovatio 21 pubblica alcuni estratti di un articolo di capitale importanza scritto per il New York Times da Shoshana Zuboff, docente universitario ad Harvard. Il suo libro Il capitalismo della sorveglianza è testé stato tradotto anche in italiano.

Le riflessioni della professoressa Zuboff sono di immane importanza per il futuro delle nostre vite personali nella società tecnologica. Vi torneremo ancora perché riteniamo che una delle più grandi minacce per la dignità umana nel XXI secolo sia, senza ombra di dubbio, la rete informatica.

Le menzogne da parte dei CEO e dei manager delle varie Corporation della soverglianza sono qui dettagliate in profondità. Esiste, ci pare ovvio, un doppio registro: da una parte, ci parlano di privacy, diritti etc.; dall’altra agiscono in senso totalmente opposto impadronendosi dei nostri dati e sfruttandoli in modo forsennato.

Le questioni poste dalla Zuboff nel suo seminale articolo sul New York Times sono di portata abissale; l’idea del loop formato dagli algoritmi predittivi e dalle nuove tecnologie di persuasione – per cui la multinazionali informatiche ti conoscono, e ti manipolano – è qualcosa che deve interrogarci non solo su un piano filosofico ma anche su un piano propriamente politico.

C’è da chiedersi, infine, quale sia il passo ulteriore. Dopo le multinazionali, com’è possibile che non sia lo Stato stesso a pretendere il controllo algoritmico, predittivo, totalizzante dei nostri comportamenti?

È una domanda che ci facciamo all’indomani dell’approvazione presso il Parlamento italiano dell’uso di trojan, cioè software spia, nei telefoni dei cittadini.

Il lettore sia avvertito: nessuna sua conversazione, nemmeno quelle di WhatsApp (soprattutto quelle di WhatsApp), nemmeno quelle fatte a telefono spento (i trojan possono accedere al microfono anche se spegni lo smartphone) potrà essere al riparo in caso di intercettazione.

Senza contare che l’algoritmo predittivo, applicato dallo Stato, può un giorno arrivare a rendere punibili le intenzioni e non i reati – basta sventolare sotto il naso di giudici e opinione pubblica una statistica, e algoritmi utilizzati nei tribunali americani per comminare pene in base alla recidività già sono oggetto di vaste critiche.

La società distopica dipinta nel racconto di Philip K. Dick Minority Report (poi divenuto film di Steven Spielberg con Tom Cruise) è già realtà: il crimine può essere previsto, quindi prevenuto e punito anzitempo. E non solo il crimine: ogni nostro comportamento. Il consumo di prodotti, il voto, le credenze religiose, le preferenze affettive. Previsto, e, di conseguenza, manipolato. Come abbiamo già riportato, qualcuno parla già di social media per l’accoppiamento su base genetica – o meglio eugenetica.

Incredibilmente, il primo partito del Paese – quel Movimento 5 Stelle che tanto si sta dimostrando amico della Cina, superpotenza sperimentale della sorveglianza totale sul cittadino – su qualcosa sembra volere mantenere la parola: la creazione di una società della trasparenza assoluta, dove le intercettazioni non hanno più limiti, come nemmeno nelle fantasie orwelliane.

Siamo dinanzi, né più, né meno, alla prospettiva di una società di controllo totale.

La spinta tecno-giustizialista dei 5 stelle, sicuramente animata dalla spinta manettara dei vari Grillo-Travaglio-Di Pietro (i quali tutti, c’è da notare, hanno avuto a che fare con Casaleggio senior) ora può divenire realtà con il semaforo verde della Camera al provvedimento che regola l’utilizzo dei trojan, «captatori informatici» in grado di trasformare ogni telefono in una cimice per lo spionaggio totale.

Come riescano a garantire l’iniezione di un trojan nel telefono dei cittadini e al contempo parlare di «privacy» e dati «sensibili» è un mistero che riusciamo a capire meglio leggendo della lingua biforcuta dei vari Google e Facebook così come documenta qui sotto la professoressa Zuboff.

Il Capitalismo di Sorveglianza è qui. Lo Stato di sorveglianza pure.

Da un mondo dominato dagli algoritmi e dai Big Data che noi stesso offriamo loro in pasto, chi si salverà?

Tradotto da Renovatio 21, tratto da

Da «You are remotely controlled», New York Times 24 gennaio 2020

È probabile che questo terzo decennio sia decisivo per il nostro destino. Miglioreremo il futuro digitale o ci peggiorerà? Sarà un posto che possiamo chiamare casa? La disuguaglianza epistemica non si basa su ciò che possiamo guadagnare, ma piuttosto su ciò che possiamo imparare. È definito come accesso diseguale all’apprendimento imposto da meccanismi commerciali privati di acquisizione, produzione, analisi e vendita delle informazioni. È meglio esemplificato nell’abisso in rapida crescita tra ciò che sappiamo e ciò che si sa di noi. La società industriale del ventesimo secolo era organizzata attorno alla «divisione del lavoro», e ne seguì che la lotta per l’uguaglianza economica avrebbe modellato la politica di quel tempo. Il nostro secolo digitale sposta le coordinate della società da una divisione del lavoro a una “divisione dell’apprendimento”, e ne consegue che la lotta per l’accesso alla conoscenza e il potere conferito da tale conoscenza modellerà la politica del nostro tempo. La lotta per l’accesso alla conoscenza e il potere conferito da tale conoscenza modellerà la politica del nostro tempo

La nuova centralità della disuguaglianza epistemica segnala un passaggio di potere dalla proprietà dei mezzi di produzione, che ha definito la politica del 20° secolo, alla proprietà della produzione di significato. Le sfide della giustizia epistemica e dei diritti epistemici in questa nuova era sono riassunte in tre domande essenziali su conoscenza, autorità e potere: chi lo sa? Chi decide chi lo sa? Chi decide chi decide chi lo sa?

Negli ultimi vent’anni, i principali capitalisti della sorveglianza – Google, seguito da Facebook, Amazon e Microsoft – hanno contribuito a guidare questa trasformazione della società assicurando contemporaneamente la loro ascesa al vertice della gerarchia epistemica. Hanno agito nell’ombra per accumulare enormi monopoli di conoscenza, prendendo senza chiedere, una manovra che ogni bambino riconosce come furto. Il capitalismo della sorveglianza inizia definendo unilateralmente l’esperienza umana privata come materia prima gratuita da tradurre in dati comportamentali. Le nostre vite sono come flussi di dati.

All’inizio, è stato scoperto che, all’insaputa degli utenti, anche i dati forniti gratuitamente generavano ricchi segnali predittivi, un surplus che è più del necessario per il miglioramento del servizio. Non è solo ciò che pubblichi online, ma se usi punti esclamativi o la saturazione del colore delle tue foto; non solo dove cammini, ma la curva delle tue spalle; non solo l’identità del tuo viso ma gli stati emotivi trasmessi dalle tue «microespressioni»; non solo quello che ti piace, ma la scia di «Mi piace» che lasci. Questo surplus comportamentale è stato segretamente ricercato e catturato, subito rivendicato come dati riservati.

I dati vengono trasmessi attraverso complesse filiere di dispositivi, software di localizzazione e monitoraggio ed ecosistemi di app e aziende specializzate in flussi di dati di nicchia acquisiti in segreto. Ad esempio, i test del Wall Street Journal hanno dimostrato che Facebook riceve i dati sulla frequenza cardiaca dall’Instant Heart Rate: HR Monitor, dati sul ciclo mestruale dal Flo Period & Ovulation Tracker e dati che rivelano interesse per le proprietà immobiliari da Realtor.com – tutto all’insaputa dell’utente.

Questi dati confluiscono nelle fabbriche computazionali dei capitalisti della sorveglianza, chiamate «intelligenza artificiale», dove vengono trasformate in previsioni comportamentali che ci riguardano, ma non sono per noi. Invece, sono vendute a clienti business in un nuovo tipo di mercato che commercia esclusivamente futures umani. La certezza negli affari umani è la linfa vitale di questi mercati, in cui i capitalisti di sorveglianza competono sulla qualità delle loro previsioni. Questa è una nuova forma di commercio che ha dato vita ad alcune delle aziende più ricche e potenti della storia.

Per raggiungere i loro obiettivi, i principali capitalisti della sorveglianza hanno cercato di stabilire un dominio senza rivali sul 99,9 per cento delle informazioni del mondo ora rese in formati digitali che hanno contribuito a creare. Il capitale di sorveglianza ha costruito la maggior parte delle principali reti informatiche , data center, popolazioni di server, cavi di trasmissione sottomarini, microchip avanzati e intelligenza artificiale all’avanguardia, innescando una corsa agli armamenti per circa 10.000 specialisti del pianeta capaci di ricavare la conoscenza da questi vasti nuovi continenti di dati.

Con Google in testa, i migliori capitalisti della sorveglianza cercano di controllare i mercati del lavoro facendo uso di competenze critiche, compresa la scienza dei dati e la ricerca sugli animali, eludendo concorrenti come start-up, università, scuole superiori, comuni, corporazioni stabilite in altri settori e paesi meno abbienti. Nel 2016, nel 57 percento dei dottorati di ricerca in informatica americani, i laureati hanno ottenuto posti di lavoro nell’industria, mentre solo l’11% ha ottenuto una cattedra nella facoltà. Non è solo un problema americano. In Gran Bretagna, gli amministratori universitari lamentano una «generazione mancante» di data scientist. Uno scienziato canadese sottolinea: «Il potere, la competenza, i dati sono tutti concentrati nelle mani di poche aziende».

Google ha creato i primi mercati incredibilmente redditizi per scambiare futures umani, ciò che ora conosciamo come pubblicità mirata online, in base alle previsioni su quali annunci pubblicitari interesserebbero ai consumatori. Tra il 2000, quando la nuova logica economica stava emergendo, e il 2004, quando la società divenne pubblica, i ricavi aumentarono del 3590%.

Questo numero sorprendente rappresenta il «dividendo di sorveglianza». Ripristina rapidamente i capitali degli investitori, guidando infine start-up, sviluppatori di app e aziende affermate per spostare i loro modelli di business verso il capitalismo della sorveglianza. La promessa di una corsia preferenziale per le entrate smisurate derivanti dalla vendita di future umani ha spinto questa migrazione prima su Facebook, poi attraverso il settore tecnologico e ora in tutto il resto dell’economia verso i settori più disparati come assicurazioni, vendita al dettaglio, finanza, istruzione, assistenza sanitaria, settore immobiliare, intrattenimento e ogni prodotto che inizia con la parola «smart» o servizio proposto come «personalizzato».

Perfino la Ford, la culla dell’economia di produzione di massa del XX secolo, sta imboccando la strada del capitalismo della sorveglianza, a costo di rischiare il crollo delle vendite di auto reinventando i veicoli Ford come un «sistema operativo di trasporto». Come ha affermato un analista, Ford «potrebbe fare una fortuna monetizzando i dati. Non avranno bisogno di ingegneri, fabbriche o intermediari per farlo. Quasi tutto è puro profitto»

Imperativi del Capitalismo di sorveglianza

Gli imperativi economici del capitalismo di sorveglianza furono perfezionati nella competizione per vendere certezza. All’inizio era chiaro che l’intelligenza artificiale doveva nutrirsi di volumi di dati, spingendo le economie di scala verso l’estrazione dei dati. Alla fine si è capito che il volume è necessario ma non sufficiente. I migliori algoritmi richiedono anche varietà di dati – economie di scopo.

Questa consapevolezza ha contribuito a guidare la «rivoluzione mobile» inviando gli utenti nel mondo reale armati di fotocamere, computer, giroscopi e microfoni incorporati all’interno dei loro nuovi telefoni intelligenti.

Nella lotta per la supremazia, i capitalisti della sorveglianza vogliono la tua casa e ciò che dici e fai tra le sue mura. Vogliono la tua auto, le tue condizioni mediche e gli spettacoli in streaming; la tua posizione, nonché tutte le strade e gli edifici sul tuo percorso e tutti i comportamenti di tutte le persone nella tua città. Vogliono la tua voce, ciò che mangi e ciò che acquisti; il tempo di gioco dei tuoi figli e la loro istruzione; le onde cerebrali e il flusso sanguigno. Niente è esente.

La diversa conoscenza di noi produce un potere diverso su di noi, e così la disuguaglianza epistemica si allarga per includere la distanza tra ciò che possiamo fare e ciò che può essere fatto a noi. I data scientist lo descrivono come il passaggio dal monitoraggio all’attuazione, in cui una massa critica di conoscenze su un sistema di macchine consente il controllo a distanza di quel sistema.

Ora le persone sono diventate bersagli per il controllo remoto, poiché i capitalisti della sorveglianza hanno scoperto che i dati più predittivi derivano dall’intervento sui comportamenti per mettere a punto, radunare e dirigere l’azione verso obiettivi commerciali.

Questo terzo imperativo, «economia di azione», è diventato un’arena di intensa sperimentazione. «Stiamo imparando a scrivere la musica», ha detto uno scienziato, «e poi lasciamo che la musica li faccia ballare».

Questo nuovo potere «di farci ballare» non impiega soldati per minacciare con il terrore e l’omicidio. Arriva portando un cappuccino, non una pistola.

È un nuovo potere «strumentista» che attua la sua volontà attraverso l’onnipresente strumentazione digitale per manipolare segnali subliminali, comunicazioni psicologicamente mirate, imporre architetture di scelta predefinita, innescare dinamiche di confronto sociale e riscuotere ricompense e punizioni – tutto mirato a sintonizzare, radunare e modificare a distanza il comportamento umano verso risultati redditizi e sempre studiato per preservare l’ignoranza degli utenti.

Abbiamo visto la conoscenza predittiva trasformarsi in potere strumentale negli esperimenti di contagio di Facebook pubblicati nel 2012 e 2014, quando ha diramato segnali subliminali e manipolato confronti sociali sulle sue pagine, prima per influenzare gli utenti a votare alle elezioni di medio termine e in seguito per far sentire le persone più tristi o più felici.

I ricercatori di Facebook hanno celebrato il successo di questi esperimenti rilevando due risultati chiave: che era possibile manipolare gli spunti online per influenzare il comportamento e i sentimenti del mondo reale e che ciò poteva essere realizzato bypassando con successo la consapevolezza degli utenti.

Nel 2016, il gioco di realtà aumentata incubato da Google, Pokémon Go, ha testato le economie d’azione per le strade. I giocatori del gioco non sapevano di essere pedine nel vero gioco della modifica del comportamento a scopo di lucro, poiché i premi e le punizioni delle creature immaginarie di caccia venivano usati per mandare le persone da McDonald’s, Starbucks e a pizzerie locali che pagavano la compagnia , esattamente nello stesso modo in cui gli inserzionisti online pagano per «fare clic» sui loro siti Web.

Nel 2017, un documento trapelato da Facebook e acquisito da The Australian ha rivelato l’interesse della società nell’applicare le «intuizioni psicologiche» dai «dati interni di Facebook» per modificare il comportamento degli utenti.

Gli obiettivi erano 6,4 milioni di giovani australiani e neozelandesi. «Monitorando post, immagini, interazioni e attività su Internet in tempo reale –hanno scritto i dirigenti –Facebook può capire quando i giovani si sentono”stressati”, “sconfitti”, “sopraffatti”, “ansiosi”, “nervosi”, “stupidi”, “sciocchi”, “inutili” e “falliti”».

Questa profondità di informazioni, hanno spiegato, consente a Facebook di individuare il periodo di tempo durante il quale un giovane ha bisogno di un «aumento della fiducia» ed è più vulnerabile a una specifica configurazione di segnali e trigger subliminali. I dati vengono quindi utilizzati per abbinare ogni fase emotiva a messaggi pubblicitari appropriati per la massima probabilità di vendite garantite.

Facebook ha negato queste pratiche, sebbene un ex product manager abbia accusato la società di «mentire spudoratamente». Il fatto è che in assenza di trasparenza aziendale e controllo democratico, regna la disuguaglianza epistemica. Loro sanno. Decidono chi lo sa. Decidono chi decide.

L’intollerabile svantaggio di conoscenza del pubblico è acuito dalla perfezione delle comunicazioni di massa dei capitalisti di sorveglianza come manipolazione. Due esempi sono illustrativi. Il 30 aprile 2019 Mark Zuckerberg ha fatto un sorprendente annuncio durante la conferenza annuale degli sviluppatori dell’azienda, dichiarando: «Il futuro è privato».

Alcune settimane più tardi, un avvocato di Facebook si è presentato davanti a un giudice distrettuale federale in California per difendere la società da una causa di un utente sull’invasione della privacy, sostenendo che l’atto stesso di utilizzare Facebook annulla ogni ragionevole aspettativa di privacy «come una questione di diritto».

Nel maggio 2019 Sundar Pichai, amministratore delegato di Google, ha parlato al Times dell’ impegno delle sue corporazioni sul principio che «la privacy non può essere un bene di lusso». Cinque mesi dopo sono stati trovati appaltatori di Google che offrivano buoni regalo da $ 5 ai senzatetto di colore in un parco di Atlanta in cambio di una scansione facciale.

La smentita di Facebook invita ancora più alla cautela visto che è uscito un altro documento aziendale datato 2018. Il rapporto confidenziale offre una rara visione del cuore della fabbrica computazionale di Facebook, dove un «motore di previsione» gira su una piattaforma di intelligenza artificiale che «ingerisce trilioni di dati ogni giorno, forma migliaia di modelli» e quindi «li distribuisce alla flotta di server per previsioni dal vivo».

Facebook osserva che il suo «servizio di previsione» produce «più di 6 milioni di previsioni al secondo». A che scopo?

Nel suo rapporto, la società chiarisce che queste straordinarie capacità sono volte a soddisfare le «sfide del business»dei propri clienti aziendali con procedure che collegano previsione, microtargeting, intervento e modifica del comportamento.

Ad esempio, un servizio di Facebook chiamato «previsione di lealtà» è pubblicizzato per la sua capacità di superare il surplus comportamentale per prevedere le persone che sono «a rischio» di spostare la loro fedeltà al marchio e avvisare gli inserzionisti perché possano intervenire prontamente con messaggi mirati progettati per ristabilire la lealtà appena in tempo per cambiare il corso del futuro.

Quell’anno un giovane di nome Christopher Wylie divenne una gola profonda nei confronti del suo ex datore di lavoro, una società di consulenza politica conosciuta come Cambridge Analytica.

«Abbiamo sfruttato Facebook per raccogliere i profili di milioni di persone – ha ammesso Wylie – e abbiamo creato modelli per sfruttare ciò che sapevamo su di loro e colpire i loro demoni interiori».

Wylie ha definito queste tecniche come «guerra dell’informazione», valutando correttamente che tali guerre ombra sono costruite su asimmetrie di conoscenza e potere che tali asimmetrie offrono.

Meno chiaro per il pubblico o per i legislatori era che le strategie segete di invasione e di conquista dell’azienda impiegavano le procedure operative standard del capitalismo di sorveglianza a cui miliardi di «utenti» innocenti sono regolarmente sottoposti ogni giorno.

Wylie ha descritto questo processo di rispecchiamento, mentre seguiva una traccia che era già stata segnata. La vera innovazione di Cambridge Analytica consisteva nello spostare il focus dell’intera impresa da obiettivi commerciali a obiettivi politici.

In altre parole, Cambridge Analytica era il parassita e il Capitalismo di sorveglianza era l’ospite.

Grazie al suo dominio epistemico, il capitalismo di sorveglianza forniva i dati comportamentali che esponevano gli obiettivi degli assalti. I suoi metodi di microtargeting e modifica comportamentale sono diventati le armi. Ed è stata la mancanza di responsabilità del capitalismo di sorveglianza per i contenuti sulla sua piattaforma offerti dalla Sezione 230 che ha offerto l’opportunità per gli attacchi invisibili progettati per innescare i demoni interiori di cittadini ignari.

Non è solo che la disuguaglianza epistemica ci rende completamente vulnerabili agli attacchi di attori come Cambridge Analytica.

Il punto più importante e inquietante è che il capitalismo di sorveglianza ha trasformato la disuguaglianza epistemica in una condizione determinante delle nostre società, normalizzando la guerra dell’informazione come una caratteristica cronica della nostra realtà quotidiana perseguita dalle stesse società da cui dipendiamo per un’effettiva partecipazione sociale.

Possiedono le conoscenze, le macchine, la scienza e gli scienziati, i segreti e le bugie. Tutta la privacy ora spetta a loro, lasciandoci con pochi mezzi di difesa da questi invasori e predatori di dati.

Senza legge, ci arrampichiamo per nasconderci nella nostra vita, mentre i nostri figli discutono delle strategie di crittografia attorno a un tavolo e gli studenti indossano maschere per le proteste pubbliche come protezione dai sistemi di riconoscimento facciale costruiti con le nostre foto di famiglia.

In assenza di nuove dichiarazioni di diritti e legislazione epistemici, il capitalismo di sorveglianza minaccia di riformare la società mentre disfa la democrazia.

Dal basso, mina l’agire umano, usurpando la privacy, diminuendo l’autonomia e privando gli individui del diritto alla lotta.

Dall’alto, la disuguaglianza epistemica e l’ingiustizia sono fondamentalmente incompatibili con le aspirazioni di un popolo democratico.

_______________

http://www.renovatio21.com/imperativi-del-capitalismo-di-sorveglianza/