Il capitalismo della sorveglianza

È passato un anno dall’uscita del celebre libro di Shoshana Zuboff The Age for Surveillance Capitalism, “Il capitalismo della sorveglianza”, le cui pagine profetiche sono già quanto mai attuali. “L’esperienza umana è materia prima gratuita che viene trasformata in dati comportamentali… e poi venduta come ‘prodotti di previsione’ in una nuova sfera di mercato, quella dei mercati comportamentali a termine”. Frasi brillanti, neologismi ed espressioni pindariche per descrivere l’avvento e l’impatto delle nuove tecnologie sulla nostra quotidianità, ormai immersa in un alveare di applicazioni diverse, e sistemi di assistenza sempre più personalizzati e sofisticati, ricorrendo a un lessico ancora tutto da assimilare, ma che intende segnare una netta rottura col passato. La questione è chiedersi se questa tecnoeconomia, questo innovativo, e costante accompagnamento algoritmico delle nostre esistenze, sia un processo irreversibile che vogliamo accogliere. Se in fin dei conti è il mondo in cui abbiamo scelto di vivere.

Nel capitalismo della sorveglianza, Zuboff illustra come i giganti del digitale si appropriano di dati relativi ai comportamenti umani, sia online che offline, i quali, dopo un’accurata elaborazione sono in parte utilizzati per scopi socialmente utili, vale a dire a migliorare i beni e servizi di cui usufruiamo – basti pensare alla facilità con cui riusciamo a spostarci e a viaggiare sicuri - ma residualmente confluiscono in quei “prodotti di previsione” (e oserei aggiungere “perversion”), che delineano i nuovi “mercati del controllo”. Coloro che entrano in possesso di quei dati e li elaborano puntualmente, accumulano così immense ricchezze. I nostri dati, si sa, costituiscono la merce - il capitale - più preziosa del nostro tempo, e da essi nascono i modelli di business che rispondono alla nuova accumulazione capitalistica. Superfluo specificare che i principali artefici di questo paradigma capitalistico sono i soliti Google, Amazon, etc.

Ma se da una parte questo movimento è volto ad amministrare la nostra vita per rendercela più comoda, dall’altra, grazie all’indicizzazione dei dati, cerca oculatamente di manipolarla in un contesto sempre più custodiato e predicibile, indirizzando le nostre azioni, al fine di aumentare il numero di transazioni commerciali che effettuiamo. E qui emerge il componente capitalistico di ottimizzazione dei fattori produttivi, i dati appunto. Ma quale delle due campane prevale? Siamo ancora proprietari dei nostri destini o presto ci affideremo totalmente alle macchine che noi stessi abbiamo progettato? Da anni il mondo intellettuale si pone interrogativi sull’utilità delle nuove tecnologie per l’uomo, dividendosi tra chi ne promuove i benefici evidenti, e chi si sente più scettico o addirittura prefigura scenari negativi o apocalittici.

A quest’ultimo gruppo appartiene Eric Sadin, i cui spunti filosofici indicano come la quarta rivoluzione industriale o industria 4.0 si sia già presa fette notevoli della nostra esistenza, senza che ce ne rendessimo conto. Se fino a poco tempo fa le macchine semplicemente rispondevano a un quesito o a una sollecitazione privata, adesso arrivano a parlare, a dialogare con noi, perchè la loro affidabilità, cioè il loro potere di dirci la verità è in continua crescita, grazie alla ben nota capacità di auto-apprendimento (machine learning). Questo, assieme alla loro interconnessione, fa sì che le macchine abbiano una naturale dimensione incitativa o persuasiva sui nostri stili di vita. Di conseguenza possono capire quando ci sentiamo stanchi al volante, indicandoci l’autogrill più vicino, o quando presentiamo determinati sintomi, segnalandoci la farmacia fornita della medicina di cui abbiamo bisogno. Oggi stesso i sistemi GPS non solo ci suggeriscono il percorso più veloce per raggiungere una destinazione, ma ci incoraggiano (magari con suadenti voci femminili) a conformarci alle loro soluzioni. Succede così anche con gli assistenti virtuali ad attivazione vocale come Siri di Apple, con le proposte personalizzate di Netflix o con la capacità di riconoscere i volti di Facebook.

Dall’educazione alle banche, dai processi di reclutamento in azienda alla medicina, l’intelligenza artificiale (IA) sta già cambiando le nostre abitudini. La campagna assicurativa Pay as You Drive, per esempio, permette di pagare una polizza auto iper-personalizzata, dato che un sofisticato sistema di sensori installati sulla vettura comunicherà alla compagnia assicurativa la qualità della tua guida, senza bisogno di ulteriori studi. In campo medico, presto le app saranno capaci di realizzare diagnosi automatiche e magari prescrivere ricette, senza bisogno di consultare un dottore in carne ed ossa o addirittura contraddicendolo o “correggendolo”. Alcuni vantaggi, come i costi di implementazione, sono chiari, ma allo stesso tempo aumentano le preoccupazioni, di creare necessità inutili in primis, ma anche di venerare eccessivamente l’infallibilità della macchina e sostituire lavori che oggi si definirebbero ad alta qualificazione.

Quella che ormai da anni si definisce la quarta rivoluzione industriale è quella delle cosiddette tecnologie convergenti, che scaturiscono dalla combinazione sinergica di nanotecnologie, biotecnologie, tecnologie dell’informazione, scienze cognitive, tanto che sono chiamate anche con l’acronimo NBIC. Il risultato sono sistemi tecnologici nei quali iniziano a compenetrare elementi del mondo fisico, digitale e biologico. Lo vediamo nei progressi compiuti nei campi dell’IA, robotica, Internet delle Cose (IoT), ingegneria genetica, etc. Tutte alla base di prodotti e servizi che stanno diventando indispensabili per la vita moderna. Tuttavia, lo scopo che si vuole perseguire con l’industria 4.0 non sembra essere il potenziamento delle capacità mentali di un uomo o di una società, piuttosto ci si dirige verso una vera artificializzazione dell’uomo e, al tempo stesso, una antropomorfizzazione della macchina. Con effetti anche deleteri. Economisti come Stefano Zamagni hanno appurato come quest’ultima rivoluzione abbia avuto un ruolo rilevante nell’aumento delle disuguaglianze tra ricchi e poveri, ed il rischio è che la concezione di uomo-macchina prevalga su quella di uomo-persona, generando lavori che saranno percepiti come giusti nel complesso, ma insoddisfacenti.

Tanti sostengono che non ci si possa opporre a fenomeni come l’IA. Probabile. Ma nemmeno accogliere senza riserve i dogmi di questa nuova razionalità guidata, che ci induce ad abbandonare la nostra abilità di ragionamento, il nostro spirito critico e ad aborrire la fallibilità dell’essere umano, di cui continueremo ad avere bisogno. Detto nelle parole di Sadin, dobbiamo elaborare una nostra critica alla ragione artificiale. Non saremo stati un pò troppo passivi di fronte all’affermarsi di questo rapporto di forza?