Algocrazia e capitalismo di sorveglianza: viviamo in un mondo governato dagli algoritmi

Tra algocrazia e capitalismo di sorveglianza, gli algoritmi stanno avendo un peso sempre più rilevante concentrando il potere globale nelle mani di pochissime multinazionali

 

Un mondo governato da algoritmi ha impatti sociali, politici, economici che ci portano al capitalismo di sorveglianza

 

 

Iniziamo dall’abc, cos’è un algoritmo? E’ un modello matematico che racchiude istruzioni per risolvere un problema o effettuare delle attività. L’Intelligenza Artificiale (IA) non è altro che un insieme di algoritmi, ciò che vediamo sul social network è frutto del lavoro degli algoritmi, persino le notizie cui accediamo da web o mobile sono il lavoro della selezione fatta da modelli matematici ‘tradotti’ in codice informatico. La maggior parte delle transazioni finanziarie avviene per mezzo degli algoritmi, gli assistenti vocali che utilizziamo ormai quotidianamente funzionano grazie ad essi, così come i sistemi di riconoscimento facciale che ci permettono di ‘tenere in ordine’ le nostre foto (e di fare molto altro come, per esempio, controllare l’identità delle persone) o quelli che costruiscono automobili o le guidano autonomamente sulle nostre strade. Sono strumenti per lo più invisibili ma in grado di aiutare ed ‘aumentare’ le nostre vite supportandoci nella quotidianità, nel lavoro, nel business. Il rovescio della medaglia è che in quella che già oggi molti chiamano l’età degli algoritmi, il mondo potrebbe essere governato dall’intelligenza artificiale concentrando ‘il potere’ (sociale, economico e politico) nelle mani di coloro che sono in grado di modellare e controllare gli algoritmi. Diventa quindi prioritario, in questa delicata fase evolutiva dell’informatica e della storia umana, studiare e capire quali sono non solo le potenzialità e le opportunità che questi sistemi offrono, indubbiamente innumerevoli, ma anche gli impatti macroeconomici, sociali, politici, organizzativi per arrivare a definire una nuova cultura (basata sul codice) e le regole entro le quali questa può espandersi.

Ho avuto modo di approfondire ed analizzare questi aspetti grazie ad un servizio che ho realizzato per ZeroUno. In questo post riprendo ed esamino con più dettaglio alcuni aspetti grazie alle interviste fatte lo scorso mese ad Aneesh Aneesh, Senior Director, International Affairs and Outreach, Professor of Sociology and Global Studies dell’Università di Wisconsin-Milwaukee (ex professore anche della prestigiosa Stanford University), teorizzatore della cosiddetta algocrazia, e di Shoshana Zuboff, Charles Edward Wilson Professor of Business Administration, Emerita alla Harvard Business School.

 

Algocrazia, cos’è e cosa significa

Aneesh Aneesh, come accennato, è il professore/ricercatore che ha teorizzato il concetto di algocrazia (un modello di organizzazione senza controlli burocratici classici ma guidata da codici e algoritmi) dopo aver svolto numerosi studi e analisi etnografiche ‘sul campo’, principalmente tra India e Stati Uniti, esplorando come gli sviluppi tecnologici stiano cambiando il modo in cui un lavoro può essere svolto ed organizzato.

In un libro del 2006, ‘Virtual Migration’, Aneesh analizza a fondo il fenomeno della migrazione del lavoro e dei lavoratori confrontando i flussi di lavoro online di sviluppatori software situati in India (migrazione del lavoro dagli Usa verso l’India) con quello che chiama il ‘body shopping’, la migrazione dei lavoratori (analizzando cioè i flussi portando i lavoratori indiani negli Stati Uniti per eseguire il lavoro). L’analisi di questi flussi si è sempre sviluppata tenendo conto dei confini fisici che separano il lavoro (e i lavoratori), presenti anche nei modelli di outsourcing (sviluppatisi prevalentemente per la ricerca di manodopera a basso costo). “Con l’avvento di una economia globale sempre più integrata, è in corso un differente tipo di migrazione, una migrazione virtuale”, afferma Aneesh. “Oggi abbiamo la possibilità di migrare le competenze, il lavoro, i dati senza che vi siano spostamenti fisici. Si può migrare senza migrazione reale”.

In questo contesto, ciò che dovrebbe farci riflettere, secondo Aneesh (i cui studi si sono sempre prevalentemente concentrati sull’analisi dei nuovi modelli organizzativi e della burocrazia che si viene a ‘disegnare’ mediante la tecnologia) è il fatto che il linguaggio di programmazione (il codice) sembra essere di per sé “la struttura organizzativa chiave dietro questa nuova migrazione virtuale”. Per capire esattamente cosa intenda il professore dobbiamo fare un salto indietro. “Era il 1999 quando, cercando una software company in India, rimasi colpito dal fatto che la maggior parte delle applicazioni che utilizzavamo non erano mai state create ‘in un unico posto’. La maggior parte del software veniva (e viene tuttora) sviluppata in più luoghi contemporaneamente: team diversi, ‘seduti’ in continenti e paesi differenti lavorano allo stesso progetto. Conoscevo la ‘letteratura’ riguardante l’avvento dei grandi sistemi gestionali centrali (gli Erp) quale elemento cruciale per il coordinamento delle ‘enormi’ attività burocratiche delle organizzazioni aziendali – spiega Aneesh -, ma nel caso dello sviluppo software globale non è mai stato possibile avere una sorta di ‘middle managerial layer’ per il coordinamento centralizzato dei team e dei diversi ‘regimi’ di lavoro dei differenti paesi del globo”.

Scenario ancor più evidente se si pensa allo sviluppo di codice open source dove le community di sviluppatori presenti in tutto il mondo si coordinano ‘semplicemente’ con modello di autogestione.

Qualche tempo dopo queste prime considerazioni, un giorno seduto accanto ad un programmatore, guardando lo schermo sul quale stava lavorando, Aneesh ha avuto un’intuizione: “è il software stesso a fare da direttore dei lavori!”. Aneesh aveva notato così tanti controlli di accesso integrati nella piattaforma software su cui stava lavorando il programmatore “che non c’era alcun bisogno di un manager umano a dirigere i lavori”, aveva pensato. Quando nel 1998, durante la scuola di specializzazione, Aneesh scrisse il suo primo ‘paper’ sul tema dell’hyper-bureaucracy (pubblicato l’anno dopo) per descrivere un sistema iper-burocratico ‘fuori controllo’, ancora non aveva compreso del tutto che il codice – nella sua teoria – è esso stesso ‘organizzazione’, visione che gli è apparsa più chiara dopo aver visto all’opera il programmatore. “In mancanza di un vocabolo migliore ho coniato il termine ‘algocracy’ per identificare ‘le regole del codice’ (o di un algoritmo) quale modello di organizzazione che può sostituire le ‘regole di un ufficio’ (la burocrazia di un’azienda o di un sistema economico)”, descrive Aneesh. “L’algocrazia tende ad appiattire tutte le gerarchie burocratiche perché non necessita di alcun livello di gestione intermedio o centralizzato che sia”.

 

L’algocrazia non è definita da elementi come la gerarchia, la documentazione, la dominanza delle posizioni di certe persone rispetto ad altre. Le regole burocratiche tradizionali devono essere ‘interiorizzate’ da chi le deve seguire e rispettare mentre “un sistema algocratico struttura il possibile campo di operation senza richiedere ad una persona alcuno sforzo di adattamento alle regole; gli algoritmi incorporati nel sistema stessa avviano o bloccano una operazione senza chiedere a nessuno di ‘interiorizzare’ le policy”.

 

La società burocratica, panottica e algocratica

Per dettagliare ancora meglio in che modo la nostra società ed i nostri modelli organizzativi, non solo lavorativi ma anche sociali ed economici, possono essere modificati dalle tecnologie, in generale, dagli algoritmi nello specifico, Aneesh fa un esempio molto semplice riguardante il controllo del traffico e delle violazioni degli automobilisti. “Il controllo mediante l’utilizzo dei semafori implica per gli automobilisti il rispetto di alcune regole (per esempio, fermarsi in presenza del rosso) le cui violazioni possono essere rilevate direttamente dalla polizia stradale”, spiega Aneesh. “Questo modello organizzativo/comportamentale funziona per due motivi: l’interiorizzazione delle regole da parte degli automobilisti, che orientano le loro azioni, e la minaccia della pena come conseguenza di un’azione errata”.

Questo primo modello rappresenta un’organizzazione burocratica (seguire il rosso, arancione o verde equivale a seguire le regole di un’azienda o di una società civile) ma, fa presente Aneesh, “quanti automobilisti ci sono che non rispettano lo stop o il rosso senza essere ‘beccati’ dalla polizia?”.

C’è poi un secondo metodo di controllo, basato sull’utilizzo delle videocamere che riprendono il traffico e potenzialmente catturano tutte le violazioni degli automobilisti. “Le regole sono ovviamente le medesime del modello precedente ma, con questo tipo di organizzazione, ad ogni violazione rilevata viene emessa una multa recapitata al trasgressore con una fotografia come prova dell’illecito”, spiega Aneesh. “Un sistema tecnologico di questo tipo, impiegato nella sua massima capacità è in grado di rilevare tutte le violazioni e la notifica diventa la conseguenza dell’azione ‘fuori regola’ di una persona”. In questo caso, il modello organizzativo viene identificato come panottico.

Infine, c’è il modello algocratico che, nell’esempio di Aneesh, diventa un sistema di auto-controllo del traffico basato non su delle regole ma su come vengono costruite le strade: “pensiamo ad una infrastruttura stradale che, per via di come sono state asfaltate le corsie, impediscono agli automobilisti di svoltare a destra o a sinistra o di sostare in un punto se non ‘progettato’ dagli ingegneri della strada. In questo modello non ho bisogno di essere inseguito dalla polizia o di ricevere una multa via posta, se ‘violo’ il modello mi schianto e distruggo l’auto”.

Aneesh non si sbilancia in alcun giudizio personale circa questi tre differenti modelli di governance, dice semplicemente che “tutti e tre hanno delle potenzialità e dei limiti, funzionano in modo differente: i semafori possono rompersi, la targa fotografata da una videocamera potrebbe risultare illeggibile, un veicolo sportivo potrebbe essere in grado di superare le barriere fisiche del controllo del traffico…”.

Ma dopo l’analisi preliminare sul ‘potere’ degli algoritmi è evidente che il futuro di una possibile società algocratica cattura la mia attenzione. “Mentre le burocrazie sfruttano il modello di ‘orientamento all’azione’ (orientano le nostre personalità verso determinate norme), le algocrazie predeterminano l’azione verso determinati risultati”, spiega Aneesh. “Facendo un esempio pratico attuale, non conosciamo gli algoritmi di Google o Facebook anche se definiscono a priori il nostro possibile campo d’azione. Un effetto dell’algocrazia che oggi vediamo applicarsi anche sulle identità: le identità finanziarie (i punteggi di credito, per esempio), le identità di shopping (che ‘inquadrano’ un comportamento di acquisto) e addirittura le identità mediche (che raggruppano le persone a seconda di patologie o cure), sono tutte costruite algoritmicamente da diversi sistemi senza la nostra approvazione o coinvolgimento”.

Su questi temi Aneesh ha scritto il suo ultimo libro, ‘Neutral Accent’, di cui consiglio vivamente la lettura.

 

Il capitalismo di sorveglianza

Shoshana Zuboff è l’autrice del celebre libro ‘In the Age of the Smart Machine: The Future of Work and Power’ attraverso il quale ha introdotto, nel 1988, il concetto di ‘Informating’ ossia il processo di digitalizzazione che traduce attività, eventi, cambiamenti ed obiettivi sociali in informazioni.

La ricerca condotta da Zuboff si è concentrata sullo studio approfondito dei cambiamenti di professioni e professionisti, nonché dei modelli organizzativi di uffici, aziende, fabbriche, negli ambienti dove – dalla fine degli anni ’80 in poi – si sono introdotti computer e via via macchine e sistemi IT. La sua ricerca, nel tempo, ha dimostrato che la relazione tra l’IT e l’uomo (ed il lavoro) è basata su tre direttrici:

1) la tecnologia non è neutrale: include caratteristiche intrinseche che abilitano determinate esperienze umane ma ne preclude altre;

2) i nuovi orizzonti possibili cambiano gli scenari: attraverso la tecnologia individui e gruppi di persone ‘costruiscono’ nuovi ‘orizzonti’ e prendono decisioni differenti rispetto al passato influenzando così gli scenari futuri e possibili;

3) possibili influenze e limitazioni su società, economia e politica: le scelte umane sono influenzate da interessi sociali, politici ed economici che incidono sia sulle opportunità sia sulle possibili limitazioni dell’uomo, del lavoro e della tecnologia stessa. Al tempo stesso, la tecnologia, ancor di più gli algoritmi, possono oggi far sentire il loro ‘peso’ su società, economia e politica.

Proprio su quest’ultimo aspetto la ricercatrice americana ha concentrato negli ultimi anni i suoi studi, parlando in particolare del nuovo modello di ‘capitalismo della sorveglianza’ di cui Google ne è il pioniere e il cui modello sociale, secondo alcune indagini dell’Economist, è oggi guidato da sole cinque multinazionali: Alphabet/Google, Apple, Facebook, Amazon e Microsoft.

 

“Google è la ‘ground zero’ di una nuova specie di capitalismo i cui profitti derivano dalla sorveglianza (unilaterale) e dall’influenza e modifica del comportamento umano – ha scritto in un suo recente articolo Zuboff -. Il capitalismo è stato ‘tradito’ da un progetto lucrativo di sorveglianza che sovverte i normali meccanismi evolutivi della società e dell’economia cambiando completamente le ‘regole del gioco’ e le dinamiche di domanda ed offerta che per anni hanno assicurato la democrazia di mercato”.

 

Sono considerazioni molto critiche quelle di Zuboff che, nelle sue pubblicazioni, si spinge a sostenere come il capitalismo di sorveglianza è da guardare come “una nuova mutazione economica generata dall’accoppiamento clandestino delle grandi potenze del digitale con l’indifferenza radicale ed il narcisismo intrinseco del capitalismo finanziario e la sua visione neoliberale che hanno dominato le economie anglo-americane per almeno tre decenni. È una forma di mercato senza precedenti che fiorisce in uno spazio senza legge”.

È evidente, allora, che è giunto il momento di ‘darsi una mossa’ ed iniziare a sviluppare, a livello globale, una nuova cultura sociale, economica e politica attorno alla quale identificare le correte regole ‘comportamentali’ (etiche e legislative).

 

NOTA: questo post rappresenta la versione estesa e senza “tagli editoriali” di un servizio giornalistico realizzato per il numero di giugno di ZeroUno, servizio per il quale sono stata regolarmente retribuita e disponibile online qui