Da Google ai call center la dittatura dell’algoritmo
Stefano Rodotà
I nuovi strumenti dellla comunicazione diventano i nuovi strumenti del potere nascosto che determina le nostre vite. La Repubblica, 27 marzo 2010
Ma ormai le università sfornano equazioni per ogni cosa: per l’amore, per l’eros, per la dieta perfetta e ovviamente per vincere nei giochi d’azzardo. In realtà l’algoritmo disegna le modalità di funzionamento di larghe aree delle nostre organizzazioni sociali, e così redistribuisce poteri. Incarna anzi le nuove forme del potere e ne modifica la qualità. E tutto questo suscita diverse domande. Saremo sempre più intensamente alla mercè delle macchine? Quali sono gli effetti su libertà e diritti, quali le conseguenze sullo stesso funzionamento democratico di una società?

Alle tecnologie dell’informazione e della comunicazione, infatti, è stata attribuita una virtù, quella di rendere la società più trasparente proprio per quanto riguarda la possibilità di controlli diffusi sul potere, su qualsiasi potere. Ma quando l’algoritmo diviene il fondamento stesso del potere esercitato da un soggetto, com’è nel caso assai enfatizzato di Google, e tutto ciò che lo riguarda è avvolto dalla massima segretezza, allora siamo davvero di fronte alla nuova versione degli arcana imperii, che non tutelano soltanto l’attività d’impresa, ma si impadroniscono, direttamente o indirettamente, della vita stessa delle persone.

Come convivere, allora, con l’algoritmo, anzi con le molteplici forme che questa tecnica assume, e con le reti neurali, con l’"autonomic computing", con tutto ciò che affida alla tecnologia la costruzione della nostra identità e così produce nuove, spesso invisibili, gerarchie sociali e insedia "l’algoritmo al potere" (è il titolo di un libro di Francesco Antinucci)? Non lo sappiamo, ma è possibile che, quando telefoniamo a un call center e ci sentiamo rispondere di "rimanere in linea per non perdere la priorità acquisita", siamo già nelle mani di un algoritmo che ci ha classificati come clienti poco interessanti e ci fa attendere all’infinito, mentre è fulminea la risposta per il "buon" cliente. Nella vita quotidiana s’insinua il germe di nuove discriminazioni, nasce il cittadino non più libero, ma "profilato", prigioniero di meccanismi che non sa o non può controllare, ben descritti in un libro curato da Mireille Hildebrandt e Serge Gurvitch e intitolato appunto "Profiling the European Citizen".

Nella società dell’algoritmo svaniscono garanzie che avrebbero dovuto mettere le persona al riparo dal potere tecnologico, dall’espropriazione della loro individualità da parte delle macchine. Una direttiva europea e molte leggi nazionali prevedono che tutti abbiano il diritto di conoscere la "logica applicata nei trattamenti automatizzati dei dati" e vietano ogni decisione "fondata esclusivamente su un trattamento automatizzato di dati destinati a valutare taluni aspetti della sua personalità". Queste norme ci dicono che il mondo dei trattamenti automatizzati delle informazioni non può essere senza regole e che il ricorso all’algoritmo non può divenire una forma di deresponsabilizzazione dei soggetti che lo adoperano.

Sono state messe sotto accusa le "macchine", che non possono difendersi e così diventano un comodo capro espiatorio. Ma l’imputazione impersonale del potere ad una entità esterna non può divenire la via per esercitare un potere senza responsabilità. Certo, l’algoritmo è uno strumento per razionalizzare procedure, calcolare variabili altrimenti difficili da governare, sottrarre decisioni importanti a pressioni improprie. E tuttavia porta con sé anche una difficoltà riguardante l’ampiezza delle variabili da considerare, i caratteri imprevedibili degli accadimenti, quella variabilità storica che ha indotto a dire che "un cavallo non corre mai due volte" per sottolineare i rischi delle scommesse sul futuro. E se questo è vero per il sistema finanziario internazionale, lo è ancora di più quando le decisioni riguardano le persone, diverse l’una dall’altra, collocate in contesti diversi, irriducibili a schemi.

Questa consapevolezza ormai diffusa dovrebbe indurre ad adottare almeno il "principio di precauzione" e a costruire un adeguato contesto istituzionale, oggi assai debole anche perché le norme ricordate sono aggirate o ignorate, per evitare che il rapporto sempre più importante tra l’uomo e la macchina venga governato solo dalla logica economica. Quando la relazione tra i poteri pubblici e privati e le persone viene basata su di un ininterrotto "data mining", sulla raccolta senza limiti di qualsiasi informazione che le riguardi, e affidato poi all’algoritmo, le persone sono trasformate in astrazioni, la costruzione della loro identità viene sottratta alla loro consapevolezza, il loro futuro affidato al determinismo tecnologico. Tutto questo incide sui diritti fondamentali, mette in discussione la libera costruzione della personalità e l’autodeterminazione, imponendo così di chiedersi se e come la società dell’algoritmo possa essere democratica.

Sullo stesso tema
Stefano Rodotà
Mai si era visto un insieme così devastante di aberrazioni che distruggono lo stato dei diritti e con esso la vita pubblica e la società. La Repubblica, 29 dicembre 2010
Colin Luciano; Crouch Canfora
Come e perché il nostro sistema politico si è sfarinato, e che cosa emerge dalle macerie del caso italiano. Spunti di analisi negli interventi di due grandi intellettuali, nel sito web di Laterza editori
Barbara Spinelli
Il percorso per uscire dalla cacca è delineato, ma non è facile percorrerlo. Bisognerà innanzitutto volerlo. In calce la profezia di Totò. La Repubblica, 15 dicembre 2010
Ultimi post
Eddyburg
Cliccando nella barra in alto potete accedere a tutti gli articoli inseriti in oltre diciotto anni di attività e impegno per una cultura dell'abitare fruire e governare il territorio che sia suscettibile di assicurare condizioni di vita soddisfacenti sotto il profilo dell'equità e della libertà di accesso ai beni comuni, della capacità e possibilità di partecipare al governo della cosa pubblica. E' ancora una versione provvisoria del sito, perciò alcune cose funzionano male o presentano degli errori. Ci stiamo adoperando per sistemare tutto nel più breve tempo possibile.
Eddyburg
Il programma definitivo della prima edizione dei seminari di eddyburg
Redazione di eddyburg
Nell’anniversario della scomparsa di Eddy Salzano il 23 settembre abbiamo organizzato un’iniziativa per ricordare l’importanza e l’attualità del suo pensiero e della sua attività. Qui le videoregistrazioni della I Sessione del convegno “Eddy Salzano: le tappe di un percorso politico e culturale per una città più giusta” con gli interventi di Mauro Baioni, Giulio Tamburini, Vezio De Lucia, Paolo Berdini, Roberto Camagni, Anna Marson, Maria Pia Guermandi, Giancarlo Storto, Giancarlo Consonni, Paolo Baldeschi.
Redazione di Eddyburg
L'incontro ha come scopo la presentazione della versione italiana del toolkit anti-gentrification di Sandra Annunziata, e vedrá la partecipazione di esperti e rappresentanti dei movimenti di lotta per la casa che discuteranno assieme del manuale e della sua applicazione nel contesto italiano. Sarà possibile seguire l'evento in streaming live sulla pagina facebook di ETICity
Redazione di eddyburg
Nell’anniversario della scomparsa di Eddy Salzano il 23 settembre abbiamo organizzato un’iniziativa per ricordare l’importanza e l’attualità del suo pensiero e della sua attività. Qui le videoregistrazioni della II Sessione del convegno "Una comunità di intenti" con testimonianze di Maria Cristina Gibelli, Marco Borghi, Federica Ruspio, Tomaso Montanari, Ilaria Agostini, Anna Maria Bianchi, Maria Paola Morittu, Elisabetta Forni, Piero Cavalcoli, Lidia Fersuoch, Oscar Mancini, Paolo Cacciari e Ilaria Boniburini.
CopyrightMappa del sito
© 2021 Eddyburg