Algocrazia: chi controlla i "controllori"?
di Mario Bozzi Sentieri - 28/01/2021
Fonte: Mario Bozzi Sentieri
L’anno scorso, Deutsche Bank, il primo istituto bancario tedesco e tra i leader in Europa, ha usato l’Intelligenza artificiale e gli algoritmi più sofisticati per rimpiazzare posti di lavoro. A sparire 18 mila dipendenti, che sono stati sostituiti da robot ed algoritmi destinati a svolgere attività di rendicontazione, invio di e-mail e report ai clienti del segmento azionario. Nel settore della finanza e delle assicurazioni sono già attivi i robo-advisor, in servizi di consulenza e di investimento. Anche nei prestiti l’utilizzo degli algoritmi è già presente per rilevare il livello di rischio di un cliente e dell’opportunità quindi di concedere un finanziamento.
Nelle fabbrica 4.0 sono gli algoritmi a controllare la produzione, l’orario, il ritmo delle linee, le pause, i carichi di lavoro. A dettare legge è il Mes, Manufacturig Execution System, un modello matematico che consegna gli ordini di lavoro alle linee e tiene traccia di ogni azione dell’operaio attraverso scanner ottici, codici a barre, tablet. Il programma è matematico, “neutrale” e quindi indiscutibile.
Ed ancora, è l’algoritmo a selezionare i manager, attraverso colloqui con un computer che “spia” mimica e tono di voce. E’ la realtà di HireVue un programma, già operativo negli Stati Uniti presso grandi aziende e multinazionali, in grado di monitorare circa 15 mila tratti di una persona, compresi la scelta del linguaggio, i movimenti dell’occhio, la velocità di risposta e il livello di stress. Domina la macchina, ai cui “parametri” i candidati debbono adeguarsi, senza possibilità d’appello: tutti uguali e standardizzati, secondo gli orientamenti di software che riflettono i pregiudizi di chi li ha creati e si alimentano di big data forniti dagli stessi.
Sono solo alcuni esempi, tra i tanti, che rendono evidente come la nuova rivoluzione tecnologica, stia già condizionando le forme e le modalità del lavoro, senza che ciò comporti le doverose contromisure operative, i contrappesi politico-sociali necessari per evitare che il potere logaritmico dilaghi senza controlli.
Anche perché è del tutto evidente come dietro l’astrazione dei numeri si nascondano interessi di parte e chiare ragioni aziendali, seppure mimetizzate, fino a fare intravvedere una vera e propria algocrazia (un modello di organizzazione senza controlli burocratici classici ma guidata da codici e algoritmi) così come teorizzato, già nel 2006, da Aneesh Aneesh, nel saggio “Virtual Migration”.
“L’algocrazia - ha scritto Aneesh - tende ad appiattire tutte le gerarchie burocratiche perché non necessita di alcun livello di gestione intermedio o centralizzato che sia”. L’algocrazia non è definita da elementi come la gerarchia, la documentazione, la dominanza delle posizioni di certe persone rispetto ad altre. Le regole burocratiche tradizionali devono essere ‘interiorizzate’ da chi le deve seguire e rispettare mentre “un sistema algocratico struttura il possibile campo di operation senza richiedere ad una persona alcuno sforzo di adattamento alle regole; gli algoritmi incorporati nel sistema stessa avviano o bloccano una operazione senza chiedere a nessuno di ‘interiorizzare’ le policy”.
Occorre allora “prevenire”, facendo dell’algoritmo, applicato all’organizzazione del lavoro, l’oggetto di un chiaro confronto sociale e conseguentemente di norme equilibratrici, che partano dalla consapevolezza degli interessi in gioco. Dietro la “tirannia” degli algoritmi non ci sono le sorti e progressive di un’umanità affrancata dalla fatica, ma c’è un sistema di potere, funzionale alla volontà di massimizzare il profitto abbattendo i costi di produzione, innalzando i livelli produttivi, imponendo un controllo stringente sui lavoratori. Per questi motivi occorre svelarne l’intrinseca ingiustizia, facendo crescere un senso di responsabilità condivisa a livello politico, sociale e culturale, impegnandosi a trasformare l’innovazione tecnologica in un reale strumento di progresso e di integrazione sociale.