(QUESTO ARTICOLO È TRADOTTO DA Google dal norvegese)
Intorno al 1200 aC, la dinastia Shang in Cina sviluppò un sistema di fabbrica per realizzare migliaia di grandi vasi di bronzo, per l'uso quotidiano e nelle cerimonie rituali. In questo primo esempio di produzione di massa, la fusione richiedeva una pianificazione dettagliata e il coordinamento di grandi gruppi di lavoratori, con ogni gruppo che svolgeva un'attività separata nell'ordine corretto.
Un processo altrettanto complesso si cela dietro il famoso esercito di guerrieri di terracotta che Qin Shi Huang, il primo imperatore della Cina, svelò 1000 anni dopo. Secondo l'Asian Art Museum di San Francisco, "le statue sono state create utilizzando un sistema di assemblaggio che ha aperto la strada ai progressi nella produzione di massa e nel commercio". Alcuni scienziati si sono chiesti se queste prime forme di tecnologie di orientamento al lavoro abbiano svolto un ruolo importante nel plasmare la società cinese. Tra le altre cose, sembrano aver predisposto le persone ad accettare strutture burocratiche, una filosofia sociale con un'enfasi sulla gerarchia e la convinzione che ci sia solo un modo giusto di fare le cose.
Algoritmi
Quando le fabbriche industriali furono introdotte in Inghilterra nel 19° secolo, anche i critici più accaniti del capitalismo, come Friedrich Engels, si resero conto che la produzione di massa richiedeva un’autorità centralizzata, indipendentemente dal fatto che il sistema economico fosse capitalista o socialista. Nel XX secolo, teorici come Langdon Winner estesero questo modo di pensare per includere altre tecnologie. Credeva che la bomba atomica, ad esempio, dovesse essere considerata un "oggetto profondamente politico", perché le "proprietà mortali della bomba richiedono che sia controllata da una catena di comando centralizzata e strettamente gerarchica".
Gli algoritmi di apprendimento automatico sono in contrasto con il desiderio di privacy.
Oggi possiamo portare questa linea di pensiero ancora oltre: consideriamo gli algoritmi che consentono alle macchine di apprendere: è la tecnologia più importante in uso oggi, per una varietà di scopi. Utilizzando esempi tratti dal mondo reale per imitare le capacità cognitive umane, questi algoritmi sono già ovunque sul posto di lavoro. Ma per sfruttare appieno questa tecnologia, le organizzazioni devono ridefinire le attività umane in attività che possono essere previste. Si adatta meglio qual è la forza di questi algoritmi.
Una caratteristica chiave degli algoritmi di machine learning è che le loro prestazioni migliorano con una maggiore quantità di dati. Di conseguenza, l’uso di questi algoritmi crea una spinta verso il trattamento delle informazioni sulle persone come dati registrabili e accessibili. Come il sistema di produzione di massa, sono “intrinsecamente politici” perché la loro funzionalità fondamentale richiede determinate pratiche sociali e ne scoraggia altre. In particolare, è vero che gli algoritmi di apprendimento automatico funzionano in diretta contraddizione con il desiderio di privacy degli individui.
Classifica della società
Un sistema basato sulla disponibilità pubblica di informazioni sui singoli membri della società può sembrare appropriato a comunitaristi come il sociologo Amitai Etzioni, il quale ritiene che le restrizioni alla privacy siano un mezzo per rafforzare le norme sociali. Ma a differenza dei comunitaristi, gli algoritmi sono indifferenti alle norme sociali. Tutto ciò che interessa loro è fare previsioni migliori trasformando sempre più aree della vita umana in set di dati che possono essere sfruttati. Inoltre, se da un lato la forza di un imperativo tecnologico trasforma gli individualisti occidentali in comunitari casuali, dall’altro li rende anche più propensi ad accettare una cultura meritocratica basata su giudizi algoritmici. Che sia al lavoro, a scuola o anche sulle app di appuntamenti, siamo già abituati a essere valutati da strumenti impersonali, che poi ci assegnano posizioni in una gerarchia.
Come il sistema di produzione di massa, gli algoritmi sono “intrinsecamente politici”.
La valutazione algoritmica non è affatto una novità. Una generazione fa, ad esempio, il professor Oscar H. Gandy avvertì che stavamo diventando una società di punteggio e classificazione, e chiese maggiore responsabilità e opportunità di riparazione per gli errori causati dalla tecnologia. Ma a differenza dei moderni algoritmi di apprendimento automatico, i vecchi strumenti di valutazione erano abbastanza ben compresi. Hanno preso decisioni sulla base di fattori normativi ed empirici rilevanti. Ad esempio, non era un segreto che accumulare ingenti debiti sulla carta di credito potesse danneggiare il tuo rating creditizio.
Al contrario, la nuova tecnologia di apprendimento automatico scava in grandi quantità di dati per trovare correlazioni prevedibili ma scarsamente comprese. Nella vita lavorativa, gli algoritmi possono controllare le conversazioni dei dipendenti, le abitudini all'ora di pranzo e quanto tempo trascorrono al computer, al telefono o in riunione. Con questi dati, l’algoritmo sviluppa sofisticati modelli di produttività che superano di gran lunga la nostra intuizione basata sul buon senso. In una meritocrazia algoritmica, ciò che i modelli richiedono diventerà il nuovo standard per ciò che viene considerato eccellente.
Comunitarismo
Tuttavia: la tecnologia non è il destino. Lo modelliamo prima che sia lui a plasmare noi. I manager aziendali e gli altri decisori possono sviluppare e utilizzare la tecnologia che desiderano, in base alle loro esigenze istituzionali. È in nostro potere proteggere le parti sensibili della privacy, proteggere le persone dall’uso dannoso dei dati e garantire che gli algoritmi bilancino previsioni accurate con altri valori come l’equità, la responsabilità e la trasparenza.
Ma se seguiamo la direzione naturale della logica algoritmica, una società più meritocratica e comunitaria sarà inevitabile. E questa costante trasformazione avrà implicazioni di vasta portata per le nostre istituzioni democratiche e le nostre strutture politiche. Come hanno sottolineato gli esperti cinesi Daniel A. Bell e Zhang Weiwei, la principale alternativa politica alle tradizioni liberali democratiche occidentali saranno le istituzioni comunitarie che continueranno a svilupparsi in Cina.
Le istituzioni comunitarie diventano alternative politiche.
In Cina, le decisioni collettive non sono legittimate dal consenso esplicito dei cittadini e le persone generalmente hanno meno diritti applicabili nei confronti del governo, soprattutto quando si tratta di sorveglianza. Il ruolo di un cinese comune in politica è in gran parte limitato alla partecipazione alle elezioni locali. I leader del Paese vengono selezionati attraverso un processo meritocratico e si considerano garanti del benessere della popolazione.
Non è probabile che le democrazie liberali passino completamente a un simile sistema politico. Ma se le tendenze attuali nella vita imprenditoriale e nella cultura del consumo continuano, presto potremmo avere più cose in comune con le tradizioni meritocratiche e comunitarie della Cina che con la nostra storia caratterizzata dall’individualismo e dalla democrazia liberale. Se vogliamo cambiare rotta, dobbiamo anteporre i nostri imperativi politici a quelli che si applicano alla nostra tecnologia.
Tradotto in norvegese da Lasse Takle.
Sindacato di progetto, 2016.
www.project-syndicate.org
