Ordina qui l'edizione primaverile con il documento di avvertimento

Gli algoritmi sono ovunque

Se le attuali tendenze nella cultura imprenditoriale e dei consumatori continuano, potremmo presto avere molto in comune con le tradizioni meritocratiche e comunitarie della Cina, scrive Mark MacCarthy.

(Tradotto automaticamente da Norsk di Gtranslate (esteso Google))

Circa 1200 prima del nostro tempo, la dinastia Shang in Cina ha sviluppato un sistema di fabbrica per fabbricare migliaia di grandi contenitori di bronzo per l'uso quotidiano e le cerimonie rituali. In questo primo esempio di produzione in serie, il casting ha richiesto una pianificazione e un coordinamento dettagliati di grandi gruppi di lavoratori, con ciascun gruppo che svolgeva un compito separato nell'ordine corretto.

Un processo altrettanto complesso si trovava dietro il famoso esercito di guerrieri di terracotta che Qin Shi Huang, il primo imperatore della Cina, svelò 1000 anni dopo. Secondo l'Asian Art Museum di San Francisco, "le statue sono state create utilizzando un sistema di montaggio che ha aperto la strada al progresso nella produzione e nel commercio di massa". Alcuni scienziati si sono chiesti se queste prime forme di tecnologie di orientamento al lavoro abbiano svolto un ruolo importante nel plasmare la società cinese. Tra le altre cose, sembra che abbiano predisposto le persone ad accettare strutture burocratiche, una filosofia sociale con un'enfasi sulla gerarchia e la convinzione che ci sia un solo modo giusto di fare le cose.

Algoritmi

Quando le fabbriche industriali furono introdotte in Inghilterra nel XIX secolo, anche i critici accaniti del capitalismo, come Friedrich Engels, si resero conto che la produzione di massa richiedeva un'autorità centralizzata, sia che il sistema economico fosse capitalista o socialista. Nel 19 ° secolo, teorici come Langdon Winner hanno ampliato questo modo di pensare per includere altre tecnologie. Credeva che la bomba atomica, ad esempio, dovesse essere considerata un "oggetto politico profondo" perché "le proprietà letali della bomba richiedono che sia controllata da una linea di comando centralizzata e rigorosamente gerarchica".

Gli algoritmi di apprendimento automatico sono contrari al desiderio di privacy.

Oggi possiamo portare questa mentalità un passo avanti: pensa agli algoritmi che consentono alle macchine di apprendere: è la tecnologia più importante in uso oggi, per una varietà di scopi. Utilizzando esempi del mondo reale per imitare le capacità cognitive umane, questi algoritmi sono già onnipresenti nella vita lavorativa. Ma per sfruttare appieno questa tecnologia, le organizzazioni devono ridefinire le attività umane in attività prevedibili. Si adatta meglio alla forza di questi algoritmi.

- annuncio pubblicitario -

Una caratteristica fondamentale degli algoritmi di apprendimento automatico è che le loro prestazioni migliorano con più dati. Di conseguenza, l'uso di questi algoritmi crea una pressione verso il trattamento delle informazioni sulle persone come dati registrabili e accessibili. Come il sistema di produzione di massa, sono "intrinsecamente politici" perché la loro funzionalità fondamentale richiede determinate pratiche sociali e ne scoraggia altre. In particolare, gli algoritmi di apprendimento automatico funzionano in conflitto diretto con il desiderio di privacy degli individui.

Comunità di ranking

Un sistema basato sulle informazioni sui singoli membri della società disponibili al pubblico può sembrare educato ai comunitari come il sociologo Amitai Etzioni, che ritiene che le restrizioni alla privacy siano un mezzo per rafforzare le norme sociali. Ma a differenza dei comunitari, gli algoritmi sono indifferenti alle norme sociali. L'unica cosa a cui tengono è fare previsioni migliori trasformando sempre più aree della vita umana in set di dati che possono essere sfruttati. Inoltre, mentre il potere di un imperativo tecnologico trasforma gli individualisti occidentali in comunitaristi occasionali, li rende anche più propensi ad accettare una cultura meritocratica basata su giudizi algoritmici. Che sia al lavoro, a scuola o persino nelle app di appuntamenti, ci siamo già abituati a essere giudicati da strumenti impersonali, che poi ci assegnano posizioni in una gerarchia.

Come il sistema di produzione di massa, gli algoritmi sono "intrinsecamente politici".

La valutazione algoritmica non è affatto nuova. Una generazione fa, ad esempio, il professor Oscar H. Gandy ha avvertito che stavamo per avere una società di punteggi e classifiche e ha chiesto maggiore responsabilità e opportunità di riparazione per i difetti legati alla tecnologia. Ma a differenza dei moderni algoritmi di apprendimento automatico, i vecchi strumenti di valutazione erano in qualche modo compresi. Hanno preso decisioni sulla base di fattori normativi ed empirici rilevanti. Ad esempio, non era un segreto che l'accumulo di ingenti debiti con carta di credito potesse danneggiare l'affidabilità creditizia.

Al contrario, la nuova tecnologia di apprendimento automatico è radicata in grandi quantità di dati per trovare correlazioni prevedibili ma scarsamente comprese. Nella vita lavorativa, gli algoritmi possono controllare le conversazioni dei dipendenti, le abitudini del pranzo e quanto tempo trascorrono al computer, al telefono o alle riunioni. Con questi dati, l'algoritmo sviluppa sofisticati modelli di produttività che superano di gran lunga la nostra intuizione basata sulla ragione. In una meritocrazia algoritmica, ciò che i modelli richiedono sarà il nuovo standard per ciò che viene considerato eccellente.

comunitarismo

Eppure: la tecnologia non è il destino. Lo plasmiamo prima che ci modella. I leader aziendali e altri responsabili delle decisioni possono sviluppare e applicare la tecnologia che desiderano, in base alle loro esigenze istituzionali. È in nostro potere proteggere le aree sensibili della privacy, proteggere le persone dall'uso dannoso dei dati e garantire che gli algoritmi bilancino previsioni accurate con altri valori come correttezza, responsabilità e trasparenza.

Ma se seguiamo la direzione naturale della logica algoritmica, una società più meritocratica e comunitaria sarà inevitabile. E questa trasformazione senza intoppi avrà implicazioni di vasta portata per le nostre istituzioni democratiche e strutture politiche. Come hanno sottolineato gli esperti cinesi Daniel A. Bell e Zhang Weiwei, l'alternativa politica più importante alle tradizioni liberal democratiche occidentali saranno le istituzioni comunitarie che continueranno a svilupparsi in Cina.

Le istituzioni comunitarie diventano alternative politiche.

In Cina, le decisioni collettive non sono legittimate dal consenso esplicito dei cittadini e le persone generalmente hanno meno diritti applicati in relazione al governo, specialmente quando si tratta di sorveglianza. Il ruolo di un normale cinese in politica è in gran parte limitato alla partecipazione alle elezioni locali. I leader del paese vengono eletti attraverso un processo meritocratico e si considerano garanti del benessere del popolo.

È improbabile che le democrazie liberali vengano completamente trasformate in un tale sistema politico. Ma se le attuali tendenze nel mondo degli affari e della cultura del consumo continueranno, presto potremmo avere più in comune con le tradizioni meritocratiche e comunitarie della Cina che con la nostra storia di individualismo e democrazia liberale. Se vogliamo cambiare rotta, dobbiamo anteporre i nostri imperativi politici agli imperativi che si applicano alla nostra tecnologia.

Tradotto in norvegese da Lasse Takle.
Project Syndicate, 2016.
www.project-syndicate.org

markmac@nytid.no
MacCarthy è impiegato presso la Georgetown University e senior president of Public Policy presso la Software and Information Industry Association (SIIA).

Dai una risposta

Inserisci il tuo commento!
Inserisci qui il tuo nome

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati dei tuoi commenti.

A proposito di Assange, tortura e punizioneNils Melzer, relatore speciale delle Nazioni Unite sulla tortura e altri trattamenti o pene crudeli, inumani o degradanti, dice quanto segue su Assange:
Con spina dorsale e bussola etica intatteAVVISO Abbiamo bisogno di una cultura dei media e di una società basata su responsabilità e verità. Oggi non lo abbiamo.
Espediente / Teoria del trucco (di Sianne Ngai)Sianne Ngai è una delle teoriche culturali marxiste più originali della sua generazione. Ma sembra desiderosa di trascinare l'estetica nel fango.
Scioglimento della convivenza / Le rotture coniugali nell'Africa subsahariana musulmana (di Alhassane A. Najoum)È costoso sposarsi in Niger anche se il prezzo della sposa varia e, in caso di divorzio, le donne sono obbligate a rimborsare il prezzo della sposa.
Etica / Quali sono i principi etici alla base delle prime punture di vaccino?Dietro la strategia di vaccinazione delle autorità c'è un caos etico.
Cronaca / La Norvegia al vertice dell'Europa nel nazionalismo?Sentiamo costantemente che la Norvegia è il miglior paese del mondo, ma questo non è necessariamente il caso della stragrande maggioranza dei norvegesi e delle persone che si trasferiscono qui.
Filosofia / Disobbedire! Una filosofia di resistenza (di Frédéric Gros) Perché, dove, quando e per quanto tempo siamo obbedienti?
Mitologie / Il cacciatore celeste (di Roberto Calasso)Nei quattordici saggi di Calasso ci troviamo spesso tra mito e scienza.
Cina / La conquista silenziosa. Come la Cina sta minando le democrazie occidentali e riorganizzando il mondo (di Clive Hamilton e Mareike Ohlberg)È noto che la Cina sotto Xi Jinping si è sviluppata in una direzione autocratica. Gli autori mostrano come l'effetto si sia diffuso nel resto del mondo.
Nawal el-saadawi / Nawal El-Saadawi – in promemoriaUna conversazione su libertà, libertà di parola, democrazia ed élite in Egitto.
Necrologio / In memoria di Nawal El-SaadawiSenza compromessi, ha parlato contro il potere. Adesso se n'è andata, ha 89 anni. L'autrice, medico e femminista Nawal El-Saadawi ha scritto per MODERN TIMES da giugno 2009.
Dibattito / Cos'è la sicurezza oggi?Se vogliamo la pace, dobbiamo prepararci per la pace, non per la guerra. Nei programmi preliminari del partito, nessun partito nello Storting è a favore del disarmo.
- Annuncio pubblicitario -

Potrebbe piacerti ancheRelazionato
Consigliato