Idiozia artificiale e intelligenza naturale

Il vero pericolo dell'intelligenza artificiale è che ci arrendiamo ai burocrati soffocati che non sanno infrangere le regole.

Filosofo. Critico letterario regolare a Ny Tid. Traduttore.
Intelligenza artificiale – Contro la resa dell'umanità ai computer
Forfatter: Harry Collins
Forlag: Polity Press (Storbritannia)

Il vero pericolo dell'intelligenza artificiale è che ci arrendiamo ai burocrati soffocati che non sanno infrangere le regole.
>
(Tradotto automaticamente da Norsk di Gtranslate (esteso Google))

Questo libro è ovviamente critico e il titolo, Intelligenza Artificiale, suggerisce dove si trova il problema: con l'aiuto della fantascienza e di un settore IT auto-redditizio, la credenza in un'intelligenza artificiale onnipotente coglie su di essa. Al riparo di questa ideologia circa le possibilità del futuro l'intelligenza artificiale che adoriamo ha effettivamente – imperfetto, fallibile e fastidioso – in aree sempre più crescenti della società. Accecati dal relativo successo, siamo diventati eccessivamente indulgenti delle debolezze dei robot parlanti e degli aiutanti digitali.

Un clamore deterministico

L'alleanza dell'industria tecnologica con – e la debolezza per – la fantascienza si traduce spesso in fantasie sull'acquisizione di robot, che in pratica funziona come parte di un deterministico montatura, sebbene le storie non siano mai così distopiche, sottolinea Collins. Che l'idea che l'intelligenza artificiale quasi necessariamente "conquisterà il mondo" è stata sostenuta da autorità come Stephen Hawking è abbastanza inquietante. Che Elon Musk sostenga che dovremmo collegare i cervelli ai sistemi informatici per "non essere resi irrilevanti" dai computer – e che lui stesso stia sviluppando questa tecnologia – è peggio. Quel Ray Kurzweil, l'autore di La Singolarità è vicina, la stessa bibbia per coloro che credono nella superintelligenza artificiale, anche il capo del potente Google, è forse la peggiore.

Nonostante tali esempi, sostiene Collins, la fede nell'intelligenza artificiale è di gran lunga maggiore tra i filosofi, i biologi evoluzionisti e il pubblico in generale che tra coloro che conoscono veramente il campo. La mancanza di conoscenze specialistiche ci fa fidare di esperti con un programma misto, mentre i film ci abituano a una visione dubbia del mondo di domani.

Illegale ma neutrale

Film come Suo, dove il personaggio principale si innamora di uno talkbot essere tradito da 641 altri uomini, o Ex Machina, dove un robot dell'amore si vendica del suo creatore, sono sintomi culturali interessanti, dice Collins – ma la patologia sottostante sta nell'incapacità di distinguere tra simulazione e realtà. Proiettiamo l'umano sulle macchine e il meccanico sull'umano, cancellando così la distinzione. I computer potrebbero non essere leali o amorevoli, sottolinea sobriamente, ma non sono nemmeno malvagi o manipolatori.

Gli argomenti di Collins si basano in parte sullo studente di Heidegger Hubert Dreyfus della UC Berkeley – e sul suo libro dal titolo significativo Cosa non possono fare i computer (1971) e il seguito Ciò che i computer ancora non possono fare (1991). Ecco l'argomento secondo cui un'intelligenza artificiale ha bisogno di un corpo per essere nel mondo in un modo che renda le parole significative – ad esempio parole come "buono" e "cattivo". Quando l'intelligenza artificiale fallisce nel tentativo di passare come essere umano, è a causa delle parti dell'intelligenza che dipendono dalle interazioni corporee e linguistiche con gli altri – non solo il linguaggio del corpo, ma la comunicazione linguistica che fornisce una sensibilità alla fiducia, disaccordo, ironia e violazioni creative.

Il punto cieco delle macchine

L'apprendimento delle lingue implica quindi una conoscenza tacita che non possiamo semplicemente esplicitare e simulare in un programma. Da quando sono usciti i libri di Dreyfus, sembra che anche il senso dell'ironia e dell'umorismo possa essere appreso sperimentando violazioni del passato e doppi significati, un'esperienza che a quanto pare può essere acquisita attraverso i big data. Il coronamento di questa svolta è il programma Watson, che batte le persone nel gioco Jeopardy sfogliando milioni di pagine online. Riconosce i modelli e comprende i giochi di parole basati su casi precedenti e analisi basate sulle probabilità.

Mentre gli esseri umani rimangono gli stessi, la capacità di elaborazione delle macchine aumenta in modo esponenziale e possono trovare modelli sempre più avanzati in raccolte di dati sempre più grandi. La singolarità è vicina, conferma Kurzweil, confutando tutte le riserve con una provocazione acuta, che Collins vede come una chiave: "Se il riconoscimento di schemi non 'conta' come comprensione reale, neanche le persone capiscono". Collins dice il contrario: riconoscere le cose è solo una piccola parte della conoscenza. La nostra comprensione nasce non solo dal riconoscimento delle cose nel mondo, ma anche dal fatto che acquisiamo un numero infinito di modi di ordinare il mondo, modi che sono culturalmente condizionati, infinitamente sfumati e in costante cambiamento.

Diverse interpretazioni

La conoscenza nasce da una complessa interazione di esperienze, linguaggio e relazioni sociali. Come sociologo della scienza, Collins è diventato un esperto del fenomeno stesso competenza. Esaminando come la conoscenza viene sviluppata, testata e discussa negli ambienti da specialisti, può anche dire qualcosa sulle probabilità di svolta dell'intelligenza artificiale.

Mentre gli esseri umani rimangono gli stessi, la capacità di elaborazione delle macchine aumenta in modo esponenziale.

Collins ha studiato per molti anni l'ambiente come ricercatore sulle onde gravitazionali e quindi ha anche imparato abbastanza sulla fisica per partecipare a una conversazione significativa sull'argomento. Tale familiarità con il discorso, ammette, è una sorta di simulazione che un computer potrebbe essere in grado di ottenere. Tuttavia, poter parlare di un argomento non è sufficiente per dargli l'autorità di contraddire i ricercatori: non può decidere se un'affermazione controversa sia uno scherzo avanzato, un input ingegnoso o dovuto a un profondo malinteso. Una comprensione basata sul riconoscimento di modelli sarà sempre basata sulla conoscenza che già esiste, ma la scienza si basa sul disaccordo nella ricerca di nuove conoscenze. Ciò richiede davvero competenza, intesa come giudizio.

Sano scetticismo

Il grande pericolo di credere nell'intelligenza artificiale è che fraintendiamo cosa sia l'intelligenza naturale. Che tutta la conoscenza dovrebbe consistere nell'analisi dei dati disponibili è un'immagine appiattita dell'apprendimento e una visione più profonda della realtà. Il mondo non è una raccolta di fatti finiti, ma può essere visto in molti modi diversi, in parte contraddittori e in parte complementari. Questo è il punto essenziale del libro, che nella parte di Collins annega in una lunga serie di sottili argomenti. Tuttavia, la forza del libro risiede proprio nella fissazione per i dettagli, nella volontà dell'autore di indagare e contestare punto per punto le carenze dell'intelligenza artificiale in nome dello scetticismo scientifico. Una discussione sulle conseguenze di ciò che lui chiama la "resa" dell'intelligenza artificiale va oltre il progetto del libro. Tuttavia, il libro appare come una sobria difesa di un umanesimo in via di estinzione nell'era del delirante postumanesimo.

 

Abbonamento NOK 195 quarti