(QUESTO ARTICOLO È TRADOTTO DA Google dal norvegese)
Questo libro è ovviamente critico e il titolo, Intelligenza artificiale, suggerisce dove si trova il problema: con l'aiuto della fantascienza e di un settore IT auto-esaltante, la fede in un'intelligenza artificiale onnipotente sta prendendo piede. Al riparo di questa ideologia di possibilità future si insinua l'intelligenza artificiale noi effettivamente avere – imperfetto, fallibile e fastidioso – penetrano in sempre più aree della società. Abbagliati dal relativo successo, siamo diventati troppo indulgenti verso i punti deboli dei robot parlanti e degli assistenti digitali.
Un clamore deterministico
L'alleanza dell'industria tecnologica con – e la debolezza per – la fantascienza spesso sfocia in fantasie sull'acquisizione di robot, che in pratica funzionano come parte di un deterministico montatura, anche se le storie non sono mai così distopiche, sottolinea Collins. Il fatto che i pensieri secondo cui l'intelligenza artificiale quasi necessariamente "conquisteranno il mondo" siano stati supportati da autorità come Stephen Hawking è abbastanza inquietante. Che Elon Musk sostenga che dovremmo collegare il cervello ai sistemi informatici per "non essere resi irrilevanti" dalle macchine – e che lui stesso sviluppi questa tecnologia – è peggio. Quel Ray Kurzweil, l'autore di La Singolarità è vicina, la Bibbia stessa per coloro che credono nella superintelligenza artificiale, è anche il capo del potente Google, è forse il peggiore.
Nonostante tali esempi, sostiene Collins, la fiducia nell’intelligenza artificiale è molto maggiore tra i filosofi, i biologi evoluzionisti e il pubblico in generale che tra coloro che conoscono veramente il campo. La mancanza di conoscenze specialistiche ci porta a fidarci di esperti con programmi contrastanti, mentre i film ci fanno conoscere una visione dubbia del mondo di domani.
Sleale, ma neutrale
Film come Il suo, dove il personaggio principale si innamora di a talkbot essere indebolito con altri 641 uomini, o Ex Machina, in cui un robot dell'amore si vendica del suo creatore, sono sintomi culturali interessanti, dice Collins, ma la patologia di fondo risiede nell'incapacità di distinguere tra simulazione e realtà. Proiettiamo l'umano sulle macchine e la macchina sull'umano, sfumando così la distinzione. I computer potrebbero non essere leali o amorevoli, sottolinea sobriamente, ma non sono nemmeno malvagi o manipolatori.
Le argomentazioni di Collins si basano in parte sullo studente di Heidegger Hubert Dreyfus dell'UC Berkeley – e sul suo libro dal titolo significativo Cosa non possono fare i computer (1971) e il seguito Ciò che i computer ancora non possono fare (1991). Qui la tesi è che un'intelligenza artificiale ha bisogno di un corpo per essere nel mondo in un modo che dia significato alle parole, ad esempio parole come "buono" e "cattivo". Quando l’intelligenza artificiale fallisce nel suo tentativo di passare per umana, è a causa delle parti della sua intelligenza che dipendono dall’interazione corporea e linguistica con gli altri – non solo il linguaggio del corpo, ma la comunicazione linguistica che fornisce una sensibilità calibrata alla fiducia, disaccordo, ironia e rottura creativa delle regole.
Il punto cieco delle macchine
L'apprendimento delle lingue implica quindi una conoscenza tacita che non possiamo facilmente esplicitare e simulare in un programma. Dalla pubblicazione dei libri di Dreyfus, ha cominciato a sembrare che anche il senso dell'ironia e dell'umorismo possa essere appreso sperimentando le violazioni delle regole e i doppi sensi del passato, un'esperienza che apparentemente può essere ottenuta attraverso i big data. L'esempio culminante di questa svolta è il programma Watson, che batte gli umani nel gioco Jeopardy esplorando milioni di pagine sul web. Riconosce i modelli e comprende i giochi di parole basati su casi passati e analisi basate sulla probabilità.
Mentre gli esseri umani rimangono gli stessi, la potenza di elaborazione delle macchine aumenta in modo esponenziale e possono trovare modelli sempre più sofisticati in raccolte di dati sempre più grandi. La singolarità è vicina, afferma Kurzweil, confutando ogni riserva con una provocatoria puntata, che Collins vede come una chiave: "Se il riconoscimento di modelli non 'conta' come vera comprensione, neanche gli esseri umani hanno comprensione." Collins dice invece: Riconoscere le cose è solo una piccola parte della conoscenza. La nostra comprensione nasce non solo dal fatto che riconosciamo le cose nel mondo, ma anche dal fatto che acquisiamo un numero infinito di modi di ordinare il mondo, modi che sono culturalmente condizionati, infinitamente sfumati e in costante cambiamento.
Molteplici interpretazioni
La conoscenza nasce attraverso una complessa interazione di esperienza, linguaggio e relazioni sociali. In quanto sociologo della scienza, Collins è diventato un esperto del fenomeno stesso competenza. Esaminando come la conoscenza viene sviluppata, testata e dibattuta in ambienti di specialisti, può anche dire qualcosa sulle probabilità di successo dell'intelligenza artificiale.
Mentre gli esseri umani rimangono gli stessi, la potenza di elaborazione delle macchine aumenta in modo esponenziale.
Collins ha studiato per diversi anni l'ambiente come ricercatore sulle onde gravitazionali e ha quindi imparato abbastanza sulla fisica per partecipare a una conversazione significativa sull'argomento. Tale familiarità con il discorso, ammette, è una sorta di simulazione che un computer potrebbe essere in grado di realizzare. Tuttavia, il fatto di poter parlare di un argomento non è sufficiente per dargli l’autorità di contraddire gli scienziati: non può decidere se un’affermazione controversa è uno scherzo avanzato, un suggerimento ingegnoso o si basa su un profondo malinteso. Una comprensione basata sul riconoscimento di modelli si baserà sempre sulla conoscenza già esistente, ma la scienza si basa sul disaccordo nella ricerca di nuova conoscenza. Ciò richiede una vera competenza, intesa come giudizio.
Scetticismo sano
Il grande pericolo legato alla fede nell’intelligenza artificiale è che fraintendiamo cosa sia l’intelligenza naturale. Che tutta la conoscenza debba consistere nell’analisi dei dati disponibili è un’immagine appiattita dell’apprendimento e, più profondamente, della realtà. Il mondo non è un accumulo di fatti già pronti, ma può essere visto in molti modi diversi, in parte contraddittori e in parte complementari. Questo è il punto essenziale del libro, che con Collins viene parzialmente affogato in una lunga serie di ragionamenti sofisticati. Tuttavia, la forza del libro sta proprio nella sua fissazione sui dettagli, nella volontà dell'autore di esaminare e sfidare punto per punto i difetti dell'intelligenza artificiale in nome dello scetticismo scientifico. Una discussione sulle conseguenze di quella che lui chiama la "resa" all'intelligenza artificiale va oltre il progetto del libro. Tuttavia, il libro appare come una sobria difesa di un umanesimo minacciato nell’epoca del delirante postumanesimo.
