Questo libro è ovviamente critico e il titolo, Intelligenza artificiale, suggerisce dove si trova il problema: con l'aiuto della fantascienza e di un settore IT auto-esaltante, la fede in un'intelligenza artificiale onnipotente sta prendendo piede. Al riparo di questa ideologia di possibilità future si insinua l'intelligenza artificiale noi effettivamente avere – imperfetto, fallibile e fastidioso – penetrano in sempre più aree della società. Abbagliati dal relativo successo, siamo diventati troppo indulgenti verso i punti deboli dei robot parlanti e degli assistenti digitali.
Un clamore deterministico
L'alleanza dell'industria tecnologica con – e la debolezza per – la fantascienza spesso sfocia in fantasie sull'acquisizione di robot, che in pratica funzionano come parte di un deterministico montatura, anche se le storie non sono mai così distopiche, sottolinea Collins. Il fatto che i pensieri secondo cui l'intelligenza artificiale quasi necessariamente "conquisteranno il mondo" siano stati supportati da autorità come Stephen Hawking è abbastanza inquietante. Che Elon Musk sostenga che dovremmo collegare il cervello ai sistemi informatici per "non essere resi irrilevanti" dalle macchine – e che lui stesso sviluppi questa tecnologia – è peggio. Quel Ray Kurzweil, l'autore di La Singolarità è vicina, la Bibbia stessa per coloro che credono nella superintelligenza artificiale, è anche il capo del potente Google, è forse il peggiore.
Nonostante tali esempi, afferma Collins, la fede nell'intelligenza artificiale è molto maggiore tra filosofi, biologi evoluzionisti e il pubblico in generale che tra coloro che conoscono veramente il campo. La mancanza di conoscenze specialistiche ci fa fidare di esperti con un'agenda mista, mentre i film ci fanno conoscere una visione dubbia del mondo di domani.
Sleale, ma neutrale
Film come Suo, dove il protagonista si innamora di a talkbot essere indebolito con 641 altri uomini, o Ex Machina, in cui un robot dell'amore si vendica del suo creatore, sono sintomi culturali interessanti, dice Collins – ma la patologia sottostante risiede nell'incapacità di distinguere tra simulazione e realtà. Proiettiamo l'umano sulle macchine e la macchina sull'umano, offuscando così la distinzione. I computer possono non essere leali o amorevoli, sottolinea sobriamente, ma non sono nemmeno malvagi o manipolatori.
Le argomentazioni di Collins sono in parte basate sullo studente di Heidegger Hubert Dreyfus della UC Berkeley – e sul suo libro dal titolo eloquente Quello che i computer non possono fare (1971) e il seguito Ciò che i computer ancora non possono fare (1991). Qui l'argomento è che un'intelligenza artificiale ha bisogno di un corpo per essere nel mondo in un modo che renda significative le parole, ad esempio parole come "buono" e "cattivo". Quando l'intelligenza artificiale non riesce a passare per umana, è a causa delle parti della sua intelligenza che dipendono dall'interazione corporea e linguistica con gli altri: non solo il linguaggio del corpo, ma la comunicazione linguistica che fornisce una sensibilità fine alla fiducia, disaccordo, ironia e rottura delle regole creative.
Il punto cieco delle macchine
L'apprendimento delle lingue implica quindi una conoscenza tacita che non possiamo facilmente esplicitare e simulare in un programma. Dalla pubblicazione dei libri di Dreyfus, ha iniziato a sembrare che anche il senso dell'ironia e dell'umorismo possa essere appreso sperimentando la violazione delle regole del passato e i doppi sensi, un'esperienza che apparentemente può essere ottenuta attraverso i big data. Il coronamento di questa svolta è il programma Watson, che batte gli umani nel gioco Jeopardy navigando attraverso milioni di pagine sul web. Riconosce i modelli e comprende i giochi di parole basati su casi passati e analisi basate sulla probabilità.
Mentre gli esseri umani rimangono gli stessi, la potenza di elaborazione delle macchine aumenta in modo esponenziale e possono trovare schemi sempre più sofisticati in raccolte di dati sempre più grandi. La singolarità è vicina, afferma Kurzweil, confutando tutte le riserve con una provocazione mirata, che Collins vede come una chiave: "Se il riconoscimento di schemi non 'conta' come comprensione reale, neanche gli umani hanno comprensione". Collins dice, al contrario: Riconoscere le cose è solo una piccola parte della conoscenza. La nostra comprensione deriva non solo dal fatto che riconosciamo le cose nel mondo, ma anche dal fatto che acquisiamo un numero infinito di modi di ordinare il mondo, modi che sono culturalmente condizionati, infinitamente sfumati e in costante cambiamento.
Molteplici interpretazioni
La conoscenza nasce attraverso un complicato gioco di esperienze, linguaggi e relazioni sociali. Da sociologo della scienza, Collins è diventato un esperto del fenomeno stesso competenza. Esaminando come la conoscenza viene sviluppata, testata e discussa in ambienti di specialisti, può anche dire qualcosa sulle probabilità di successo dell'intelligenza artificiale.
Mentre gli esseri umani rimangono gli stessi, la potenza di elaborazione delle macchine aumenta in modo esponenziale.
Per un certo numero di anni, Collins ha studiato l'ambiente come ricercatore sulle onde gravitazionali, e quindi ha anche imparato abbastanza sulla fisica per partecipare a una conversazione significativa sull'argomento. Tale familiarità con il discorso, ammette, è una sorta di simulazione che un computer potrebbe essere in grado di realizzare. Tuttavia, essere in grado di parlare di un argomento non è sufficiente per dargli l'autorità di contraddire gli scienziati: non può decidere se un'affermazione controversa sia uno scherzo avanzato, un suggerimento geniale o si basi su un profondo malinteso. Una comprensione basata sul riconoscimento di modelli sarà sempre basata sulla conoscenza che già esiste, ma la scienza si basa sul disaccordo nella ricerca di nuove conoscenze. Ciò richiede una vera competenza, intesa come giudizio.
Sano scetticismo
Il grande pericolo con la fede nell'intelligenza artificiale è che fraintendiamo cosa sia l'intelligenza naturale. Che tutta la conoscenza debba consistere nell'analisi dei dati disponibili è un'immagine appiattita dell'apprendimento e più profondamente della realtà. Il mondo non è un accumulo di fatti già pronti, ma può essere visto in molti modi diversi, in parte contraddittori e in parte complementari. Questo è il punto essenziale del libro, che con Collins è parzialmente annegato in una lunga serie di argomentazioni sofisticate. Tuttavia, la forza del libro risiede proprio nella sua fissazione per i dettagli, nella volontà dell'autore di esaminare e sfidare punto per punto le carenze dell'intelligenza artificiale in nome dello scetticismo scientifico. Una discussione sulle conseguenze di quella che chiama la "resa" all'intelligenza artificiale va oltre il progetto del libro. Tuttavia, il libro appare come una sobria difesa di un umanesimo minacciato nell'era del delirante postumanesimo.
