Siamo noi che siamo pericolosi, non le macchine

INTELLIGENZA ARTIFICIALE: Un computer può batterti, ma sforzati di vedere la differenza tra cani e gatti. Significa che non è intelligente?

Critico letterario in TEMPI MODERNI.
Intelligenza artificiale: una guida per gli esseri umani pensanti
Autore: Melanie Mitchell
Editore: Libri del pellicano, Regno Unito

INTELLIGENZA ARTIFICIALE: Un computer può batterti, ma sforzati di vedere la differenza tra cani e gatti. Significa che non è intelligente?

(Tradotto da Norwegian di Google Gtranslate)

Esperti su intelligenza artificiale (KI) è principalmente diviso in due campi: quelli che si sentono sicuri che le macchine passeranno gli umani nell'intelligenza in un tempo relativamente breve e che temono quali conseguenze ciò avrà per l'umanità, e quelli che si sentono sicuri che le macchine non potranno mai diventare più intelligente di noi e quindi credere che ci sia poco da temere.

L'autore Melanie Mitchell appartiene sicuramente a quest'ultima categoria.

Mitchell è un professore di informatikk presso l'Università di Portland e ha lavorato con il pensiero analogico, sistemi complessi, algoritmi genetici e automi cellulari (modelli matematici). Ha diversi libri e pubblicazioni alle spalle, tra gli altri Un'introduzione agli algoritmi genetici (1996). Afferma che anche se una macchina è riuscita a rendersi imbattibile negli scacchi, non è adatta ad altro.

Penso che sembri troppo rilassata nelle sue opinioni. È vero che ciò che è facile da imparare per l'uomo è difficile per le macchine, ma è vero anche il contrario. Il problema più grande, tuttavia, è che le macchine e gli esseri umani hanno difficoltà a capirsi. È difficile per noi capire perché le macchine intelligenti lottano con qualcosa che anche i bambini piccoli possono fare facilmente come niente, come distinguere tra un cane e un gatto in un'immagine.

Noi umani tendiamo a sopravvalutare l'intelligenza delle macchine ea sottovalutare
nostro.

I computer sono velocissimi nell'apprendere le regole di diversi giochi, ma hanno grandi difficoltà a spiegare hvorfor fanno come fanno in un modo che possiamo capire. Difficilmente comprensibile neanche per la macchina. Ma quando guardiamo alla velocità con cui si è sviluppata l'informatica, poco può essere escluso in futuro. Il libro parla troppo poco della fusione tra uomo e macchina.

spiegazione Problema

Una persona può facilmente spiegare perché ha scelto di fare una passeggiata nel parco invece di pulire la casa. Ma come può una macchina spiegare perché ha scelto una mossa specifica sulla scacchiera e non uno dei trilioni di altre possibilità? Non può. Né capisce di aver vinto, né cosa significa "vincere". Né può rallegrarsi della vittoria. Possiamo quindi liquidarlo come "non intelligente".

Ma gli idioti possono essere più pericolosi degli smarties. Quindi il fatto che una macchina sia stupida non dimostra che non possa essere pericolosa in futuro.

"Sono terrorizzato. Semplicemente terrorizzato. " Douglas Hofstadter

Poiché la velocità di sviluppo è stata così enorme in questo settore, è ovviamente facile credere che ciò implichi il rapido raggiungimento del potere della macchina. Forse troppo facile. Negli anni '1980 è diventato scienziato informatico e fisico Douglas Hofstadter ha chiesto se pensava che una macchina potesse mai diventare campione del mondo di scacchi, a cui ha risposto chiaramente di no. Quando si rese conto di quanto si fosse sbagliato, fu preso dalla paura: in un incontro con gli ingegneri di Google negli anni 2000, Hofstadter disse: “Sono terrorizzato. Semplicemente terrorizzato. "

Sviluppo avventuroso

Lo sviluppo delle competenze di varie macchine negli anni '1970 descrive Mitchell come un'avventura. Ora l'avventura è diventata reale in un modo che pochi potrebbero immaginare, e si può descrivere come la relazione tra il raccontare una storia e l'essere parte della storia da soli. Far parte di un'avventura è probabilmente divertente, finché non ti rendi conto che l'uomo ha il ruolo di Cappuccetto Rosso, mentre la macchina è come il lupo – e che l'avventura è diventata realtà.

Heimat Ahmadi, vedi www.libex.eu
Heimat Ahmadi, vedi www.libex.eu

Alla domanda: "Quanto dovremmo essere spaventati dallo sviluppo di KI?" Mitchell risponde: “È naturale lasciarsi intimidire quando guardiamo film e leggiamo libri di fantascienza sull'evoluzione del KI. Ma questa è pura finzione ".

Ma afferma anche che siamo ancora lontani dall'essere in grado di raggiungere lo stato di "intelligenza artificiale generale" [sistemi che possono essere addestrati per quasi tutto, ndr], chiamato anche "The Alignment Challenge".

Mitchell ha più paura della stupidità che prende il sopravvento che dell'intelligenza stessa. Personalmente credo che il punto non stia qui, ma in quello che ci fa il fenomeno, perché che lo chiamiamo stupidità o intelligenza, non importa se il fenomeno minaccia la nostra esistenza.

Lei risponde in modo inequivocabile: "In ogni caso di ipotesi a breve termine sulla superintelligenza KI, vincere sugli umani dovrebbe essere in fondo alla lista."

Vorrei solo menzionare che un esperto come Ray Kurzweil significa qualcosa di completamente diverso. Kurzweil ha predetto, ad esempio (nel libro L'età di macchine intelligenti, 1990) che un computer sarà in grado di battere un essere umano a scacchi in futuro, cosa che accadde sette anni dopo, quando Deep Blue di IBM batté Kasparov, allora campione del mondo di scacchi.

Media falsi

"Dobbiamo essere consapevoli dei limiti intrinseci dei nuovi sistemi, altrimenti finiremo per sovrastimarli", scrive Mitchell. Anche se penso che Mitchell sembri troppo spensierata considerando quanto velocemente le macchine possono evolversi e quanto velocemente possiamo perdere il controllo su di esse, ha molti punti positivi. Uno dei punti principali è che noi umani tendiamo a sopravvalutare l'intelligenza delle macchine ea sottovalutare la nostra: siamo noi a essere pericolosi, non le macchine. Prima di tutto, l'uomo dovrebbe temere le proprie possibilità, perché il giorno in cui le macchine diventeranno davvero pericolose, potrebbe essere troppo tardi.

Esprime una certa preoccupazione su come le macchine potrebbero essere utilizzate. In particolare, teme le complicazioni del nostro uso delle macchine all'interno di ciò che viene chiamato media falsi: testo, immagini, audio e video che possono essere manipolati in un modo che le persone comuni non sono in grado di vedere.

Mette anche in guardia contro l'uso non etico degli algoritmi. Ancora; in primo luogo dovremmo temere noi stessi, non le macchine. Ma il problema è che il confine tra uomini e macchine si sta sfumando.

Abbonamento NOK 195 quarti