"Tu sei il mio creatore, ma io sono il tuo padrone – obbedisci!"

Condorcet scrive Schizzo per un quadro storico del progresso della mente umana (1795): "Un chimico, mescolando materia infiammabile con salnitro, scoprì il segreto di quella polvere che ha operato una così inaspettata rivoluzione nell'arte della guerra. Nonostante il crudele effetto delle armi da fuoco nello smembramento di un esercito, esse hanno reso la guerra meno micidiale e i combattenti meno brutali. Le spedizioni militari sono diventate più costose; la ricchezza può superare la forza; anche i popoli più bellicosi sentono il bisogno di ottenere e assicurarsi le risorse delle loro campagne acquisendo le ricchezze del commercio e dell'artigianato. Le nazioni coltivate non hanno più nulla da temere dal coraggio cieco delle tribù barbare. Le grandi conquiste e le successive rivoluzioni sono diventate quasi impossibili”. [Traduzione mia, da "Settima epoca".]

Droni assassini

I droni assassini sono un nuovo tipo di arma che rende anche la guerra meno micidiale e richiede meno brutalità da parte dei combattenti. Ma che tipo di guerra è davvero? Non è più una caccia all'uomo? Clausewitz descrive la guerra come un duello, ma tale nobiltà appartiene ai tempi recenti. IN La politica descrive Aristotele krig come la caccia. Elenca le cinque attività umane più importanti: pastorizia; agricoltura; pesca; caccia agli animali selvatici, agli esseri umani (schiavi) e saccheggio; e infine la caccia alle persone e alle cose (guerra). La caccia e la guerra richiedono gli stessi strumenti e abilità.

È stato stupefacente Obama che gli Stati Uniti hanno utilizzato seriamente i droni assassini. Perché? Abbandonare la tattica extragiudiziale di catturare e interrogare i sospetti, questa era la linea di George Bush junior. Inoltre: per evitare di essere accusati di tortura. La CIA ha spinto per cambiare questa politica, perché era sempre la CIA a prendersi la colpa quando qualcosa andava storto. Di conseguenza: meglio uccidere. Le critiche al trattamento dei prigionieri hanno ripetutamente portato i conservatori a sostenere che i principi liberali di sicurezza nazionale portano a più abusi di quanti ne impediscono.

Dopo la crisi finanziaria del 2008, la volontà di dare seguito a interventi costosi e complicati in Iraq e Afghanistan non era più presente. Soprattutto quando si è scoperto che i soldati che gli Stati Uniti avevano addestrato al tiro avevano iniziato a sparare contro i loro insegnanti. Nel 2011, gli Stati Uniti hanno effettuato un attacco con droni in Pakistan ogni quattro giorni. La CIA ha ricevuto il permesso dalla Casa Bianca di effettuare attacchi missilistici in Pakistan anche quando gli operatori di droni della CIA non erano pienamente consapevoli di chi o cosa stavano uccidendo.

di Mary Shelley Frankenstein

Io Mary Shelley Frankenstein (1818, norvegese 2005 [1976]) sperimenta il personaggio principale, Victor Frankenstein, che sua madre muore giovane. Questa è una traccia dietro il suo lavoro nella creazione del mostro: "[Se] potessi dare vita alla materia morta, potrei eventualmente (sebbene ora lo trovassi impossibile) essere in grado di resuscitare dove la morte aveva apparentemente relegato un corpo alla putrefazione .” Ossessionato dall'idea di portarlo a termine, non si rende conto finché non lo ha fatto quanto sia un fallimento la creatura. Il mostro, di cui non vuole sapere, alla fine scompare e subisce uno sviluppo che ricapitola la descrizione di Rousseau in Sulla disuguaglianza tra gli uomini di come l'uomo naturale diventa uomo sociale.

Nel Frankenstein di Mary Shelley, il mostro è arrivato a capire cosa ha Frankenstein
lo privò lasciandolo a se stesso con il suo aspetto orrendo.

Tutti hanno amor proprio, ma solo la persona sociale ha amor proprio:
“[Un] sentimento relativo, creato artificialmente dalla società; porta ogni individuo a valorizzare se stesso più di ogni altro, ispira gli uomini al male che si fanno gli uni agli altri, ed è la vera fonte della gloria”. Il mostro è arrivato a capire di cosa Frankenstein lo ha derubato lasciandolo a se stesso con il suo aspetto orrendo. Colpisce un ragazzino che urla e riversa insulti sul mostro. “Mostro abominevole! Lasciami andare; mio padre è un consigliere, è il signor Frankenstein, verrà a punirti. (…) "Frankenstein! Allora appartieni al mio nemico, colui contro il quale ho promesso la vendetta eterna. Sarai la mia prima vittima." Con m. Frankenstein" dice il bambino di sette anni, Monsieur Frankenstein. È probabile che il mostro pensi che il ragazzino sia il figlio di Victor, ma in realtà è il fratello minore di Victor (entrambi hanno Alphonso come padre). Quindi il mostro uccide una persona diversa da quanto pensa. Inoltre, compie un atto astuto che attribuisce la colpa a un altro: il mostro ha preso con me una miniatura (un gioiello) del ragazzino morto. Questo poi lo colloca su una delle donne che lo aiuta a cercarlo. Finisce per essere impiccata per l'omicidio.

Un laboratorio per soluzioni smart city

Il problema della persona sbagliata che viene presa dai droni assassini è sempre presente. I droni spia profilano il comportamento del nemico: ritmo di movimento, ripetizione, concentrazione e così via. Qui l'ispirazione è stata presa dalle moderne trasmissioni sportive, dove vengono utilizzate molte telecamere e tutti i movimenti possibili vengono registrati e prospettati. Gli indizi possono quindi essere utilizzati per uccidere persone che assomigliano al bersaglio. La Cina è un fornitore di molte di queste attrezzature per gli Stati Uniti e il Regno Unito, mentre Israele produce tutto da solo. Yinchuan è un laboratorio per soluzioni di città intelligenti. Lì hanno autobus senza conducente (autobus veri, non del tipo di zolle che abbiamo in Europa) che corrono a 70 km/h nelle aree urbane. Quando sali sull'autobus, viene utilizzato il riconoscimento facciale per identificarti e il biglietto dell'autobus viene detratto dal tuo conto. Questa tecnologia viene utilizzata anche militarmente, se non proviene da lì.

È già possibile prendere decisioni completamente automatizzate e controllate dal computer. Il fuoco automatico dei droni killer è ampiamente utilizzato. I codici per controllare il lancio di un missile da un drone non sono difficili da scrivere. Per un computer, non c’è differenza tra sparare con una pistola e acquistare un’azione o gettare un’e-mail nel cestino. Cosa possono fare i computer? Cosa può fare l’intelligenza artificiale?

I 2001: Un'odissea nello spazio capiamo che il computer HAL legge le labbra dei due astronauti e quindi ottiene l'accesso a informazioni a lui non destinate. Tutti i giocatori di go del mondo sono rimasti scioccati quando la macchina AlphaGo ha completamente superato il campione europeo del gioco (5–0). Ancora peggio con Alpha Zero, che ha imparato gli scacchi, lo shogi e go ad un livello estremamente alto. Quando si tratta di partire, sono i modelli di rete neurale basati sulla tecnologia delle immagini, ovvero la macchina impara a distinguere tra posture buone e cattive nello stesso modo in cui distingue, ad esempio, tra cani e gatti. Quindi crea dati di allenamento giocando contro se stesso. E questo avviene, come è noto, a una velocità estrema rispetto a quanto farebbero gli esseri umani.

Blade Runner, RoboCop, Patria

Ciò che il mostro apprende in Frankenstein è che spia la nobile famiglia caduta De Lacey fuori nella foresta. Hanno ricevuto la visita di Safie (la figlia di una donna cristiana ridotta in schiavitù dai turchi), che ama Felix (il figlio maggiore della casa). In una dependance adiacente, il mostro riceve la formazione linguistica e culturale destinata a Safie. Un saggio sull'intelletto umano di John Locke (1689) è la presentazione di Mary Shelley dell'esperienza incipiente del mostro. L'apprendimento avviene mentre il mostro spia la famiglia DeLacey. Attraverso una fessura in una finestra ri-inchiodata, osserva le scene domestiche come in uno spioncino teatrale – e guarda direttamente nel soggiorno scarsamente attrezzato della famiglia. Lo sviluppo del mostro segue la descrizione di Locke di come la comprensione si muove progressivamente dall'apprendimento elementare attraverso i sensi all'apprendimento sofisticato attraverso l'intelletto, le emozioni e la moralità. Quello di Volney viene utilizzato nell'apprendimento Le rovine; Oppure, Meditazione sulle rivoluzioni degli imperi: e la legge della natura, e il mostro trova (!) Le Sofferenze del Giovane Werther di Goethe, il Paradiso Perduto di Milton e la Vita di Plutarco, che utilizza nella propria educazione.

Nonostante il suo aspetto terribile, il #Mostro# è superiore a Frankenstein sotto ogni aspetto. È un composto di uomo e animale, alto otto piedi, super forte e fulmineo, e alla fine molto eloquente, di cui Frankenstein mette in guardia il suo soccorritore, il Capitano Walton (1): "[Una volta] le sue parole avevano potere sul mio cuore, ma non fidarti di lui. La sua anima è crudele quanto il suo corpo, pieno di tradimento e di malizia diabolica”.

Hans Moravo ha descritto i robot come "eredi dell'evoluzione" che presto saranno dotati di algoritmi etici. Ma la domanda allora diventa: saranno questi complemento o sostituire le nostre capacità? In ogni caso, questo cambierà radicalmente il nostro rapporto con la tecnologia. Siamo qui oltre l'appello di Marshall McLuhan a vedere gli strumenti tecnologici come estensioni del corpo umano che dobbiamo solo imparare a usare. Quando il mostro affronta Frankenstein a metà del romanzo, sottolinea: "Tu sei il mio creatore, ma io sono il tuo padrone: obbedisci!" Come i replicanti in Blade Runner il mostro prende in mano la situazione. E RoboCop - le parafrasi sopra Frankenstein sono molti.

Nella serie televisiva Patria Nicolas Brody si rivolta contro il suo stesso paese a causa di un attacco di droni andato storto. Viene ulteriormente provocato quando il portavoce della CIA afferma che nessun bambino è stato ucciso. La guerra con i droni killer può sembrare priva di rischi e può essere sostenuta per un lungo periodo di tempo, poiché l’aggressore vuole poche vittime. Per gli elettori, la guerra con i droni mette a disagio la coscienza e il portafoglio. La combinazione tra la guerra dei droni e ciò di cui abbiamo visto AlphaZero capace apre prospettive di un nuovo standard.

(1) Il romanzo inizia e finisce nelle distese di ghiaccio vicino al Polo Nord. Ecco il Capitano Walton alla ricerca del Passaggio a Nord Ovest. La nave è congelata nel ghiaccio e un giorno raccolgono Victor Frankenstein, completamente esausto, che alla fine racconta la sua storia.