15.11.21-10.29 – Se n’era discusso qualche anno fa ma la notizia purtroppo è passata sotto traccia: si parla di armi autonome o ‘killer robots’, parole che infondono una certa inquietudine. Più precisamente, già a maggio 2018 i dipendenti di Google avevano manifestato –riuscendo poi a far strappare il contratto a Google– contro il supporto dell’azienda al Pentagono per lo sviluppo di droni e robots dotati di intelligenza artificiale. Sulle ‘armi autonome’ si è attivata anche Amnesty International che tutt’ora continua la sua campagna “Stop Killer Robots” di cui fanno parte oltre 180 organizzazioni di 66 stati mondiali. Elon Musk e i fondatori di Deepmind hanno poi firmato un documento per fermarne lo sviluppo e lo stesso Parlamento Ue, a settembre 2018, ha chiesto un bando su di esse. Ma cosa sono esattamente questi ‘killer robots’?
Essi possono riguardare svariate tipologie di robotica: dagli androidi sentinelle ai droni volanti, sono sostanzialmente armi che sviluppano capacità cognitive in grado di poter selezionare -chi, dove e quando combattere- ed attaccare un obiettivo senza richiedere nessun intervento umano dopo l’attivazione. Per coloro che puntano sui vantaggi della loro diffusione, esse sarebbero utili per combattere le guerre solo tra intelligenze artificiali, senza addestramento o sensazione di stanchezza; sarebbero più precise e veloci; si limiterebbe l’uccisione di militari in guerra; sarebbero inoltre in grado di individuare la presenza umana in un obiettivo militare, ed evitare quindi l’attacco. Molti studiosi ed esperti contrari, però, sottolineano come, sebbene da decenni si usino armi che cercano obiettivi senza diretto controllo umano (ad es. i siluri Usa contro gli U-Boot tedeschi) con le armi autonome cambi la natura e il potere del software decisionale. Il software infatti si basa su algoritmi di “apprendimento automatico” che scrivono il proprio codice dopo aver analizzato migliaia di esempi reali, senza nessun programmatore umano. Ecco che viene meno la considerazione della valenza etica di tutto ciò: armare un robot vuol dire dare la possibilità ad una macchina senza emozioni di diventare un vero e proprio killer, incapace di fermarsi fino al raggiungimento dell’obiettivo. Se l’obiettivo fosse umano non ci sarebbe pietà per chi desidererebbe arrendersi o per chi si troverebbe sulla strada del robot anche senza essere parte del combattimento. Si pensi ad una macchina addestrata a rilevare le sembianze umane: andrebbe ad eliminare senza remore donne, bambini e tutti coloro che sfortunatamente si ritroverebbero sulla sua traiettoria di conquista.
La creazione delle armi autonome porterebbe quindi ad un azzeramento dell’etica, del valore umano e dell’anima come parte vitale. Nulla avrebbe più un senso intrinseco: in ambito filosofico non si potrebbe neanche parlare di indifferenza o insensibilità alla vita ma si tratterebbe letteralmente di ‘svuotare l’anima’ al reale. ‘Gusci senza coscienza’ avrebbero la possibilità di comandare su interi paesi, con il rischio -già dimostrato in vari film o generi letterari- che la loro intelligenza si sviluppi al punto da valicare gli stessi tecnici, scienziati ed informatici che ad oggi lavorano al loro sviluppo. Non si tratta più di ‘distopie‘ ma di possibili realtà.
I rischi però sono anche altri, come l’aumento delle guerre (proprio perché a farne parte non ci sarebbero gli umani, in posizione di spettatori ed organizzatori) e possibili hackeraggi dei sistemi o vulnerabilità ad errori.
“Abbiamo avuto un decennio di colloqui alle Nazioni Unite per discutere delle armi autonome e dei loro pericoli, ma questi scambi diplomatici sono sempre stati bloccati dagli stessi stati che stanno sviluppando le armi letali autonome. Ora è il tempo di agire, prima che il pericolo si concretizzi”, ha dichiarato Francesco Vignarca, Coordinatore Campagne della Rete Italiana Pace e Disarmo in Italia, che fa parte di Stop Killer Robots. Il 2 dicembre 2021, il Gruppo degli esperti governativi della Convenzione delle Nazioni Unite sulle armi convenzionali si riunirà per decidere se avviare negoziati su una nuova normativa internazionale sui sistemi d’arma autonomi. Amnesty International e Stop Killer Robots hanno quindi lanciato una petizione che chiede a tutti i governi di sostenere questa necessità.
I segretario generale delle Nazioni Unite, il Comitato internazionale della Croce rossa, vari Nobel per la pace, 66 stati e migliaia di scienziati chiedono l’adozione di un trattato per impedire questi sistemi d’arma. Tuttavia per Russia, Israele, Stati Uniti, Cina, Corea del Sud, Australia, India, Turchia e Regno Unito la proposta è ‘prematura’, in quanto stanno investendo sulle armi autonome. Di essi, solo per fare un esempio, il Regno Unito, sta sviluppando un drone privo di guida che può volare in modo autonomo e identificare un bersaglio all’interno di un’area di bersagli precedentemente programmata. La Cina sta creando droni di piccole dimensioni programmati per attaccare qualsiasi obiettivo che emetta temperatura corporea. La Russia ha costruito un carro-armato robot che può essere dotato di mitragliatrici e lanciagranate.
Normative etiche e legali sulla questione e sul rispetto dei diritti umani devono essere al più presto aggiornate. I diritti umani non possono restare solamente un argomento da studiare nelle scuole, per essere rispettati hanno bisogno di essere messi in pratica concretamente. “La decisione di togliere la vita non dovrebbe essere mai delegata a una macchina” afferma il documento siglato da molti studiosi e non contro le armi autonome. Dai dati raccolti da Amnesty da un sondaggio di dicembre 2018, oltre la metà degli intervistati in Russia (59%) e negli Stati Uniti (52%) oltre a Cina (60%), Corea del Sud (74%) e Regno Unito (54%), sono contrari a questi “robot killer”. Un nuovo sondaggio della Ipsos del 2020 dimostra come l’opposizione sia tutt’ora molto forte. Tutto ciò evidenzia che l’opinione pubblica e gli Stati non sono sullo stesso piano.
Il mondo sta cambiando, forse un po’ troppo: virus che ci costringono a girare anni con la mascherina, circolazione economica sempre più cashless, app che fanno le cose al posto nostro, riconoscimenti facciali, armi autonome. Purtroppo, dobbiamo renderci conto che il tanto inquietante ‘futuro distopico’ di Orwell, forse, è già arrivato. Proprio per questo, abbiamo bisogno di tornare a vivere in modo semplice la nostra vita, apprezzando la natura, ricominciando a valorizzare i lavori manuali, provando a cavarcela solo grazie alla forza delle nostre braccia e della nostra mente. Solo così potremo andare avanti, perché un futuro degno di questo nome non sarà possibile se relegheremo tutto alla tecnologia. Se ci lasceremo vivere passivamente, saremo complici della distruzione del nostro ‘io’ ma anche della globalità del pianeta.
Per poter andare avanti, in realtà, dobbiamo saper tornare indietro.
[m.p]
