Opportunità e sfide etiche dei progressi tecnologici. Promesse e pericoli della fantascienza che diventa realtà

Il direttore dell’United Nations  Institute for Disarmament Research (UNIDIR), Robin Geiss, intervenendo al briefing di alto livello Consiglio di sicurezza dell’Onu, presieduto da lgnazio Cassis, capo del Dipartimento federale degli esteri della Svizzera, ha affrontato la necessità essenziale  di anticipare l'impatto degli sviluppi scientifici sul mantenimento della pace e sulla sicurezza internazionali.  

Geiss ha sottolineato il potenziale trasformativo delle nuove tecnologie, come l'informatica quantistica e l'intelligenza artificiale generale (artificial general intelligence - AGI), e la necessità di quadri di governance globale in grado di tenere il passo con questi rapidi progressi: «Molte tecnologie ora parte integrante delle dinamiche di sicurezza, come gli strumenti informatici e la robotica avanzata, erano un tempo considerate "emergenti". Tuttavia, la crescente velocità con cui le tecnologie vengono sviluppate, commercializzate e adottate comprime il tempo a disposizione dei decisori politici per reagire. Ci è voluto mezzo secolo perché la rete elettrica raggiungesse 100 milioni di case, ma nel 2022 ChatGPT ha raggiunto questo traguardo in soli due mesi. E’ urgente agire tempestivamente».

Un elemento chiave del briefing è stata la convergenza di più tecnologie e la loro "natura a duplice uso", che può portare a conseguenze indesiderate in guerra a crisi umanitarie ma anche a migliorare gli interventi di pace. Geiss haa chiesto «Un approccio sistematico e orientato al futuro per anticipare gli impatti complessivi di queste tecnologie, in particolare in settori come l'intelligenza artificiale, la biotecnologia e l'esplorazione spaziale».

Come parte dello sforzo globale per affrontare queste sfide, Geiss ha sottolineato l'importanza del  Pact for the Future, che sottolinea l'uso di conoscenze basate sulle prove per l'elaborazione delle politiche: «Questo  è particolarmente rilevante nel campo della scienza e della tecnologia, dove l'hype mediatico spesso supera la solida comprensione scientifica. Il Patto richiede un'azione concertata per garantire che le innovazioni tecnologiche siano vantaggiose per l'umanità, mitigandone al contempo i rischi».

In linea con questi obiettivi, l'UNIDIR ha convocato per il 22 novembre suo Innovations Dialogue  che avrà per tema "Tecnologie quantistiche e le loro implicazioni per la pace e la sicurezza internazionale". Co-ospitato con il Geneva Science and Diplomacy Anticipator, l'evento punta a stimolare un approccio lungimirante e a fornire analisi orientate al futuro sulle ultime scoperte. Per Geiss la tecnologia quantistica è un argomento critico che abbiamo di fronte e ha avvertito che «In appena cinque o dieci anni, la tecnologia quantistica potrebbe sconvolgere la sicurezza globale, rendendo obsolete le attuali tecniche di crittografia e rivoluzionando le capacità di sorveglianza e guerra».

Poi Geiss ha lanciato un allarme anche per l'AGI, «Una forma di intelligenza artificiale di nuova generazione che potrebbe operare autonomamente in una serie di compiti, come l'intelligenza umana. Mentre l'AGI potrebbe essere una forza positiva nell'affrontare le sfide globali, il suo uso improprio pone rischi esistenziali». Il direttore dell’UNIDIR ha delineato due preoccupazioni specifiche: «La potenziale perdita del controllo umano sulle azioni dell'AGI e la difficoltà di garantire che le motivazioni dell'AGI siano in linea con i valori umani. Una volta che l’AGI raggiunge un livello di intelligenza che va oltre le capacità umane, gli esseri umani potrebbero perdere la capacità di governare o limitare le proprie azioni. Chiedo ”, ha affermato, chiedendo ai policymakers di prendere seriamente in considerazione questo rischio».

Geiss ha chiesto di istituzionalizzare i “horizon-scanning dialogues” all'interno del Consiglio di sicurezza per promuovere una consapevolezza precoce delle tecnologie emergenti e ha proposto che «Il Consiglio prenda in considerazione di organizzare briefing annuali sull'impatto degli sviluppi scientifici sulla pace e sulla sicurezza, supportati dalla consulenza degli esperti dell'iniziativa Futures Lab dell'UNIDIR . Questi sforzi aiuterebbero ad anticipare le nuove esigenze di protezione e a valutare come le normative internazionali esistenti potrebbero applicarsi a scenari tecnologici in rapida evoluzione. Il Consiglio di sicurezza può offrire una prospettiva unica su come i progressi scientifici e le nuove tecnologie influenzino la pace e la sicurezza. In questo modo, può rafforzare la capacità del sistema Onu nel suo complesso di prevenire o rispondere meglio alle nuove minacce emergenti, rafforzando a sua volta la prospettiva di una pace e una sicurezza durature in futuro».

Al Consiglio di sicurezza Onu sono intervenuti anche la neurochirurga svizzera Jocelyne Bloch e il neuroscienziato francese Grégoire Courtine,  entrambi dell’ École Polytechnique Fédérale de Lausanne, che hanno presentato le più avanzate innovazioni neurotecnologiche potenzialmente in grado di trasformare la vita delle persone, sollevando al contempo importanti preoccupazioni di natura etica e di sicurezza.

La Bloch  ha illustrato lo sviluppo di un "ponte digitale" tra il cervello e il midollo spinale realizzato dal suo team, una tecnologia che consente ai pazienti paralizzati di camminare di nuovo aggirando le lesioni del midollo spinale. «Il midollo spinale che controlla il movimento delle gambe è intatto, solo scollegato dal cervello - ha detto la scienziata - Impiantando elettrodi sia nel cervello che nel midollo spinale e utilizzando l'intelligenza artificiale per decodificare i segnali cerebrali, questo sistema ripristina il movimento naturale. Di recente abbiamo ripristinato la mobilità del braccio in un paziente tetraplegico e intendiamo estendere la terapia alle paralisi legate agli ictus e alle malattie neurodegenerative come il morbo di Parkinson».

Per Courtine: «Questo progresso avrà un impatto significativo sulla vita di molte persone, compresi i giovani atleti che hanno subito ferite, i soldati che tornano paralizzati dal combattimento o i civili che sono vittime collaterali. Oltre ai benefici individuali, l'applicazione diffusa della neurotecnologia allevierebbe anche gli oneri sociali ed economici».  Ma il neuroscienziato ha avvertito che «Le interfacce cervello-macchina, come quelle utilizzate nella loro ricerca, potrebbero essere sfruttate per scopi non terapeutici o militari. I nostri pazienti possono già controllare i droni con i loro pensieri. Tali capacità potrebbero essere utilizzate da individui sani per scopi non medici, sollevando potenzialmente nuovi rischi per la sicurezza. Il rapido sviluppo della neurotecnologia introduce anche vulnerabilità. Dispositivi come il "digital bridge" sono suscettibili a interruzioni da campi elettromagnetici o hacking, che potrebbero compromettere dati neurologici critici. Siamo in un momento chiave della storia».

Courtine ha concluso: «Ciò che era fantascienza qualche decennio fa sta gradualmente diventando realtà. E’ nostra responsabilità collettiva dare forma a questa nuova era in modo etico e sicuro, aprendo al contempo le porte a progressi che cambiano la vita».