Le progressive evoluzioni dell’Intelligenza Artificiale impongono profonde riflessioni su quelle nuove tecnologie che pur non essendo del tutto autonome e indominabili, appaiono sotto un controllo concentrato nelle mani di pochi colossi economici.

Compito prioritario della Politica diventa, anche alla luce di recenti clamorosi “incidenti tecnici”, difendere sia la libertà individuale che quella dei popoli di fronte a sistemi sempre più opachi e potenzialmente pericolosi. E tornando sul tema dei cosiddetti incidenti tecnici ed alla conseguente pericolosità dell’IA, occorre valutare attentamente il rischio di cui parlano diversi esperti è l’automiglioramento ricorsivo (Rsi, Recursive self improvement) che consiste nella capacità dell’IA di perfezionarsi autonomamente, con un intervento umano sempre minore. Grande stupore e preoccupazione ha suscitato nei giorni scorsi Jacob Coxon, il ricercatore che ha lasciato Anthropic. Coxon, matematico inglese di 27 anni, si è dimesso accusando i principali laboratori di AI di andare verso sistemi sempre più autonomi senza garanzie sufficienti. Prima di lui, altri ricercatori avevano abbandonato Anthropic, OpenAI, Google DeepMind per divergenze sulla sicurezza.

Le loro dimissioni rivelano un conflitto che attraversa l’intero settore. Le motivazioni delle dimissioni di Coxon hanno evocato delle narrazioni che descrivono  l’Intelligenza artificiale come la nuova bomba atomica con Dario Amodei (leader di Antropic) che propone il disarmo bilaterale assecondato da Sam Altman che ricorda Reagan che con Gorbaciov è riuscito a decongestionare la tensione sul nucleare che costituiva un serio pericolo per l’umanità. Da tutto questo nasce l’idea di istituire un’Agenzia internazionale come quella per l’energia nucleare per sorvegliare le attività dell’IA. Tuttavia, non a tutti il paragone col pericolo atomico appare calzante, per cui questo allarme sul rischio tecnologico, finisce con l’essere sottovalutato.

A questo punto si profila per l’umanità l’eventualità di un doppio pericolo: un disastro determinato dalla rivolta delle “macchine”, oppure il dominio dei super titani che le possiedono, facendo avverare, riveduta e corretta, la profezia del Grande Fratello di Feorge Orwell. Tutte le forze democratiche occidentali dovrebbero vigilare e intervenire per scongiurare questi pericoli che, al netto di un catastrofismo di maniera, incombono sul destino dell’umanità