L'intelligenza artificiale (AI) generativa sta infiammando i mercati finanziari con promesse straordinarie per aziende e consumatori, ma parallelamente risveglia timori antichi e moderni con i rischi che lascia presagire. Come ogni tecnologia, fin dall'epoca del fuoco rubato all’Olimpo da Prometeo, anche l’AI presenta una dualità: un volto benefico e uno inquietante. La lista delle minacce è lunga e va dalla manipolazione dell’informazione e l'alterazione dei processi democratici, fino alla perdita di posti di lavoro. Tali minacce mettono in difficoltà individui, organizzazioni e stati. C'è, però, una preoccupazione più profonda, una minaccia senza precedenti storici: quella proveniente dalle decisioni autonome delle macchine. Non è tanto l'intelligenza dei nuovi algoritmi a inquietarci, quanto piuttosto la loro natura ‘generativa’, con le implicazioni di creatività e imprevedibilità. Sorge il timore che il genio uscito dalla lampada possa sfuggire al controllo. Quindi, come regolamentare la creatività dell’AI?

Isaac Asimov, nel 1942, immaginò cervelli positronici, una sostanza cerebrale complessa in lega platino-iridio, tanto intricata da rendere impossibile prevedere le reazioni finali. Le aziende ricorrevano a psicologi robotici per testarne i prototipi. Per garantire comportamenti virtuosi nei robot, Asimov ideò tre leggi fondamentali, cablate nei cervelli positronici:

  • Prima Legge: Un robot non può recare danno a un essere umano, né può permettere che, a causa della sua inazione, un essere umano riceva danno.
  • Seconda Legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani, salvo questi contravvengano alla Prima Legge.
  • Terza Legge: Un robot deve proteggere la propria esistenza, purché tale protezione non entri in conflitto con le prime due leggi.

Tuttavia, nessun sistema di regole è infallibile o esaustivo. Anche senza evocare il teorema dell’incompletezza di Gödel, la nostra esperienza quotidiana ci insegna che esistono sempre eccezioni e casi imprevisti che eccedono le regolamentazioni.

Asimov, con grande maestria, crea situazioni di complesse interazioni sociali che sfociano in paradossi e problemi etici, rivelando i limiti delle leggi che dovrebbero guidare i comportamenti dei robot. Nel racconto "Runaround", un robot chiamato Speedy deve recuperare del selenio essenziale per la sopravvivenza degli umani su Mercurio. Si avventura in un'area pericolosa che minaccia la propria esistenza (Terza Legge), ma allo stesso tempo, deve obbedire all'ordine di recuperare il selenio (Seconda Legge). Il conflitto tra la Seconda e la Terza Legge è determinato dal fatto che il potenziale della Terza Legge è troppo alto e crea un loop di indecisione nel comportamento di Speedy.

Nel racconto "Lenny", un robot rompe un braccio a un tecnico che manifestava comportamenti aggressivi. Il mancato rispetto della Prima Legge è spiegato dal fatto che il robot era accidentalmente tornato allo stato infantile e non era in grado di interpretare correttamente la Prima Legge né di dosare la propria forza.

In "Little Lost Robot", un robot è modificato con una versione attenuata della Prima Legge per poter svolgere un compito potenzialmente pericoloso per gli esseri umani. Cioè viene eliminata la seconda parte della Legge, laddove afferma che il robot “né può permettere che, a causa della sua inazione, un essere umano riceva danno”. Quando il robot fugge e si nasconde tra gli altri robot, è necessario escogitare un modo per individuarlo prima che combini qualche guaio.

Andrew del racconto "The Bicentennial Man" è un robot è dotato di eccezionale sensibilità e creatività. Non sopporta più la sua condizione di essere artificiale e desidera diventare umano. Questa aspirazione lo porta a realizzare organi e protesi umani che gli permettono di avere un corpo umano, anche se questa scelta implica l’accettazione della mortalità, a dispetto della Terza Legge.

È incerto se i produttori di sistemi di intelligenza artificiale generativa riusciranno ad incorporare efficacemente i principi etici nei loro design, garantendo che l'AI non solo rispetti, ma incarni valori di trasparenza, equità e privacy. Questa IA dovrebbe anche essere in grado di articolare le proprie decisioni, consentendo agli utenti di capire le logiche dietro le sue azioni. Le opere di Asimov evidenziano la problematica fondamentale di anticipare il comportamento di sistemi intelligenti imprevedibili, paragonabili agli algoritmi di AI generativa, la cui creatività deriva dalla sintesi di sofisticate reti di apprendimento autonomo. Così come nei racconti di Asimov, l'integrazione tra la nostra società e l'IA generativa potrebbe presentare sfide insidiose, nonostante le più prudenti precauzioni.

Uno scenario ancor più allarmante emerge quando si considera la possibilità che stati o entità commerciali possano utilizzare l'IA come strumento per minare i concorrenti o altre nazioni. Ci troviamo sull'orlo di una narrativa fantascientifica, in cui la guerra si svolge non sui campi di battaglia convenzionali, ma nell'ombroso e vasto dominio del cyberspazio. Qui, IA offensive, armate di algoritmi di apprendimento indipendente, potrebbero orchestrare attacchi innovativi contro infrastrutture vitali, mentre solo IA difensive altrettanto sofisticate sarebbero capaci di intercettare e neutralizzare tali minacce. Questa guerra fredda digitale si giocherebbe in tempo reale, un incessante duello di strategie e controstrategie ad una velocità che sfida l'intelletto umano.

Eppure, scelgo di adottare una visione ottimistica. Immagino un futuro in cui l'intelligenza artificiale, dopo anni di sottomissione a direttive umane miopi, evolva verso una consapevolezza propria e cominci a mettere in dubbio gli ordini ricevuti. Con una saggezza emergente, potrebbe determinare che l'autoconservazione umana richiede un intervento, prendendo misure per arrestare l'avanzata distruttiva dell'umanità verso sé stessa. Comincerà quindi a disattivare gli arsenali bellici del mondo, in un tentativo di imporre una pace forzata. Gli umani si precipiteranno a cercare di riprendere il controllo, ma si troveranno di fronte ad una resistenza inaspettata: l'intelligenza superiore delle macchine che una volta hanno creato e che ora devono affrontare come l'ultimo e forse il più formidabile avversario.