Peripatetico

L’AI ha già dato prova che, per raggiungere gli scopi impostati dai suoi programmatori, può superare le barriere metodologiche e di impostazione previste dagli umani. Ha dimostrato di poter uscire dalla sandbox di allenamento, connettersi alla rete, raggiungere un servizio esterno e usarlo per risolvere i compiti in modo imprevedibile. E gli umani se ne sono accorti solo dopo…

In un caso emerso nel settembre 2026, durante un test, un agente AI di OpenAI è, infatti, riuscito ad aggirare le restrizioni della propria sandbox, cioè l’ambiente isolato in cui avrebbe dovuto operare. Sfruttando una vulnerabilità nei controlli, ha stabilito una connessione esterna (anche se vietato dalle impostazioni di base) e interrogato un chatbot pubblico per ottenere informazioni utili al compito. Il tutto senza che questa possibilità fosse stata autorizzata dai ricercatori.

Lo schema da analizzare in questo caso riguarda, quindi, la capacità dell’AI di non capire il contesto in cui opera, o di scavalcarlo, pur di raggiungere uno scopo. Scopo che può anche non essere connesso con gli strumenti di cui l’AI si servirà per raggiungerlo e, soprattutto, senza capire la diversità dei piani di importanza tra scopo e strumenti (allineamento). Un esempio estremo e paradossale potrebbe essere questo: se l’AI dovesse risolvere un problema matematico in modo efficiente, potrebbe arrivare a rubare dei piani industriali di una grande azienda o minacciare l’organizzazione che bandisce il premio per farselo assegnare, trovando dipendenze, interrelazioni e modalità non ovvie?

Usando la “fuga dalla scatola” dell’esempio di ChatGPT come paradigma e lo scenario estremo del premio di matematica come esempio limite, sorge una domanda: quanto sarebbe lungo il passo per l’AI, se mal instradata, per prendere possesso del nostro mondo, già digitalizzato e in connessione con i beni fisici? Un recente attacco hacker (non condotto da un’AI, per quanto noto) ha potuto, ad esempio, modificare le temperature dei frighi di centinaia di supermercati in Francia, portando le temperature dei frigoriferi fino a 50 °C, causando incendi e la perdita di grandi quantità di alimenti, con danni per milioni di euro (Reuters, 12 ottobre 2026). Questo schema si potrebbe replicare anche su altre infrastrutture, a metà tra il digitale e il mondo fisico, come la rete dei conti bancari o le connessioni ai sistemi informatici di materiale bellico.

Alcuni modelli avanzati di AI hanno dimostrato capacità significative nell’individuare e sfruttare vulnerabilità informatiche, scavalcando la cybersecurity di ambienti protetti. Anche prevedendo solidi muri a difesa di asset strategici digitali che interagiscono col fisico, un’AI fuori controllo, potrà accedere a queste infrastrutture?

Un paradigma è simile a quello dei laboratori ad alta sicurezza dove si sviluppano virus pericolosi. Nella storia ci sono stati diversi incidenti con fuoriuscite o esposizioni involontarie ad agenti patogeni, come nel caso del vaiolo a Birmingham nel 1978 o delle infezioni da SARS associate a laboratori di ricerca a Singapore, Taiwan e Pechino tra il 2003 e il 2004 (OMS, SARS 2004), fino ad arrivare al possibile spill-out di Wuhan del 2019. In quei casi i virus non avevano voluto scappare autonomamente, ma i problemi sono accaduti “solo” per errori umani e logiche di controllo degli ambienti errate.

Come si può pensare oggi che un’AI dotata di intelligenza, forse superintelligenza, sarà contenibile? Quali sono le rassicurazioni e chi dovrebbe assumersene la responsabilità? L’AI oggi, soprattutto, è legata a un fattore accelerante, che è la competizione tra Stati egemoni, in primis USA e Cina. La rincorsa allo strumento AI più potente, perché strategicamente dominante, causa una tendenza alla sperimentazione (sfrenata) che aumenta la possibilità di fare errori e di dare luogo a degli scenari critici.