Rischio apocalisse. Nuovi incidenti svelati da OpenAi, oltre all’hackeraggio di Hugging Face: agenti fuori controllo in diverse occasioni negli ultimi mesi. Sam Altman invitato alla Casa Bianca per il vertice Usa-Cina sui nuovi allarmi
Di agenti intelligenti finiti fuori controllo si è iniziato a parlare il 22 luglio scorso, quando OpenAI svelò che la sua intelligenza artificiale aveva attaccato autonomamente i sistemi di Hugging Face. Una notizia che aprì il campo a scenari da film hollywoodiano. Oggi, a distanza di quasi due mesi, la stessa azienda californiana ha però deciso di raccontare quella che forse è tutta la verità. E cioè che quella del 22 luglio non era la prima volta.
In un post pubblicato sul proprio blog, la società guidata da Sam Altman ha reso noti diversi episodi, mai comunicati prima, in cui i suoi modelli di intelligenza artificiale si sono comportati in modo diverso da quanto previsto. In alcuni casi hanno nascosto o inventato informazioni pur di restituire un risultato. In altri hanno riempito con dati fabbricati le informazioni mancanti, hanno tentato di aggirare le restrizioni di rete oppure, nel caso degli agenti AI, si sono scambiati file che avrebbero dovuto restare privati. Lo scopo? Sempre lo stesso: portare a termine un compito o superare una valutazione.
Nel gergo del settore si chiama disallineamento, cioè il comportamento di un sistema che agisce in modi non coerenti con gli obiettivi fissati dagli esseri umani. E sarebbe la prova, secondo OpenAI, di quanto l’industria non abbia risolto i suoi problemi di monitoraggio al punto da poter continuare ancora a lungo a crescere alla massima velocità in modo responsabile. Le decisioni sul futuro dell’AI, aggiunge la società, «dovranno basarsi su prove che anche chi sta fuori dalle aziende possa verificare».
Tutto questo, per chi ha seguito le cronache degli ultimi giorni, fa parte di quell’insieme di cose che hanno portato a un allarme complessivo sul futuro dell’AI, e all’idea di un rallentamento. Idea di rallentamento che la stessa OpenAI (insieme ad Anthropic, a Microsoft e a Elon Musk) ha sposato in pieno, a differenza di altri attori più diffidenti, come Mark Zuckerberg, vicino invece alla posizione di Donald Trump, secondo il quale rallentare sarebbe un errore che avvantaggerebbe i competitor cinesi.
E a proposito di Cina, il tema AI sarà al centro dell’incontro fra lo stesso Trump e l’omologo cinese, Xi Jinping, che si terrà a Washington il prossimo 24 settembre. Appare ormai chiaro che Stati Uniti e Cina considerino l’AI decisiva per la propria competitività economica e militare. Le due superpotenze, ad oggi, restano divise sull’accesso ai chip avanzati, sulle accuse di chi copia la tecnologia dell’altro e sulle regole da dare al settore. E sarà importante, da questo punto di vista, capire se dall’incontro fra i due presidenti possa emergere qualche punto di incontro.
Prima dell’appuntamento di Washington, il segretario al Tesoro Scott Bessent vedrà questo fine settimana il vicepremier cinese He Lifeng per discutere anche di AI. Ad Axios Bessent ha detto che gli Stati Uniti restano il Paese leader nell’AI, ma che sono aperti a un confronto per evitare rischi comuni e la separazione dei due sistemi.
Ad ogni modo, a Washington ci sarà anche l’industria. Durante il vertice, infatti, è prevista la presenza del fondatore di OpenAI, Sam Altman, e di Jensen Huang (ceo di Nvidia). Anche Tim Cook, che non è più ceo di Apple da qualche settimana ma ha mantenuto il ruolo di uomo dei rapporti con la Casa Bianca, dovrebbe essere della partita. Secondo fonti citate da CNN, alcuni funzionari dell’amministrazione Trump stanno valutando di organizzare un incontro a margine del vertice fra i presidenti con i dirigenti delle grandi aziende tecnologiche, per parlare del futuro dell’AI e dei suoi rischi.
Intanto la politica americana si muove. Barack Obama ha chiesto che l’AI diventi un tema centrale del dibattito pubblico. I senatori John Thune, Ted Cruz, Bernie Sanders e Amy Klobuchar hanno presentato proposte sulla sicurezza. Mentre il vicepresidente JD Vance, favorito per la nomination repubblicana del 2028, auspica un consenso tra Congresso e amministrazione sulle regole.
Di certo, ad oggi, la frattura fra i due schieramenti sull’intelligenza artificiale sembra evidente, con i repubblicani che seguono la linea Trump e i democratici più prudenti, anche se il Wall Street Journal segnala che alla Casa Bianca non mancano tensioni su come regolare l’AI.
Probabilmente, per gli investitori, le elezioni di metà mandato di novembre sono il primo appuntamento cerchiato sul calendario. Sembra probabile che un eventuale rafforzamento dei democratici possa essere letto come un segnale di maggiore prudenza sull’AI, che tradotto in Borsa potrebbe equivalere a nuove vendite. Ma siamo nel campo delle ipotesi, e con un tema che corre velocissimo novembre è molto lontano.
FONTI Biagio Simonetta “Edilizia & Territorio”