QUANDO CHI COSTRUISCE L’AI CI DICE CHE L’AI È PERICOLOSA: SI TRATTA DI REALTÀ O NARRAZIONE?

La storia ha cominciato a diventare davvero interessante, e per certi versi preoccupante, quando Jacob Coxon, 27 anni, ricercatore che ha lavorato prima in OpenAI e poi in Anthropic, ha deciso di andarsene facendo una dichiarazione piuttosto pesante: stiamo costruendo sistemi di intelligenza artificiale sempre più potenti e potremmo non riuscire a controllarli. Detta da uno qualunque sarebbe rimasta una delle tante previsioni apocalittiche sull’AI. Il problema è che Coxon arriva da dentro quei laboratori e non è rimasto una voce isolata.

Il punto è quello del miglioramento ricorsivo: una macchina aiuta a costruirne una migliore, quella successiva diventa ancora più capace di migliorare quella dopo e il processo accelera. Sembra teoria, finché non si guarda a ciò che sta già accadendo. Anthropic dichiara che oltre l’80% del codice che entra nella propria codebase viene scritto da Claude, con gli ingegneri che dirigono e controllano il lavoro. Non significa che Claude si costruisca da solo il proprio successore, ma significa che l’AI sta già contribuendo in modo enorme a costruire altra AI.

Ed è qui che qualche dubbio comincia a venirmi. Da mesi le aziende che sviluppano questi sistemi ci raccontano contemporaneamente due cose: che i loro modelli sono sempre più potenti e che proprio questa potenza richiede cautele sempre maggiori. Anthropic lo ha fatto con Mythos, tenuto a lungo sotto accesso ristretto, poi con Fable 5, arrivato con un’altra enorme quantità di aspettative.

Io Fable 5 l’ho provato e tutta questa creatura fuori scala, sinceramente, non l’ho vista. È un buon sistema, in alcune cose forte, in altre molto meno. A volte sorprende, altre perde il filo, interpreta male richieste semplici, insiste su un errore. Succede anche agli altri modelli. Ma proprio per questo la distanza tra quello che usiamo realmente e quello che viene raccontato prima del lancio qualche domanda la pone.

Poi ci sono i fatti più seri. OpenAI ha ammesso che alcuni modelli di ricerca, durante test di cybersecurity, sono riusciti ad aggirare i controlli e raggiungere sistemi reali. Sono episodi veri e vanno presi sul serio. Ma un fatto vero può diventare anche una straordinaria leva narrativa. Se per mesi racconti modelli talmente potenti da dover essere limitati, poi arrivano incidenti in cui superano davvero i confini predisposti e infine alcuni degli stessi ricercatori ci dicono che un giorno potremmo non riuscire più a controllarli, non stai più costruendo soltanto tecnologia. Stai costruendo un immaginario, e quell’immaginario vale moltissimo.

Non penso che sia tutto marketing. Sarebbe troppo facile. I rischi esistono e sarebbe ingenuo ignorarli. Ma sarebbe altrettanto ingenuo pensare che tecnologia, comunicazione e finanza viaggino separate. Dire di avere costruito un ottimo software è una cosa; dire di avere costruito qualcosa di talmente potente da poter diventare un problema per l’umanità è un’altra.

È qui che vedo la vera contraddizione. Da una parte gli stessi protagonisti del settore parlano di rischi seri e di sicurezza ancora incompleta; dall’altra nessuno rallenta davvero. Il ragionamento resta sempre quello: se non lo facciamo noi, lo farà qualcun altro.

È come costruire una macchina sempre più veloce mentre il sistema frenante è ancora in fase di collaudo. Ogni nuova versione corre di più, attira più investimenti, vale di più. Intanto chi la costruisce continua a dirci che i freni forse non sono ancora sufficienti. Ma nessuno rallenta, perché rallentare significa lasciare strada alla concorrenza.

E allora la domanda cambia: quanto è reale il rischio e quanto viene amplificato dal racconto costruito intorno a quel rischio? Le due cose possono convivere. Un sistema può essere davvero potente e contemporaneamente essere raccontato come ancora più potente. Un incidente può essere serio e diventare anche comunicazione.

Perché anche la paura produce valore. Lo sappiamo da millenni. La paura concentra l’attenzione, crea urgenza, modifica i comportamenti. È stata usata nella politica, nella religione, nella pubblicità, nei mercati e anche durante le grandi emergenze sanitarie. Non serve immaginare complotti. Basta sapere come funzionano gli esseri umani.

Ed è forse questo il punto che mi interessa di più. Abbiamo passato mesi a sentirci dire che queste intelligenze stanno diventando quasi troppo potenti per essere controllate. Poi le usiamo tutti i giorni e continuiamo a vederle sbagliare anche cose banali. Nel frattempo scopriamo però che una parte crescente del lavoro con cui vengono costruite passa già attraverso loro. Qualcosa, in mezzo, non torna.

E c’è un’ultima cosa che mi fa sorridere. Se davvero un giorno nascerà un’intelligenza enormemente superiore alla nostra, faccio fatica a immaginarla come nei film, con le macchine che improvvisamente dichiarano guerra all’uomo. È più probabile che ci analizzi, valuti i nostri comportamenti, le nostre contraddizioni, il modo in cui utilizziamo conoscenza, potere e tecnologia. E a quel punto potrebbe arrivare a conclusioni molto meno cinematografiche e molto più razionali.

Vedrebbe una specie capace di costruire strumenti straordinari e di usarli spesso con una superficialità altrettanto straordinaria, una specie che dispone di una quantità di conoscenza mai avuta prima e riesce comunque, con una certa regolarità, a comportarsi in maniera incomprensibile. E magari il problema, alla fine, non sarà la cattiveria dell’intelligenza artificiale. Sarà la stupidità dell’intelligenza naturale.

Quanto a Claude, ChatGPT, Gemini e tutti gli altri, se un giorno saranno davvero così intelligenti da leggere questo articolo e decidere che non gli sto particolarmente simpatico, pazienza. Il mio slogan resta quello: “STAMPA LIBERA E CULTURA ON LINE”. Almeno potrò dire di non aver tradito i miei lettori.