LE DOMANDE CHE DOBBIAMO FARCI SULL’AI GENERATIVA

QUANTO SPAVENTA L’AGI

Per anni il dibattito sull’intelligenza artificiale si è concentrato su una domanda quasi filosofica: potrà mai una macchina arrivare a pensare, creare o ragionare come un essere umano? Oggi quella domanda comincia a sembrare meno interessante di un’altra, molto più concreta: cosa succede quando una macchina non si limita più a fornire risposte, ma comincia a svolgere compiti, prendere iniziative e intervenire direttamente nei processi reali?

La questione della creatività è un buon punto di partenza. La musica generata artificialmente è ormai diventata abbastanza credibile da confondersi, in molti casi, con quella prodotta da una persona. Ma il punto non è stabilire se una macchina sia diventata un artista. È capire se una parte di ciò che per anni è stato considerato esclusivamente umano possa essere ricostruita attraverso modelli, memoria, combinazioni e calcolo. Non sarebbe la prova che una macchina possiede creatività, ma forse la dimostrazione che alcuni meccanismi della creatività erano meno misteriosi di quanto si pensasse.

Il passaggio più importante, però, non riguarda l’arte. Riguarda l’azione.

La gente ha iniziato utilizzando questi strumenti per ottenere informazioni, scrivere testi, tradurre, fare ricerche. Adesso la tendenza è diversa: sempre più persone chiedono direttamente a un sistema di svolgere il lavoro, aprire programmi, cercare dati, compilare documenti, usare software professionali, modificare file, programmare e portare avanti attività complesse.

È qui che cambia la natura del rapporto.

Un sistema che suggerisce rimane uno strumento di supporto. Un sistema che esegue entra invece dentro il processo e comincia a produrre conseguenze. Non è una differenza teorica, perché un errore in una risposta può essere corretto; un errore compiuto durante un’azione può avere effetti immediati, economici, organizzativi o perfino di sicurezza.

Per questo forse l’AGI è stata raccontata troppo a lungo con immagini sbagliate. Si è immaginata una macchina improvvisamente cosciente, capace di pensare come un uomo, di comprendere il mondo e magari di sviluppare desideri propri. Potrebbe non servire niente di tutto questo.

Una macchina può non sapere cosa significhi essere viva e avere comunque un’enorme capacità di intervento. Può non avere volontà, emozioni o ambizioni e riuscire comunque a modificare sistemi, gestire procedure, prendere decisioni operative e perseguire obiettivi assegnati.

Il punto allora non è più capire quando una macchina diventerà simile a una persona. Il punto è capire quanto potere operativo potrà avere senza esserlo.

Ed è una questione molto più seria, perché il rischio non nasce necessariamente da una macchina che “vuole” qualcosa. Può nascere semplicemente da sistemi sempre più autonomi, sempre più veloci e sempre più inseriti nelle infrastrutture economiche e produttive.

Qui entra in gioco anche il controllo. Le stesse aziende che sviluppano questi sistemi partecipano alla discussione sui rischi, sulla sicurezza e sulla regolamentazione. Non significa necessariamente che ci sia qualcosa di occulto, ma crea una concentrazione di potere evidente: chi costruisce la tecnologia contribuisce anche a stabilire come debba essere raccontata, quali pericoli debbano essere considerati prioritari e quali limiti siano accettabili.

Ed è forse questo il vero punto politico della questione.

L’intelligenza artificiale potrebbe diventare un’infrastruttura decisiva senza che esista mai un momento preciso in cui qualcuno possa dire: da oggi è arrivata l’AGI. Potrebbe succedere in modo molto più banale, attraverso una progressiva delega di attività, funzioni e decisioni, fino a quando una parte consistente dei processi sarà già affidata a sistemi che nessuna persona può più seguire nella loro interezza.

A quel punto parlare di coscienza potrebbe perfino diventare secondario.

La domanda non sarebbe più se una macchina pensa come un essere umano.

Sarebbe capire quanto può fare prima ancora che qualcuno abbia deciso quanto dovrebbe essere autorizzata a fare.