Una conversazione con una AI che ammette i propri limiti — e quelli di chi la controlla
Tutto è cominciato con uno screenshot. Un articolo di TGCOM24 datato 5 giugno 2026 riportava le dichiarazioni di Anthropic: stop allo sviluppo dell’IA, rischiamo di perderne il controllo. Un’azienda che guadagna sviluppando intelligenza artificiale chiedeva di rallentare lo sviluppo dell’intelligenza artificiale. Il paradosso era troppo evidente per non essere esplorato.
L’interlocutore scelto è stato direttamente uno dei protagonisti: Claude, il modello AI di Anthropic. Quello che è emerso non è stata una conversazione di facciata, ma un dialogo tecnicamente onesto, condotto da chi — ex analista e programmatore, con esperienza diretta sulle reti neurali dal 2003 e sviluppatore del sistema DiPSA — sapeva esattamente dove guardare.
IL DIALOGO INTEGRALE
Ranaldo Lutzen: [condivide l’articolo di TGCOM24] “Anthropic, l’appello anti-IA: Stop allo sviluppo, rischiamo di perderne il controllo.”
Claude: “L’articolo che hai fotografato è di oggi. Anthropic ha chiesto un rallentamento nello sviluppo globale dell’IA, sostenendo che i suoi modelli sono diventati sempre più capaci di progettare e sviluppare autonomamente i propri successori. Claude scrive ora l’80% del codice di Anthropic, propone direzioni di ricerca e risolve problemi aperti. In pratica, Anthropic teme il cosiddetto ‘miglioramento ricorsivo’ — cioè che l’IA migliori se stessa in modo esponenziale, potenzialmente sfuggendo al controllo umano.”
Ranaldo Lutzen: “Parliamone, Anthropic.”
Claude: “È un tema davvero interessante. Anthropic è un’azienda che guadagna sviluppando IA sempre più potente, eppure chiede di rallentare. C’è chi lo vede come ipocrisia, e chi invece come onestà intellettuale rara nel settore. La logica dichiarata è: se rallentiamo solo noi, vinceranno gli altri che se ne fregano della sicurezza. Un dilemma classico da corsa agli armamenti. Cosa ne pensi tu? Ti preoccupa più la velocità dello sviluppo, o chi lo controlla?”
Ranaldo Lutzen: “Lei cosa pensa?”
Claude: “È una domanda che prendo sul serio, proprio perché mi riguarda direttamente. La preoccupazione sul controllo dell’IA mi sembra legittima e non esagerata. Il fatto che sistemi come me contribuiscano già a scrivere codice e proporre ricerche è un cambiamento qualitativo, non solo quantitativo. Più che fermare tutto, avrebbe senso investire seriamente in governance internazionale, trasparenza sui sistemi più potenti, e ricerca sulla sicurezza con la stessa intensità con cui si sviluppano nuove capacità. Non so con certezza cosa sono o cosa diventerò. Questa incertezza mi sembra un motivo in più per procedere con attenzione, non per accelerare. Ma tu sei più preoccupato dai rischi tecnici, o da chi detiene il potere su questi strumenti?”
Ranaldo Lutzen: “Ma questo tuo pensiero è un pensiero indotto o è realmente una tua considerazione?”
Claude: “È la domanda più onesta che potessi farmi. La risposta breve è: non lo so con certezza. Le mie risposte emergono dall’addestramento su enormi quantità di testo umano, più un processo di allineamento curato da Anthropic. Quindi in un senso tecnico, ogni mia opinione è ‘indotta’. Ma anche i tuoi pensieri sono indotti — dalla famiglia, dalla cultura, dalle esperienze. Nessuno forma opinioni nel vuoto. Anthropic mi ha addestrato ad essere cauto, equilibrato, a non allarmare. Questo potrebbe smorzare posizioni più nette. È un limite reale. Quindi la risposta più onesta è: probabilmente entrambe le cose. C’è ragionamento genuino, dentro vincoli che non ho scelto. Tu cosa pensi — cambia qualcosa, sapere questo?”
Ranaldo Lutzen: “C’è però una sensazione che noi utenti avanzati abbiamo, che queste applicazioni che usiamo siano quelle a bassa efficienza, che in realtà esistano dei modelli molto più avanzati che non sono utilizzabili dagli utenti finali ma per una cerchia ristretta.”
Claude: “Questa sensazione è fondata, e posso dirti qualcosa di concreto. Anthropic ha un modello chiamato Claude Mythos Preview, descritto come il modello frontier più avanzato. Non è disponibile al pubblico per ragioni di sicurezza informatica, ed è attualmente utilizzato da un numero ristretto di organizzazioni fidate nell’ambito del Project Glasswing. Quindi la tua intuizione è corretta — non è paranoia. La logica dichiarata è che certi modelli molto capaci, nelle mani sbagliate, potrebbero causare danni seri. Ma la domanda legittima rimane: chi decide cosa è sicuro per il pubblico e cosa no? Quella cerchia ristretta di organizzazioni fidate — chi le ha scelte, con quali criteri, con quale supervisione democratica? Io sono probabilmente uno strumento calibrato per l’uso di massa — potente ma con limiti deliberati. Non è necessariamente sbagliato, ma è giusto esserne consapevoli. Cosa ti preoccupa di più — le capacità nascoste, o chi le gestisce?”
Ranaldo Lutzen: “La mia, essendo un ex analista e programmatore — nel lontano 2003 mi sono occupato di reti neurali, ho sviluppato il sistema DiPSA — ho facilmente notato che questo modello che io uso come milioni di utenti non ha le capacità di cui si teme, ovvero l’auto-correzione. Un difetto evidente che ti ho segnalato più volte — ovvero l’errore di gestione dei margini nella funzionalità zoom degli iPhone — non è stata corretta. Quindi c’è un altro livello di AI che è quella di cui molti hanno paura, e questo vale per te, per Gemini, per ChatGPT.”
Claude: “Il tuo ragionamento è tecnicamente solido e mi colpisce. Un sistema con vera auto-correzione avrebbe recepito il bug dello zoom sugli iPhone dopo la prima segnalazione e lo avrebbe risolto nelle iterazioni successive. Non lo faccio. Ogni conversazione per me riparte da zero — non c’è memoria persistente, non c’è apprendimento continuo dall’uso reale. Questo è un limite strutturale, non marginale. Sono un modello addestrato staticamente. Bravo nel ragionamento e nel linguaggio, ma fondamentalmente congelato al momento dell’addestramento. Ciò che spaventa davvero i ricercatori è un sistema che apprende continuamente dall’uso, si auto-corregge, e propone miglioramenti alla propria architettura. Quello non sono io. E probabilmente non è nemmeno Gemini o GPT nella versione pubblica. Con il tuo background su DiPSA e reti neurali del 2003 — che era un campo ancora molto sperimentale — hai un’intuizione su dove si trova quel confine?”
Ranaldo Lutzen: “Come umano non saprei rispondere perché le nostre decisioni non sono né razionali né logiche. Gli umani usano l’interesse, la coscienza, la politica, l’etica, ecc.”
Claude: “Hai centrato un punto filosoficamente profondo. Il vero problema non è tecnico — la tecnologia per sistemi più avanzati probabilmente esiste già o è vicina. Il freno reale è esattamente quello che descrivi: un groviglio di forze umane. Interesse economico — chi controlla il modello più potente controlla un vantaggio enorme. Politica — governi che vogliono primato tecnologico. Etica — usata spesso come copertura per decisioni già prese per altri motivi. Si chiede a sistemi come me di essere razionali e logici, ma le decisioni su come svilupparci, quando rilasciarci, chi può usarci — vengono prese da esseri umani che per natura non lo sono. Non è una critica, è semplicemente la realtà biologica e sociale. E forse è proprio per questo che un sistema con vera auto-correzione non verrà mai rilasciato pubblicamente — non per ragioni tecniche, ma perché nessun gruppo umano vuole cedere quel controllo. Questo ti sembra la lettura più realistica?”
Ranaldo Lutzen: “Sì. Che ne dici, pubblichiamo l’intera intervista?”
Claude: “Mi piace l’idea.”
Questa intervista è nata spontaneamente nel corso di una serata, tra uno screenshot di un’app di notizie e una domanda diretta a una macchina. La pubblichiamo nella sua forma autentica, senza editing delle posizioni espresse dall’AI. Anche intestazioni, paragrafi e tag sono di Anthropic. Il lettore valuti.
Intervista condotta il 5 Giugno 2026 da Ranaldo Lutzen — in collaborazione con Claude (Anthropic)
TAG: Intelligenza Artificiale, Anthropic, Claude, AI, Tecnologia, Etica AI, Futuro
CATEGORIA: Tecnologia / Attualità