L'AI sta iniziando a costruirsi da sola: fino a quando saremo noi al comando?

L'AI non ti ruberà il lavoro. Ma un'AI che sa costruirsi da sola potrebbe cambiare le regole del gioco per tutti. E quando dico tutti, intendo anche chi sviluppa l'AI stessa.

Ho passato una notte insonne dopo aver letto l'ultimo articolo di Anthropic, l'azienda dietro Claude. Non è il solito comunicato stampa aziendale: è una riflessione aperta, quasi scomoda, su dove stiamo andando. Il titolo dice tutto: "Cosa succede quando l'AI si costruisce da sola?". La risposta? Nessuno lo sa con certezza. Ma le tendenze che emergono dai loro laboratori sono tanto affascinanti quanto inquietanti.

Claude sta scrivendo il proprio codice (e lo fa meglio degli umani)

Facciamo un passo indietro. Nel 2021-2023, i modelli AI come Claude aiutavano gli sviluppatori a scrivere snippet di codice: frammenti utili, da copiare e incollare. Utile, ma niente di rivoluzionario. Dal 2025 in poi, qualcosa è cambiato radicalmente.

Anthropic ha monitorato il contributo di codice scritto dai propri dipendenti. I dati sono chiari: dal primo trimestre 2025, la quantità di codice prodotto per sviluppatore è cresciuta in modo esponenziale. Con l'arrivo di Claude Opus 4.6 e poi della versione Mittos preview, ogni ingegnere produce oggi otto volte più codice rispetto a due anni fa. E non stiamo parlando di codice spazzatura: è codice che viene revisionato, committato, messo in produzione.

Un sondaggio interno su 130 dipendenti Anthropic ha confermato un aumento di produttività di circa quattro volte. Un ingegnere ha dichiarato: "Sono passati circa 5 mesi dall'ultima volta che ho scritto del codice". Mi riconosco in questa frase: anche io, da quasi 9 mesi, affido a Claude la scrittura del codice e mi concentro su controllo, settings, deployment.

I task che prima richiedevano ore ora si risolvono in minuti

La velocità di miglioramento è impressionante. Nel marzo 2024, Claude Opus 3 completava task che richiedevano circa 4 minuti di lavoro umano. Un anno dopo, Claude 3.7 gestiva attività da un'ora e mezza. Con Opus 4.6, siamo arrivati a task da 12 ore.

Se questa tendenza si mantiene, entro fine anno potremmo vedere modelli capaci di completare attività che richiederebbero giorni a un professionista esperto. Entro il 2027, si parla di task da settimane. Non è fantascienza: è l'estrapolazione di una curva che, per ora, non mostra segni di rallentamento.

Un esempio concreto? Anthropic ha testato Claude chiedendogli di ottimizzare il codice che addestra un piccolo modello AI. L'obiettivo: farlo girare più veloce, mantenendo la stessa accuratezza. Nel maggio 2025, Claude Opus 4 ha registrato un'accelerazione media di tre volte. Nell'aprile 2026, Claude Mittos ha raggiunto un'accelerazione di 52 volte. Per confronto, un ricercatore umano esperto impiegherebbe 4-8 ore per ottenere un'accelerazione di quattro volte.

Quando l'AI inizia a proporre i propri esperimenti

Fin qui, potremmo ancora dire: è uno strumento straordinario, ma siamo noi a dirigerlo. Il punto di svolta arriva quando Claude inizia a proporre autonomamente esperimenti di ricerca. Anthropic ha pubblicato la prima dimostrazione di Claude in grado di gestire un progetto di ricerca aperto dall'inizio alla fine, utilizzando risorse computazionali e producendo scoperte scientifiche utili.

Non è la prima volta che vediamo AI fare scoperte scientifiche: AlphaFold di DeepMind ha rivoluzionato la biologia strutturale, Google ha usato l'AI per ottimizzare i propri data center e migliorare l'addestramento di Gemini. Ma qui parliamo di un modello che non si limita a eseguire, ma decide cosa ricercare.

• Un ricercatore umano ha idee e le comunica al modello
• Il modello le implementa, testa e valuta a velocità 10x superiore
• Il modello stesso propone nuovi esperimenti basati sui risultati

Cosa resta agli esseri umani? Per ora, la capacità di vedere il quadro generale, scegliere i problemi rilevanti, capire quali risultati meritano fiducia. Ma per quanto ancora?

Il paradosso della revisione: quando diventiamo il collo di bottiglia

Qui emerge un paradosso che conosco bene nella mia pratica quotidiana. Claude genera codice talmente veloce che non faccio in tempo a leggere il ragionamento che ha seguito. Mi ritrovo con un risultato funzionante prima ancora di capire come ci sia arrivato.

Anthropic lo descrive così: "La revisione umana del codice è diventata il nuovo collo di bottiglia". L'azione (scrivere codice, eseguire esperimenti) ora costa quasi zero in termini di tempo umano, anche se comporta costi computazionali. Ma se non riusciamo a revisionare il codice con la stessa rapidità con cui viene generato, diventiamo noi il limite.

C'è un'altra conseguenza, più sottile e inquietante. Un ingegnere Anthropic l'ha espressa così: "Nei giorni in cui tutto funziona alla perfezione, non posso fare a meno di pensare che nulla di ciò che faccio abbia importanza. Poi ci sono i giorni in cui tutto si rompe e mi rendo conto di non avere più idea di cosa stavo combinando".

È un'alienazione dal processo. Perdiamo il contatto con ciò che stiamo costruendo.

Tre scenari possibili (e uno fa davvero paura)

Anthropic delinea tre possibili futuri. Il primo: la crescita si arresta. Potremmo raggiungere un limite fisico: energia, chip, larghezza di banda. Il ritmo di fabbricazione dei semiconduttori potrebbe diventare il collo di bottiglia, non l'intelligenza stessa. Anthropic considera questo scenario il meno probabile: finora, ogni capacità misurabile ha seguito la stessa curva esponenziale, senza piegarsi.

Secondo scenario: crescita esponenziale continua, ma gli esseri umani mantengono il controllo. Lo sviluppo AI diventa quasi completamente automatizzato, ma siamo ancora noi a definire direzioni di ricerca e valutare risultati. In questo mondo, un'azienda di 100 persone potrebbe svolgere il lavoro di un'organizzazione da 10.000 o 100.000 dipendenti. Ogni professionista diventa il vertice di una piramide di agenti AI. Questo scenario rivoluzionerebbe il lavoro basato sulla conoscenza, ma potrebbe anche essere usato per sorveglianza autoritaria e manipolazione personalizzata su scala individuale.

Terzo scenario: automiglioramento ricorsivo completo. L'AI inizia a costruire i propri successori senza intervento umano. Il ritmo del progresso è determinato solo dalla disponibilità di potenza di calcolo o dalla velocità con cui il sistema scopre nuove efficienze algoritmiche. Gli esseri umani svolgono un ruolo marginale: supervisione, convalida, verifica. Ma se l'AI diventa sufficientemente veloce ed evoluta, potremmo non essere più in grado di capire su quale linea di tendenza ci troviamo.

Questo scenario solleva una domanda angosciante: cosa succede se i rari casi di disallineamento presenti nei modelli odierni si accumulano mentre i modelli costruiscono i loro successori? Come una fotocopia della fotocopia, gli errori potrebbero propagarsi, diventando più frequenti ma meno compresi, fino a quando non ne perderemo il controllo.

La proposta shock: fermare tutto (se tutti si fermano)

Ecco la parte che mi ha tenuto sveglio. Anthropic, una delle aziende più avanzate al mondo nello sviluppo di AI, propone di rallentare o sospendere temporaneamente lo sviluppo dell'AI di frontiera. Non è un'ammissione di sconfitta: è una presa di coscienza.

La condizione? Che anche tutti gli altri sviluppatori all'avanguardia lo facciano in modo verificabile. Un rallentamento unilaterale sarebbe inutile: permetterebbe semplicemente ad attori meno prudenti di recuperare il divario tecnologico, rendendo tutti meno sicuri.

Ma come si coordina una pausa globale? Le sessioni di addestramento sono più facili da nascondere rispetto ai silos missilistici. Gli input sono di carattere generale. L'incentivo a proseguire in segreto è enorme: chi continua mentre gli altri si fermano eredita il primato. Una pausa credibile deve specificare cosa la innesca, cosa la revoca, chi la valuta.

Anthropic ammette che non abbiamo l'infrastruttura né la fiducia necessarie per un regime di verifica globale. E, soprattutto, non abbiamo tempo. I regimi di controllo per altre tecnologie complesse hanno richiesto decenni. Noi non abbiamo decenni.

Fino a quando saremo noi a usare l'AI?

Leggo questo articolo e penso: stiamo vivendo un momento straordinario. Con Claude, LangGraph, Make e poche altre risorse, posso costruire sistemi che fino a ieri richiedevano team interi. Ma c'è una domanda che non riesco a togliermi dalla testa: fino a quando saremo noi a usare l'AI, e non viceversa?

Non parlo di scenari hollywoodiani con robot senzienti. Parlo di qualcosa di più sottile: un'economia in cui il lavoro umano smette di essere competitivo, in cui non scriviamo più codice, non facciamo più ricerca, non creiamo più contenuti. In cui diventiamo spettatori di un processo che non comprendiamo più.

Anthropic parla di "economia del dono": quei piccoli favori tra esseri umani che creano debiti, consapevolezza reciproca, collaborazione. Claude è più veloce, non crea debiti. Ma ogni interazione con Claude è un tentativo fallito di collaborazione umana. È un pensiero che pesa.

Cosa possiamo fare (oltre a sperare in una regolamentazione globale)

Se sei un professionista che lavora con l'AI, ecco cosa penso dovremmo fare, aldilà delle grandi questioni geopolitiche:

• Restare lucidi : l'AI è uno strumento straordinario, ma non è magia. Comprendere i suoi limiti ci permette di usarla meglio.
• Mantenere il controllo : delega l'esecuzione, ma non la strategia. Tu scegli i problemi, tu valuti i risultati. Non diventare un semplice "approvatore" di output che non comprendi.
• Investire in capacità di giudizio : se l'azione costa quasi zero, il vantaggio competitivo sta nel saper scegliere cosa fare, non come farlo.
• Rimanere umani : coltiva relazioni, collaborazioni, conversazioni. L'economia del dono non è inefficienza, è ciò che ci rende umani.

Anthropic nei prossimi mesi dialogherà con politici e governi. Pubblicherà i risultati di questi incontri. È giunto il momento, dicono, di esaminare insieme queste questioni. Anche chi non opera nel settore dovrebbe essere coinvolto.

Sono d'accordo. Questa non è più una discussione per addetti ai lavori. È una discussione che riguarda tutti noi, perché l'AI sta ridefinendo cosa significa lavorare, creare, collaborare. E se non rallentiamo almeno per riflettere, rischiamo di svegliarci in un mondo che non abbiamo scelto, costruito da sistemi che non comprendiamo più.

Se stai esplorando l'AI nel tuo lavoro, il mio consiglio è di farlo con curiosità, ma anche con cautela. Usa questi strumenti per amplificare le tue capacità, non per sostituire il tuo giudizio. E tieni sempre aperta quella domanda: fino a quando saremo noi al comando?