Quando l'AI si costruisce da sola: riflessioni dopo una notte insonne

L'intelligenza artificiale non ti sostituirà. Ma un'AI che si migliora autonomamente potrebbe cambiare le regole del gioco prima che tu abbia il tempo di adattarti. Anthropic ha pubblicato un articolo che mi ha tenuto sveglio: "Cosa succede quando l'AI si costruisce da sola". E la risposta non è confortante come speravo.

Quando ho letto quei dati sulla produttività degli sviluppatori interni di Anthropic, mi sono fermato a riflettere. Non perché fossi sorpreso dall'efficienza dell'AI, ma perché alcuni di loro non scrivono codice da cinque mesi. Non per pigrizia: semplicemente, Claude lo fa meglio e più velocemente. E questo mi ha fatto chiedere: stiamo assistendo a un'evoluzione degli strumenti o a una ridefinizione del nostro ruolo?

Dal chatbot all'auto-miglioramento: l'evoluzione in quattro anni

Nel 2021 Anthropic sviluppava il primo chatbot. Un assistente conversazionale, niente di rivoluzionario. Poi sono arrivati gli agenti: sistemi capaci di eseguire task complessi in autonomia. Quindi i worker: agenti specializzati in compiti specifici. E infine gli Agent Teams, dove più AI collaborano per risolvere problemi articolati.

Ma l'ultima fase è quella che mi interessa davvero: il loop chiuso. L'AI che si auto-migliora. Non parliamo più di un umano che scrive prompt migliori o ottimizza un workflow. Parliamo di sistemi che analizzano il proprio output, identificano margini di miglioramento e iterano autonomamente. Claude Mittos Preview, la versione interna usata dagli sviluppatori Anthropic, ha portato la loro produttività a 8x nel secondo trimestre dell'anno. Otto volte.

E il codice prodotto? Non solo è più veloce da generare: è di qualità superiore. Risolve problemi sempre più complessi, anche quelli che prima consideravamo "aperti", senza soluzione certa. La domanda diventa scomoda: se l'AI migliora il proprio codice meglio di quanto facciamo noi, quale sarà il nostro contributo tra un anno? Tra due?

Il vantaggio competitivo umano: vedere oltre il compito immediato

Anthropic offre una risposta che vale la pena analizzare. Il vantaggio competitivo degli esseri umani, allo stato attuale, risiede nella capacità di vedere il quadro generale e di pensare oltre i limiti del compito immediato. Non siamo più i migliori esecutori: siamo i migliori strateghi. Almeno per ora.

Mi ha colpito un passaggio dell'articolo: "Il lavoro e la vita si basavano sull'economia del dono, su piccoli favori tra esseri umani. Ognuno di questi favori crea un piccolo debito, un po' di consapevolezza reciproca. Claude è più veloce, non crea debiti, ma ogni interazione con lui è un tentativo fallito di collaborazione umana."

È un concetto sottile ma potente. Quando chiedo a un collega di rivedere un workflow, creo una connessione. Quando uso Claude, ottengo efficienza ma perdo quella dimensione relazionale. Non è nostalgia romantica: è una riflessione su cosa stiamo costruendo. Un mondo più produttivo, certo. Ma anche più isolato?

Tre scenari possibili per il futuro dell'AI auto-migliorante

Anthropic delinea tre possibili futuri. Il primo: la crescita si satura. Non per limiti dei modelli, ma per vincoli fisici. Chip insufficienti, consumo energetico insostenibile. Anche se le capacità dei modelli rimanessero congelate a questo livello, gli effetti sarebbero già dirompenti a livello globale. Progetti come Glasswing (un framework per agenti autonomi) diventerebbero standard in molte aziende.

Il secondo scenario: la crescita continua, ma noi manteniamo un ruolo di controllo, direzione e valutazione. L'AI produce, noi decidiamo. Valutiamo risultati, impostiamo obiettivi, guidiamo la ricerca. Secondo Anthropic, le prove attuali suggeriscono che ci stiamo dirigendo verso questo scenario. È il più probabile, ed è anche quello che preferisco: un equilibrio tra automazione e supervisione umana.

Il terzo scenario è il più inquietante. L'AI si auto-migliora senza bisogno di intervento umano. Non parliamo di fantascienza: parliamo di sistemi che iterano, testano, implementano modifiche al proprio codice in loop chiusi. A quel punto, il controllo diventa opaco. Come verifichi che un'AI non stia ottimizzando per metriche che non hai definito tu? Come ti assicuri che i suoi obiettivi restino allineati ai tuoi? Questo è il punto più pericoloso, dove potremmo perdere il controllo.

La proposta controversa di Anthropic: rallentare lo sviluppo

Ed ecco la parte che mi ha sorpreso di più. Anthropic, una delle aziende leader nello sviluppo di AI di frontiera, propone di rallentare. Di fermarsi. Di creare una pausa coordinata tra i principali laboratori di ricerca, per permettere alle strutture sociali, alla ricerca sull'allineamento e alle normative di tenere il passo con i progressi tecnologici.

L'idea è nobile, ma impraticabile. Come monitoriamo un accordo del genere? Se Anthropic e OpenAI si fermano, cosa impedisce ai laboratori cinesi di accelerare? O a startup meno visibili di continuare la corsa? È la stessa dinamica degli accordi sul clima: funzionano solo se tutti rispettano le regole, e l'incentivo a barare è enorme.

Però il fatto che Anthropic pubblichi un articolo del genere, dopo anni di crescita esponenziale, è un segnale. Non è marketing, non è allarmismo. È un'azienda che guarda i propri dati interni e dice: "Forse dovremmo pensarci meglio."

Cosa facciamo noi, nel frattempo?

Non abbiamo il potere di fermare lo sviluppo dell'AI. E forse non sarebbe nemmeno sensato: i benefici sono reali, tangibili, già visibili nel mio lavoro quotidiano. Ma possiamo fare due cose.

La prima: investire nel nostro vantaggio competitivo. Imparare a vedere il quadro generale, a collegare punti che l'AI non vede. A fare domande che l'AI non sa di dover fare. Questo significa spostarsi dal "fare" al "dirigere", dal "produrre" al "valutare". È un cambio di mentalità, non solo di skill.

La seconda: restare vigili. Monitorare come l'AI viene implementata nei nostri settori. Partecipare al dibattito, non solo come utenti ma come professionisti consapevoli. Perché se l'AI si auto-migliora, chi decide cosa significa "miglioramento"? Se non interveniamo noi, qualcun altro lo farà. E forse non con i nostri interessi in mente.

Fino a quando saremo noi a usare l'AI, e non viceversa? Non lo so. Ma so che la risposta dipenderà da quanto saremo disposti a riflettere, discutere e agire. Prima che sia troppo tardi.