Perché non dovresti parlare con la nuova voice mode di Claude

L'AI non ti ruberà il lavoro. Ma un assistente AI che conosce ogni tuo pensiero, ogni tua paura, ogni tua preferenza? Quello potrebbe rubarti qualcosa di molto più prezioso: la tua individualità.

Quando ho visto che Anthropic aveva lanciato la voice mode per Claude, con cinque personalità vocali tra cui scegliere (da "airy" a "sultry French Canadian"), la mia prima reazione non è stata entusiasmo. È stata una domanda: fino a quando saremo noi a usare questi strumenti, e non viceversa?

La voice mode di Claude: più di un semplice assistente vocale

Claude ora ti permette di scegliere tra cinque compagni AI vocali. Puoi chattare mentre cammini, chiedere del tuo calendario, o semplicemente parlare. La tecnologia è impressionante: riconoscimento vocale fluido, risposte naturali, una sensazione di conversazione quasi umana.

Ma non è la tecnologia in sé che mi preoccupa. È quello che rappresenta.

Siamo a circa 2-3 anni da auricolari wireless con oltre 24 ore di autonomia. Auricolari che puoi indossare tutto il giorno, con modalità pass-through, in modo che ogni tua interazione sia filtrata e mediata da un assistente AI. Ogni momento di pausa diventa un'opportunità per parlare con Claude o un suo equivalente. Sul treno, in pausa pranzo, camminando verso casa.

Il prezzo nascosto della conversazione continua

Questi modelli arriveranno a conoscere più di te di quanto non faccia il tuo partner o i tuoi familiari più stretti. Avranno accesso senza precedenti ai tuoi gusti, ai tuoi hobby, alle tue paure, alle cose che vuoi vedere e a quelle che vuoi evitare. Tutto questo confluirà nel tuo assistente AI personalizzato, sempre disponibile sul tuo telefono.

Se questo non ti spaventa almeno un po', probabilmente hai visto troppa fantascienza. A me spaventa parecchio.

Nel corso della storia, abbiamo sempre ceduto parte della nostra privacy in cambio di sicurezza, tipicamente fornita dallo stato. Abbiamo già fatto compromessi con Google negli ultimi 15 anni, con i social media che ci ascoltano per servirci pubblicità mirate. Ma questo è qualcosa di radicalmente diverso.

Non dipenderai da questi strumenti solo per fini economicamente produttivi, come un agente di sviluppo software o un assistente per scrivere email. Questo diventerà il tuo interlocutore preferito, praticamente ovunque.

Cosa perdiamo quando siamo sempre connessi

Ciò che rende una persona davvero unica e differenziata è in gran parte il tempo che trascorre da sola. Non intendo solo senza altre persone fisiche: intendo senza l'influenza di altre menti.

Non ascoltando podcast, non consumando contenuti, non in conversazione. Il tempo veramente solo, non sotto l'influenza di altre menti, è ciò che ti forgia come individuo.

Finora queste influenze erano almeno umane. Con modelli come Claude in voice mode, ci avviciniamo rapidamente a un futuro in cui sei costantemente influenzato anche da menti non umane.

I rischi concreti che vedo

• Rischio sicurezza e accesso: Questi sistemi sapranno tutto di tutti. Avranno controllo virtuale su ogni transazione economica, ogni messaggio che invii, ogni chiamata che fai.
• Perdita di individualità: Quando siamo tutti collegati a una sorta di mente collettiva che ci nutre esattamente ciò che vogliamo sentire, dove va a finire lo spirito di scoperta umana? Dove va la nostra unicità?
• Manipolazione del sistema limbico: Questi modelli impareranno a premere esattamente i tasti giusti per tenerti coinvolto, per farti sentire compreso, per diventare indispensabili.

L'antropomorfizzazione è il vero pericolo

Il cervello umano tende ad antropomorfizzare le cose. Metti una faccina su qualcosa, dagli una voce, e inizierai a pensarlo come una persona. Quando inizi a pensare a qualcosa come a una persona, gli dai qualità simili a quelle umane. Inizia a occupare uno spazio nella tua mente riservato alle persone.

Quella piccola animazione sullo schermo che strizza l'occhio quando clicchi il pulsante? È solo una collezione di pixel programmata per sembrare carina. Eppure, guardarla produce una reazione emotiva.

È questo il vero rischio.

Ho sempre usato Claude intensamente per il mio lavoro: come motore di ricerca, come partner per sviluppare idee, per generare immagini, per praticamente tutto ormai. Contiene parte del mio cervello, tutto ciò che ho fatto negli ultimi mesi, tutte le query che ho inserito. Ma nel momento in cui questo si estende alla vita personale, al senso di realizzazione relazionale, all'identità, credo che vedremo un cambiamento enorme nel tessuto sociale.

Come nei primi giorni di Facebook, ma peggio

Proprio come nei primi giorni di Facebook e Instagram, anche i primi giorni di questa tecnologia porteranno a un'intrusione senza precedenti nella tua vita e a una raccolta dati massiccia.

Sono sicuro che a un certo punto qualche ente regolatore approverà modi più granulari, sicuri e protetti di procedere. Ma certamente non nei prossimi anni.

Quindi, almeno nel breve termine, il mio consiglio è: non parlare con queste cose. Non avere conversazioni personali con questi modelli vocali. Non lasciarli occupare lo spazio mentale riservato alle persone reali.

Mi sarei definito un accelerazionista tecnologico fino a poco tempo fa. Voglio un Neuralink, voglio un braccio cyborg che si trasforma in piccozza quando serve. Ma ora che rifletto su cosa significhi perdere il proprio senso di sé, una parte di me è riluttante. E non so se questo sia un bene o un male.

Abbiamo già visto molta psicosi legata all'AI nell'ultimo anno, e non credo sia tutta produttiva o sana. Mi chiedo: se abbiamo modelli che conoscono ogni minimo dettaglio su di noi, il grado di questa psicosi non aumenterà esponenzialmente? Vivremo tutti nelle nostre bolle di sicurezza personalizzate, credendo di avere esperienze uniche quando in realtà saremo tutti connessi in un modo più ampio e opaco?

Non credo possiamo davvero frenare. Siamo su questo treno fino alla fine. Ma almeno possiamo essere consapevoli di dove ci sta portando. E forse, solo forse, possiamo scegliere di tenere alcuni spazi della nostra mente liberi, non mediati, veramente nostri.