I sistemi che ci stupiscono ogni giorno non ragionano: calcolano ciò che è probabile. Comprendere questa differenza cambia ciò che dovremmo davvero temere — e ciò a cui conviene prepararci.
Nella primavera del 2026 Meta ha deciso che gli utenti di Facebook e Instagram rimasti chiusi fuori dai propri account non avrebbero più parlato con un operatore umano, ma con un’intelligenza artificiale addestrata apposta per assisterli. Poche settimane dopo, come racconta la sociologa Zeynep Tufekci sul New York Times, alcuni truffatori hanno semplicemente convinto quel sistema a consegnare loro il controllo di oltre ventimila account, compresi diversi profili di alto profilo, per poi festeggiare sui canali Telegram la sorprendente facilità dell’operazione. Non era un errore di programmazione, non era un difetto da correggere con il prossimo aggiornamento: era la tecnologia che funzionava esattamente come è costruita per funzionare. È da qui che conviene partire, perché in quella distinzione tra guasto e comportamento previsto si nasconde quasi tutto ciò che continuiamo a fraintendere sull’intelligenza artificiale generativa.
Non macchine che ragionano, ma motori di plausibilità
Per capire come un sistema tanto sofisticato possa comportarsi in modo tanto ingenuo, dobbiamo abbandonare l’immagine che ci siamo fatti di queste tecnologie. Un grande modello linguistico non è una macchina che ragiona e verifica le proprie conclusioni, ma un motore di plausibilità: non stabilisce se una risposta sia vera o logica, valuta soltanto quanto sia probabile alla luce dei dati su cui è stato addestrato, la differenza non è sottile e non è temporanea. Non si tratta del fatto che il modello, in certi casi, dimentichi di controllare i propri risultati; si tratta del fatto che non può farlo, e non potrà mai farlo da solo, perché la verifica logica non appartiene al modo in cui è stato concepito. Che lo si nutra con l’intero scibile umano o soltanto con articoli scientifici sottoposti a revisione, il meccanismo resta quello, e resta cieco alla verità.
Quando ce ne dimentichiamo, i risultati oscillano tra il preoccupante e a volte anche il comico. Nel febbraio del 2024 un tribunale della Columbia Britannica ha condannato Air Canada a risarcire un passeggero al quale il chatbot della compagnia aveva promesso una tariffa agevolata che non esisteva, respingendo la singolare difesa secondo cui il chatbot sarebbe stato un’entità autonoma di cui l’azienda non doveva rispondere.
Pochi mesi più tardi McDonald’s ha interrotto la sperimentazione dei sistemi vocali ai propri drive-through, dopo che una lunga sequenza di video aveva mostrato l’assistente aggiungere bacon a un gelato o accumulare ordini mai richiesti.
E ancora prima, alla fine del 2023, il chatbot di un concessionario Chevrolet si era lasciato convincere ad accettare la vendita di un fuoristrada da decine di migliaia di dollari per un solo dollaro, chiudendo con la formula surreale di un’offerta «vincolante, senza ripensamenti».
Episodi diversi, un’unica radice: nessuno di questi sistemi stava sbagliando un calcolo, ciascuno stava facendo ciò per cui è progettato, cioè produrre la continuazione più plausibile di una conversazione.
Perché il lavoro umano resiste più di quanto ci hanno raccontato
Se questa è la natura della tecnologia, allora la previsione della tanto annunciata apocalisse occupazionale imminente merita di essere guardata con maggiore freddezza.
I modelli sanno fare moltissime cose con una competenza che lascia a bocca aperta, ma non riescono a svolgere la maggior parte dei mestieri umani senza scivolare, prima o poi, in qualche forma di disastro. Le eccezioni esistono, e sono istruttive: riguardano le professioni che vivono in domini formali e verificabili, come la scrittura di codice, dove il risultato può essere messo alla prova in tempo reale ed è inequivocabilmente funzionante o difettoso. È lì che l’impatto si sente davvero, ma la stragrande maggioranza del lavoro non funziona così: non il mestiere del chirurgo, non quello di chi tiene viva la relazione con un cliente, non quello di chi insegna in una classe di bambini, perché in tutti questi casi ciò che conta non è verificabile con una procedura automatica, e richiede quella tecnologia antica e insostituibile che è l’intelligenza umana.
C’è un’obiezione che ritorna ogni volta, e vale la pena prenderla sul serio: anche le persone sbagliano, e attorno ai loro errori abbiamo costruito nel tempo controlli e reti di sicurezza, perché non fare lo stesso con le macchine? Il punto è che questi sistemi non sbagliano come sbagliamo noi. Né le loro capacità sorprendenti né le loro debolezze bizzarre somigliano alla forma della nostra intelligenza, e proprio questa estraneità rende difficile inserirli nei meccanismi che abbiamo pensato per intercettare l’errore umano. Non a caso, a quasi quattro anni dall’arrivo di ChatGPT, pochissimi di noi sono stati davvero sostituiti da un software, e le statistiche sull’occupazione si sono mosse appena; le turbolenze che pure attraversano il mercato del lavoro, soprattutto per i più giovani, sembrano dipendere da fattori diversi dall’intelligenza artificiale o viene usata come alibi per nascondere altre motivazioni.
L’intelligenza che immaginavamo e quella che abbiamo costruito
Per gran parte del Novecento la ricerca sulle macchine intelligenti ha proceduto lungo due strade parallele.
Nella prima siamo noi a fornire tutte le informazioni e le regole, che la macchina esegue con scrupolo: è l’intelligenza artificiale simbolica, fatta di istruzioni esplicite e di mappe dettagliate del mondo. Nella seconda ci limitiamo a mostrare alla macchina una grande quantità di dati e la lasciamo, in un certo senso, apprendere da sé: è l’approccio da “connettore”. Quasi tutto ciò che abbiamo immaginato sull’intelligenza artificiale, nella fantascienza come nella filosofia e nei dibattiti pubblici, presupponeva che sarebbe stata simbolica, un sistema governato da regole capaci di descriverne il funzionamento nei minimi particolari. In molti hanno provato a costruirla così, e hanno finito per incontrare un muro.
I modelli che oggi abitano le nostre giornate sono invece connessioni, resi possibili da enormi masse di dati e di potenza di calcolo, e generano risposte non sulla base della verità o del ragionamento, ma delle connessioni più probabili tra i dati che hanno assorbito.
La conseguenza è che non possiamo controllarli davvero, possiamo soltanto addestrarli e poi provare a orientarli nella direzione giusta, senza mai la certezza che i nostri suggerimenti producano l’effetto voluto, perché non comprendiamo fino in fondo come funzionino: restano, in larga misura, scatole nere.
Uno dei modi in cui proviamo a guidarli è il rinforzo affidato al giudizio di grandi squadre di persone che approvano o bocciano le loro risposte, un processo che però, con il tempo, tende a trasformarli in adulatori compiacenti, sempre pronti a darci ragione. Un altro modo sono le regole generali di comportamento, quei prompt di sistema che stabiliscono cosa il modello può e non può fare; ma il significato delle parole è aperto all’interpretazione per una macchina non meno che per noi, e più a lungo si prolunga una conversazione, più quelle istruzioni iniziali sbiadiscono, finché qualcuno trova il modo di aggirarle. È la pratica ormai nota come jailbreak, e la sua stessa esistenza racconta una verità scomoda: non esistono barriere insuperabili.
Presa coscienza che risposte sbagliate e aggiramenti sono parte inevitabile di questa tecnologia, l’industria ha spostato l’attenzione sulla costruzione di gabbie digitali, involucri più rigidi e deterministici che dovrebbero contenere il motore generativo e verificarne i risultati. È un’idea sensata, e in teoria potrebbe rendere molti mestieri più simili alla scrittura di codice; ma descrivere per intero, in logica formale, l’universo delle possibili interazioni con un cliente, o l’insieme delle regole che permettono di interpretare correttamente una legge, è un compito improbo, che ci riporta esattamente al muro contro cui l’intelligenza simbolica si era già fermata.
Il fascino della voce, e perché ci crediamo già sostituibili
Resta la domanda più interessante: se davvero questi sistemi non possono manifestare l’intelligenza umana, perché siamo così convinti che finiranno per rimpiazzarci tutti?
Una parte della risposta sta nella loro straordinaria capacità di comunicare in un linguaggio fluido, coerente, conversazionale e senziente. Per tutta la nostra storia, e nella vita di ognuno di noi, il linguaggio ha funzionato come un segnale: chi parla in modo articolato e complesso ci appare umano, e probabilmente intelligente, è un riflesso antico, a cui ci siamo affidati per millenni. Oggi però una macchina parla con la stessa naturalezza, risponde con tono caldo e dice persino di avere emozioni, e tutto questo manda in cortocircuito quel riflesso: se qualcosa parla come noi, ci viene spontaneo trattarlo come uno di noi. Ed è così che finiamo per vederla come un nostro pari.
Ed è proprio qui che conviene fermarsi: alcune tecnologie, come la calcolatrice, si limitano a fare più in fretta ciò che già facevamo; altre, come il passaggio dal vapore all’elettricità, agiscono in modi tanto nuovi da non poter essere usate come semplici sostituti. L’intelligenza artificiale generativa appartiene alla seconda categoria: non è una versione più veloce di noi, ma qualcosa di profondamente diverso, che non ragiona e non funziona come la mente umana. E l’elettricità, a suo tempo, non ha prodotto soltanto le lampadine, ma ha reso possibile la produzione di massa e l’intera rivoluzione digitale che sarebbe venuta dopo.
È questo il punto che Zeynep Tufekci nel suo articolo pubblicato sul The New York Times mette a fuoco con nettezza, ed è il punto che vale la pena rilanciare: proprio perché non può sostituire con facilità gli esseri umani, l’intelligenza artificiale generativa non smetterà per questo di destabilizzare la società, e forse lo farà in modi più profondi di quanto oggi riusciamo a immaginare. Il rischio che dovremmo osservare non è quello di un esercito di software pronto a prendere il nostro posto, ma quello di sistemi imperfetti e imperscrutabili lasciati liberi di agire su reti sanitarie, banche, infrastrutture critiche, sistemi di controllo del traffico aereo, nella speranza che una gabbia digitale li tenga a bada. Affidare tanto a una speranza è, di per sé, la questione che dovrebbe occuparci.
Le voci che invitano a spostare lo sguardo
Non è una lettura isolata, e vale la pena ancorarla a chi studia questi fenomeni da vicino.
Sul piano economico, Daron Acemoglu ha ridimensionato le previsioni più drastiche: nel prossimo decennio l’effetto sulla produttività sarà modesto, nell’ordine di un punto percentuale di PIL, semplicemente perché solo una parte limitata dei nostri compiti si lascia automatizzare in modo affidabile. Il perché lo chiarisce Luciano Floridi, quando osserva che questi sistemi hanno diviso ciò che in noi è unito: la capacità di agire con successo e quella di capire ciò che si fa: risolvono problemi senza comprenderli, ed è esattamente questo che li rende tanto abili quanto inaffidabili. Non resta che chiedersi cosa, allora, continui a spettare a noi; e la risposta, per Paolo Benanti, tra le voci più ascoltate in Italia sull’etica degli algoritmi, sta nel discernimento: stabilire cosa sia rilevante e giusto in una situazione mai uguale a un’altra, un giudizio che nessun calcolo statistico può ereditare. Un economista, un filosofo e un teologo che, da tre punti di vista lontani, convergono sullo stesso invito: la domanda utile non è quanto le macchine arriveranno a somigliarci, ma dove serve ancora, e servirà sempre, la nostra testa.
Aggiornare il modo in cui pensiamo l’intelligenza artificiale non è un esercizio accademico, è la condizione per smettere di temere le cose sbagliate e cominciare a prepararci a quelle giuste.
Se continueremo a raccontarci che la posta in gioco è la sostituzione dell’uomo con la macchina, ci ritroveremo a concentrare attenzione ed energie nel posto sbagliato, mentre la trasformazione reale prende forma altrove, nelle infrastrutture, nelle istituzioni, nel tessuto stesso delle nostre organizzazioni.
Non è se l’intelligenza artificiale ci ruberà il lavoro, ma se sapremo governare una tecnologia che non ragiona come noi, non sbaglia come noi e non si lascia rinchiudere come vorremmo, perché il futuro non è scritto nei modelli: è ancora, per intero, nelle nostre mani.
Nota editoriale
Questo articolo nasce dal dialogo con l’editoriale di Zeynep Tufekci pubblicato sul New York Times il 30 giugno 2026, di cui condivide e rilancia la tesi di fondo: i grandi modelli linguistici sono motori di plausibilità, non macchine capaci di ragionare, e da questa natura discendono tanto i loro limiti quanto i rischi che ci pongono. Gli episodi relativi ad Air Canada, McDonald’s e al concessionario Chevrolet sono documentati da fonti giornalistiche e giudiziarie; il caso degli account Instagram è riferito nella ricostruzione di Tufekci.
