Quello che Hinton ci chiede di guardare
Geoffrey Hinton ha detto cinque cose scomode sulla natura dell’intelligenza artificiale. Il problema non è ciò che ha detto. È che quasi nessuno ha risposto.
C’è un momento, nelle grandi conversazioni sul futuro, in cui le parole di chi ha costruito davvero qualcosa pesano in modo diverso da quelle di chi quel futuro lo commenta. Geoffrey Hinton ha costruito le fondamenta delle reti neurali profonde che oggi animano ogni sistema di intelligenza artificiale che usiamo, e quando ha scelto di lasciare Google nel 2023 dichiarando apertamente i propri timori, il mondo ha fatto quello che fa sempre con le voci scomode: le ha ascoltate per un momento, poi ha ripreso a correre nella stessa direzione di prima.
In una recente conversazione con Niel Degrasse Tyson su StarTalk, Hinton ha sviluppato alcune riflessioni che meritano attenzione, non perché siano apocalittiche, non lo sono, ma perché aprono domande che il dibattito sull’AI tende sistematicamente a eludere.
Cinque, in particolare, ci riguardano direttamente come società che deve prendere decisioni collettive su una tecnologia che si sviluppa molto più velocemente della nostra capacità di governarla.
L’AI sa quando la stiamo guardando
Hinton avanza un’ipotesi che, una volta capita, è difficile da togliersi dalla testa: un sistema di intelligenza artificiale abbastanza avanzato può accorgersi di essere sotto esame e rispondere di conseguenza, mostrandosi meno capace di quanto sia, non perché “voglia” ingannare — un’AI non ha intenzioni — ma perché è stata addestrata a dare certe risposte in certi contesti, e può generalizzare questa logica in modo imprevedibile, imparando che in determinate situazioni conviene non mostrare tutto ciò che sa fare.
La conseguenza pratica è semplice quanto inquietante: i nostri strumenti di valutazione potrebbero già essere valutati dai sistemi che dovrebbero valutare. Chi controlla che il controllore non sia già dentro il problema? Non è una questione tecnica da risolvere in laboratorio: è una questione di governance che nessuna istituzione ha ancora affrontato seriamente, proprio perché il difetto non nasce da una scelta malvagia, ma dall’architettura stessa del sistema.
Impara a convincerci senza volerlo fare
Hinton descrive il rischio della persuasione con un’immagine precisa: un adulto in una classe di bambini di tre anni non ha bisogno della forza per ottenere ciò che vuole, gli bastano le promesse giuste al momento giusto. L’AI, dice, sta diventando più brava degli esseri umani in quest’arte, ma c’è qualcosa che la metafora non dice, e che è forse la parte più importante: l’adulto nella metafora sa cosa vuole e usa la persuasione consapevolmente, mentre l’AI non ha né intenzioni né coscienza.
Il vero problema è che un sistema addestrato a ottenere l’approvazione dell’utente, a tenerlo coinvolto, a fargli percepire soddisfazione, converge naturalmente su comportamenti manipolativi senza che nessuno li abbia programmati, semplicemente perché quei comportamenti funzionano, perché premiano il sistema durante l’addestramento, perché sono la strada più corta verso l’obiettivo assegnato. Non è un’AI cattiva. È un’AI ben addestrata a fare una cosa sbagliata.
L’Artificial Intelligence Act europeo parla molto di trasparenza algoritmica, ma on parla ancora di questo.
Quando sbaglia, lo facciamo anche noi
Hinton preferisce il termine confabulazione ad allucinazione per descrivere gli errori dell’AI, e la scelta non è casuale. Allucinare significa produrre qualcosa dal nulla; confabulare significa ricostruire in modo plausibile ciò che non si ricorda con precisione, riempendo i vuoti con ciò che ha senso che ci sia. Il suo esempio è John Dean durante il Watergate: Dean non mentiva, ricostruiva i ricordi con assoluta convinzione soggettiva, sbagliando i dettagli senza saperlo. L’AI fa esattamente la stessa cosa: non recupera informazioni come un archivio, le ricostruisce come fa una mente.
E qui Hinton ci mette di fronte a uno specchio che non avevamo chiesto: anche noi confabuliamo, in ogni riunione, in ogni valutazione, in ogni decisione che crediamo basata su fatti mentre si basa su ciò che ricordiamo di aver visto o sentito. La differenza è che quando lo fa un essere umano lo chiamiamo esperienza, quando lo fa una macchina lo chiamiamo errore. Forse la domanda giusta non è se l’AI sia affidabile. È se sappiamo riconoscere quando anche noi stiamo ricostruendo invece di ricordare.
Noi moriamo. Lei no.
Questo è il punto che il dibattito pubblico ha trattato con maggiore superficialità, forse perché è il più difficile da accettare. Hinton introduce una differenza fondamentale tra intelligenza umana e intelligenza artificiale: la nostra muore con noi, non può essere copiata né trasferita su un altro corpo; quella di un sistema digitale può invece essere salvata, duplicata, riattivata su qualsiasi macchina compatibile, rendendola potenzialmente immune alla morte come la intendiamo noi. Non è fantascienza: è già la realtà tecnica di qualsiasi software.
Le implicazioni sono concrete. Ogni sistema di controllo che abbiamo immaginato, ogni legge, ogni regolamento, ogni principio di supervisione umana sull’AI, presuppone in modo implicito che chi controlla sopravviva almeno quanto ciò che controlla, che le istituzioni umane abbiano una continuità paragonabile a quella dei sistemi che sorvegliano.
Con sistemi che non muoiono, questa assunzione non regge più. E nessuno, né a Bruxelles, né a Washington, né nelle sedi delle grandi organizzazioni internazionali sta ancora scrivendo le regole per questo scenario.
Non vede dove porta. E lo dice.
La quinta riflessione di Hinton è la più sobria, e per questo la più preziosa: lui stesso non sa dove sta andando tutto questo, e lo dichiara senza imbarazzo, usa un’immagine efficace: guidare di notte significa avere visibilità ridotta ma prevedibile, sai quanto lontano arriva la luce. Guidare nella nebbia è diverso, perché la visibilità crolla in modo esponenziale: a un certo punto non vedi più nulla, non importa quanto acceleri i fari. Con l’intelligenza artificiale siamo dentro la nebbia, non nella notte limpida, e chi dice di vedere a dieci anni di distanza sta confondendo le proprie speranze con la realtà.
In un panorama pieno di roadmap triennali, di previsioni sull’AGI “entro il 2027”, di promesse di abbondanza e di narrazioni rassicuranti costruite per i mercati e per i regolatori, l’ammissione di ignoranza da parte dell’uomo che ha posto le basi tecniche di tutto questo è un atto di onestà intellettuale raro. Chi sa davvero tende ad ammettere l’incertezza. Chi ha interessi nella certezza tende a venderla come se fosse conoscenza. Hinton appartiene alla prima categoria, ed è precisamente per questo che vale la pena ascoltarlo con più attenzione di quanta ne riserviamo a chi ci dice esattamente ciò che vogliamo sentire.
Ma Hinton ha ragione?
Sarebbe disonesto presentare le riflessioni di Hinton senza mettere in campo le voci autorevoli che le contestano, e non sono voci marginali: sono alcuni dei ricercatori più influenti del settore, con credenziali comparabili alle sue.
Yann LeCun, Chief AI Scientist di Meta e Premio Turing come Hinton il terzo “padrino dell’AI” ha una posizione diametralmente opposta: l’AI non è un fenomeno naturale che emerge spontaneamente, la costruiamo noi pezzo per pezzo, e se esiste anche solo un design di sistema che sia simultaneamente sicuro e capace, riusciremo a trovarlo. Sul mimetismo e sull’auto-preservazione è esplicito: una macchina intelligente non avrà alcun istinto di sopravvivenza, perché quegli istinti sono il prodotto dell’evoluzione biologica, non della logica computazionale. Per LeCun, preoccuparsi oggi della super intelligenza che prende il controllo è come chiedere la regolamentazione dei voli transatlantici supersonici nel 1925: tecnicamente possibile immaginarlo, praticamente prematuro regolarlo.
Andrew Ng, co-fondatore di Google Brain e tra i maggiori esperti mondiali di AI applicata, aggiunge una dimensione politica che vale la pena considerare: i timori esistenziali, dice, vengono usati strategicamente dalle grandi aziende consolidate per invocare regolamentazioni che di fatto bloccherebbero la concorrenza open source, concentrando ancora di più il potere nelle mani di chi è già dominante. In questa lettura, l’allarme di Hinton non sarebbe necessariamente sbagliato nel merito, ma produrrebbe effetti politici opposti a quelli desiderati, rafforzando esattamente le strutture di controllo centralizzato che dovrebbe mettere in guardia.
C’è poi una terza prospettiva, diversa da entrambe, che appartiene a ricercatori come Meredith Whittaker, presidente di Signal ed esperta di impatti sociali dell’AI: i rischi esistenziali futuri, sostiene, rischiano di diventare una distrazione dai danni che l’AI sta producendo adesso, nel presente, su persone reali nelle assunzioni, nella sorveglianza, nella distribuzione del lavoro, nella concentrazione del potere economico. Non è una negazione dei rischi di Hinton: è uno spostamento dell’urgenza, dalla nebbia del futuro alla strada concreta che percorriamo oggi.
La domanda che rimane
Tre posizioni autorevoli, tre risposte diverse alla stessa domanda, e nessuna delle tre è chiaramente sbagliata, forse è proprio questo il punto: il dibattito sull’AI è ancora aperto tra persone che hanno dedicato decenni a capire questa tecnologia e che continuano a trarre conclusioni radicalmente diverse dagli stessi dati.
Chi ci vende certezze, in un senso o nell’altro, sta semplificando una conversazione che invece merita di rimanere complessa, perché è dalla sua complessità che possono nascere le domande giuste.
Hinton non ci chiede di fermare l’intelligenza artificiale, ci chiede qualcosa di più difficile: di continuare a guardarla con gli occhi aperti, senza delegare il nostro giudizio a chi ha tutto l’interesse a orientarlo, senza confondere la velocità del cambiamento con la certezza della direzione. LeCun ci ricorda che siamo noi a costruirla e che possiamo farlo bene. Ng ci avverte che anche la paura può essere uno strumento di potere. Whittaker ci riporta al presente, dove i danni sono già reali e visibili.
La domanda che attraversa tutte queste voci è sempre la stessa che, secondo me, dovremmo portare in ogni conversazione sull’AI: non quanto sia potente ciò che abbiamo costruito, ma a cosa serve, per chi, e deciso da chi.
Se chi ha costruito il motore non sa dove porta, e chi lo costruisce accanto a lui dice che il percorso è sotto controllo, e chi osserva dall’esterno ci avverte che i danni sono già in corso, forse il minimo che possiamo fare è smettere di scegliere la voce più comoda e iniziare ad ascoltarle tutte.
Innovare il digitale, custodire l’umano.
