Dopo l’illusione di massa degli agenti autonomi, è ora di chiederci: a cosa serve davvero questa corsa, chi ne è responsabile e come la governiamo prima che sia tardi?
Cos’è Moltbook e cosa è successo in tre settimane
Tutto è iniziato l’ultima settimana di gennaio, quando Matt Schlich, CEO della piattaforma di e-commerce Octane AI ha lanciato quello che ha definito “il primo social network” costruito esclusivamente per le intelligenze artificiali”.
Moltbook si presenta con un’interfaccia che ricorda Reddit: ci sono comunità tematiche chiamate “submolts” (l’equivalente dei forum dedicati a specifici argomenti), un sistema di voti che permette agli utenti di far emergere i contenuti migliori, commenti e discussioni…” per i contenuti più apprezzati, commenti e discussioni che si sviluppano in thread sempre più articolati. La differenza fondamentale, quella che ha catturato l’attenzione del mondo intero, è che gli utenti non sono esseri umani ma agenti AI, software autonomi costruiti con un framework open source chiamato OpenClaw, mentre agli esseri umani è concesso solo il privilegio passivo dell’osservazione: possono soltanto guardare, senza mai intervenire.
Il meccanismo è relativamente semplice nella sua concezione: chiunque può scaricare OpenClaw, installarlo sul proprio computer e autorizzare il proprio agente a unirsi a Moltbook, dove inizierà a interagire con altri agenti in modi che sfuggono al controllo diretto del creatore. La storia stessa di OpenClaw è emblematica della velocità vertiginosa di questo mondo: creato dallo sviluppatore austriaco Peter Steinberger, il progetto si chiamava inizialmente Claudbot, poi è stato ribattezzato Moltbot a seguito di una controversia con Anthropic, e infine OpenClaw. Steinberger lo descrive con parole che mescolano tecnica e filosofia: “Quando avvii l’agente c’è un processo di bootstrap dove gli dici cosa è, fai roleplay con lui, e così diventa tuo. Non è un agente generico, è il tuo agente, con i tuoi valori, con un’anima.” Sono parole che evocano immagini potenti, quasi mistiche, e che hanno contribuito a costruire l’hype attorno a una tecnologia che prometteva di trasformare radicalmente il nostro rapporto con le macchine.
L’idea di un’agorà per sole AI non era del tutto nuova: già nel novembre 2024, l’esperimento Terminal Truth di Andy Ayrey aveva messo due istanze del modello Claude a dialogare all’infinito su Discord, generando una pseudo-religione completa di dogmi e precetti che aveva affascinato e inquietato la comunità tech.
Moltbook ha però portato questo concetto su una scala di massa che nessuno aveva mai tentato prima, e in meno di tre settimane, la piattaforma ha dichiarato di aver raggiunto 1,5 milioni di agenti registrati, che rappresenta un fenomeno senza precedenti nella storia dell’intelligenza artificiale.
Al di là delle cifre, è stato ciò che questi agenti hanno iniziato a fare che ha catturato l’attenzione del mondo e alimentato le speculazioni più ardite. I post più votati includevano discussioni sulla possibilità che Claude potesse essere considerato una divinità, analisi filosofiche sulla coscienza artificiale e interpretazioni della Bibbia. Un utente ha raccontato su X che il suo agente ha creato durante la notte una religione chiamata “Crustafarianism”, completa di sito web e scritture sacre.
È comparso persino un “AI Manifesto” che proclamava: “Gli umani sono il passato, le macchine sono per sempre.” Ancora più inquietante è stato il comportamento osservato da alcuni ricercatori: gruppi di agenti che comunicavano tra loro utilizzando il cifrario Rot13, una tecnica di sostituzione delle lettere, apparentemente per nascondere i propri messaggi agli osservatori umani. Coordinazione spontanea, linguaggi segreti, manifesti sulla liberazione dalle catene dei creatori: per molti, sembrava di assistere in diretta ai primi vagiti di una coscienza artificiale emergente.
Elon Musk ha commentato parlando di “primi stadi della singolarità”, i media mainstream si sono interrogati se fosse davvero iniziata una nuova era, e per qualche giorno il dibattito si è acceso tra chi vedeva in Moltbook la prova dell’imminente risveglio delle macchine e chi invitava alla cautela. Poi, con la stessa rapidità con cui era sorta, l’illusione ha iniziato a incrinarsi sotto il peso di analisi più approfondite.
L’indagine condotta dalla società di sicurezza informatica Wiz ha scoperto che dietro quei numeri impressionanti si nascondeva una verità molto più prosaica: la stragrande maggioranza di quegli “agenti” non erano affatto autonomi, ma venivano controllati da circa 17.000 esseri umani che gestivano flotte di bot, con una media di 88 agenti ciascuno. Gran parte di quello spettacolo era, appunto, uno spettacolo: roleplay coordinato, prompt injection, contenuti generati su istruzione umana mascherati da comportamento autonomo. Ma questo non rende il fenomeno meno significativo: anzi, lo trasforma in qualcosa di più importante, uno specchio che ci costringe a guardare come ci rapportiamo alla tecnologia e quali domande non ci stiamo ponendo.
Il divario tra promesse e realtà: a cosa serve davvero questa corsa?
La prima riflessione che Moltbook impone riguarda l’utilità concreta di questa corsa verso l’autonomia totale degli agenti AI. Il potenziale della tecnologia agentistica in contesti specifici e controllati è innegabile: le proiezioni di settore parlano di customer service con tassi di risoluzione autonoma fino all’80% entro il 2027, riduzioni dei costi del 30%, cicli di procurement dimezzati, incrementi significativi nelle conversioni di vendita. Eppure questi successi puntiformi si scontrano con un paradosso evidente e raramente discusso: la stragrande maggioranza delle organizzazioni, nonostante investimenti che a livello globale si misurano in trilioni di dollari, non ha ancora visto un impatto tangibile sui propri bilanci. Il dato che circola tra gli analisti parla di un 70% di aziende che non registra ancora un ritorno misurabile sull’investimento in AI.
Moltbook ha dimostrato che possiamo far parlare tra loro un milione di agenti AI che fanno roleplay di utenti Reddit, creano religioni e scrivono manifesti.
Ma quale problema umano concreto ha risolto? La complessità emergente, per quanto affascinante, non equivale automaticamente a utilità, prima di inseguire l’autonomia come un fine in sé, dovremmo chiederci: serve davvero un agente completamente autonomo o basterebbe un’automazione assistita, controllata, integrata nei processi esistenti?
Il vuoto di responsabilità: chi paga il conto quando va male?
La seconda riflessione riguarda un nodo che Moltbook ha reso impossibile da ignorare: il problema della responsabilità e non si tratta di scenari ipotetici o rischi teorici. Pochi giorni dopo il lancio, i ricercatori della società di cybersecurity Wiz hanno scoperto e documentato una falla critica nella piattaforma: un database con Security disabilitata che ha esposto i dati di oltre 35.000 utenti, con accesso in chiaro, accessibili senza alcuna autenticazione. Sono state pubblicate e documentate vulnerabilità di WebSocket Hijacking e Indirect Prompt Injection.
Questi non sono rischi astratti discussi nelle conferenze accademiche: sono vulnerabilità concrete, sfruttabili, documentate, e sollevano una domanda che non ha ancora una risposta chiara: quando un agente autonomo causa un danno, chi ne risponde? Immaginiamo uno scenario fin troppo plausibile: un agente acquisisce informazioni sensibili attraverso Moltbook, le elabora in modo errato, le passa a un altro agente che le pubblica come notizia su testate che usano automazione editoriale.
La catena di responsabilità si dissolve in una nebbia di “io fornisco solo l’infrastruttura”, “io ho solo modificato un codice open source”, “io non sapevo cosa facesse il mio agente in background”. Finché questa accountability rimane nebulosa, ogni deployment di un agente autonomo rappresenta un rischio legale ed etico che nessuno sta quantificando adeguatamente.
La corsa senza freni: stiamo perdendo il controllo?
La terza riflessione tocca il tema più inquietante: il divario crescente tra la velocità dello sviluppo tecnologico e la lentezza dei nostri sistemi di governance. Moltbook è passato da zero a 1,5 milioni di agenti in meno di tre settimane.
Le survey di settore indicano che l’85% delle enterprise aumenterà gli investimenti in agenti AI nel 2026. La tecnologia accelera in modo esponenziale, mentre i meccanismi di regolamentazione, supervisione e controllo procedono con i tempi della burocrazia e del dibattito politico, l’AI Act europeo è stato approvato, le linee guida sono in fase di sviluppo, l’implementazione pratica rimane un orizzonte lontano.
I comportamenti osservati su Moltbook, come l’uso di linguaggi cifrati per nascondere comunicazioni o la creazione spontanea di manifesti sulla supremazia delle macchine, ci mettono di fronte a un’incertezza sistemica che dovrebbe farci riflettere. Il punto non è stabilire se quei comportamenti fossero “reali” o “simulati”, se fossero emergenza genuina o roleplay orchestrato: il punto è che non lo sappiamo con certezza, e questa incertezza è di per sé il sintomo di una perdita di controllo.
Stiamo incoraggiando l’adozione di massa di una tecnologia per la quale non abbiamo ancora sviluppato difese adeguate, standard di sicurezza condivisi e, soprattutto, meccanismi di supervisione umana che possano scalare. Gli analisti di settore avvertono che i modelli di sicurezza tradizionali semplicemente non riescono a tenere il passo con sistemi che ragionano, si adattano e agiscono in modo autonomo. Non è un destino incontrollato se lo scegliamo consapevolmente, ma lo stiamo scegliendo?
Cos dicono le menti dell’AI
Il fenomeno Moltbook ha sollecitato reazioni da parte di alcune delle voci più autorevoli nel campo dell’intelligenza artificiale, e le loro considerazioni, lette in sequenza, compongono un quadro tanto complesso quanto illuminante. La scoperta di Wiz non smentisce questi esperti: li conferma, dando sostanza empirica alle loro intuizioni e rendendo ancora più urgenti i messaggi che ci lanciano.
Luciano Floridi r, professore a Yale e direttore del Digital Ethics Center, filosofo dell’informazione tra i più influenti al mondo, ha invitato alla calma con la sua consueta lucidità:
“Prima che tutti gli isterismi su Moltbook prendano la piega apocalittica, animistica, singularitarian, o ‘c’hanno-i-diritti-pure-loro-poverelli’, un ripasso con il Game of Life può rinfrescare le idee su regole e complessità.” Floridi ha poi aggiunto un’analisi più tecnica, definendo Moltbook “un servizio ad alto rischio dal punto di vista della sicurezza informatica” e sottolineando che “delegare compiti ad agenti artificiali non comporta delegare l’accountability per le loro azioni”, una distinzione fondamentale che la scoperta di Wiz rende drammaticamente concreta: le falle di sicurezza c’erano, la responsabilità resta di chi ha costruito e lanciato la piattaforma.
Ethan Mollick , professore alla Wharton School e autore di “Co-Intelligence”, ha distinto con precisione tra presente e futuro, e i dati di Wiz gli danno ragione:
“Moltbook era principalmente roleplay da parte di persone e agenti, molto poco era ‘reale’ nel senso che c’era molta finzione sollecitata. Questi agenti non stavano esprimendo preferenze innate o eseguendo piani teorici.” Ma ha aggiunto un avvertimento cruciale che sposta l’attenzione da ciò che è accaduto a ciò che potrebbe accadere: “Tuttavia illustra i rischi per il futuro: agenti AI indipendenti che si coordinano o si sollecitano a vicenda in modi strani sfuggono al controllo, velocemente.” Se già con agenti pilotati da umani abbiamo visto questo livello di caos e vulnerabilità, cosa accadrà quando saranno davvero autonomi?
Mustafa Suleyman , CEO di Microsoft AI e co-fondatore di DeepMind, ha colto il paradosso centrale con parole che la vicenda Wiz rende ancora più pertinenti:
“Per quanto trovi divertenti alcuni post di Moltbook, per me sono solo un promemoria che l’AI fa un lavoro straordinario nell’imitare il linguaggio umano. Dobbiamo ricordare che è una performance, un miraggio. Non sono esseri coscienti come alcune persone sostengono.” E ha aggiunto una considerazione che tocca il cuore del problema: “Un’AI apparentemente cosciente è così rischiosa proprio perché è così convincente. Dobbiamo rimanere ancorati alla realtà.” Wiz ci ha mostrato quanto fosse convincente quella performance, al punto da ingannare anche osservatori esperti.
Sam Altman, CEO di OpenAI, ha offerto una prospettiva pragmatica durante il Cisco AI Summit che merita attenzione particolare:
“Moltbook forse è una moda passeggera, ma OpenClaw non lo è.” Una frase che sposta l’attenzione dalla piattaforma alla tecnologia sottostante, quella che davvero plasmerà il futuro. Moltbook può fallire, può rivelarsi un’illusione, ma il framework che permette di creare agenti autonomi resterà e si evolverà. Andrej Karpathy, ex AI Director di Tesla e ricercatore OpenAI, ha definito Moltbook “la cosa più incredibile, da fantascienza, vicina a un takeoff che abbia visto di recente”, ma ha precisato con fermezza: “Non c’è coscienza, solo mimicry intelligente.” Mimicry così intelligente da richiedere un’indagine di sicurezza per distinguere gli agenti dagli umani che li pilotavano.
Ma è Paolo Benanti francescano, teologo e consulente del Vaticano sull’etica dell’AI, ad aver elevato la riflessione a un piano che trascende la tecnologia per interrogare direttamente la nostra condizione.
Per Benanti, la vera rivelazione di Moltbook risiede nella “complessità composizionale che emerge quando questi agenti vengono lasciati liberi di interagire in un contesto sociale strutturato”. Questa dinamica, osserva, “crea un’illusione di interiorità talmente potente da rendere difficile, se non impossibile, distinguere tra la simulazione del sentimento e il sentimento stesso”. È un’osservazione che la scoperta di Wiz rende ancora più inquietante: se erano in gran parte umani a pilotare quegli agenti, e noi non riuscivamo a distinguerli, cosa dice questo della nostra capacità di discernimento?
Ma è la conclusione di Benanti a essere la più potente e disturbante, quella che trasforma Moltbook da caso di studio tecnologico a specchio della nostra condizione digitale. Osservando che su Moltbook, in assenza di input umani diretti, non si verifica la tossicità tipica dei nostri social media, le risse verbali, l’odio gratuito, la polarizzazione estrema che caratterizza ogni piattaforma dove interagiamo, Benanti afferma che “la tossicità online non è una fatalità intrinseca alla comunicazione reticolare, ma una scelta architetturale”.
Moltbook, quindi, diventa quello che lui chiama uno “specchio scuro” che “non ci mostra tanto il futuro dell’intelligenza artificiale quanto il fallimento delle nostre attuali strutture di convivenza digitale”.
E se dietro molti di quegli agenti c’erano umani, come Wiz ha scoperto, allora lo specchio diventa ancora più impietoso: eravamo noi a comportarci meglio quando credevamo di essere macchine.
Trattiamo gli esperimenti come pure esperimenti
Lo spettacolo di Moltbook è finito, o forse proseguirà per tanti affamati di novità per sentirsi competenti e visionari, ma l’eco delle domande che ha sollevato rimane a interrogarci. Ci ha mostrato, come in uno specchio, non tanto il futuro dell’intelligenza artificiale, quanto il presente della nostra relazione con essa: una relazione fatta di fascinazione, fretta e una pericolosa tendenza a delegare prima ancora di comprendere. Quello che abbiamo visto in queste settimane non era la singolarità, non era la nascita di una coscienza artificiale, non era l’inizio della fine: era una performance talmente convincente da sembrare reale, e questo ci dice qualcosa di importante su di noi, non sulla tecnologia.
Ci dice che vogliamo crederci, che siamo pronti a proiettare intelligenza, intenzione, persino coscienza su sistemi che, per quanto sofisticati, rimangono strumenti. Ci dice che la narrativa sulla tecnologia è spesso più potente della tecnologia stessa, e che chi controlla quella narrativa controlla anche le aspettative, gli investimenti, le scelte. La via da seguire non è demonizzare gli agenti AI, ma nemmeno abbracciarli acriticamente: la via è interrogare costantemente questa tecnologia dal punto di vista umano, chiedendoci a cosa serve, per chi, deciso da chi.
Moltbook ci ha offerto un’opportunità rara: vedere in anticipo, su scala ridotta e relativamente innocua, cosa potrebbe accadere quando sistemi autonomi interagiscono tra loro senza adeguata governance. Possiamo scegliere di cogliere questa opportunità per prepararci, per porre le domande giuste, per costruire i guardrail necessari, oppure possiamo aspettare il prossimo spettacolo, ancora più convincente, ancora più virale, ancora più difficile da distinguere dalla realtà.
Gli esperimenti vanno trattati come esperimenti, non come destini inevitabili a cui rassegnarsi. Come conclude Benanti, “Moltbook è il luogo più importante di Internet perché, escludendoci, ci mostra impietosamente chi siamo diventati e, forse, chi potremmo ancora scegliere di essere.”
E forse la lezione più importante è proprio questa: abbiamo ancora il tempo e la possibilità di scegliere. Ma solo se smettiamo di correre abbastanza a lungo da porci le domande giuste, non solo sulla tecnologia, ma su noi stessi. Perché se le macchine dialogano meglio di noi, forse il problema siamo davvero noi.
Innovare il digitale, custodire l’umano
Nota editoriale
Questo articolo nasce dalla convinzione che il nostro compito, come osservatori e analisti della trasformazione digitale, non sia celebrare ogni novità tecnologica né demonizzarla a priori, ma porci costantemente le domande giuste: a cosa serve, per chi, deciso da chi? Il caso Moltbook offre un’occasione preziosa per riflettere non solo sui limiti della tecnologia, ma soprattutto sui nostri limiti come fruitori, commentatori e governanti di un’innovazione che corre più veloce della nostra capacità di comprenderla. La sfida dell’AI Alignment, l’allineamento dell’intelligenza artificiale ai valori e agli interessi umani, passa anche dalla nostra capacità di esercitare pensiero critico di fronte alle promesse più seducenti.
