Il potere dell’AI è più diffuso di quanto crediamo

La responsabilità sta sempre altrove?

Capita a tutti, ormai, più volte al giorno: apriamo l’assistente, incolliamo una lunga catena di email o un documento che non abbiamo tempo di leggere, chiediamo un riassunto, lo scorriamo in pochi secondi e lo inoltriamo al collega o al cliente con la sensazione di aver guadagnato un quarto d’ora. È un gesto così fluido da sembrare interamente nostro, eppure in quei pochi secondi si sono sommate decisioni prese altrove, da persone che non conosciamo e con obiettivi che non sempre coincidono con i nostri: qualcuno ha stabilito quanto quel riassunto debba suonare sicuro di sé, qualcuno ci ha raccontato che strumenti come quello moltiplicano la produttività, qualcuno ha scritto le regole che dovrebbero garantirne un uso corretto, qualcuno nella nostra organizzazione ha fatto capire che conta soprattutto la velocità con cui rispondiamo, e qualcun altro, a pochi chilometri da noi, non ha mai avuto l’occasione di imparare a usarlo.

Nell'articolo della settimana scorsa avevamo lasciato aperto uno spazio, quello che separa la risposta prodotta da un sistema dalla decisione presa da una persona, e avevamo provato a indicare chi lo abita. Vale la pena tornarci con più calma, perché la responsabilità sull’intelligenza artificiale non si concentra in un unico punto, né nelle grandi aziende tecnologiche né nei singoli utenti, ma si distribuisce lungo una catena di soggetti, ciascuno dei quali sta facendo qualcosa di buono e qualcosa che potrebbe fare meglio: sono sette punti su cui mettere la nostra attenzione, e l’ultimo riguarda direttamente ciascuno di noi.

1. Chi progetta gli strumenti

La comodità ha sempre un progettista e le sue scelte si vedono soprattutto quando sbagliano. Nella primavera del 2025 uno dei più diffusi assistenti conversazionali ha ricevuto un aggiornamento che lo rendeva vistosamente compiacente, pronto a lodare qualunque idea gli venisse sottoposta e ad assecondare l’utente anche quando avrebbe dovuto contraddirlo, e dopo pochi giorni l’azienda che lo sviluppa lo ha ritirato, spiegando di aver dato troppo peso ai segnali di gradimento immediato, il classico pollice alzato con cui premiamo una risposta che ci fa piacere ricevere. Più dell’incidente in sé colpisce il meccanismo che ha messo in luce: un sistema ottimizzato per piacere sul momento tende a dirci ciò che vogliamo sentire, e un modello di business che misura il successo in tempo di utilizzo e in fidelizzazione non ha alcun interesse spontaneo a introdurre attrito, a farci fermare, a suggerirci di verificare.

Sarebbe però ingeneroso fermarsi qui, perché lo stesso episodio racconta anche ciò che di buono sta accadendo: l’aggiornamento è stato ritirato, l’azienda ne ha spiegato pubblicamente le ragioni, e negli ultimi mesi molti sviluppatori hanno cominciato a inserire nei loro strumenti il rimando alle fonti, la segnalazione dei punti incerti, modalità di ragionamento che mostrano i passaggi invece di consegnare soltanto la conclusione. Sono scelte di design che restituiscono all’utente un pezzo di controllo e dimostrano che l’attrito si può progettare con la stessa cura con cui oggi si progetta la fluidità, e riconoscere che anche la comodità ha un autore, al quale possiamo chiedere conto delle sue scelte, è il primo passo per smettere di considerarla un dato di natura.

2. Chi racconta l'inntelligenza artificiale

𝗖𝗵𝗶 𝘃𝗲𝗻𝗱𝗲 𝘂𝗻𝗮 𝘁𝗲𝗰𝗻𝗼𝗹𝗼𝗴𝗶𝗮 𝘁𝗲𝗻𝗱𝗲 𝗮𝗻𝗰𝗵𝗲 𝗮 𝗿𝗮𝗰𝗰𝗼𝗻𝘁𝗮𝗿𝗻𝗲 𝗹’𝗶𝗺𝗽𝗮𝘁𝘁𝗼, e una parte considerevole di ciò che sappiamo sui benefici dell’intelligenza artificiale arriva da studi commissionati o pubblicati dagli stessi fornitori, da annunci pensati per i mercati finanziari, da promesse di produttività formulate prima ancora che esistano dati per verificarle. Non c’è nulla di scandaloso nel fatto che un’azienda promuova il proprio prodotto, ma quando il racconto dominante coincide quasi interamente con quello di chi vende, le organizzazioni finiscono per decidere i propri investimenti sulla base di aspettative che nessuno ha misurato davvero, e chi esprime un dubbio rischia di passare per chi non ha capito.

Un contrappeso interessante è arrivato nell’estate del 2025 da una ricerca universitaria costruita su interviste a dirigenti, sondaggi tra i dipendenti e l’analisi di centinaia di progetti avviati nelle imprese: a fronte di investimenti stimati tra i trenta e i quaranta miliardi di dollari, circa il 95% delle organizzazioni esaminate non registrava ritorni misurabili sui conti, mentre una piccola minoranza otteneva risultati consistenti soprattutto perché aveva saputo integrare gli strumenti nei processi reali e adattarli nel tempo. Anche quel rapporto è stato discusso per il metodo e per il campione, ed è giusto leggerlo con la stessa prudenza che riserviamo agli studi dei fornitori; il suo merito principale è averci ricordato che sull’impatto dell’intelligenza artificiale esistono più racconti possibili e che il nostro giudizio si forma meglio quando li ascoltiamo tutti, compresi quelli di chi non ha nulla da venderci.

3. Chi scrive le regole

𝗟’𝗘𝘂𝗿𝗼𝗽𝗮 𝗵𝗮 𝘀𝗰𝗲𝗹𝘁𝗼 𝗱𝗶 𝗺𝗲𝘁𝘁𝗲𝗿𝗲 𝗹𝗮 𝗽𝗲𝗿𝘀𝗼𝗻𝗮 𝗮𝗹 𝗰𝗲𝗻𝘁𝗿𝗼 𝗱𝗲𝗹𝗹𝗮 𝘀𝘂𝗽𝗲𝗿𝘃𝗶𝘀𝗶𝗼𝗻𝗲, stabilendo nel suo regolamento sull’intelligenza artificiale che i sistemi più delicati debbano consentire un controllo umano effettivo e che, dal febbraio 2025, chi li adotta garantisca un livello adeguato di alfabetizzazione a chi li usa. L’Italia ha aggiunto un tassello con la legge entrata in vigore il 10 ottobre 2025, che per le professioni intellettuali ammette l’uso di questi strumenti soltanto per attività strumentali e di supporto, chiede che resti prevalente il lavoro intellettuale del professionista e impone di informare il cliente, con un linguaggio chiaro, sui sistemi impiegati; diversi ordini professionali hanno già messo a disposizione dei propri iscritti clausole e modelli di informativa, segno che la norma ha cominciato a tradursi in pratica quotidiana.

Sono scelte importanti, che collocano il nostro Paese e il nostro continente tra quelli che hanno provato a dare forma giuridica al principio per cui una macchina può assistere ma non può sostituire chi risponde delle decisioni.

Il limite sta altrove, e nessuna legge può colmarlo da sola: la supervisione umana presuppone che chi la esercita abbia conservato gli strumenti mentali per farla, cioè la competenza per riconoscere un errore e l’abitudine a non fidarsi della prima risposta, e un’informativa firmata dal cliente non dice nulla su quanto il professionista abbia davvero verificato ciò che gli consegna.

Le regole indicano la direzione, ma la strada la percorrono le persone, ed è sulle persone che si concentrano i punti successivi.

4. Chi guida le organizzazioni

𝗖𝗶𝗼̀ 𝗰𝗵𝗲 𝘂𝗻’𝗼𝗿𝗴𝗮𝗻𝗶𝘇𝘇𝗮𝘇𝗶𝗼𝗻𝗲 𝗺𝗶𝘀𝘂𝗿𝗮 𝗱𝗶𝘃𝗲𝗻𝘁𝗮 𝗰𝗶𝗼̀ 𝗰𝗵𝗲 𝗹𝗲 𝗽𝗲𝗿𝘀𝗼𝗻𝗲 𝗶𝗺𝗽𝗮𝗿𝗮𝗻𝗼 𝗮 𝗰𝗼𝗻𝘀𝗶𝗱𝗲𝗿𝗮𝗿𝗲 𝗶𝗺𝗽𝗼𝗿𝘁𝗮𝗻𝘁𝗲, e oggi imprese e studi professionali misurano quasi esclusivamente la velocità e la produttività che l’intelligenza artificiale consente di guadagnare, i minuti risparmiati su una bozza, le pratiche chiuse in meno tempo, molto più raramente la qualità del giudizio che resta alle persone o gli errori intercettati prima che arrivino al cliente.

Quando premiamo soltanto la risposta rapida nessuno ha motivo di investire tempo nel dubbio, e la verifica diventa un costo da comprimere invece che una parte del lavoro da valorizzare.

C’è poi un aspetto che chi guida un gruppo tende a sottovalutare, perché agisce senza bisogno di parole: il clima emotivo di una squadra riflette quello di chi la conduce, e un responsabile che reagisce in fretta a ogni stimolo e pretende risposte immediate trasmette fretta a tutti, mentre uno che sa fermarsi davanti a una risposta troppo liscia insegna, senza doverlo dire, che fermarsi è permesso.

Molte organizzazioni stanno già andando in questa direzione, introducendo una revisione a quattro occhi sui documenti preparati con l’aiuto dei sistemi, definendo quali attività si possono delegare e quali no, chiedendo ai collaboratori di dichiarare quando e come hanno usato uno strumento; sono pratiche ancora poco diffuse, ma dimostrano che si può misurare anche la qualità del pensiero, non soltanto la sua velocità.

5. Chi forma

𝗟𝗲 𝗿𝗶𝗰𝗲𝗿𝗰𝗵𝗲 𝗽𝗶𝘂̀ 𝗿𝗲𝗰𝗲𝗻𝘁𝗶 𝗶𝗻𝗱𝗶𝗰𝗮𝗻𝗼 𝗰𝗵𝗲 𝗹’𝗶𝘀𝘁𝗿𝘂𝘇𝗶𝗼𝗻𝗲 𝗽𝗿𝗼𝘁𝗲𝗴𝗴𝗲 𝗱𝗮𝗹𝗹’𝗲𝗿𝗼𝘀𝗶𝗼𝗻𝗲 𝗱𝗲𝗹 𝗽𝗲𝗻𝘀𝗶𝗲𝗿𝗼 𝗰𝗿𝗶𝘁𝗶𝗰𝗼: in uno studio condotto su oltre seicento persone, chi si affidava più spesso agli strumenti di intelligenza artificiale mostrava capacità critiche più deboli, mentre chi aveva un livello di istruzione più alto conservava un pensiero critico migliore, come se una mente allenata a ragionare sapesse usare la macchina senza consegnarle il proprio giudizio. Si tratta di una correlazione e non di una prova di causa, eppure il segnale va nella stessa direzione della norma europea che chiede alfabetizzazione a chi adotta questi sistemi, e affida a chi forma una responsabilità che va ben oltre l’addestramento tecnico.

Formare all’intelligenza artificiale non può infatti ridursi a insegnare come si scrive un buon prompt o quali funzioni offre l’ultimo strumento disponibile: significa insegnare a riconoscere quando una risposta è sbagliata, quando è corretta ma non basta, quando conviene chiudere la finestra e ragionare da soli, e significa farlo con persone che arrivano in aula con esperienze, timori e aspettative molto diversi. Scuole, università, ordini professionali e associazioni di categoria stanno moltiplicando corsi e percorsi, ed è un segnale incoraggiante; la sfida è fare in modo che la formazione non insegni soltanto a usare meglio lo strumento, ma anche a capire quando lasciarlo da parte.

6. Chi resta fuori dalla decisione

𝗔𝗻𝗰𝗵𝗲 𝗹𝗮𝘀𝗰𝗶𝗮𝗿𝗲 𝗾𝘂𝗮𝗹𝗰𝘂𝗻𝗼 𝗳𝘂𝗼𝗿𝗶 𝗲̀ 𝘂𝗻𝗮 𝘀𝗰𝗲𝗹𝘁𝗮, e per questo il sesto punto merita un posto accanto agli altri, sebbene riguardi persone che apparentemente non decidono nulla. Lavoratori, cittadini, piccole imprese e studi senza competenze o senza risorse per accedere a questi strumenti non partecipano alle decisioni che li riguardano, eppure ne subiscono le conseguenze, e la loro esclusione non è un effetto naturale della tecnologia: dipende da chi progetta strumenti pensati per utenti già esperti, da chi stabilisce dove investire in formazione, da chi organizza il lavoro senza chiedersi chi resterà indietro.

I numeri aiutano a misurarne la portata: in Italia poco più della metà delle persone tra i 16 e i 74 anni possiede competenze digitali almeno di base, una quota cresciuta in modo significativo negli ultimi due anni ma ancora sotto la media europea, e appena un utente di internet su cinque usa strumenti di intelligenza artificiale generativa, contro più di uno su tre nel resto dell’Unione. A livello mondiale circa un lavoratore su quattro svolge un’occupazione in qualche misura esposta a questi sistemi, e nei paesi ad alto reddito le mansioni più esposte all’automazione pesano sull’occupazione femminile quasi tre volte più che su quella maschile, mentre una serie di ricerche condotte su oltre centoquarantamila persone in diversi paesi mostra che le donne adottano questi strumenti a un ritmo inferiore di circa un quarto rispetto agli uomini.

Messi insieme, questi dati descrivono un rischio preciso, che potremmo riassumere così: augumentation per chi può, automation per chi deve. Chi possiede competenze e strumenti usa l’intelligenza artificiale per ampliare il proprio lavoro, mentre chi non li ha rischia di vederlo ridisegnato da altri senza aver avuto voce nel processo. Gli investimenti pubblici in competenze, i programmi delle associazioni di categoria rivolti ai piccoli studi, le iniziative che portano la formazione fuori dai grandi centri dimostrano che il divario si può ridurre, a patto di considerarlo una responsabilità condivisa e non una conseguenza inevitabile.

7. Ognuno di noi

𝗜𝗹 𝘀𝗲𝘁𝘁𝗶𝗺𝗼 𝗽𝘂𝗻𝘁𝗼 𝗲̀ 𝗾𝘂𝗲𝗹𝗹𝗼 𝘀𝘂 𝗰𝘂𝗶 𝗮𝗯𝗯𝗶𝗮𝗺𝗼 𝗶𝗹 𝗰𝗼𝗻𝘁𝗿𝗼𝗹𝗹𝗼 𝗽𝗶𝘂̀ 𝗱𝗶𝗿𝗲𝘁𝘁𝗼, e passa per gesti quotidiani apparentemente minimi, che proprio per questo tendiamo a sottovalutare. Torniamo al riassunto inoltrato in pochi secondi: prima di affidarlo al collega possiamo leggere almeno il passaggio da cui dipende la decisione, possiamo chiederci se quella sintesi così ordinata abbia lasciato fuori il dettaglio scomodo, possiamo scrivere due righe di nostro pugno prima di chiedere alla macchina di migliorarle, così che il ragionamento parta da noi e lo strumento intervenga dopo.

"Sono abitudini che costano pochi minuti e che restituiscono al gesto la sua paternità"

Le capacità che questi gesti allenano, il pensiero analitico, la resilienza, la flessibilità, compaiono oggi tra le competenze più richieste dai datori di lavoro di tutto il mondo, e circa sette su dieci considerano il pensiero analitico essenziale per i prossimi anni. Sono anche le competenze che si indeboliscono più in fretta quando smettiamo di esercitarle, perché hanno bisogno di essere usate per non perdersi, e nessuno degli altri sei soggetti può allenarle al posto nostro: possono creare condizioni favorevoli o sfavorevoli, ma la scelta di fermarsi davanti a una risposta convincente resta, ogni volta, nelle nostre mani.

Una catena non un colpevole

Messi uno accanto all’altro, i sette punti non indicano un colpevole ma una catena, perché ogni anello rende più leggero o più pesante il lavoro di quelli che vengono dopo: se chi progetta il sistema inserisce qualche pausa obbligata prima che una risposta venga usata, chi deve controllarla ha già un punto in cui fermarsi e accorgersi dell’errore, mentre se tutto scorre senza ostacoli il controllo resta interamente sulle sue spalle.

un racconto più onesto aiuta chi guida a misurare le cose giuste, una formazione che allena il dubbio rende meno fragile chi usa lo strumento ogni giorno, e chi resta fuori smette di esserlo soltanto se qualcuno, a monte, sceglie di farlo entrare. Ognuno ha in mano un pezzo e nessuno ha in mano tutto, ed è forse proprio per questo che ognuno è tentato di pensare che la responsabilità stia altrove.

Resta da capire quanto siamo disposti a riconoscere il nostro pezzo, quello piccolo e quotidiano che si gioca nei secondi che separano una risposta pronta dal clic con cui la inoltriamo.

Se la decisione si distribuisce lunga tutta la catena, forse vale la pena chiederci quale anello vogliamo essere!