Il passaggio da google a chatGPT non è tecnologico
L’AI promette di trasformare l’accesso al sapere in capacità di decisioni. Ma quando deleghiamo a un algoritmo, persino le scelte che dipendono dal nostro umore, ecco, forse è il momento di fermarsi a riflettere.
Facciamo un esperimento mentale — o forse l’avete già vissuto anche voi. Una sera qualunque, stanchi e senza idee, aprite ChatGPT e scrivete: “Ho in frigo zucchine, ricotta, uova e un po’ di pancetta, sono stanco e ho voglia di qualcosa di confortante. Cosa cucino?”
Nel giro di tre secondi ricevete non una lista di opzioni da valutare, non un elenco di ricette tra cui scegliere, ma la risposta: una frittata di zucchine con ricotta e pancetta croccante, con tanto di procedimento passo-passo e suggerimento di abbinarci un calice di bianco fresco.
Seguite il consiglio, la cena è buona, tutto molto comodo, ma mentre mangiate vi viene un pensiero: avete appena delegato a un software una scelta che dipendeva dal vostro umore, dal vostro livello di energia, da quello che vi andava davvero — e l’algoritmo ha deciso per voi, in base a criteri che non conoscete, ottimizzando per obiettivi che non avete definito voi. Se siamo arrivati al punto di farci dire cosa cenare in base a come ci sentiamo, Houston, abbiamo un problema — o quantomeno una domanda seria da porci.
Da “cercati le informazioni” a “ti dico io cosa fare”
L’esempio con la cena è in realtà il sintomo di un cambiamento molto più ampio che sta attraversando tutti i settori, dalla sanità alla finanza, dallo shopping all’istruzione, e che si può riassumere in una formula che circola molto negli ambienti tech:
il passaggio da information at your fingertips — informazione a portata di mano — a expertise at your fingertips — competenza a portata di mano, sembra una sfumatura, ma cambia tutto.
Informazione a portata di mano è stata la promessa degli ultimi trent’anni:
- il personal computer ha reso accessibile la conoscenza,
- internet l’ha resa ricercabile,
- lo smartphone l’ha messa in tasca.
Se ho un sintomo, cerco su Google e trovo dieci articoli; se devo comprare un’auto, confronto recensioni e schede tecniche; se voglio investire, leggo analisi e opinioni, la fatica di cercare, valutare, decidere resta mia — ma anche la responsabilità e, soprattutto, l’esercizio del giudizio.
Competenza a portata di mano è un’altra cosa: descrivo il sintomo e ricevo direttamente la valutazione — “probabilmente è questo, fai così, se non passa vai dal medico”; chiedo cosa comprare e ricevo il consiglio — “per le tue esigenze, questo modello”; voglio investire e ottengo la strategia — “dato il tuo profilo, alloca così”.
Non devo più cercare, confrontare, capire: ricevo il parere dell’esperto, pronto all’uso, come se avessi un medico, un consulente finanziario, un personal shopper sempre disponibili, a qualsiasi ora, gratis. La promessa è che tutti possano accedere a quella competenza che prima era riservata a chi poteva pagare un professionista.
Detto così sembra meraviglioso, e in parte lo è, non voglio negarlo, ma c’è un problema che non possiamo ignorare.
L’esperto che non puoi interrogare
Quando vado dal commercialista — e ne conosco parecchi, per ovvie ragioni professionali — posso fargli domande: perché mi consigli questa soluzione? quali alternative esistono? cosa rischio se faccio diversamente? Il professionista mi spiega il suo ragionamento, io posso valutare se mi convince, chiedere un secondo parere, decidere di seguire o meno il consiglio assumendomi la responsabilità della scelta. La competenza dell’esperto illumina la mia decisione, non la sostituisce.
Con l’IA generativa questo rapporto cambia radicalmente: l’algoritmo mi dà la risposta, ma non posso davvero chiedergli perché — o meglio, posso chiederlo, ma la spiegazione che ricevo è essa stessa generata dallo stesso sistema, quindi non è una verifica indipendente ma una razionalizzazione a posteriori. Non posso sapere su quali fonti si è basato realmente, quali bias sono incorporati nel suo addestramento, quali interessi commerciali hanno influenzato il modo in cui è stato progettato.
È come avere un consulente che ti dà sempre risposte sicure di sé, mai in dubbio, mai trasparenti sul proprio ragionamento — e che per giunta lavora per qualcun altro di cui non conosci le priorità.
Chi definisce cosa sia una “buona” risposta? Chi stabilisce i criteri che l’algoritmo usa quando mi consiglia un investimento, un percorso di cura, una polizza, un fornitore? La risposta è: chi ha costruito il sistema, chi lo ha addestrato, chi lo gestisce — e i loro obiettivi non necessariamente coincidono con i miei.
Il muscolo che smettiamo di usare
C’è poi un secondo problema, più sottile ma forse più insidioso: cosa succede alla nostra capacità di giudizio quando smettiamo di esercitarla?
Tornando all’esempio della cena: chi sa cucinare, ha abbastanza esperienza per sapere che zucchine e ricotta stanno bene insieme, che la pancetta croccante ci azzecca, che una frittata è la scelta giusta quando si è stanchi. Pensando trenta secondi invece di aprire l’app, arriverebbe probabilmente alla stessa conclusione — ma preferisce non pensare, delegare, eseguire.
Per una cena non è grave — al massimo mangio qualcosa che non mi andava davvero, ma lo stesso meccanismo, applicato a decisioni che contano, diventa preoccupante: se mi abituo a ricevere diagnosi pronte dall’IA, perdo progressivamente la capacità di ascoltare il mio corpo; se delego le scelte di investimento all’algoritmo, non sviluppo mai quella comprensione del rischio che mi permetterebbe di valutare criticamente i suoi consigli; se lascio che il sistema scelga i fornitori per la mia azienda, non costruisco quella rete di relazioni e quella conoscenza del mercato che mi renderebbero capace di negoziare, di capire quando un’offerta è sospetta, di fiutare le opportunità che l’algoritmo non vede.
La competenza umana è come un muscolo: se non la usi, si atrofizza, e quando ti accorgi che ti serve, è troppo tardi per recuperarla in fretta.
A cosa serve, per chi, deciso da chi
Ogni volta che qualcuno mi presenta una tecnologia come la soluzione a tutti i problemi, applico un filtro semplice che mi sono costruito in quarant’anni di lavoro nel digitale: a cosa serve, per chi, deciso da chi?
Proviamo ad applicarlo qui.
- A cosa serve:a ridurre il tempo tra una domanda e una decisione, eliminando la fatica di cercare e valutare. In molti casi è genuinamente utile — penso a un medico di base in un’area remota che può accedere a competenze specialistiche altrimenti irraggiungibili, o a una piccola impresa che non può permettersi consulenti per ogni decisione e qui Il potenziale democratizzante esiste, non lo nego.
- Per chi: qui iniziano i problemi. La versione gratuita dell’IA non sarà mai buona quanto quella a pagamento; la versione a pagamento non sarà mai buona quanto quella enterprise; e tutte saranno ottimizzate per servire prima gli interessi di chi le vende, poi — forse — quelli di chi le usa. Chi può permettersi la versione migliore avrà decisioni migliori; chi si accontenta della base riceverà consigli influenzati da logiche pubblicitarie, partnership commerciali, ottimizzazioni che non hanno nulla a che fare con il suo interesse.
- Deciso da chi: da un pugno di aziende tecnologiche — americane e cinesi, principalmente — che controllano i modelli, i dati di addestramento, i criteri di ottimizzazione. Non è un complotto, è semplicemente come funziona il mercato; ma significa che la “competenza a portata di mano” non è mai neutrale: riflette visioni del mondo, priorità, interessi che non sono i nostri e che non possiamo negoziare.
Usare senza farsi usare
Non sto dicendo che bisogna rifiutare questi strumenti — sarebbe stupido, oltre che ipocrita, visto che li uso ogni giorno per il mio lavoro, sto dicendo che bisogna usarli sapendo cosa sono: strumenti potenti che possono amplificare le nostre capacità se manteniamo la capacità di giudicarli, e che possono sostituirle pericolosamente se ci abbandoniamo alla loro comodità.
Concretamente significa questo: quando l’IA mi dà una risposta, dovrei chiedermi se la capirei anche da solo, se sono in grado di valutarla criticamente, se ho ancora le competenze per verificarla o contestarla. Se la risposta è no, non sto usando uno strumento — sto delegando una capacità che forse non dovrei delegare, e se quella delega diventa abitudine, se smetto di pormi queste domande perché tanto “funziona”, allora la competenza a portata di mano non mi sta potenziando — mi sta impoverendo.
Il vero lusso, nei prossimi anni, non sarà avere accesso all’IA più avanzata — quella la avranno tutti, in una forma o nell’altra.. il vero lusso sarà conservare la capacità di pensare con la propria testa quando serve, di riconoscere i limiti dello strumento, di sapere quando la risposta pronta dell’algoritmo non è la risposta giusta per te.
La prossima volta che sarete stanchi e senza idee per cena, forse penserete trenta secondi prima di aprire l’app.
Non perché l’IA vi darebbe un consiglio sbagliato — la frittata, in fondo, era un’ottima idea — ma perché quel piccolo esercizio di giudizio, quella micro-decisione che sembra insignificante, è il muscolo che vale la pena continuare a tenere allenato.
Perché la competenza a portata di mano è un servizio meraviglioso, a patto di ricordare che è un servizio — e che chi lo offre non lavora gratis, né necessariamente per voi.
Innovare il digitale, custodire l’umano.
