Per venticinque anni abbiamo nutrito l’intelligenza artificiale con la nostra vita — ricerche, acquisti, emozioni, fragilità — e ora ci stupiamo che ci conosca. Prima di chiedere etica all’AI, chiediamoci quale etica abbiamo applicato noi.
Lo scandalo Avast ci ha mostrato il caso più eclatante — un’azienda di sicurezza informatica che vendeva i dati che avrebbe dovuto proteggere — ma se ci fermiamo all’indignazione verso un singolo antivirus perdiamo di vista il fenomeno molto più vasto e molto più scomodo che quella vicenda ha semplicemente reso visibile: non è stata Avast a inventare il meccanismo di estrazione dei nostri dati, e nemmeno è stata la prima a praticarlo, perché quel meccanismo lo abbiamo alimentato noi stessi, volontariamente, per un quarto di secolo, ogni volta che abbiamo cliccato “accetto” senza leggere cosa stavamo realmente accettando.
Il patto che abbiamo firmato senza leggere
La Digital Impact Alliance — organizzazione non profit globale nata nel 2014 sotto l’egida della United Nations Foundation e finanziata dalla Bill & Melinda Gates Foundation Visitor Center dal governo svedese e dal Foreign & Commonwealth Office britannico — lo ha definito con una precisione che non lascia scampo: un “patto faustiano” — dati personali in cambio di servizi apparentemente gratuiti, comodità digitali in cambio della nostra trasparenza totale, accesso illimitato alla nostra vita in cambio di un motore di ricerca che risponde in millisecondi e di un social network che ci fa sentire connessi. Ed è un patto che non è stato imposto con l’inganno o con la forza, ma sottoscritto liberamente, milioni di volte al giorno, da miliardi di persone che hanno scelto la comodità sulla consapevolezza e la velocità sulla riflessione. Come scrive Anja Kovacs, PhD dell’Internet Democracy Project, citata nel report DIAL: “Non esiste nessun altro diritto umano fondamentale che possiamo cedere con un clic.”
La cosa più inquietante non è che questo patto esista, ma che le sue condizioni siano sempre state sotto i nostri occhi, scritte nero su bianco nei termini di servizio che abbiamo accettato senza leggere. Shoshana Zuboff, la professoressa di Harvard che ha coniato il termine “capitalismo della sorveglianza”, ha analizzato in profondità il modello di business di Google e delle altre Big Tech documentando come l’industria tecnologica abbia costruito il proprio modello economico rivendicando unilateralmente l’esperienza umana come materia prima gratuita da tradurre in dati comportamentali — non vendendo servizi agli utenti ma vendendo gli utenti stessi a chi vuole prevedere e modificare i loro comportamenti. E lo ha fatto, come Zuboff stessa ha spiegato nell’intervista alla Harvard Gazette, sapendo fin dall’inizio che gli utenti non avrebbero acconsentito consapevolmente a questa rivendicazione unilaterale della propria esperienza.
YouTube offre forse l’esempio più illuminante di come funzioni concretamente questo meccanismo, perché la piattaforma mette tutto per iscritto con una trasparenza che rasenta il cinismo: nei termini di servizio che ogni utente accetta al momento dell’iscrizione, si legge che caricando un video si concede a YouTube una licenza mondiale, non esclusiva, esente da royalty, cedibile a terzi e trasferibile, per utilizzare, riprodurre, distribuire, creare opere derivate, mostrare ed eseguire i contenuti — il tutto preceduto dalla rassicurazione che “you retain all of your ownership rights in your Content”, come a dire: possiedi formalmente ciò che hai ceduto sostanzialmente, un’illusione di controllo che maschera una cessione pressoché totale e che si replica identica, con variazioni minime, in ogni piattaforma che utilizziamo quotidianamente.
Venticinque anni di noi stessi, consegnati volontariamente
Facciamo un esercizio di onestà intellettuale e ricostruiamo quello che è accaduto, non dal punto di vista delle Big Tech ma dal nostro — dal punto di vista di ciascuno di noi che ha partecipato attivamente a questo patto senza rendersene conto.
Per venticinque anni abbiamo consegnato a Google ogni nostra curiosità, ogni dubbio, ogni ricerca notturna, ogni domanda che non avremmo mai osato porre ad alta voce a un collega o a un amico, costruendo inconsapevolmente il più grande archivio di interessi, paure e aspirazioni umane mai esistito nella storia — un confessionale digitale aperto ventiquattro ore su ventiquattro dove abbiamo deposto, ricerca dopo ricerca, il resoconto dettagliato di ciò che ci preoccupa, ci attrae, ci spaventa, ci incuriosisce.
Per vent’anni abbiamo raccontato ad Amazon cosa ci piace, cosa desideriamo, cosa regaliamo a chi amiamo, cosa compriamo di nascosto e cosa acquistiamo per impulso, permettendo a un algoritmo di costruire un diario dei nostri desideri più preciso e più onesto di qualunque introspezione che potremmo fare su noi stessi, perché i nostri acquisti rivelano ciò che siamo molto più fedelmente di ciò che diciamo di essere.
Per quindici anni abbiamo riversato sui social network — Facebook, Instagram, LinkedIn, TikTok — non solo le nostre opinioni ma le nostre gioie più intime e le nostre fragilità più profonde, i nostri lutti e le nostre celebrazioni, le nostre insicurezze e le nostre aspirazioni, costruendo un ritratto emotivo di noi stessi di una precisione che nessun test psicologico avrebbe mai potuto raggiungere, perché non è stato somministrato da un professionista in condizioni controllate ma compilato da noi stessi, spontaneamente, nei momenti in cui ci sentivamo più autentici e meno osservati.
Da clienti a materia prima
Zuboff lo dice con una lucidità che dovrebbe farci riflettere a lungo: nel capitalismo della sorveglianza l’esperienza umana viene rivendicata unilateralmente come materia prima gratuita da tradurre in dati comportalmentali e questi dati vengono poi dichiarati surplus comportamentale proprietario, alimetati in processi produttivi azanzati noti come “intelligenza delle macchine” e trasformati in prodotti predittivi che anticipano ciò che faremo adesso, presto e in futuro.
Noi siamo passati dall’essere clienti della tecnologia all’essere il suo prodotto – una transizione che non è avvenuta di nascosto ma sotto i nostri occhi, clic dopo clic, accettazione dopo accettazione mentre eravamo troppo impegnati a godere dei servizi gratuiti per chiederci chi li stesse realmente pagando e con quale valuta.
Kazuo Ishiguro, premio Nobel per la letteratura, ha trovato un’immagine che cattura questo processo con una potenza che vale più di qualunque analisi economica: siamo simili a un terreno coltivato, e il prodotto reale sono i dati — il loro valore dipende dalla cura che abbiamo nell’influenzare i nostri comportamenti. È un’immagine che ribalta la prospettiva in modo radicale, perché ci dice che non siamo vittime di un furto ma parte di un processo agricolo in cui noi siamo il campo, i nostri comportamenti sono il raccolto, e qualcun altro è l’agricoltore che ha seminato, coltivato e raccolto i frutti della nostra vita digitale per un quarto di secolo — con il nostro permesso esplicito, firmato in calce a termini di servizio che nessuno ha mai letto.
Lo specchio che non volevamo guardare
E qui arriviamo al punto che pochi vogliono affrontare perchè è molto più comodo accusare l’intelligenza artificiale di essere invasa che riconoscere di averle consegnato noi stessi l’invito a entrare nella nostra vita.
L’AI non è un’entità aliena calata dal clielo, è il prodotto diretto, immediato, inevitabile di venticinque anni di dati che noi le abbiamo fornito, giorno dopo giorno, ricerca dopo ricerca, acquisto dopo acquisto, post dopo post, con una generosità involontaria che nessun sondaggio, nessun focus group, nessuna ricerca di mercato avrebbe mai potuto eguagliare. Come osserva Zahara Chetty in un’analisi ripresa dall’American Academy of Arts and Sciences, l’intelligenza artificiale funziona come uno specchio che riflette una versione del nostro mondo — non ingoia semplicemente fatti e cifre ma consuma noi stessi, il nostro linguaggio, i nostri pregiudizi, le nostre mitologie irrisolte, e ce li restituisce aggregati, amplificati, velocizzati, con una precisione che ci inquieta proprio perché ci riconosciamo in ciò che vediamo.
Quando l’AI ci conosce meglio di quanto ci conosciamo noi, la reazione istintiva è di accusarla di invadenza, di chiedere regolamentazioni, di invocare trasparenza — e tutto questo è sacrosanto e necessario. Ma c’è una domanda che precede tutte le altre e che raramente viene posta: con quale credibilità chiediamo etica e trasparenza a ChatGPT, a Claude, a Gemini, dopo aver cliccato “accetto” migliaia di volte senza leggere una sola riga di ciò che stavamo accettando? Con quale autorità morale pretendiamo che i modelli di intelligenza artificiale rispettino la nostra privacy, dopo aver volontariamente consegnato la mappa completa delle nostre curiosità, dei nostri desideri e delle nostre vulnerabilità a un ecosistema che — come abbiamo visto nei termini di servizio di YouTube — mette nero su bianco la portata della cessione, e noi firmiamo comunque?
Il paradosso è insostenibile: invochiamo un’etica dell’intelligenza artificiale dopo venticinque anni di assenza totale di etica nella gestione della nostra vita digitale. Non per malafede, non per stupidità — per distrazione, per comodità, per quella forma di fiducia pigra che ci porta a delegare la responsabilità dei nostri dati a chiunque ci offra un servizio apparentemente gratuito in cambio.
Avere cura: dall’indifferenza all’agenzia
Ma questa consapevolezza, per quanto scomoda, non è una condanna — è un’opportunità. Perché se siamo stati noi a nutrire l’intelligenza artificiale con i nostri dati per venticinque anni, siamo anche noi a poter decidere come, quanto e a quali condizioni continuare a farlo — e questa è una forma di agenzia che nessun algoritmo può toglierci, a patto che decidiamo di esercitarla.
Il concetto chiave non è difesa — un termine che evoca paura, chiusura, reazione — ma cura: prendersi cura dei propri dati con la stessa attenzione che mettiamo nel prenderci cura delle persone che amiamo, dei momenti che consideriamo preziosi, delle relazioni che vogliamo proteggere. Perché i nostri dati non sono numeri astratti in un server remoto: sono la traccia digitale della nostra identità, delle nostre relazioni, delle nostre vulnerabilità — e meritano la stessa cura che riserviamo a tutto ciò che consideriamo davvero nostro.
Questo non significa disconnettersi dal mondo digitale — sarebbe anacronistico e controproducente — ma significa leggere davvero ciò che firmiamo, o almeno pretendere che sia scritto in modo comprensibile; significa chiedersi, prima di ogni “accetto”, cosa stiamo realmente cedendo e a chi; significa educare le nuove generazioni — e rieducare noi stessi — a considerare la propria vita digitale non come qualcosa di separato dalla propria identità ma come un’estensione di essa, qualcosa che merita rispetto, attenzione e scelte consapevoli.
Il patto faustiano non era inevitabile, come ci ricorda Zuboff, è impossibile immaginare il capitalismo della sorveglianza senza il digitale, ma è perfettamente possibile immaginare il digitale senza il capitalismo della sorveglianza — il che significa che la tecnologia non ha bisogno dei nostri dati per funzionare, ha bisogno dei nostri dati per massimizzare il profitto di chi la controlla, e questa è una scelta economica e politica, non una necessità tecnologica.
La domanda che precede tutte le altre
Ora l’intelligenza artificiale ci restituisce il prodotto aggregato di venticinque anni della nostra vita e noi restiamo sorpresi, quasi offesi, dalla precisione con cui ci conosce, dalla velocità con cui anticipa i nostri bisogni, dalla profondità con cui penetra nelle nostre abitudini e nelle nostre vulnerabilità — ma non dovremmo sorprenderci, perché le abbiamo dato tutto, e lo abbiamo fatto volontariamente, in cambio di servizi che ci sembravano gratuiti e che invece avevano il prezzo più alto possibile: la nostra trasparenza totale di fronte a entità che rimangono totalmente opache nei nostri confronti.
La domanda, allora, non è se l’intelligenza artificiale sia etica — è se noi siamo disposti a diventarlo nella gestione dei nostri dati. Perché il futuro dell’AI non si decide solo nei laboratori di chi la sviluppa: si decide nelle scelte quotidiane di chi la nutre — ovvero nelle scelte di ciascuno di noi.
Innovare il digitale, custodire l’umano.
Nota editoriale
Il tema del «patto faustiano» dei dati — lo scambio tra servizi apparentemente gratuiti e cessione dell’esperienza umana come materia prima — è stato definito dalla Digital Impact Alliance nel paper di Venkatesh Hariharan (giugno 2023) e analizzato in profondità da Shoshana Zuboff nel suo lavoro fondamentale sul capitalismo della sorveglianza. L’obiettivo di questa analisi non è colpevolizzare chi ha partecipato a questo scambio ma stimolare una riflessione sulla responsabilità individuale e collettiva nell’era dell’intelligenza artificiale — perché la consapevolezza è il primo passo verso l’agenzia.
