Papa Leone: l’intelligenza artificiale ha bisogno di regole che funzionino

Le leggi servono se qualcuno ne risponde

Ci è capitato a tutti, almeno una volta, di trovarci davanti a una decisione presa da un sistema e di non sapere a chi chiedere conto: la pratica respinta da un modulo online che non prevede eccezioni, il finanziamento negato da un punteggio che nessuno sa spiegarci, la risposta sbagliata di un assistente digitale finita in una mail al cliente perché ci sembrava convincente. In quel momento cerchiamo un volto, un nome, qualcuno con cui parlare, e spesso troviamo soltanto un numero verde, una procedura, una schermata che ripete le stesse parole. È una sensazione piccola e quotidiana, ma contiene la domanda che oggi, 30 ottobre, il Papa ha portato davanti a un gruppo di scienziati riuniti in Vaticano: quando un sistema intelligente sbaglia, o fa del male, chi ne risponde?

L’incontro aveva un titolo che sembrava una promessa, il futuro dell'AI: un dialogo tra il Vaticano e il mondo scientifico, ed è stato organizzato dalla Pontificia Accademia per la Vita insieme a un istituto indipendente che da oltre dieci anni studia i rischi delle tecnologie avanzate. Nella stessa sala c’erano cardinali e teologi accanto ad alcuni dei ricercatori che hanno scritto i testi su cui si formano gli informatici di tutto il mondo e che da tempo chiedono di rallentare la corsa verso sistemi sempre più potenti. Non era scontato vederli seduti allo stesso tavolo, e il Papa lo ha riconosciuto fin dalle prime parole, dicendo di percepire nei presenti «𝘶𝘯 𝘤𝘦𝘳𝘵𝘰 𝘴𝘦𝘯𝘴𝘰 𝘥𝘪 𝘥𝘪𝘴𝘢𝘨𝘪𝘰 𝘳𝘪𝘨𝘶𝘢𝘳𝘥𝘰 𝘢𝘭𝘭𝘰 𝘴𝘷𝘪𝘭𝘶𝘱𝘱𝘰 𝘥𝘦𝘭𝘭’𝘪𝘯𝘵𝘦𝘭𝘭𝘪𝘨𝘦𝘯𝘻𝘢 𝘢𝘳𝘵𝘪𝘧𝘪𝘤𝘪𝘢𝘭𝘦», la consapevolezza di conoscere la direzione da prendere e, insieme, di non fare abbastanza per muoversi in quella direzione.

Il discorso prosegue la linea dell’enciclica Magnifica Humanitas, pubblicata a maggio e dedicata alla custodia della persona nel tempo dell’intelligenza artificiale, ma ne concentra il senso in cinque riflessioni brevi e molto concrete. Vale la pena leggerle una per una, perché parlano a chi governa e a chi costruisce queste tecnologie, ma anche a noi che le usiamo ogni giorno al lavoro senza chiederci troppo spesso chi le abbia orientate e verso dove.

1. Una tecnologia che dipende dalle nostre scelte

Il primo passaggio smonta un’idea che respiriamo ovunque, nelle presentazioni aziendali come nei titoli dei giornali: quella di un’intelligenza artificiale che avanza da sola, seguendo una traiettoria già scritta a cui possiamo soltanto adattarci. «𝘐𝘭 𝘧𝘶𝘵𝘶𝘳𝘰 𝘥𝘦𝘭𝘭’𝘪𝘯𝘵𝘦𝘭𝘭𝘪𝘨𝘦𝘯𝘻𝘢 𝘢𝘳𝘵𝘪𝘧𝘪𝘤𝘪𝘢𝘭𝘦 𝘯𝘰𝘯 𝘦̀ 𝘱𝘳𝘦𝘥𝘦𝘵𝘦𝘳𝘮𝘪𝘯𝘢𝘵𝘰», ha detto il Papa, e proprio perché si tratta di una tecnologia costruita da persone, il suo sviluppo dipende da scelte che possiamo guidare, correggere e, quando serve, anche rifiutare.

Da qui nasce il cambio di prospettiva che attraversa tutto il discorso: chiederci che cosa riesce a fare una macchina ci dice molto sulle sue capacità e quasi nulla sulla direzione, mentre chiederci quale scopo debba servire ci costringe a dire per chi la stiamo costruendo e chi rischiamo di lasciare indietro.

C’è poi una frase che i titoli dei giornali probabilmente trascureranno, e che a me sembra la più importante dell’intero discorso: «𝘶𝘯 𝘴𝘪𝘴𝘵𝘦𝘮𝘢 𝘢𝘧𝘧𝘪𝘥𝘢𝘣𝘪𝘭𝘦 𝘤𝘩𝘦 𝘴𝘦𝘳𝘷𝘢 𝘭𝘢 𝘱𝘦𝘳𝘴𝘰𝘯𝘢 𝘶𝘮𝘢𝘯𝘢 𝘦̀ 𝘱𝘪𝘶̀ 𝘱𝘳𝘦𝘻𝘪𝘰𝘴𝘰 𝘥𝘪 𝘶𝘯 𝘴𝘪𝘴𝘵𝘦𝘮𝘢 𝘴𝘵𝘳𝘢𝘰𝘳𝘥𝘪𝘯𝘢𝘳𝘪𝘢𝘮𝘦𝘯𝘵𝘦 𝘱𝘰𝘵𝘦𝘯𝘵𝘦» di cui non sappiamo prevedere né controllare le conseguenze. È un criterio che rovescia la logica delle classifiche con cui misuriamo i nuovi modelli, sempre più veloci, sempre più capaci, sempre più grandi, e che chiunque abbia introdotto uno strumento in uno studio o in un ufficio riconosce subito: lo strumento che dà risultati straordinari una volta su tre non lo usiamo, mentre quello che fa meno cose ma le fa sempre bene entra nel lavoro di tutti i giorni. Chi sviluppa questi sistemi può obiettare, non senza ragione, che potenza e affidabilità non sono per forza in alternativa e che molti progressi nella sicurezza nascono proprio dai modelli più avanzati, ma la domanda di fondo resta in piedi: su quale delle due qualità stiamo investendo davvero, e chi decide quale conta di più?

2. Strumenti non persone

Il secondo punto suona quasi ovvio, «𝘭𝘦 𝘮𝘢𝘤𝘤𝘩𝘪𝘯𝘦 𝘴𝘰𝘯𝘰 𝘴𝘵𝘳𝘶𝘮𝘦𝘯𝘵𝘪, 𝘯𝘰𝘯 𝘱𝘦𝘳𝘴𝘰𝘯𝘦», ma risponde a un dibattito molto meno lontano di quanto pensiamo. Già nel 2017 il Parlamento europeo aveva chiesto di valutare, per i robot più sofisticati, una forma di «personalità elettronica», e da allora l’idea di riconoscere ai sistemi intelligenti diritti o uno status giuridico riaffiora a intervalli regolari, sostenuta a volte da argomenti filosofici, a volte da ragioni molto più pratiche.

Il Papa mette in guardia proprio su questo: un simile approccio rischia di oscurare la responsabilità umana e di lasciare chi subisce un danno a confrontarsi con «𝘶𝘯’𝘦𝘯𝘵𝘪𝘵𝘢̀ 𝘴𝘦𝘯𝘻𝘢 𝘷𝘰𝘭𝘵𝘰», lo stesso vuoto che sentiamo quando cerchiamo qualcuno a cui chiedere conto di una decisione automatica.

Per onestà va detto che chi propone una qualche forma di soggettività giuridica per l’AI non lo fa sempre per sottrarre responsabilità alle persone: alcuni giuristi la vedono come uno strumento tecnico, simile a quello che il diritto ha già costruito per le società di capitali, per garantire che qualcuno risarcisca davvero i danni quando la catena di chi ha progettato, addestrato, venduto e usato un sistema diventa troppo lunga per individuare un colpevole.

Il rischio indicato dal Papa, però, è reale, perché ogni volta che spostiamo la responsabilità su un’entità astratta rendiamo un po’ meno visibili le persone che hanno preso le decisioni, e per chi è stato danneggiato fa una grande differenza poter trovare dall’altra parte un nome invece di una ragione sociale.

3. Quello che non possiamo delegare

Il terzo passaggio è il più duro ed è quello che ha guadagnato le prime pagine, perché tocca le decisioni sulla vita, sulla libertà e sull’uso della forza. Quando una persona finisce in una lista di obiettivi o in una banca dati per il controllo delle frontiere, ha detto il Papa, «𝘤’𝘦̀ 𝘪𝘭 𝘳𝘪𝘴𝘤𝘩𝘪𝘰 𝘤𝘩𝘦 𝘷𝘦𝘯𝘨𝘢 𝘳𝘪𝘥𝘰𝘵𝘵𝘢 𝘢 𝘶𝘯 𝘴𝘦𝘮𝘱𝘭𝘪𝘤𝘦 𝘥𝘢𝘵𝘰», e per questo quelle decisioni devono restare sempre sotto un controllo umano efficace, informato e responsabile.

È il punto in cui l’intelligenza artificiale deve essere, con la parola già usata nell’enciclica, «𝘥𝘪𝘴𝘢𝘳𝘮𝘢𝘵𝘢», ed è anche l’unico in cui il discorso indica una scadenza precisa: l’invito agli Stati che dal 16 al 20 novembre si riuniranno a Ginevra a compiere passi concreti verso la messa al bando delle armi letali autonome, in una conferenza che dovrà decidere se avviare finalmente il negoziato su uno strumento vincolante dopo anni di lavori preparatori.

Sarebbe un errore, però, leggere questo passaggio come se riguardasse soltanto i sistemi d’arma e i confini, cioè scenari lontani dalla vita di chi lavora in un’azienda o in uno studio. La logica è la stessa che l’Europa ha scritto nell’AI Act quando ha classificato come ad alto rischio i sistemi usati per selezionare il personale, valutare il merito creditizio, decidere l’accesso a servizi essenziali o gestire migrazione e frontiere, e quando ha riconosciuto a chi subisce una decisione di questo tipo il diritto di ottenere una spiegazione. Ogni volta che lasciamo a un punteggio automatico l’ultima parola su un candidato, su un cliente o su un fornitore, ci troviamo in piccolo nella stessa situazione, e la supervisione umana funziona soltanto se chi la esercita ha il tempo, le competenze e anche il coraggio di dire di no alla macchina.

4. Per molti, non per pochi

Il quarto punto riporta l’intelligenza artificiale dentro la tradizione più solida della dottrina sociale, quella del bene comune: queste tecnologie, ha detto il Papa, «𝘯𝘰𝘯 𝘥𝘦𝘷𝘰𝘯𝘰 𝘮𝘢𝘪 𝘥𝘪𝘷𝘦𝘯𝘵𝘢𝘳𝘦 𝘧𝘪𝘯𝘪 𝘢 𝘴𝘦 𝘴𝘵𝘦𝘴𝘴𝘦 𝘦 𝘴𝘦𝘳𝘷𝘪𝘳𝘦 𝘮𝘦𝘳𝘢𝘮𝘦𝘯𝘵𝘦 𝘨𝘭𝘪 𝘪𝘯𝘵𝘦𝘳𝘦𝘴𝘴𝘪 𝘥𝘪 𝘱𝘰𝘤𝘩𝘪 𝘱𝘳𝘪𝘷𝘪𝘭𝘦𝘨𝘪𝘢𝘵𝘪», ma favorire la partecipazione e garantire che i benefici del progresso arrivino soprattutto a chi ne ha più bisogno. Non è una formula astratta, perché tocca una dinamica che vediamo già nelle organizzazioni: l’intelligenza artificiale potenzia chi ha le competenze, gli strumenti e il tempo per usarla bene, mentre per chi non li ha si traduce più spesso in automazione, controllo e compiti ridotti a procedure. 𝘈𝘶𝘨𝘮𝘦𝘯𝘵𝘢𝘵𝘪𝘰𝘯 per chi può, 𝘢𝘶𝘵𝘰𝘮𝘢𝘵𝘪𝘰𝘯 per chi deve.

Anche qui il quadro non è soltanto scuro, perché molte delle stesse tecnologie hanno abbassato in pochi anni barriere che sembravano insuperabili: la traduzione, l’accesso a informazioni specialistiche e la possibilità per un piccolo studio di gestire attività che prima richiedevano una struttura molto più grande sono benefici reali, che arrivano anche a chi fino a ieri ne era escluso.

Quello che il Papa chiede è di non dare per scontato che questi benefici si distribuiscano da soli, perché la storia delle rivoluzioni tecnologiche, a partire da quella industriale che Leone XIII aveva davanti quando scrisse la 𝘙𝘦𝘳𝘶𝘮 𝘕𝘰𝘷𝘢𝘳𝘶𝘮, ci dice che senza scelte deliberate il progresso tende a concentrarsi nelle mani di chi lo controlla.

5. Dai principi alle istituzioni

L’ultimo punto è quello che il Papa ha definito la sfida forse più urgente, ed è il cuore del discorso: «𝘤𝘰𝘯𝘰𝘴𝘤𝘪𝘢𝘮𝘰 𝘨𝘪𝘢̀ 𝘮𝘰𝘭𝘵𝘪 𝘥𝘦𝘪 𝘱𝘳𝘪𝘯𝘤𝘪𝘱𝘪 𝘦𝘵𝘪𝘤𝘪 𝘤𝘩𝘦 𝘥𝘰𝘷𝘳𝘦𝘣𝘣𝘦𝘳𝘰 𝘨𝘶𝘪𝘥𝘢𝘳𝘦 𝘭𝘰 𝘴𝘷𝘪𝘭𝘶𝘱𝘱𝘰 𝘥𝘦𝘭𝘭’𝘪𝘯𝘵𝘦𝘭𝘭𝘪𝘨𝘦𝘯𝘻𝘢 𝘢𝘳𝘵𝘪𝘧𝘪𝘤𝘪𝘢𝘭𝘦», e quello che manca oggi sono istituzioni capaci di metterli in pratica, in particolare istituzioni internazionali efficaci.

È un’ammissione importante, perché viene da una Chiesa che di principi ne ha scritti molti: nel 2020 la stessa Pontificia Accademia per la Vita aveva promosso la 𝘙𝘰𝘮𝘦 𝘊𝘢𝘭𝘭 𝘧𝘰𝘳 𝘈𝘐 𝘌𝘵𝘩𝘪𝘤𝘴, firmata a Roma da grandi aziende tecnologiche, da un’agenzia delle Nazioni Unite e dal governo italiano, e da allora documenti, carte e linee guida sull’etica dell’AI si sono moltiplicati in tutto il mondo.

Il testo completo del discorso indica anche che cosa serve per passare dalle parole ai fatti, cioè standard condivisi, una supervisione indipendente e meccanismi di responsabilità chiari, in modo che le decisioni sullo sviluppo e sull’uso dell’AI possano essere verificate, contestate quando necessario e accompagnate da «𝘳𝘪𝘮𝘦𝘥𝘪 𝘢𝘱𝘱𝘳𝘰𝘱𝘳𝘪𝘢𝘵𝘪 𝘱𝘦𝘳 𝘲𝘶𝘢𝘭𝘴𝘪𝘢𝘴𝘪 𝘥𝘢𝘯𝘯𝘰 𝘤𝘢𝘶𝘴𝘢𝘵𝘰».

Su questo punto il Papa e gli scienziati presenti si sono trovati più vicini di quanto ci si potesse aspettare, perché dal confronto della giornata è emersa la stessa richiesta: regole vincolanti, controlli indipendenti, una persona responsabile per ogni decisione a cui una macchina contribuisce, e la diffidenza verso quell’𝘦𝘵𝘩𝘪𝘤𝘢𝘭 𝘸𝘢𝘴𝘩𝘪𝘯𝘨 che usa i principi come vetrina senza mai trasformarli in obblighi.

L’Europa, per una volta, ha qualcosa da mostrare: con l’AI Act ha costruito un sistema di regole e di autorità di vigilanza che nessun’altra area del mondo ha ancora, e l’Italia ha affiancato una propria legge nazionale. Sappiamo però che una norma vale quanto la capacità di farla rispettare, che le autorità nascono spesso con poche persone e risorse limitate, e che le tecnologie più potenti vengono sviluppate in luoghi dove queste regole non arrivano, per cui la domanda di istituzioni internazionali posta dal Papa non è un auspicio generico ma la constatazione di un vuoto che nessuno, da solo, può riempire.

Quello che resta a noi

Si potrebbe pensare che un discorso rivolto a scienziati e governi riguardi soprattutto loro, e che a chi lavora ogni giorno con questi strumenti resti soltanto il ruolo di spettatore in attesa che qualcuno, a Ginevra o a Bruxelles, decida per tutti. Ma le istituzioni di cui parla il Papa non sono fatte soltanto di trattati e di autorità: sono fatte anche delle regole interne di un’azienda, delle procedure di uno studio, delle persone a cui un’organizzazione affida il compito di verificare, spiegare e rispondere quando qualcosa va storto.

Anche lì scegliamo ogni giorno se un sistema debba essere soltanto potente o anche affidabile, se dietro una decisione automatica debba esserci un nome, se chi la subisce abbia qualcuno con cui parlare.

Il disagio che il Papa ha riconosciuto nei suoi interlocutori è, in fondo, lo stesso che proviamo davanti a quella pratica respinta senza spiegazioni: la sensazione che la tecnologia corra più veloce della nostra capacità di governarla.

Possiamo viverlo come un destino oppure come un compito, e il discorso di oggi suggerisce che la differenza tra le due strade passa da una scelta molto concreta, quella di costruire luoghi, regole e persone capaci di rispondere.

Resta da capire se avremo la pazienza di farlo prima che siano i fatti a imporcelo.