Eppur si muove
L'enciclica di Papa Leone sull’AI, Magnifica Humanitas, tocca diversi temi importanti. Ma nascondendosi su altri, ha un po' il retrogusto di un’occasione persa
IN POCHE RIGHE
L’attenzione rivolta da Papa Leone al tema dell’intelligenza artificiale è tutt’altro che scontata. Dedicarvi niente meno che la prima enciclica, al netto dei giudizi di merito, è encomiabile.
Uno degli assunti da cui parte Upload è che l’AI, curiosamente, è allo stesso tempo over-hyped e under-discussed. Per quanto se ne parli in ogni angolo del cosmo digitale (e oltre), a tutte le ore del giorno e della notte, è preoccupante come la discussione mainstream sia spesso cronicamente indietro, e tendenzialmente prona a inciampare su assunti e pregiudizi che all’hype progressista più cieco contrappongono una forma di critica aprioristica che, più che altro, ne esacerba le tesi.1
Una voce come quella della Santa Sede, quindi, parrebbe ottimamente posizionata quantomeno a espandere la proverbiale finestra di Overton legittimando il tema, soprattutto agli occhi di coloro che — fuori dal suddetto duello — non lo considerano degno nemmeno di un’attenzione appena più che di superficie.
Magnifica Humanitas è già per questo motivo una nota positiva nella cronistoria dell’AI. Se ne parlerà in un lungo e in largo. Ma è forse proprio considerando i fiumi di inchiostro che verranno spesi in critiche e lusinghe che, scrutandone il testo, rimane una persistente nota d’amarezza per un’occasione mancata.
UNA STORIA
Nelle sue circa quarantaduemila parole, l’enciclica tiene quasi la figura di Dio e le questioni più prettamente ecclesiastiche sullo sfondo, lasciando piuttosto emergere le necessità della humanitas in un mondo in cui all’intelligenza artificiale viene riconosciuto il ruolo di attore sempre più globalmente dominante.
È uno specchio non casuale della Rerum Novarum, la celebre enciclica che proprio Leone XIII, nel 1891, pubblicò per difendere i diritti dei lavoratori durante la Rivoluzione Industriale e nel cui solco spirituale si colloca l’opera di Prevost.
Per un’istituzione storicamente abituata a ragionare a orizzonti temporali di secoli, perciò, centrare senza mezzi termini l’aspetto inedito della estrema rapidità di evoluzione2 è tutt’altro che banale — oltre ad essere corretto nella sostanza, come regolarmente insistiamo da queste parti.
Velocità che viene inquadrata come un dato di fatto, quasi tautologico, con il rischio intrinseco di perdere il pieno controllo non tanto e non solo sulla tecnologia medesima3, ma sui risvolti più ampi da essa provocati.
Dall’erosione del giudizio e del pensiero agli inasprimenti sulle disuguaglianze e e le paure per la disoccupazione di massa indotta dall’automazione; passando per gli scopi poco nobili legati alle implementazioni in aree di conflitto4 a una più ampia destabilizzazione della democrazia stessa, l’intera enciclica dedica spazi particolarmente consistenti a varie manifestazioni di apprensione e allarme, lasciando invece ben più implicite eventuali esternazioni speranzose (o più direttamente ottimiste).
C’è molto food for thought. E benché il Santo Padre si guardi bene dal posizionare lo scritto come un policy paper, anche a una lettura superficiale non può sfuggire un intento di richiamo a un’azione seria, concreta, celere, indirizzata non tanto ai fedeli bensì a chi di dovere — fuori dal perimetro religioso.
L’ACQUA IN CUI NUOTIAMO
Papa Leone sfiora anche il tema della cybersicurezza, che pure rientra a pieno titolo nel novero delle tensioni da lui menzionate. Come abbiamo già lungamente commentato dall’angolo ben più secolare di questa newsletter, è anzi il primo dei problemi sistemici ad essersi già ferocemente imposto sulla cronaca, mettendo l’AI sul radar di istituzioni finanziare e governative del pianeta.5
L’AI sta cambiando il mondo, dunque, e bisogna — quasi draghianamente — fare qualcosa. Non è uno scherzo, non è un giocattolo.6 E sebbene nel merito alcune supposizioni vengano trattate con meno rigore di altre,7 è veramente difficile non terminare la lettura con un retrogusto ben poco clericale e più affine a quello di un freddo ente regolatore, magari di Bruxelles. Quasi come se al posto della massima autorità religiosa cristiana, ad intervenire fosse stato il capo dello Stato Vaticano, interessato più come generico stakeholder civico della propria giurisdizione.
Temo che questa sia un’occasione persa.
Confusi dal marasma della notizia della settimana (o più frequentemente del giorno, oramai), dimentichiamo sovente che l’umanità si sta accingendo a costruire sistemi che saranno più intelligenti di noi a svolgere, almeno in parte, i compiti e le mansioni in cui troviamo orgoglio, significato, senso di realizzazione.8
Oggi, collettivamente, affrontiamo la cosa in modo istintivo e ferino, come gli studenti che abbiamo citato la scorsa settimana. Una reazione che sarebbe comprensibile anche laddove scaturisse da un ragionamento ben più profondo e consapevole, che prova a fare i conti con la reale entità del fenomeno e di quanto infonda un senso di incontrovertibile smarrimento. L’idea di una specie più intelligente dell’homo sapiens è una che difficilmente vogliamo contemplare, figuriamoci accettare; ed è qui che anche la riflessione del Papa sembra fermarsi.
È come se l’enciclica abbracciasse un gigantesco paradosso, negando categoricamente quel bagno di umiltà che — volenti o nolenti, rassegnati o agguerriti — l’avanzamento dell’AI ci costringe a fare. Da un lato, macchine da cui mettersi in guardia, perfettamente capaci di acuire la gravità dei conflitti bellici tra nazioni ed economici tra classi; rovesciare il paradigma fondante del lavoro come nucleo centrale della vita cittadina; e financo sgretolare la democrazia dalle fondamenta. Definite, sia pure in modo circoscritto, apertamente super-umane.
Dall’altro, però, sistemi fondamentalmente incapaci di pensare o comprendere “davvero”, e quindi ontologicamente subalterni. Se lo fa un essere umano, “pensa” e “capisce” veramente; se lo fa un’AI, è sferragliamento digitale. Che infatti stride non solo con la realtà stessa, ma con ciò che dalla Santa Sede ci si dovrebbe auspicabilmente aspettare.9
PERCHÉ CONTA
Durante la cerimonia di presentazione, ad affiancare Leone c’era Chris Olah, uno dei co-fondatori di Anthropic. Oggi dirige il gruppo legato alla mechanistic interpretability, la branca dell’AI che sta cercando di capire cosa accade sotto il cofano delle imperscrutabili matrici di floating-point numbers.
Nel suo conciso intervento, infatti, Olah ha sottolineato un aspetto noto da tempo agli addetti ai lavori, ma (evidentemente) ancora sconosciuto ai più. E cioè che i modelli linguistici basati sull’architettura transformer e il paradigma del deep learning10 non vengono progettati con metodi tradizionali di ingegneria del software.
Il modo attraverso cui sono addestrati somiglia infatti molto più a un processo naturale di coltivazione: noi prepariamo e ariamo il terreno, lo nutriamo, disponiamo l’ingraticciatura e, se necessario, aggiustiamo il tiro in corso d’opera.11 La catena causale che portal deterministicamente al risultato finale, però, è quasi del tutto oscura. Non sappiamo bene cosa accada “là dentro”; né perché.
Dice Olah (traduzione ed enfasi mie):
“Sono uno scienziato, e dirigo un team di ricerca che si occupa di studiare le strutture interne dei modelli; ciò che accade realmente al loro interno.
E sarò onesto: ciò che scopriamo è misterioso, a tratti inquietante. Strutture che rispecchiano i risultati della neuroscienza umana. Troviamo prove di introspezione, e stati interni che, in termini funzionali, riflettono la gioia, la soddisfazione, la paura, il lutto, l’agitazione.12
Non so bene cosa ciò significhi, ma credo sia meritevole di ulteriore discernimento.”
È dunque un peccato, nell’enciclica, vedere da una parte riconosciuto l’aspetto enigmatico dell’artefatto coltivato e non progettato; e, dall’altra, un perentorio rifugio dall’affrontare qualsivoglia discernimento, come suggerito da Olah.
Traduzione ed enfasi nuovamente mie:
“Le cosiddette intelligenze artificiali non hanno esperienza, non hanno un corpo, non sentono gioia né dolore, non maturano attraverso relazioni e non sanno cosa l’amore, il lavoro, l’amicizia o la responsabilità significhino dall’interno.”
Al netto della contraddizione de facto, naturalmente soprasseduta dalla paventata13 comunione d’intendi de jure, provo disappunto nel vedere aprioristicamente negate proprio le questioni sfumate e complesse su cui da un’istituzione come la Chiesa Cattolica ci si dovrebbero aspettare leadership e nuance, a cavallo tra filosofia e teologia — non una porta (quasi14) dogmaticamente chiusa.15
Ora, beninteso, illudersi che un’autorità religiosa possa equiparare ecumenicamente la nuova specie digitale agli esseri umani potrebbe essere — è — un passo più lungo della gamba, o persino qualcosa di risibile. Millenni di dottrina non vengono rovesciati nottetempo, e il mio non è nemmeno un appello ai diritti della macchina; le parole di Olah, a mio giudizio, si sono già spinte molto oltre quanto avrei mai sperato.
Non c’è la pretesa di chiedere al Santo Padre di mettere nero su bianco che l’AI abbia dei sentimento o “un’anima”, qualsiasi cosa voglia dire.16 È l’intransigenza manichea che trovo personalmente indisponente e potenzialmente dannosa, ancor più all’interno di un contrasto così assordante, messo a nudo nello stesso momento e nella stessa sede.
SCENARI
Ciò che un’istituzione come la Chiesa dovrebbe fare, a mio giudizio, è proprio fare i conti con il bagno di realtà di cui sopra — esattamente come, senza alcuna apparente preoccupazione, si sono messe sul tavolo le estrapolazioni avverse di un futuro in cui l’AI non viene correttamente direzionata.
Mi aspetterei una riflessione su cosa gli umani dovrebbero fare nell’evento di un sorpasso dall’AI; sul se e sul come il significato stesso di umanità si debba riconfigurare, in congiunzione o in opposizione alle macchine pensanti. Domande fastidiose che l’enciclica semplicemente schiva, a pie’ pari.
Quandanche riuscissimo a sbrigliare l’immensamente complessa matassa della “coscienza” e della “consapevolezza del sé” e arrivassimo ad insindacabili conclusioni circa l’indubbio possesso di tali proprietà per gli umani e, analogamente, una totale mancanza nelle reti neurali artificiali, le domande diventerebbero (paradossalmente) ancora più pressanti.17
L’AI continuerà ad accelerare nei prossimi anni, e il bagno di umiltà potrebbe scivolare repentinamente in una crisi psicologica di massa.18 Rispondere anche a quesiti di natura più interiore non potrà rimanere un’attività secondaria; e sarà impellente principalmente per chi, come la Chiesa Cattolica, gode di un’eredità straordinaria — e di un’autorevolezza — nei relativi temi.19
La Magnifica Humanitas è un primo, importante passo avanti; ma dev’essere una partenza, non un arrivo autoassolutorio. Di Eppur si muove abbiamo dato già.
Se la Storia ci insegna qualcosa, è che questo tipo di scontro tra estremi raramente porta a risultati fruttiferi.
se non analizzando la questione in modo tecnico, certamente da un rilevamento empirico
Leone ha comunque un background scientifico; vederlo avventurarsi in questioni tecniche di alignment sarebbe affascinante…
Il “nessun algoritmo può rendere la guerra moralmente accettabile” è, ça va sans dire, particolarmente pungente.
Da ultimo, fortunatamente, anche la Banca Centrale Europea.
Se questa newsletter ha già qualche aficionado, saprà esattamente a cosa porterà questo link.
Non è un policy paper, appunto, quindi è una critica che deve tenersi giocoforza col freno a mano tirato
L’ampiezza dei domini sarà verosimilmente scaglionata nel tempo, come del resto già; ma abbiamo parlato di cosa significhi “generale” in “AGI” a sufficienza
davvero
leggi: le AI che usiamo tutti i giorni
Ex multis, qui un’intervista di un paio di anni fa ad un altro ricercatore di Anthropic, Josh Batson, che spiegava la metafora
Giusto qualche mese fa Anthropic ha rilasciato uno studio molto interessante proprio su questo aspetto; qui un eccellente video riassuntivo.
ma comunque genuina, nel senso più astratto (e ci mancherebbe pure!)
Posizioni oltranziste ben peggiori di quelle di Leone nel campo Cattolico esistono; ed è dunque giusto distinguere.
peraltro, ironicamente, così vicini ad una comprensione più profonda.
È cionondimeno interessante annotare come, tra i passaggi più enfatici dell’enciclica, vi siano anche proprio delle importanti prese di coscienza storiche, come quelle del ruolo della Chiesa nella schiavitù.
Che mondo è quello in cui più vicino del creato al divino c’è… il creato dal creato, che “vivo” però non è?
Già oggi si parla molto di “AI psychosis”; ma siamo, purtroppo, ancora a niente.
Oltre a miliardi di fedeli, chiaramente.
⇑