La cattiva scommessa contro il futuro esponenziale dell’AI
Dai commentatori ai policymaker, uno dei rischi più grandi è quello di sottostimare andamento e potenzialità del fenomeno. Il presente e la storia suggeriscono sia imperativo restare vigili
IN POCHE RIGHE
Nelle scorse settimane abbiamo parlato di come i nuovi modelli di frontiera AI, a partire da Claude Mythos di Anthropic, siano sufficientemente potenti da rappresentare una potenziale minaccia per la sicurezza nazionale degli stati. Mythos non è un’AI ipotetica: è qui, ora, e fortunatamente, dai due mesi in cui Anthropic lo ha annunciato, un sano allarmismo all’interno delle istituzioni sembra aver quantomeno conferito la dovuta serietà al tema.
Ma proviamo a spostarci un attimo dagli aspetti di safety. Un mondo in cui i problemi legati all’utilizzo nefasto dei sistemi di AI sono in qualche modo mitigati è mondo in cui, comunque, strumenti estremamente abili fanno parte del tessuto economico e sociale in maniera via via più radicata — al punto che definirli “strumenti” potrebbe essere altamente improprio. Già oggi, a ben vedere, il lessico si è espanso, includendo correttamente l’adiacente “autonomi” ai chiacchieratissimi agenti.
Gli agenti autonomi sono AI progettate per portare a termine compiti con sempre meno supervisione. Benché oggi siano strutture ancora acerbe, o perlomeno limitate, domani le cose saranno diverse. È un framing che ci viene suggerito dalla storia recente: se ad esempio potessimo tornare indietro di appena quattro anni e mostrare ciò che si può fare con il solo Codex, modello di intelligenza artificiale specializzata nella comprensione, scrittura e generazione automatica di codice informatico, penseremmo probabilmente di aver tirato fuori qualcosa dal proverbiale cilindro magico. Gli addetti ai lavori, nella maggior parte dei casi, avrebbero sentito odore della lungamente preconizzata “intelligenza artificiale generale” (AGI)1.
Nella fotografia estremamente dinamica di oggi2 ci troviamo quasi forzati a prendere le misure e fare, se non delle previsioni, almeno delle estrapolazioni ragionevoli sul futuro. E se, appunto, tutto dovesse andar bene3, la nostra attenzione ricadrebbe sulle conseguenze di ciò che — individualmente e su un piano sociale più allargato — ci tocca più da vicino, come il lavoro.
UNA STORIA
Se per molti il lavoro equivale alla fatica necessaria per sbarcare il lunario e poco più, una visione più moderna lo immagina come strumento di realizzazione del sé — sia pure con tutte le storture pratiche annesse al processo effettivo. Non dovrebbe dunque stupire che, in una tra le prime (e non certo ultime) manifestazioni indirette di protesta, nel corso del weekend l’ex amministratore delegato di Google Eric Schmidt sia stato sommerso di fischi ogni qual volta l’intelligenza artificiale veniva nominata nel suo discorso cerimoniale di consegna delle lauree agli studenti dell’Università dell’Arizona4.
È quasi come se i rappresentanti dell’industria, dopo aver lungamente messo in guardia sul fatto che il loro prodotto potrebbe rendere automatizzabili, ridondanti o addirittura obsolete larghe fasce del knowledge work — a partire proprio da quelle entry-level — avessero scoperto sgomenti la mancanza di entusiasmo dei diretti interessati.
Una repulsione più che giustificabile, verrebbe da pensare. Ma se la risposta aggressiva tradisce una comprensibile preoccupazione per il loro futuro, è decisamente più bizzarra la reazione di chi, dall’altra parte della cattedra, comunica che no, ragazzi, bisogna stare tranquilli, perché l’AI non è altro che un ulteriore anello di una lunga catena di processi di innovazione e automazione che hanno caratterizzato la storia della civiltà moderna.
Lo abbiamo sentito tutti — e anche su Upload ne abbiamo fatto cenno — che “l’AI non ti ruberà il lavoro”, ma che a farlo sarà “qualcuno che usa l’AI”.
Una frase che, col passare dei mesi, sembra volersi caricare sulle spalle un peso gradualmente meno sostenibile.
L’ACQUA IN CUI NUOTIAMO
La considerazione, nel merito, potrebbe anche godere di una certa validità analitica. Ciò che tuttavia sorprende è che, per giungervi, il principale strumento parrebbe ironicamente essere la mancanza pressoché totale di volontà di ingaggio con i contro-argomenti più scomodi. “È sempre stato così e sarà così anche questa volta”, insomma.
Laddove è facile empatizzare con la reazione istintiva — quasi ferina — di un laureando, i cui buuu sommergono qualsiasi considerazione di merito, è più difficile accettare il rigetto quasi nervoso di larga parte della cosiddetta “laptop class”5, il cui intento monomaniacale di pontificare circa tutte le cose che l’AI non sarà mai in grado di fare (o sostituire) si unisce spesso, sospettosamente, all’apparente incapacità di estrapolazione6.
Come accennavamo, non servirebbe neanche fare uno zoom out particolarmente ampio per ricordarsi l’AI generativa è piovuta come un meteorite dal cielo con l’arrivo di ChatGPT nel novembre del 2022, cioè appena tre anni e mezzo fa — praticamente niente. Eppure viviamo in questo strano limbo per cui la tecnologia è (allo stesso tempo!) indubitabilmente totalizzante — e farà quindi parte del nostro futuro vicino e lontano in ogni campo del sapere — ma non destinata a un’evoluzione dirompente. Non dico esponenziale7, ma anche solo in linea con la curva che ha portato da quel GPT-3.5 a oggi. Il futuro si costruisce, e con tanta AI — ma quella cristallizzata ad oggi, incapace di progredire anche radicalmente.
Si tratta, verosimilmente, degli stessi individui che un paio di anni fa sbeffeggiavano i primi tentativi di image generation per non riprodurre accuratamente una mano con cinque dita, o coloro — forse gli stessi — che ancora oggi non riescono a scollarsi dall’idea che i modelli linguistici odierni siano null’altro che sistemi molto ben infiocchettati di autocomplete, fondamentalmente inadatti di spingersi oltre il riproporre idee già viste in fase di addestramento e “fare la previsione del prossimo token”8.
La realtà empirica, però, ci suggerisce due cose in senso opposto: la prima è che, con il passare del tempo, i modelli diventano più intelligenti9. E la seconda, forse più importante, è che sta aumentando la velocità con cui AI più capaci vengono rilasciate. Questo, i lettori di Upload lo sapranno, è il nodo cruciale del recursive self-improvement di cui abbiamo discusso nell’ultimo mese.
La curva delle capability ci mostra che Claude Mythos, il (momentaneo) principe dei modelli di frontiera, si colloca addirittura al di sopra dei trend.
Nel grafico di METR, istituto nonprofit indipendente di riferimento per quanto riguarda le misurazioni delle abilità dei modelli AI, Mythos è così al di sopra delle stime da essere letteralmente “off the chart”.
Il ChatGPT che ha sconvolto il mondo giusto una quarantina di mesi fa è altrettanto fuori dal grafico, perché toccherebbe l’asse delle ordinate con i piedi. Eppure, in questo momento in cui la rapidità del progresso sta vertiginosamente aumentando il proprio ritmo10, l’insieme di persone che tenta di ragionare in prospettiva sulle conseguenze forse monumentali di questa rivoluzione socio-tecnologica rimane una temeraria minoranza.
PERCHÉ CONTA
Tra i motivi centrali per cui Upload esiste c’è la necessità di inquadrare correttamente nel dibattito questi temi, che coinvolgono tanto i tech enthusiast e gli imprenditori quanto i cittadini, le istituzioni e i policymaker11. Se non per via dei misteriosi cortocircuiti logici di cui sopra, infatti, l’incapacità di calibrare la grandezza del fenomeno è proprio dovuta a un’informazione che sembra far di tutto pur di derubricare l’AI a un qualcosa da smanettoni nel migliore dei casi o una truffa vera e propria all’estremo opposto. A volte, invece, è l’ostinazione di chi ha speso troppo della propria carriera ad allestire crociate in una determinata direzione per poter fare retromarcia, e preferisce arrivare fino in fondo, anche a costo di coprirsi di ridicolo.
In ogni caso, a fronte di sistemi in continuo miglioramento, non potendo più negare l’acquisizione organica di nuove abilità da parte dei modelli12, i detrattori si sono mossi un gradino più in su nella scala di astrazione. Asserendo che sì, i modelli di oggi sono superiori a quelli degli anni passati, ma il trend di crescita non può durare per sempre, perché tutte le curve esponenziali, prima o poi, si schiacciano in avanti e diventano sigmoidali. Il che è verissimo!
Senonché questo ragionamento ci dice poco o nulla, perché nulla è aprioristicamente determinato circa la durata e il tasso di crescita dell’ascesa verticale di una data curva.
Un caso celebre e spesso citato in questo ambito è quello del World Energy Outlook sulla diffusione dei pannelli solari, per cui più o meno ogni anno è stato applicato il medesimo principio: crescita registrata fino al momento in salita, poi incontrovertibile appiattimento. Come appurato dal direttore di Neon Research, Auke Hoekstra, le previsioni dell’ente si sono però rivelate costantemente errate. Per tanti, tanti anni di fila.
Quando enti specializzati come il WEO riescono a sbagliare in modo sistematico le previsioni su un avvenimento infinitamente più leggibile dell’evoluzione dell’AI13, sottostimare quest’ultima con leggerezza non tenderà non solo a rivelarsi statisticamente errato, ma virtualmente rischioso.
E se vi steste chiedendo se questa tipologia di errore si è già verificata anche per l’AI, la risposta è sì — e proprio nel 2026.
In un paper della University of Pennsylvania (Wharton School), alcuni ricercatori stavano tentando di analizzare proprio il modello di estrapolazione della curva delle capability del METR. Tre immagini ci raccontano tutto.
Quando l’analisi è stata pubblicata, a inizio febbraio, lo stato dell’arte della curva (che già escludeva modelli più recenti, come GPT-5.2 o Gemini 3 Pro) era il seguente:
Mentre questo era l’andamento previsto, con il sigmoide piegato dopo quello che, stando ai firmatari, sette mesi prima aveva segnato l’inflection point:
Esattamente un giorno dopo la pubblicazione, Anthropic ha lanciato Claude Opus 4.6, allora modello di frontiera, e l’ingegnere del software Tenobrus, utilizzando la stessa metodologia del paper, ne ha tracciato sul medesimo grafico il datapoint14, sostanzialmente invalidando l’intera ricerca.
Questo non è, sia chiaro, un modo per deridere il lavoro della Wharton15 né per asserire con pari sicurezza che il trend continuerà all’infinito nel verso opposto o che ogni problema strutturale degli LLM16 verrà certamente risolto in brevissimo tempo — perché questo, semplicemente, non lo sappiamo né possiamo saperlo.
È, piuttosto, l’ennesimo segnale di quanto sia incauto scommettere contro fenomeni di natura esponenziale (e la durata della loro ascesa), come l’AI oggi ha tutte le sembianze di essere.
SCENARI
Va da sé che pensare alle AI più in sù sulla parabola soltanto come strumenti di produttività aggiunta senza smuovere le altre pedine dello scacchiere del lavoro diventa pertanto un esercizio mentale poco accorto. Non solo per via dell’autonomia agentica di cui i sistemi già dispongono, ma della progressiva generalità con cui gli agenti imparano a risolvere problemi nuovi e sino a quel momento mai incontrati in maniera quasi del tutto emergente (cioè senza essere espressamente programmati per svolgere questo o quel compito).
Intelligenza artificiale generale significa esattamente quello, e sostenere oggi che le AI venture non saranno capaci di generalizzare out of distribution molto oltre i limiti dei modelli acerbi che abbiamo a disposizione adesso è il tipo di puntata che sconsiglierei a chiunque.17
Questa prudenza si dovrebbe tradurre nel prendere seriamente l’idea che, in un orizzonte relativamente prossimo, enormi fette dell’economia globale potrebbero in principio essere automatizzate da sistemi meno costosi, più efficienti, sempre disponibili e sì, a tendere anche qualitativamente migliori dei migliori professionisti nel proprio settore18.
La teoria dei giochi a tal punto diverrebbe talmente articolata da rendere l’esercizio specifico di ricaduta sul mondo reale ben più intricato di quanto un singolo individuo possa anche solo tentare di mettere insieme; quindi non tenterò. Il fatto che tutti i grandi lab — DeepMind, Anthropic, OpenAI — abbiano però interi bracci dedicati espressamente a disegnare i tratti del post-AGI19 dovrebbe quantomeno imporci di riflettere20.
Troverei altresì sciocco — perfino banale — lasciarsi coinvolgere dal panico assolutista a cui tali riflessioni potrebbero indurre. Se è vero che ritengo imperativo che le discussioni di policy sugli aspetti di safety e futuro del lavoro (tra le altre cose) non siano solo urgenti ma necessitino una presa di coscienza profonda, matura e globale della portata del fenomeno, non temo nemmeno un’apocalisse tecnologica che si sviluppa in tempi ingestibili — se, appunto, accompagnata dalla dovuta preparazione21.
Tra i motivi principali vi sono i seguenti:
Avvisaglie. Paradossalmente, il maggiore elemento di preoccupazione immediata deriva dal timore di prendere sotto gamba l’evoluzione tecnologica e trovarsi a dover gestire malamente, ex-post, delle prime “mini-catastrofi” localizzate, che si tratti di cybersicurezza (immaginate un massiccio attacco ad un sistema ospedaliero o bancario) o un susseguirsi relativamente rapido di licenziamenti con conseguente blocco di assunzioni e crescita della disoccupazione22.
La catena del deployment. La filiera che porta ai cambiamenti nell’economia, benché sicuramente già accorciatasi nel caso dell’AI, deve comunque attraversare una serie di colli di bottiglia “naturali” prima di avere alcun impatto concreto. Una volta sciolto il nodo iniziale della fattibilità tecnica, infatti, bisogna passare alla distribuzione sostenibile, cioè al rendere infrastrutturalmente, logisticamente ed economicamente disponibili i modelli23. E poi l’adozione, prima della quale sono presenti anche i vari limiti politico-burocratici legati alla regolamentazione. Qui, in particolare, è dove aspetto — e spero — che gli anni a venire possano coscienziosamente trovare un punto di florido equilibrio, a metà tra apertura all’innovazione e regulation mirata e intelligente (e non strozzante, a tappeto).
Economia “fisica”. Benché la materia digitale occupi già un pezzo consistente del lavoro, è scontato che non si possa ignorare tutto ciò che ha a che fare con gli atomi. I freni, più che da una “mancanza di intelligenza”24, si celerebbero nella complessità della manifattura, che è per ovvi motivi ben più ardua della sua controparte digitale. Quandanche un robot umanoide capace di svolgere ogni tipo di compito fisico25 fosse pronto domani mattina, costruirne e distribuirne flotte da centinaia di milioni di unità — necessarie per un cambiamento sistemico — sarebbe ben altra cosa rispetto alla distribuzione di un modello interamente software via cloud.
Lavori “personali” e relazionali. Tutti i lavori per cui la qualità intrinseca dell’output è subordinata al soggetto che lo produce godono di una forma di immunità che potrebbe, entro certi limiti, rendere l’automazione non impossibile ma inefficace. Un esempio intuitivo potrebbe essere un creator su YouTube: chi segue qualcuno sui social lo fa per un interesse diretto nella persona e nella tipologia di contenuti che crea, non per un discorso di qualità oggettiva o efficienza degli stessi26. La scalabilità del paradigma “chi sei conta più di ciò che fai” ha essa stessa degli ovvi limiti, ma inserita nel contesto più grande che qui stiamo abbozzando si aggiunge alle altre “difese naturali”.
Ognuno di questi bottleneck — sicuramente non gli unici — andrebbe esplorato singolarmente più in profondità, alla ricerca di estrapolazioni ragionevoli e educated guess circa i possibili sviluppi futuri dell’AI, dal dibattito pubblico democratico a quello nelle opportune sedi istituzionali, accademiche e di policymaking prima e di legiferazione poi.
Ciò tuttavia non può e non deve essere motivo valido per schermarsi dietro mal-pronosticate sigmoidi — con (parvenza di) cognizione di causa o meno. Gli Stati Uniti, che insieme alla Cina rimangono il primo attore protagonista, proprio dall’annuncio di Claude Mythos (e il concorrente, tragicomico alterco fra Anthropic e il Department of War) sembrano essersi improvvisamente svegliati di fronte alla serietà della materia, riportandola in alto nelle agende governative e non.
È tassativo che il tema continui a salire nelle gerarchie. Anche a costo di subire i fischi e sfinire chi già dell’argomento non ne può più. Se si può azzardare una previsione, agganciandomi al mai troppo saggio roon, è che di AI sentiremo parlare molto di più negli anni a venire, man mano che i modelli continueranno a migliorare, e inevitabilmente le tensioni a salire. E questo è un bene.
Una delle caratteristiche più interessanti (poiché imprevedibili) delle AI moderne è la loro “forma frastagliata”, che le vede estremamente abili — financo superumane — su alcuni task ma curiosamente inette su altri che a noi (umani) risultano triviali. Riconciliare questo aspetto alla realtà dei fatti è diabolicamente complesso proprio perché poco intuitivo — ma ci ricorda che siamo di fronte ad un tipo di intelligenza a noi aliena.
Il primo “agente moderno”, Claude Code, è uscito neanche un anno e mezzo fa!
Nel senso che l’accesso ad attori malintenzionati ai prossimi sistemi, da Mythos in poi, verrà limitato con successo
Qualcuno ha messo in dubbio che si trattasse dell’AI, ma al di là di questa specifica manifestazione il sentimento è largamente condiviso tra i più giovani.
Gemmazione della più nota professional-managerial class
O più di frequente, banalmente, di conoscenza de e/o dimestichezza con gli ultimi modelli disponibili.
Che sarebbe probabilmente quella più opportuna, e di cui abbiamo fatto cenno richiamando le preoccupazioni di Jack Clark due settimane fa
Agli Steve Ballmer moderni de noantri potrebbe essere utile ripassare questa brillante intuizione di Ilya Sutskever, tra le altre cose. Ma se il discorso per loro è rimasto fermo al 2022 non so quanta speranza ci sia. (O forse si tratta semplicemente di un caso di cose impossibili da capire quando lo stipendio dipende dal non comprenderle…)
Cioè in grado di svolgere compiti più diversificati, con maggiore precisione e in archi temporali più ampi — esattamente ciò che misurano i benchmark di METR
Questo al netto dei colli di bottiglia evidenti in termini di disponibilità infrastrutturale, motivo per cui assistiamo ad accordi multimiliardari su nuovi data center e forniture di GPU dagli hyperscaler un giorno sì e l’altro pure
Se sembra un modo articolato per dire “quindi tutti”, è perché è esattamente così.
Che tra le altre cose, ad esempio, continuano casualmente a risolvere problemi matematici rimasti impenetrabili per decenni.
E non è certo l’unica istanza; un’altra piuttosto nota è quella delle Nazioni Unite e le loro disastrose previsioni sui crolli delle nascite in Paesi come la Corea del Sud, la Colombia e il Cile.
In generale, visti i lunghi tempi di pubblicazione che hanno i paper, è rarissimo trovare lavori che nel momento in cui vengono resi disponibili non siano già datati. La velocità abbagliante dell’evoluzione dell’AI si manifesta anche in questo.
Come l’apprendimento dinamico, per dirne una
Traduzione: un task (o un insieme di mansioni) ad oggi insormontabile anche per le AI frontiera non ci dice praticamente nulla circa l’abilità di affrontarli che avranno i prossimi modelli.
Esplicitiamolo ulteriormente, a beneficio di ogni dubbio: i sistemi qui citati sono quelli che rispettano i criteri di estrapolazione lungo la curva esponenziale delle capability, quindi considerevolmente più intelligenti e capaci di agire nel mondo delle migliori AI disponibili oggi. Che non sono una favola nerd, ma le AI che le centinaia di miliardi di dollari investiti stanno espressamente cercando di sviluppare — riuscendoci. “A country of geniuses in a data center”, direbbe qualcuno!
Avanzando in prima persona idee di policy, come abbiamo visto qualche settimana fa con il “New Deal” di OpenAI.
Per non rischiare le figure poco nobili fatte da chi, da ultimo, diceva che Mythos fosse solo hype o marketing.
Chissà se il Covid ci ha veramente insegnato niente.
Una delle cose sulle quali oggi, sbagliando, stiamo già gridando ‘al lupo’ come se fossero qua, convincendoci di essere schermati anche per il futuro. Predictions are hard!
Un modello iniziale di AGI impossibile da fruire per via di costi proibitivi non mi parrebbe affatto strano.
che mi aspetto sia similmente risolta in tempistiche compatibili con l’arrivo di una AGI
dal cambiare una lampadina al riparare cavi sul fondale dell’oceano al progettare da zero e in piena autonomia robot umanoidi suoi cloni
Sì, ci sono gli influencer virtuali, ma resterà da capire se rimangono una moda o vanno oltre.
⇑