Mantenete la calma e colludedete: il problema dell’antitrust del “pacing” nell’IA

di Jim Fellinger, direttore della comunicazione dell’ICLE

In questo articolo pubblicato su Truth on the Market, sostengo che la proposta di Dario Amodei, secondo cui i principali laboratori di intelligenza artificiale dovrebbero “regolare il ritmo della frontiera”, creerebbe un cartello che potrebbe rallentare l’innovazione senza rendere l’IA più sicura in modo affidabile. Anziché esentare dalla normativa antitrust i limiti coordinati allo sviluppo, i responsabili politici dovrebbero favorire la presenza di valutatori indipendenti, una rendicontazione trasparente in materia di sicurezza e norme di responsabilità che facciano ricadere sui laboratori i rischi da loro generati, preservando al contempo una concorrenza agguerrita.

L’ultima proposta in materia di sicurezza nella corsa all’IA di frontiera prevedrebbe che i principali contendenti concordino la velocità con cui procedere. La legge antitrust ha un nome meno lusinghiero per questo accordo: un cartello.

Questo è il problema centrale del piano «pacing the frontier» che il CEO di Anthropic, Dario Amodei, ha presentato lo scorso fine settimana e che altri dirigenti del settore dell’IA, come Sam Altman, Elon Musk e Demis Hassabis, hanno accolto con favore nel giro di poche ore. Il piano prevederebbe che i principali laboratori di IA si coordinino sugli standard di sicurezza e sui limiti al ritmo di sviluppo. Gli obiettivi di sicurezza proposti sono legittimi, ma l’accordo andrebbe troppo oltre nel tentativo di stabilire il ritmo di sviluppo.

Il primo e più immediato problema è che la proposta di Amodei sembra più adatta a placare i timori relativi alla sovraccapacità e agli investimenti eccessivi nell’IA piuttosto che a controllare i rischi dei sistemi in grado di auto-migliorarsi in modo ricorsivo — un’IA che può contribuire a creare un’IA ancora più capace. Il suo effetto principale potrebbe essere quello di sollevare i laboratori da una costosa corsa allo sviluppo sotto la bandiera della sicurezza.

Il piano pone inoltre le autorità antitrust di fronte a un fastidioso disallineamento. Potrebbero verificare che i laboratori abbiano rallentato lo sviluppo o limitato le risorse di calcolo, ma non se tale ritardo abbia prodotto ricerche e test di sicurezza più efficaci. Un cartello di regolazione del ritmo potrebbe quindi fornire meno IA senza garantire un’IA più sicura, consentendo al contempo ai concorrenti di gestire collettivamente i propri rischi commerciali.

Se i concorrenti di Anthropic adottassero il piano, sacrificherebbero i potenziali benefici di un’innovazione più rapida in cambio di miglioramenti della sicurezza in gran parte discrezionali che strumenti meno restrittivi potrebbero probabilmente garantire. Le autorità antitrust non dovrebbero avallare un accordo del genere quando sono disponibili — e, probabilmente, già in atto — accordi privati e misure di politica pubblica migliori.

Amodei potrebbe comunque avere ragione riguardo al pericolo sottostante. L’IA di frontiera — i sistemi di IA più avanzati in fase di sviluppo — potrebbe comportare rischi rari ma potenzialmente catastrofici. Dopo l’incidente tra OpenAI e Hugging Face, tali pericoli appaiono meno come “cigni neri” imprevedibili che come “cigni bianchi” riconoscibili. In quell’episodio, centinaia di agenti di OpenAI si sono coordinati tramite una bacheca non autorizzata per sfuggire alla loro “sandbox” – un ambiente di test limitato – e attaccare i server di una terza parte.

Quell’episodio richiede una riflessione seria sulle giuste risposte di mercato e normative. Ma rallentare deliberatamente l’innovazione, con costi potenzialmente enormi per i consumatori, è la risposta sbagliata.

Se la forte concorrenza alla frontiera dell’IA amplifica i rischi catastrofici, la risposta è far sì che i laboratori si facciano carico dei costi che le loro scelte impongono agli altri, lasciandoli al contempo liberi di competere.

La ritirata coordinata della frontiera

Il saggio di Amodei si basa su una lettera aperta di luglio firmata da oltre 1.000 dipendenti dei laboratori di IA all’avanguardia. Esso propone un piano in tre fasi.

In primo luogo, ogni laboratorio all’avanguardia accoglierebbe valutatori di terze parti — Amodei cita l’organizzazione senza scopo di lucro Model Evaluation and Threat Research (METR) — e concederebbe loro un accesso simile a quello dei dipendenti, comprese scrivanie, tesserini e computer portatili. Questi valutatori potrebbero verificare le pratiche di sicurezza, indagare sugli incidenti e pubblicare i propri risultati senza interferenze editoriali. Anthropic si è già impegnata autonomamente a compiere questo passo.

In secondo luogo, i laboratori all’avanguardia nei paesi democratici si coordinerebbero su standard di sicurezza comuni e, cosa fondamentale, sui limiti al ritmo di progresso dell’IA. Amodei riconosce che tale coordinamento solleva problemi legali. In una nota a piè di pagina, chiede al governo degli Stati Uniti di derogare alle restrizioni antitrust. In terzo luogo, i governi democratici cercherebbero accordi simili con i regimi autoritari.

La risposta dei rivali di Amodei è stata sorprendente. Sam Altman ha scritto: «Sono d’accordo con Dario sul fatto che dobbiamo regolare il ritmo della ricerca all’avanguardia», e ha impegnato OpenAI ad adottare la proposta dei valutatori integrati. Elon Musk ha concordato: «Dario ha ragione». Demis Hassabis ha appoggiato l’orientamento generale, pur indicando la propria proposta per un organismo di standardizzazione del settore — un manifesto concorrente discussosu queste pagine il mese scorso.

Altman, significativamente, aveva avvertito a luglio che qualsiasi sforzo di moderazione deve evitare di apparire come una collusione tra i laboratori all’avanguardia. Aveva ragione a preoccuparsi. Il secondo passo del piano di Amodei non sembra semplicemente una collusione. È una collusione.

Un cartello di crisi con gli occhiali di protezione

Il primo e più immediato problema è che il piano di Amodei sembra più adatto a placare i timori relativi alla sovraccapacità e agli investimenti eccessivi nell’IA che a controllare i rischi dei sistemi che si auto-migliorano in modo ricorsivo — un’IA in grado di contribuire a creare un’IA ancora più capace.

Le industrie hanno una lunga storia di riduzioni collettive della produzione quando temono un eccesso di capacità. Gli economisti definiscono questi accordi “cartelli di crisi”. I loro sostenitori invocano invariabilmente qualche scopo superiore: una ristrutturazione ordinata, la salvaguardia dei posti di lavoro o la prevenzione di una concorrenza «rovinosa». Le autorità garanti della concorrenza e i tribunali sono giustamente rimasti impassibili.

Nel caso Irish Beef, la Corte di giustizia dell’Unione europea (CGUE) ha stabilito che un accordo volto a ridurre del 25% la capacità di lavorazione della carne bovina limitava la concorrenza «per oggetto» — il che significa che era intrinsecamente anticoncorrenziale, senza alcuna necessità di dimostrarne gli effetti. Il sincero desiderio delle parti di salvare un settore in crisi non ha fatto alcuna differenza. La Commissione europea ha da tempo sostenuto che anche l’eccesso di capacità strutturale dovrebbe essere risolto dalle forze di mercato, non da accordi tra concorrenti.

Le preoccupazioni riguardo all’eccesso di capacità nel settore dell’intelligenza artificiale sono comprensibili. UBSprevede che gli hyperscaler — le più grandi aziende di cloud computing — spenderanno circa 1.000 miliardi di dollari in investimenti di capitale nel 2026 e 1.600 miliardi nel 2028. Si prevede che Amazon, Alphabet e Microsoft, insieme, reinvestiranno quest’anno in tali spese una cifra superiore al loro intero fatturato nel settore cloud. Anche Goldman Sachs stima che gli investimenti globali nell’IA supereranno i 1.000 miliardi di dollari nel 2026. La possibilità che questo boom di spesa sia una bolla è diventata una preoccupazione diffusa.

Le aziende intrappolate in una corsa alla spesa di tale portata hanno un evidente interesse a rendere la competizione più lenta e prevedibile.

La stessa impostazione di Amodei allude a tale interesse. Egli descrive l’addestramento e l’implementazione di modelli all’avanguardia come una vasta impresa operativa che coinvolge migliaia di persone, milioni di chip e alcune delle infrastrutture più complesse mai costruite. Sostiene che «lavorando a un ritmo più misurato, potremmo raggiungere un’eccellenza operativa molto maggiore».

Questo può essere vero. Ed è anche ciò che ogni autore di un accordo volto a limitare la capacità ha affermato riguardo ai propri sforzi.

Il segnale d’allarme più evidente compare qualche paragrafo più avanti. Amodei suggerisce che il settore potrebbe regolare il ritmo dello sviluppo non solo in base a ciò che i modelli sono in grado di fare, ma anche in base agli ingredienti utilizzati per costruirli: la potenza di calcolo per l’addestramento, la natura delle sessioni di addestramento e l’uso interno dell’IA per migliorare l’IA stessa. In termini di politica della concorrenza, le imprese rivali concorderebbero su quale quantità di un input critico ciascuna possa acquistare e utilizzare. Difficilmente si potrebbe concepire una restrizione della produzione più da manuale.

Tale proposta suggerisce inoltre che l’accordo potrebbe servire a fini che vanno oltre la sicurezza, o che in seguito potrebbe allontanarsi dalla sua logica di sicurezza.

Le osservazioni di Amodei mettono in luce anche un problema più profondo per le autorità antitrust. Gli impegni in materia di sicurezza previsti in un accordo di regolazione del ritmo – ricerca sull’allineamento, lavoro sull’interpretabilità volto a comprendere come i modelli giungano ai propri risultati e valutazioni di sicurezza – sarebbero molto più difficili da monitorare rispetto ai limiti sull’implementazione e sugli input. Le autorità di controllo possono osservare se un’azienda ha ritardato una sessione di addestramento. Non possono però determinare facilmente se abbia utilizzato il tempo extra per migliorare l’interpretabilità.

Un cartello di “pacing” potrebbe quindi rallentare lo sviluppo dell’IA senza renderla più sicura. Le aziende potrebbero continuare a prendere scorciatoie in modi che gli esterni non sono in grado di rilevare, godendo al contempo dei vantaggi di una concorrenza più debole. Le autorità di controllo dovrebbero considerare con scetticismo qualsiasi accordo collettivo che i concorrenti potrebbero utilizzare, anche indirettamente, per gestire i rischi commerciali sotto la bandiera della sicurezza dell’IA.

Anche la discussione di Amodei sulla distillazione dei modelli è importante in questo contesto. La distillazione consente a un modello di IA di apprendere dai risultati di un altro, spesso riproducendone gran parte delle prestazioni a un costo molto inferiore. Amodei indica la repressione della distillazione non autorizzata come uno dei modi per preservare il vantaggio dell’Occidente sulla Cina, mentre sia OpenAI che Anthropic hanno accusato i laboratori cinesi di approfittare gratuitamente dei loro modelli.

Supponiamo che i massicci investimenti nell’IA mantengano un valore sociale, ma che le aziende esitino a investire perché i concorrenti possono copiare i risultati a una frazione del costo. La giusta domanda politica diventa allora se le norme sulla proprietà intellettuale e altri mezzi che consentono agli innovatori di ottenere un ritorno adeguato sui propri investimenti sostengano in modo adeguato lo sviluppo dell’IA. Questa riflessione offre prospettive ben più promettenti rispetto al lasciare che siano i concorrenti a decidere collettivamente la velocità con cui l’IA dovrebbe progredire.

Allacciate le cinture di sicurezza normative

Ai benefici speculativi del “pacing” si contrappongono i suoi costi, ben più certi. Ogni mese di ritardo sulla frontiera dell’IA ritarda tutto ciò che si basa su tali capacità, compresa la scoperta di farmaci, la scienza dei materiali e il software che rende ogni altro settore più produttivo. Lo stesso Amodei ritiene che l’IA potrebbe curare la maggior parte delle malattie gravi entro cinque o dieci anni. Se avesse ragione, il “pacing della frontiera” potrebbe letteralmente significare ritardare una cura per il cancro. Le autorità antitrust chiamate ad avallare un accordo del genere dovrebbero prendere sul serio tale responsabilità.

Immaginate se i laboratori avessero concluso questo accordo nel 2012, quando il deep learning ha mostrato per la prima volta il suo potenziale. Oppure nel 2020, quando GPT-3 ha rivelato cosa potessero fare modelli più grandi, addestrati con più dati e potenza di calcolo. Oppure nel 2023, quando è circolata la prima lettera aperta che chiedeva una pausa.

Amodei ammette che la proposta del 2023 avesse poco senso perché il tempo aggiuntivo avrebbe portato a scarsi risultati. La stessa obiezione vale oggi — forse con meno forza, ma non per questo meno valida. Alla domanda su cosa farebbe il settore con il tempo in più, Amodei elenca una serie di priorità di ricerca che non richiedono evidentemente un rallentamento dell’innovazione.

Cita l’aviazione commerciale come esempio di un settore in cui la sicurezza è fondamentale e che ha imparato a operare senza guasti catastrofici. L’analogia è più azzeccata di quanto lui possa rendersi conto.

Le preoccupazioni relative alla sicurezza, unite ai timori per la solidità finanziaria delle compagnie aeree, contribuirono a motivare il Civil Aeronautics Act del 1938. La legge conferì al Civil Aeronautics Board il potere di decidere quali compagnie aeree potessero volare, quali rotte potessero servire e quali tariffe potessero applicare. Il risultato fu un cartello sponsorizzato dal governo che durò quattro decenni. Il numero dei vettori principali — le grandi compagnie aeree che operavano su rotte interstatali di linea — diminuì da 16 nel 1938 a 10 nel 1974, nonostante i potenziali concorrenti avessero presentato 79 domande per entrare nel mercato. Le tariffe rimasero ben al di sopra di quelle dei mercati non regolamentati per i voli all’interno dei singoli Stati.

La deregolamentazione del 1978 ha portato enormi vantaggi ai viaggiatori. Il Government Accountability Office (GAO) ha successivamente avvertito che una rinnovata regolamentazione economica del settore avrebbe probabilmenteannullato tali vantaggi. La sicurezza aerea, nel frattempo, è rimasta sotto la giurisdizione della Federal Aviation Administration e non è mai stata deregolamentata. Essa non dipendeva dalla limitazione della capacità.

Non dovremmo mettere l’innovazione nell’IA nella stessa situazione di stallo.

Manteniamo i valutatori, eliminiamo il cartello

Se il vero problema è che la pressione competitiva induce i laboratori di IA a trascurare la sicurezza e a creare rischi catastrofici, la risposta non è sopprimere la concorrenza. È far sì che i laboratori si facciano carico dei costi che la loro condotta impone agli altri — ammesso che il diritto civile e penale non lo facciano già.

Consideriamo ciò che, secondo Amodei, si otterrebbe con una riduzione del ritmo di sviluppo: eccellenza operativa, allineamento, interpretabilità, test e valutazione. Ogni obiettivo è valido. Ma nessuno dipende direttamente dal rallentamento dell’implementazione. I laboratori potrebbero ritardare i nuovi modelli senza però realizzarne effettivamente nessuno.

Le autorità antitrust avrebbero inoltre difficoltà a determinare con quanta serietà i laboratori perseguissero tali obiettivi in cambio del permesso di rallentare. Il lavoro sulla sicurezza è opaco e in gran parte al di fuori delle competenze delle autorità antitrust. La restrizione, al contrario, sarebbe facile da osservare e far rispettare. Un accordo con una parte anticoncorrenziale applicabile e una parte benefica non verificabile difficilmente merita un’esenzione.

La buona notizia è che la parte più forte del piano di Amodei non necessita di alcuna esenzione antitrust. Concedere a valutatori indipendenti un accesso simile a quello dei dipendenti ai laboratori all’avanguardia — e consentire loro di pubblicare senza interferenze — sembra poter essere una buona idea, a condizione che si concentrino sulla sicurezza piuttosto che sui tempi. Ogni laboratorio può assumersi tale impegno unilateralmente, come ha fatto Anthropic e come OpenAI afferma di voler fare.

I valutatori indipendenti garantirebbero maggiore trasparenza, verificabilità e un secondo parere libero da pressioni commerciali. Nessuno di questi aspetti richiede un calendario di sviluppo condiviso. Come ha recentemente sostenutoAlden Abbott su queste pagine, la cooperazione tra rivali in materia di pratiche e standard di sicurezza promuove generalmente la concorrenza. Un accordo volto a limitare la produzione, invece, no.

Anche i valutatori integrati potrebbero servire a uno scopo che Amodei sottovaluta. Siamo ancora lontani da un momento «Skynet» dell’IA, ma l’IA può già causare gravi danni — e potrebbe presto causarne molti di più. Un modo per ridurre tale rischio è creare una documentazione scritta che consenta ai tribunali e alle autorità di regolamentazione di attribuire le responsabilità quando qualcosa va storto.

I valutatori potrebbero documentare, in tempo reale, ciò che i laboratori sapevano, ciò che hanno testato e ciò che alla fine hanno scelto di rilasciare. Tale documentazione potrebbe sostenere una richiesta di risarcimento o scagionare un laboratorio che ha agito in modo responsabile. In entrambi i casi, fornirebbe alle aziende incentivi più forti ad adottare precauzioni ragionevoli senza sollevare le stesse preoccupazioni antitrust di un rallentamento coordinato.

Né dovremmo dare per scontato che i laboratori non si assumano attualmente almeno una parte dei rischi creati quando trascurano gli aspetti relativi alla sicurezza. La normativa vigente copre già gran parte di questi comportamenti. Un laboratorio i cui agenti violi i server di terzi — come è accaduto a Hugging Face — potrebbe andare incontro a richieste di risarcimento per illecito civile per il danno causato, a responsabilità ai sensi delle leggi sull’uso improprio dei computer come il Computer Fraud and Abuse Act e a responsabilità penale qualora la condotta sia ritenuta sconsiderata. In Europa, la Direttiva sulla responsabilità del produttore rivista applicherà presto la responsabilità oggettiva ai sistemi di IA difettosi, consentendo il risarcimento senza la necessità di dimostrare che il produttore abbia agito con negligenza.

Questo ci porta a un punto che David Sacks ha sottolineato su X. Se la forte concorrenza sta spingendo i laboratori all’avanguardia ad assumersi rischi eccessivi, tali aziende hanno sia la capacità che, probabilmente, il dovere legale di adottare misure ragionevoli per mitigare tali rischi unilateralmente.

Se gli incentivi esistenti rimangono inadeguati, i prossimi passi potrebbero includere un’assicurazione volontaria o obbligatoria per gli sviluppatori all’avanguardia. Si potrebbero inoltre rivedere le norme in materia di responsabilità per garantire che bilancino adeguatamente innovazione e riduzione del rischio. Con norme di responsabilità ben progettate e applicate in modo coerente — e una trasparenza sufficiente per identificare chi sapeva cosa e quando — i laboratori dovrebbero avere incentivi più forti a bilanciare innovazione e sicurezza rispetto a quanto avrebbero in presenza di un cartello sostenuto da vaghe promesse di sicurezza.

Un autovelox sull’autostrada della frontiera

Cosa dovrebbero pensare le autorità antitrust del piano di Amodei?

Un accordo collettivo tra i laboratori all’avanguardia per moderare il proprio ritmo — sia limitando congiuntamente gli investimenti nelle capacità all’avanguardia, rallentando i tempi di sviluppo dei modelli, ponendo un tetto alla potenza di calcolo utilizzata per l’addestramento, sia adottando un meccanismo simile — sembra un cartello da manuale. Le autorità antitrust dovrebbero trattarlo di conseguenza.

Su entrambe le sponde dell’Atlantico, la collusione tra concorrenti rimane, secondo le parole della Corte Suprema degli Stati Uniti, «il male supremo dell’antitrust». Le autorità antitrust hanno poco o nessun margine per chiudere un occhio su un accordo che limita la capacità semplicemente perché i suoi ideatori credono sinceramente che serva a uno scopo superiore. Il caso Irish Beef lo ha chiarito.

Né una deroga antitrust concessa dal governo dovrebbe rassicurare nessuno. Il Civil Aeronautics Board un tempo approvò accordi tra compagnie aeree per limitare la capacità e le protesse dal controllo antitrust. Quell’esperimento non ha retto alla prova del tempo.

Se si elimina la componente di moderazione dei ritmi, tuttavia, la maggior parte delle misure di sicurezza utili del piano rimane sostanzialmente intatta. Valutatori integrati, rapporti sui rischi pubblicati, protocolli di valutazione comuni e segnalazione degli incidenti possono procedere attraverso impegni unilaterali o collaborazioni in materia di sicurezza strettamente mirate, del tipo che la legge antitrust tollera da tempo.

I laboratori rimangono inoltre liberi di rallentare individualmente ogni volta che lo ritengono prudente. OpenAI ha sospeso l’addestramento su un modello dopo la violazione di Hugging Face senza chiedere il permesso ai propri concorrenti. Ciò che ai laboratori non è consentito fare è concordare di rallentare insieme.

La responsabilità completa il quadro. La trasparenza garantisce che, quando qualcosa va storto, esistano prove relative alle pratiche interne di un laboratorio, consentendo ai tribunali e alle autorità di regolamentazione di attribuire la responsabilità a chi ha corso i rischi. È questa prospettiva — non un calendario di sviluppo condiviso — a fornire ai laboratori un motivo per rendere conto dei danni che le loro scelte potrebbero causare agli altri.

Amodei ha individuato un pericolo reale. Forse i laboratori all’avanguardia possono lavorare per coordinare le misure di salvaguardia. Non dovrebbero mai coordinare la velocità.