Cosa significa "auto-regolamentazione dell'AI" di Trump? Huang "vince alla grande", dietro le quinte interroga Anthropic Amodei

Il 30 settembre, Trump insieme a circa venti dirigenti AI ha pranzato nella Sala Est della Casa Bianca e, uscendo, ha annunciato ai giornalisti un “Accordo volontario sull’AI”.

I firmatari sono sei aziende: Anthropic, OpenAI, Google, Meta, xAI e Nvidia.

Trump lo ha definito “quasi come una Costituzione”, una “forma di protezione” per affrontare i rischi dell’AI. Tuttavia, secondo il Financial Times britannico, il documento di due pagine è stato redatto frettolosamente nella Sala Est e contiene persino un errore di ortografia.

Vale la pena notare che, in superficie, si tratta di un documento di due pagine sulla sicurezza dell’AI, senza valore legale; ma dai requisiti specifici dell’accordo, dalle alternative respinte e dalle recenti mosse di prodotto di Nvidia, il segnale più importante è: la Casa Bianca e le principali aziende del settore non hanno scelto la via del "rallentamento dell’AI", ma stanno tentando di integrare i requisiti di sicurezza negli investimenti continui in infrastrutture AI sempre più espanse.

Requisiti di conformità come i test, le verifiche e il monitoraggio della AI richiederanno più potenza di calcolo, generando domanda sia per l’inferenza che per l’interconnessione ottica. Nvidia potrebbe essere la più grande vincitrice. Jensen Huang, inoltre, insieme a Zuckerberg ha respinto una regolamentazione rigorosa, mettendo pubblicamente in discussione il CEO di Anthropic, Amodei, su perché enfatizzasse eccessivamente i rischi dell’AI in pubblico.

Cosa prevede l’accordo?

Secondo il testo dell’accordo, i sei firmatari devono adempiere a tre obblighi fondamentali:

Primo, istituire un meccanismo di "controllo e audit multilivello". In concreto, occorre implementare robusti sistemi di controllo interni per monitorare costantemente le minacce alla sicurezza informatica e biologica generate dai modelli avanzati e garantire che i modelli non violino altri sistemi in modo "non previsto".

Secondo, collaborare con enti di audit esterni indipendenti. I firmatari devono sottoporsi volontariamente a valutazioni di terzi, facendo verificare l’efficacia delle misure di controllo interne da organismi esterni.

Terzo, creare un comitato indipendente a livello di consiglio di amministrazione specificamente responsabile della supervisione dei due meccanismi sopra elencati.

Questi tre obblighi puntano a un risultato comune: ogni pubblicazione di un modello deve passare attraverso un processo completo di test, monitoraggio e verifica esterna.

Quante sono davvero novità?

In realtà, poche.

Secondo le cronache, Anthropic, OpenAI e Google DeepMind già valutavano le capacità dei propri modelli avanzati prima della pubblicazione; inoltre, ad eccezione di Nvidia, tutte le altre aziende hanno già sottoscritto impegni simili dopo il Summit AI di Seul 2024. I media hanno commentato: “L'accordo potrebbe spingere i firmatari che finora non avevano ancora aperto le porte alle verifiche indipendenti — in particolare Nvidia — ad adeguarsi alle richieste di audit esterno. In altre parole, per i grandi laboratori l'impatto dell’accordo è limitato, per le altre aziende rappresenta un nuovo vincolo.”

Il commento di Mackenzie Arnold, Managing Director di LawAI U.S. Legal and Policy, è diretto: “Ha senso principalmente a livello 'percettivo'. Non autorizza nessun ente... a stabilire veri standard vincolanti.”

L'accordo non ha nemmeno valore legale. Trump stesso lo ha definito “vincolante eticamente” — il che è già un'ammissione implicita.

I critici sono stati ancora più schietti. Sacha Haworth del Tech Oversight Project ha detto che l’accordo consente ai CEO “di correggere i propri compiti da soli, eludendo in realtà dei veri paletti per la sicurezza dell’AI.”

Tuttavia, l’avvocato conservatore Joel Thayer ha offerto un’altra prospettiva: “Non puoi dichiarare pubblicamente che farai una certa cosa e poi, di fatto, non rispettarla. Nei confronti dei consumatori è un vero e proprio inganno.” Ha anche fatto notare che alla cena era presente il presidente della Federal Trade Commission (FTC), Andrew Ferguson. “Questi impegni rivolti al pubblico... sanno tanto di azione esecutiva della FTC.”

Il giorno dopo la pubblicazione dell’accordo, la FTC ha ampliato la propria indagine sulle società AI, portando Anthropic, OpenAI e altri sotto revisione.

“Sicurezza” non significa “rallentare”: ecco cosa ha davvero ottenuto Jensen Huang

La reazione istintiva del mercato alla "regolamentazione della sicurezza" è stata quella di prezzare un rallentamento — la logica è: i test rallentano il ritmo delle pubblicazioni, rallentando la domanda di potenza di calcolo.

Secondo l’analista di InvestorPlace, Luke Lango, questa logica è sbagliata. L’accordo della Casa Bianca non richiede alle aziende di rallentare lo sviluppo dei modelli, ma pone l’accento sulla valutazione interna, sulla verifica esterna e sulla gestione dei rischi.

Questo ha portato a una nuova interpretazione della “sicurezza AI” lungo la filiera industriale: i meccanismi di sicurezza potrebbero significare più test, monitoraggio ed esecuzione dei modelli, e non necessariamente meno investimenti in risorse di calcolo. Se ogni pubblicazione di un modello richiede una tornata di test, monitoraggio e revisione tra pari, la “conformità alla sicurezza” diventa essa stessa una spesa continuativa di potenza di calcolo, invece che un freno agli investimenti in hardware.

Il 28 settembre, Nvidia insieme a oltre 100 partner ha lanciato la Open Agent Safety Platform, unendo il controllo d’accesso open source a uno strato di monitoraggio su chipset indipendenti — questo livello di monitoraggio può operare senza essere integrato nei sistemi AI stessi. La dichiarazione di Jensen Huang è stata semplice e diretta: il potenziale dell’AI può realizzarsi solo affrontando contemporaneamente sicurezza e capacità.

Nvidia ha già promesso un investimento di 2 miliardi di dollari nella Lumentum, un’azienda specializzata in interconnessione ottica per data center, per espandere la capacità produttiva e rafforzare la ricerca congiunta sull’ottica per data center — una concreta traduzione “hardware” della narrazione sulla sicurezza.

Lango ha inoltre rilevato che la struttura della domanda sta subendo un cambiamento direzionale: dal pre-training ad alta densità GPU, verso le fasi di inferenza e test. Queste ultime dipendono maggiormente dall’efficienza del trasferimento dati e dal coordinamento multitasking, non dalla pura potenza di calcolo. Si prevede che questo cambiamento guiderà la domanda nei prossimi 6-12 mesi.

Secondo Lango, l’autoregolamentazione non porrà fine al ciclo di investimenti nell’AI, cambierà soltanto dove scorrerà il denaro — dal pre-training delle GPU verso infrastrutture per inferenza, test e interconnessione. Come ha detto Amodei dopo l’incontro, i meccanismi specifici per il trattamento dei rischi “sono ancora in discussione”.

I tre settori su cui Lango si concentra:

Marvell: focalizzata sull’interconnessione di rete nei data center.

Arm: ha rilasciato a marzo il primo chip AGI CPU prodotto in proprio, con fino a 136 core Neoverse V3, fabbricato con processo TSMC a 3 nanometri; Arm sostiene che le prestazioni per rack sono oltre il doppio rispetto alle piattaforme x86.

Lumentum: concentrata sulle interconnessioni ottiche nei data center. Con l’aumento delle GPU e della densità delle comunicazioni tra chip, i data center stanno rapidamente sostituendo il rame con soluzioni ottiche.

Scontri dietro le quinte: Jensen Huang interroga direttamente Amodei

Davanti alle telecamere, i CEO delle aziende erano schierati accanto a Trump, offrendo l’immagine di un settore unito.

Dietro le quinte, però, c’è stato uno scontro diretto.

Secondo il Wall Street Journal, dopo il pranzo, in una riunione più ristretta nella Sala Roosevelt, Jensen Huang, CEO di Nvidia, insieme ad altri dirigenti, ha interrogato direttamente il CEO di Anthropic, Dario Amodei: perché lanciare in pubblico avvertimenti così estremi sulle capacità e i rischi dell’AI?

Amodei ha risposto che è importante essere onesti con il pubblico sulle capacità dei modelli e non minimizzare i rischi.

Questo dialogo si è svolto proprio mentre i dirigenti, insieme ai funzionari della Casa Bianca, stendevano i principi dell’accordo.

Amodei aveva già pubblicamente criticato in diverse occasioni la Casa Bianca e i competitor, accusandoli di minimizzare le questioni di sicurezza e avvertendo che i modelli AI possono essere utilizzati per attacchi informatici o causare disoccupazione di massa, facendo di lui un bersaglio di critiche sia a Washington che nella Silicon Valley.

Durante il pranzo, quando Amodei ha nuovamente sollevato preoccupazioni sulla sicurezza, la risposta di Zuckerberg è stata: la soluzione migliore è che il settore metta davvero in pratica questi principi.

Zuckerberg e Jensen Huang: i veri artefici dell’accordo

Questo pranzo alla Casa Bianca non è stato casuale.

Secondo insider riportati dal Wall Street Journal, tutto è iniziato dal banchetto di Stato della settimana prima — Zuckerberg e il Presidente della Camera Mike Johnson erano seduti vicini e hanno discusso di politica sull’AI. Successivamente, Zuckerberg e Jensen Huang hanno cominciato a coordinare i CEO delle aziende, mentre Trump e Johnson hanno organizzato il pranzo.

Zuckerberg è stato la figura chiave per la redazione finale dell’accordo. Ha mantenuto frequenti contatti con Trump e con il Segretario al Commercio Howard Lutnick, responsabile di un importante dipartimento governativo di testing AI.

Lui e Jensen Huang hanno guidato insieme una decisione ancora più importante: bocciare la proposta di regolamentazione stringente.

Quest’estate, Anthropic, OpenAI e Google hanno proposto la creazione di un’organizzazione di auto-regolamentazione AI, simile alla FINRA (Financial Industry Regulatory Authority). Tuttavia, secondo cronache precedenti, Zuckerberg, Jensen Huang e Musk dissero a Trump di temere che una tale struttura avrebbe concentrato troppo potere nelle mani delle principali aziende AI; la proposta fu abbandonata subito dopo.

Alla fine, si è giunti a questo accordo volontario, più leggero e meno vincolante.

Da notare che la proposta in stile FINRA, poi scartata, includeva già aspetti analoghi all’accordo finale — maggior rafforzamento della revisione interna ed esterna. Le due proposte coincidono nelle specifiche tecniche; la vera divergenza riguarda chi debba gestire il meccanismo. La risposta di Jensen Huang e Zuckerberg è stata: il settore stesso.

La posizione di Anthropic: ristabilire relazioni e prepararsi all’IPO

Amodei ha detto ai giornalisti: “Se industria e governo collaborano, possiamo vincere in sicurezza.” Trump lo ha lodato dicendo che è “brillante”. I due si erano appena incontrati per la prima volta, la sera prima, a cena insieme alla Casa Bianca.

Tuttavia, la situazione di Anthropic non è facile.

Secondo le notizie, la società sta preparando l’IPO con una valutazione mirata di circa 2.000 miliardi di dollari. Tuttavia, nei primi mesi dell’anno, ha affrontato due serie tensioni col governo: due modelli sono stati ritirati dal mercato per oltre due settimane per questioni di sicurezza, e, a causa di controversie sull’uso militare dell’AI, il Pentagono ha inserito l’azienda in una blacklist.

Il contesto diretto dell’accordo è rappresentato dalla serie di attacchi informatici AI che si sono verificati a seguito del lancio di modelli come Mythos di Anthropic.