Empire of AI

1. L’idealismo fondativo di OpenAI cedette presto il passo alla ricerca di potere e profitto.

Nei quattro anni successivi, OpenAI divenne tutto ciò che aveva giurato di non essere.

Altruismo iniziale. Fondata come organizzazione no-profit da figure come Elon Musk e Sam Altman, OpenAI si impegnò fin dall’inizio a investire un miliardo di dollari per sviluppare un’intelligenza artificiale generale (AGI) a beneficio dell’umanità, puntando su apertura, collaborazione e persino sull’autosacrificio qualora un altro progetto avesse superato il loro. L’obiettivo era evitare che l’AGI finisse sotto il controllo esclusivo di una singola azienda come Google.

Svolta verso la commercializzazione. Le pressioni finanziarie e le lotte di potere interne, soprattutto dopo l’uscita di Musk, spinsero Altman a trasformare OpenAI in un’entità “a profitto limitato”. Questo permise di raccogliere capitali ingenti, come l’investimento da un miliardo di dollari di Microsoft, ma cambiò radicalmente la rotta verso una commercializzazione aggressiva e una crescente segretezza, privilegiando la corsa a essere i primi all’AGI rispetto ai principi fondativi.

Erosione dei principi. La trasformazione segnò un netto allontanamento dalla missione originaria.

• La trasparenza fu sostituita dal segreto.
• La collaborazione cedette il passo a una competizione feroce.
• L’attenzione si spostò dalla ricerca aperta alla creazione di prodotti redditizi come ChatGPT, inseguendo valutazioni astronomiche.
  Questo cambiamento mise in luce come il progetto, nonostante la sua nobile veste, fosse anche mosso da ego e desiderio di dominio.

2. La crescita incessante dei modelli AI divenne la strategia centrale di OpenAI, alimentata da una profezia che si autoavvera.

La “Legge di OpenAI”, o ciò che l’azienda avrebbe poi sostituito con una ricerca ancora più ossessiva delle cosiddette leggi di scaling, è esattamente la stessa. Non è un fenomeno naturale. È una profezia che si autoavvera.

L’ipotesi dello scaling. Ispirati dall’osservazione che le prestazioni dell’AI miglioravano con l’aumento delle risorse computazionali (“compute”), soprattutto dopo la svolta di ImageNet nel 2012, i leader di OpenAI, in particolare Ilya Sutskever e Greg Brockman, teorizzarono che scalare reti neurali semplici a dimensioni senza precedenti fosse la via più rapida verso l’AGI. Notarono che l’uso del compute nell’AI cresceva più velocemente della Legge di Moore.

La necessità di un compute massiccio. Questa ipotesi imponeva una domanda insaziabile di GPU e supercomputer, ben oltre le risorse di una no-profit.

• L’addestramento di GPT-3 richiese un supercomputer con 10.000 GPU.
• Modelli futuri come GPT-4 e oltre avrebbero richiesto decine o centinaia di migliaia.
• Il costo stimato per un supercomputer “Fase 5” potrebbe arrivare a 100 miliardi di dollari.
  Questa crescente necessità di capitale e infrastrutture consolidò il passaggio a un modello a scopo di lucro e la dipendenza da partner come Microsoft.

Un imperativo strategico. Lo scaling divenne non solo un approccio tecnico, ma una strategia di business.

• Essere primi o i migliori significava restare avanti sulla curva dello scaling.
• Rimanere indietro voleva dire perdere influenza sullo sviluppo dell’AGI.
  Questa fede nel “più scala di tutto” dettò le regole della nuova era dell’AI, spingendo l’intero settore in una corsa a risorse intensiva, ignorando approcci alternativi o potenziali svantaggi.

3. La crescita dell’impero AI si alimenta dello sfruttamento di manodopera vulnerabile nel mondo per l’annotazione dei dati.

Dietro le promesse di tecnologie che aumentano la produttività, liberano l’economia e creano nuovi posti di lavoro per mitigare l’automazione, la realtà attuale è stata l’opposto.

La forza lavoro nascosta. L’addestramento dei modelli AI, specialmente quelli linguistici di grandi dimensioni, richiede enormi quantità di lavoro umano per raccogliere, pulire e annotare i dati. Questo “lavoro fantasma” è spesso esternalizzato a lavoratori a basso salario in tutto il mondo, soprattutto in paesi in difficoltà economica.

Sfruttamento in economie in crisi. Aziende come Scale AI e Sama hanno approfittato di crisi, come il collasso economico del Venezuela o l’impatto della pandemia in Kenya, per trovare lavoratori disperati disposti a svolgere compiti tediosi e spesso psicologicamente dannosi per pochi centesimi.

• I venezuelani lavoravano per meno di un dollaro all’ora su piattaforme come Remotasks.
• I lavoratori kenioti venivano pagati meno di 2 dollari all’ora per filtrare contenuti tossici per OpenAI.
  Questa dipendenza da lavoro precario richiama pratiche coloniali storiche di sfruttamento di popolazioni sottomesse per l’estrazione di risorse.

Il costo delle “paludi di dati”. Il passaggio all’addestramento su dataset massivi e non filtrati (“data swamps”) ha aumentato la necessità di moderazione dei contenuti e di apprendimento rinforzato da feedback umano (RLHF). Ciò ha esposto i lavoratori a contenuti disturbanti, inclusi materiali di abuso sessuale su minori, con gravi conseguenze sulla salute mentale, spesso senza adeguato supporto o compenso equo.

4. Costruire l’impero AI richiede risorse immense, imponendo costi ambientali significativi a livello globale.

Se continueremo a sviluppare questa tecnologia come abbiamo fatto finora, devasteremo la Terra.

Infrastruttura fisica. I modelli AI, in particolare quelli generativi di grandi dimensioni, necessitano di enormi data center fisici (“hyperscalers” e “megacampus”) per l’addestramento e l’inferenza. Queste strutture consumano quantità enormi di energia, terra, minerali e acqua.

Impronta ambientale in crescita. La domanda di risorse cresce esponenzialmente con lo scaling.

• I data center potrebbero consumare l’8% dell’energia degli Stati Uniti entro il 2030.
• Il calcolo AI a livello globale potrebbe consumare più energia dell’India.
• La domanda di AI potrebbe consumare tra 1,1 e 1,7 trilioni di galloni d’acqua dolce entro il 2027.
  Questa intensità di risorse aggrava il cambiamento climatico e mette sotto pressione gli ambienti locali, soprattutto in regioni con scarsità d’acqua.

Impatto sproporzionato. Il peso ambientale grava pesantemente su comunità, spesso nel Sud Globale, dove si costruiscono i data center per via di terra, energia e acqua a basso costo. Queste comunità, già vulnerabili per l’estrattivismo storico, affrontano:

• Fonti d’acqua esaurite.
• Aumenti della domanda energetica che mettono a dura prova le reti locali.
• Inquinamento acustico e spostamenti territoriali.
  Nonostante le dichiarazioni di sostenibilità delle aziende, la realtà spesso è una continuazione del saccheggio delle risorse a beneficio di giganti tecnologici lontani.

5. I conflitti interni tra sicurezza e commercializzazione si intensificarono con l’accelerazione del deployment di OpenAI.

Per avere successo, questi tre clan devono unirsi in una sola tribù, mantenendo le forze di ciascuno, lavorando per un’AGI che massimizzi il beneficio per l’umanità.

Fazioni dentro OpenAI. Fin dai primi giorni, OpenAI fu segnata da divisioni interne, rappresentate come “Ricerca Esplorativa” (potenziamento delle capacità), “Sicurezza” (attenzione ai rischi) e “Startup” (velocità e prodotti). Questi gruppi spesso si scontravano su priorità e tempi di sviluppo.

Preoccupazioni sulla sicurezza vs urgenza commerciale. Il clan “Sicurezza”, soprattutto chi si occupava di rischi catastrofici ed esistenziali (i “Doomers”), si allarmò per la rapida crescita e il lancio di modelli come GPT-3 e DALL-E 2 senza adeguati test o meccanismi di sicurezza. Chiesero cautela e ritardi.

Prevalsero le pressioni commerciali. La divisione “Applied” e il clan “Startup”, sostenuti da investimenti e necessità di ricavi, spinsero per rilasci più rapidi (“deployment iterativo”).

• L’API di GPT-3 fu lanciata nonostante le preoccupazioni.
• DALL-E 2 uscì come “anteprima di ricerca” per gestire i rischi.
• ChatGPT fu accelerato per la competizione percepita.
  Queste decisioni spesso superarono le obiezioni sulla sicurezza, creando tensioni e portando all’uscita di ricercatori chiave che si sentirono ignorati per motivi commerciali.

6. Lo stile di leadership di Sam Altman — segnato da ambizione, capacità di negoziazione e presunte manipolazioni — alimentò sia successi che tensioni.

“Sam è estremamente abile nel diventare potente.”

Ambizione e costruzione di reti. Sam Altman è noto per la sua ambizione incessante, il talento nel fare accordi e la strategia di costruire reti influenti. Sfruttò la sua posizione in Y Combinator e i rapporti con figure come Peter Thiel e Reid Hoffman per avanzare la sua carriera e la posizione di OpenAI.

Comportamenti contraddittori. Altman è descritto come carismatico e apparentemente affabile, ma anche incline all’ansia e a dire a persone diverse ciò che vogliono sentirsi dire. Questo generò confusione, sfiducia e conflitti tra colleghi e partner, tra cui:

• Rappresentazioni fuorvianti di accordi con Microsoft.
• Divisioni tra dirigenti (es. Sutskever e Pachocki).
• Svalutazione di chi lo sfidava.
  Questi comportamenti, pur sottili singolarmente, crearono un senso diffuso di instabilità ai massimi livelli.

Accuse di disonestà e abusi. Accuse più gravi, provenienti anche dalla sorella Annie Altman e da ex colleghi come Geoffrey Irving, dipingono un quadro di manipolazione, disonestà e abusi protratti nel tempo. Sebbene Altman e la sua famiglia neghino, queste accuse contribuirono a una percezione di problematicità personale rilevante per la guida di una potente azienda AI.

7. La crisi del consiglio di amministrazione del 2023 rivelò lotte di potere profonde e fallimenti di governance ai vertici dello sviluppo AI.

Mostrò in modo chiaro quanto una lotta di potere tra pochi élite della Silicon Valley stia plasmando il futuro dell’AI.

Le preoccupazioni del consiglio. Il consiglio no-profit di OpenAI, incaricato di mettere la missione sopra il profitto, si preoccupò sempre più dello stile di leadership di Altman, della sua presunta mancanza di trasparenza e di comportamenti che sembravano minare il controllo del consiglio e la cultura della sicurezza aziendale. Il feedback di dirigenti senior come Ilya Sutskever e Mira Murati rafforzò queste preoccupazioni.

L’allontanamento e le conseguenze. La decisione di licenziare Altman scatenò un periodo caotico di cinque giorni.

• I dipendenti minacciarono dimissioni di massa.
• Gli investitori premettero per la sua reintegrazione.
• Microsoft lo sostenne pubblicamente e offrì lavoro al personale in uscita.
  La reazione rapida e travolgente evidenziò la sottovalutazione del consiglio sull’influenza di Altman e la profonda lealtà che egli godeva tra dipendenti e stakeholder chiave.

Fallimento della governance. La crisi mise a nudo la fragilità della struttura di governance unica di OpenAI. Il consiglio no-profit, nonostante il mandato, cedette alla pressione degli interessi economici e alla minaccia di collasso aziendale. L’episodio sottolineò che decisioni cruciali su una tecnologia con implicazioni globali venivano prese a porte chiuse da pochi, con scarsa trasparenza anche verso i dipendenti.

8. OpenAI plasma attivamente le politiche sull’AI per favorire gli incumbents e i modelli di frontiera, spesso ignorando i danni attuali.

Il team di preparazione di Altman lo considerò un successo clamoroso.

Campagna di influenza politica. Dopo il successo di ChatGPT, Sam Altman e OpenAI lanciarono una vigorosa attività di lobbying globale, incontrando decisori politici in tutto il mondo per orientare la regolamentazione dell’AI. La testimonianza di Altman al Congresso fu un momento chiave, posizionando OpenAI come leader responsabile che sostiene misure di sicurezza necessarie.

Focus sui rischi “di frontiera”. Le proposte politiche di OpenAI, riprese dal “Frontier Model Forum” (che include Google e Anthropic), puntano a regolamentare rischi futuri e potenzialmente catastrofici derivanti da modelli AI altamente capaci (“di frontiera”). Questo sposta l’attenzione lontano dalla regolamentazione dei danni immediati e documentati dei sistemi AI esistenti, come:

• Dislocazione e sfruttamento del lavoro.
• Costi ambientali.
• Bias e discriminazioni.
• Violazioni di copyright e privacy dei dati.

Soglie di compute e controlli alle esportazioni. Proposte chiave, come l’uso di soglie di compute (es. 10^26 FLOPs) per identificare modelli “di frontiera” e limitarne l’esportazione (potenzialmente vietando i pesi open source), si allineano alla strategia di scaling di OpenAI e ai suoi interessi competitivi. Queste misure rischiano di consolidare il dominio delle aziende con risorse computazionali immense, ostacolando la ricerca e sviluppo indipendenti.

9. La metafora dell’“Impero AI” rivela inquietanti parallelismi con il colonialismo e l’estrattivismo storici.

Negli anni, ho trovato una sola metafora che racchiude la natura di questi attori dell’AI: imperi.

Estrazione di risorse. Come gli imperi storici, le aziende AI catturano e estraggono risorse preziose:

• Il lavoro di artisti, scrittori e utenti online (dati).
• La manodopera a basso costo globale (annotazione dati, moderazione contenuti).
• Terra, energia, acqua e minerali per data center e hardware.
  Questa estrazione avviene spesso senza consenso, compensi equi o rispetto per comunità e ambienti locali.

Giustificazione narrativa. La ricerca dell’AGI e la promessa di un futuro migliore (“modernità”, “progresso”, “abbondanza”) fungono da potente racconto per legittimare questa estrazione e sfruttamento. Questo ricorda come gli imperi storici usassero missioni “civilizzatrici” per giustificare le loro azioni.

Concentrazione di ricchezza e potere. I benefici di questo sistema vanno sproporzionatamente a una piccola élite della Silicon Valley e aziende alleate, mentre i costi ricadono su popolazioni vulnerabili nel mondo. La spinta incessante a superare i rivali nella “corsa all’AI” alimenta ulteriormente questa dinamica estrattiva, consolidando potere e ricchezza ai vertici.

10. Visioni alternative per lo sviluppo dell’AI offrono una via verso una tecnologia decentralizzata, etica e guidata dalla comunità.

L’intelligenza artificiale non deve essere ciò che è oggi.

Resistere al paradigma dominante. Comunità e organizzazioni in tutto il mondo sfidano il modello prevalente di sviluppo AI, centralizzato, intensivo in risorse ed estrattivo. Sostengono che l’AI possa essere sviluppata diversamente, dando priorità al benessere umano e alla sostenibilità ambientale.

Esempi di approcci alternativi:

• AI guidata dalla comunità: Progetti come Te Hiku Media in Nuova Zelanda sviluppano AI (es. riconoscimento vocale) basata sul consenso comunitario, reciprocità e sovranità dei dati, usando modelli piccoli e specifici.
• Istituti di ricerca etica: Organizzazioni come DAIR (Distributed AI Research Institute) conducono ricerche AI centrate sulle comunità coinvolte, mettendo in discussione i sistemi esistenti e compensando equamente il lavoro.
• Movimenti attivisti: Gruppi come MOSACAT in Cile combattono gli impatti ambientali dei data center, promuovendo il controllo locale delle risorse e immaginando infrastrutture AI integrate con il restauro ecologico.

Redistribuire il potere. Questi sforzi mirano a spostare il potere dagli imperi AI centralizzati promuovendo:

• Produzione indipendente di conoscenza e ricerca.
• Trasparenza su dati, modelli e filiere.
• Protezioni più forti per lavoro e ambiente.
• Potere collettivo attraverso solidarietà e