Empire of AI

1. A Idealista Fundação da OpenAI Rápida e Facilmente Cedeu à Busca por Poder e Lucro.

Nos quatro anos seguintes, a OpenAI tornou-se tudo aquilo que dizia não querer ser.

Altruísmo inicial. Fundada como uma organização sem fins lucrativos por figuras como Elon Musk e Sam Altman, a OpenAI comprometeu-se inicialmente a investir 1 bilhão de dólares para desenvolver inteligência artificial geral (AGI) em benefício da humanidade, enfatizando a abertura, a colaboração e até o sacrifício próprio caso outro projeto os superasse. O objetivo era evitar que a AGI ficasse sob controle de uma única corporação, como o Google.

Mudança para a comercialização. Pressões financeiras e disputas internas pelo poder, especialmente após a saída de Musk, levaram Altman a reestruturar a OpenAI em uma entidade de “lucro limitado”. Isso permitiu captar capital significativo, notadamente um investimento de 1 bilhão de dólares da Microsoft, mas alterou fundamentalmente seu rumo, direcionando-a para uma comercialização agressiva e sigilo, priorizando ser a primeira a alcançar a AGI em detrimento dos ideais fundadores.

Erosão dos princípios. Essa transição marcou um claro afastamento da missão original.

• A transparência deu lugar ao sigilo.
• A colaboração cedeu espaço à competição feroz.
• O foco mudou da pesquisa aberta para a criação de produtos lucrativos como o ChatGPT, buscando avaliações bilionárias.
  Essa transformação evidenciou que o projeto, apesar de sua nobre retórica, também era movido por ego e pela busca de domínio.

2. A Escalada Implacável dos Modelos de IA Tornou-se a Estratégia Central da OpenAI, Impulsionada por uma Profecia Autorrealizável.

A Lei da OpenAI, ou o que a empresa depois substituiu por uma busca ainda mais frenética pelas chamadas leis de escalabilidade, é exatamente a mesma. Não é um fenômeno natural. É uma profecia autorrealizável.

A hipótese da escalabilidade. Inspirados pela observação de que o desempenho da IA melhorava com o aumento dos recursos computacionais (“compute”), especialmente após o avanço do ImageNet em 2012, os líderes da OpenAI, sobretudo Ilya Sutskever e Greg Brockman, teorizaram que ampliar redes neurais simples a tamanhos sem precedentes seria o caminho mais rápido para a AGI. Eles notaram que o uso de computação em IA crescia mais rápido que a Lei de Moore.

A necessidade de computação massiva. Essa hipótese ditou uma demanda insaciável por GPUs e supercomputadores, muito além dos recursos disponíveis para uma organização sem fins lucrativos.

• Treinar o GPT-3 exigiu um supercomputador com 10.000 GPUs.
• Modelos futuros como o GPT-4 e além precisariam de dezenas ou centenas de milhares.
• O custo estimado para um supercomputador “Fase 5” poderia chegar a 100 bilhões de dólares.
  Essa crescente necessidade de capital e infraestrutura consolidou a mudança para um modelo com fins lucrativos e a dependência de parceiros como a Microsoft.

Um imperativo estratégico. A escalabilidade tornou-se não apenas uma abordagem técnica, mas uma estratégia de negócios.

• Ser o primeiro ou o melhor exigia manter-se à frente na curva de escalabilidade.
• Ficar para trás significava perder influência no desenvolvimento da AGI.
  Essa crença no “escala acima de tudo” estabeleceu as regras para a nova era da IA, impulsionando toda a indústria numa corrida intensiva em recursos, independentemente de abordagens alternativas ou potenciais desvantagens.

3. O Crescimento do Império da IA é Alimentado pela Exploração de Mão de Obra Vulnerável Global para Anotação de Dados.

Por trás das promessas de que suas tecnologias aumentariam a produtividade, desbloqueariam a liberdade econômica e criariam novos empregos para amenizar a automação, a realidade atual tem sido o oposto.

A força de trabalho oculta. Treinar modelos de IA, especialmente grandes modelos de linguagem, requer vastas quantidades de trabalho humano para coletar, limpar e anotar dados. Esse “trabalho fantasma” é frequentemente terceirizado para trabalhadores de baixa remuneração ao redor do mundo, especialmente em países em crise econômica.

Exploração em economias em crise. Empresas como Scale AI e Sama aproveitaram crises, como o colapso econômico da Venezuela ou o impacto da pandemia no Quênia, para encontrar trabalhadores desesperados dispostos a realizar tarefas tediosas e muitas vezes psicologicamente danosas por centavos.

• Venezuelanos trabalhavam por menos de um dólar por hora em plataformas como Remotasks.
• Trabalhadores quenianos recebiam menos de 2 dólares por hora para filtrar conteúdo tóxico para a OpenAI.
  Essa dependência de mão de obra precária espelha práticas coloniais históricas de exploração de populações subjugadas para extração de recursos.

O custo dos “pântanos de dados”. A mudança para treinar modelos em conjuntos de dados massivos e não filtrados (“pântanos de dados”) aumentou a necessidade de moderação de conteúdo e aprendizado por reforço com feedback humano (RLHF). Isso expôs os trabalhadores a conteúdos perturbadores, incluindo material de abuso sexual infantil, causando graves consequências para a saúde mental, muitas vezes sem suporte adequado ou remuneração justa.

4. Construir o Império da IA Exige Recursos Vastíssimos, Implicando Custos Ambientais Significativos Globalmente.

Se continuarmos a desenvolver essa tecnologia do mesmo jeito que fazíamos antes, vamos devastar a Terra.

Infraestrutura física. Modelos de IA, especialmente os grandes e generativos, requerem enormes centros de dados físicos (“hiperescaladores” e “megacampi”) para treinamento e inferência. Essas instalações consomem quantidades enormes de energia, terra, minerais e água.

Pegada ambiental crescente. A demanda por recursos cresce exponencialmente com a escalabilidade.

• Estima-se que centros de dados consumirão 8% da energia dos EUA até 2030.
• A computação de IA globalmente poderá usar mais energia que a Índia.
• A demanda por IA pode consumir entre 1,1 e 1,7 trilhão de galões de água doce globalmente até 2027.
  Essa intensidade de recursos agrava as mudanças climáticas e sobrecarrega ambientes locais, especialmente em regiões com escassez hídrica.

Impacto desproporcional. O ônus ambiental recai fortemente sobre comunidades, muitas vezes no Sul Global, onde os centros de dados são instalados devido ao baixo custo de terra, energia e água. Essas comunidades, já vulneráveis por conta do extrativismo histórico, enfrentam:

• Fontes de água esgotadas.
• Aumento da demanda energética que sobrecarrega redes locais.
• Poluição sonora e deslocamento territorial.
  Apesar das alegações corporativas de sustentabilidade, a realidade frequentemente é a continuação do saque de recursos para benefício de gigantes tecnológicos distantes.

5. Conflitos Internos Entre Segurança e Comercialização Se Intensificaram à Medida que a OpenAI Acelerou o Lançamento de Produtos.

Para ter sucesso, precisamos que esses três clãs se unam como uma tribo — mantendo as forças de cada um — trabalhando por uma AGI que beneficie ao máximo a humanidade.

Facções dentro da OpenAI. Desde seus primeiros dias, a OpenAI foi marcada por divisões internas, caricaturadas como “Pesquisa Exploratória” (avanço de capacidades), “Segurança” (foco nos riscos) e “Startup” (movimento rápido e construção de produtos). Essas facções frequentemente entravam em conflito sobre prioridades e ritmo de desenvolvimento.

Preocupações de segurança versus urgência de produto. O clã “Segurança”, especialmente os focados em riscos catastróficos e existenciais (os “Doomers”), ficou cada vez mais alarmado com a rápida escalada e lançamento de modelos como GPT-3 e DALL-E 2 sem testes ou mecanismos de segurança suficientes. Defendiam cautela e adiamento.

Pressões comerciais prevaleceram. A divisão “Aplicada” e o clã “Startup”, impulsionados por investimentos e necessidade de receita, pressionaram por lançamentos mais rápidos (“implantação iterativa”).

• A API do GPT-3 foi lançada apesar das preocupações de segurança.
• O DALL-E 2 foi lançado como “prévia de pesquisa” para gerenciar riscos.
• O ChatGPT foi lançado às pressas devido à competição percebida.
  Essas decisões frequentemente sobrepujaram objeções de segurança, gerando tensões e levando à saída de pesquisadores-chave que sentiram suas preocupações ignoradas em prol do ganho comercial.

6. O Estilo de Liderança de Sam Altman — Marcado por Ambição, Negociações e Alegada Manipulação — Alimentou Tanto o Sucesso Quanto a Turbulência.

“Sam é extremamente bom em se tornar poderoso.”

Ambição e construção de redes. Sam Altman é caracterizado por uma ambição incansável, talento para negociações e foco estratégico em construir redes poderosas. Ele aproveitou sua posição na Y Combinator e suas relações com figuras como Peter Thiel e Reid Hoffman para avançar sua carreira e a posição da OpenAI.

Comportamentos contraditórios. Altman é descrito como carismático e aparentemente agradável, mas também propenso à ansiedade e a um padrão de dizer a cada pessoa o que ela quer ouvir. Isso gerou confusão, desconfiança e conflitos entre colegas e parceiros, incluindo:

• Representações equivocadas de acordos com a Microsoft.
• Colocar executivos uns contra os outros (ex.: Sutskever e Pachocki).
• Minar aqueles que o desafiavam.
  Esses comportamentos, embora sutis individualmente, criaram um ambiente de instabilidade nos níveis mais altos.

Acusações de desonestidade e abuso. Acusações mais graves, incluindo as de sua irmã Annie Altman e ex-colegas como Geoffrey Irving, pintam um quadro de longa história de suposta manipulação, desonestidade e abuso. Embora Altman e sua família neguem essas alegações, elas contribuíram para a percepção de que sua conduta pessoal era profundamente problemática e potencialmente relevante para sua liderança numa empresa poderosa de IA.

7. A Crise do Conselho em 2023 Expos Profundas Lutas de Poder e Falhas de Governança no Ápice do Desenvolvimento de IA.

Ilustrou de forma clara o quanto uma luta pelo poder entre um pequeno grupo de elites do Vale do Silício está moldando o futuro da IA.

Preocupações do conselho. O conselho da OpenAI, responsável por priorizar a missão sobre o lucro, cresceu preocupado com o estilo de liderança de Sam Altman, sua aparente falta de transparência e comportamentos que pareciam minar a supervisão do conselho e a cultura de segurança da empresa. Feedback de executivos seniores como Ilya Sutskever e Mira Murati reforçou essas preocupações.

A demissão e suas consequências. A decisão do conselho de demitir Altman desencadeou um período caótico de cinco dias.

• Funcionários ameaçaram demissão em massa.
• Investidores pressionaram o conselho para reintegrar Altman.
• A Microsoft apoiou publicamente Altman e ofereceu empregos aos funcionários que saíram.
  A reação rápida e avassaladora evidenciou o erro do conselho ao subestimar a influência de Altman e a profunda lealdade que ele detinha entre funcionários e partes interessadas.

Falha de governança. A crise revelou a fragilidade da estrutura única de governança da OpenAI. O conselho sem fins lucrativos, apesar de seu mandato, acabou cedendo à pressão de interesses financeiros e à ameaça de colapso da empresa. O episódio destacou que decisões críticas sobre uma tecnologia com implicações globais foram tomadas a portas fechadas por um pequeno grupo, com transparência limitada até mesmo para os funcionários.

8. A OpenAI Atua Ativamente na Formulação de Políticas de IA para Favorecer Incumbentes e Modelos de Ponta, Frequentemente Ignorando Danos Presentes.

A equipe de preparação de Altman considerou isso um sucesso retumbante.

Campanha de influência política. Após o sucesso do ChatGPT, Sam Altman e a OpenAI lançaram um esforço global agressivo de lobby, reunindo-se com formuladores de políticas ao redor do mundo para moldar a regulamentação da IA. O testemunho de Altman no Congresso foi um momento-chave, posicionando a OpenAI como líder responsável que defende salvaguardas necessárias.

Foco nos riscos “de fronteira”. As propostas políticas da OpenAI, ecoadas pelo “Fórum de Modelos de Fronteira” (incluindo Google e Anthropic), enfatizam a regulação de riscos futuros, potencialmente catastróficos, de modelos de IA altamente capazes (“de fronteira”). Isso desloca a atenção da regulação dos danos imediatos e documentados dos sistemas atuais, como:

• Deslocamento e exploração laboral.
• Custos ambientais.
• Viés e discriminação.
• Violação de direitos autorais e privacidade de dados.

Limites de computação e controles de exportação. Propostas-chave, como usar limites de computação (ex.: 10^26 FLOPs) para identificar modelos “de fronteira” e restringir sua exportação (potencialmente proibindo pesos de modelos open source), alinham-se à estratégia de escalabilidade da OpenAI e seus interesses competitivos. Essas medidas correm o risco de consolidar o domínio de empresas com recursos computacionais massivos, dificultando a pesquisa e desenvolvimento independentes.

9. A Metáfora do “Império da IA” Revela Paralelos Perturbadores com o Colonialismo e Extrativismo Históricos.

Ao longo dos anos, encontrei apenas uma metáfora que encapsula a natureza desses atores poderosos da IA: impérios.

Extração de recursos. Como impérios históricos, as empresas de IA capturam e extraem recursos valiosos:

• O trabalho de artistas, escritores e usuários online (dados).
• A mão de obra de trabalhadores mal remunerados globalmente (anotação de dados, moderação de conteúdo).
• Terra, energia, água e minerais para centros de dados e hardware.
  Essa extração ocorre frequentemente sem consentimento, compensação justa ou consideração pelas comunidades e ambientes locais.

Justificação por meio da narrativa. A busca pela AGI e a promessa de um futuro melhor (“modernidade”, “progresso”, “abundância”) servem como narrativa poderosa para justificar essa extração e exploração. Isso espelha como impérios históricos usaram conceitos como “missões civilizatórias” para legitimar suas ações.

Concentração de riqueza e poder. Os benefícios desse sistema acumulam-se desproporcionalmente para uma pequena elite no Vale do Silício e corporações aliadas, enquanto os custos são suportados por populações vulneráveis globalmente. A corrida incessante para superar rivais na “corrida da IA” alimenta ainda mais essa dinâmica extrativa, consolidando poder e riqueza no topo.

10. Visões Alternativas para o Desenvolvimento da IA Oferecem um Caminho Rumo a uma Tecnologia Descentralizada, Ética e Comunitária.

A inteligência artificial não precisa ser o que é hoje.

Resistindo ao paradigma dominante. Comunidades e organizações ao redor do mundo desafiam o modelo prevalente de desenvolvimento de IA, que é centralizado, intensivo em recursos e extrativo. Argumentam que a IA pode ser desenvolvida de forma diferente, priorizando o bem-estar humano e a sustentabilidade ambiental.

Exemplos de abordagens alternativas:

• IA comunitária: Projetos como o Te Hiku Media, na Nova Zelândia, desenvolvem IA (ex.: reconhecimento de voz) baseados no consentimento comunitário, reciprocidade e soberania dos dados, usando modelos pequenos e específicos para tarefas.
• Institutos de pesquisa ética: Organizações como o DAIR (Instituto de Pesquisa em IA Distribuída) conduzem pesquisas centradas nas comunidades afetadas, questionando sistemas existentes e remunerando justamente o trabalho.
• Movimentos ativistas: Grupos como o MOSACAT, no Chile, lutam contra os impactos ambientais dos centros de dados, defendendo o controle local dos recursos e imaginando uma infraestrutura de IA integrada à restauração ecológica.

Redistribuindo o poder. Esses esforços buscam deslocar o poder dos impérios centralizados de IA por meio de:

• Promoção da produção independente de conhecimento e pesquisa.
• Exigência de transparência sobre dados, modelos e cadeias de suprimentos.
• Defesa de proteções laborais e ambientais mais fortes.
• Construção de poder coletivo por meio da solidariedade e organização transfronteiriça.
  Essa visão pretende remodelar o desenvolvimento da IA para um futuro mais democrático, justo e sustentável.