Empire of AI

1. OpenAIs idealistische Gründung wich schnell dem Streben nach Macht und Profit.

In den folgenden vier Jahren wurde OpenAI genau das, was es ursprünglich nicht sein wollte.

Ursprünglicher Altruismus. Gegründet als gemeinnützige Organisation von Persönlichkeiten wie Elon Musk und Sam Altman, versprach OpenAI anfangs eine Milliarde Dollar, um eine künstliche allgemeine Intelligenz (AGI) zum Wohle der Menschheit zu entwickeln. Dabei standen Offenheit, Zusammenarbeit und sogar Selbstaufopferung im Vordergrund, falls ein anderes Projekt sie überholen sollte. Das Ziel war, zu verhindern, dass AGI von einem einzigen Konzern wie Google kontrolliert wird.

Wandel zur Kommerzialisierung. Finanzielle Zwänge und interne Machtkämpfe, besonders nach Musks Ausstieg, führten dazu, dass Altman OpenAI in eine „begrenzte Gewinn“-Gesellschaft umwandelte. So konnte man beträchtliches Kapital einsammeln, etwa eine Milliarde Dollar von Microsoft, doch veränderte dies grundlegend den Kurs hin zu aggressiver Kommerzialisierung und Geheimhaltung. Der Fokus lag nun darauf, als Erster AGI zu erreichen – und nicht mehr auf den ursprünglichen Idealen.

Verfall der Prinzipien. Dieser Wandel markierte eine klare Abkehr von der ursprünglichen Mission.

• Transparenz wich Geheimhaltung.
• Zusammenarbeit wurde durch erbitterten Wettbewerb ersetzt.
• Die Forschung wurde zugunsten lukrativer Produkte wie ChatGPT zurückgestellt, mit dem Ziel, enorme Bewertungen zu erzielen.
  Diese Entwicklung zeigte, dass das Projekt trotz seines noblen Anspruchs auch von Ego und Machtstreben getrieben war.

2. Das unaufhörliche Hochskalieren von KI-Modellen wurde zur Kernstrategie von OpenAI – angetrieben von einer sich selbst erfüllenden Prophezeiung.

OpenAIs Gesetz, oder was das Unternehmen später durch eine noch fanatischere Jagd nach sogenannten Skalierungsgesetzen ersetzte, ist genau dasselbe. Es ist kein Naturphänomen, sondern eine sich selbst erfüllende Prophezeiung.

Die Skalierungshypothese. Inspiriert von der Beobachtung, dass die Leistung von KI mit zunehmenden Rechenressourcen („Compute“) steigt – besonders nach dem Durchbruch von ImageNet 2012 – entwickelten OpenAI-Führungskräfte wie Ilya Sutskever und Greg Brockman die Theorie, dass das Hochskalieren einfacher neuronaler Netze auf beispiellose Größen der schnellste Weg zur AGI sei. Sie stellten fest, dass der Compute-Einsatz in der KI schneller wächst als das Mooresche Gesetz.

Der Bedarf an enormem Compute. Diese Hypothese führte zu einem unersättlichen Bedarf an GPUs und Supercomputern, der weit über die Mittel einer gemeinnützigen Organisation hinausging.

• Das Training von GPT-3 erforderte einen Supercomputer mit 10.000 GPUs.
• Zukünftige Modelle wie GPT-4 und darüber hinaus würden Zehntausende oder Hunderttausende benötigen.
• Die geschätzten Kosten für einen zukünftigen „Phase-5“-Supercomputer könnten 100 Milliarden Dollar erreichen.
  Dieser wachsende Kapital- und Infrastrukturbedarf festigte den Wechsel zum profitorientierten Modell und die Abhängigkeit von Partnern wie Microsoft.

Eine strategische Notwendigkeit. Skalierung wurde nicht nur ein technischer Ansatz, sondern eine Geschäftsstrategie.

• Erster oder bester zu sein bedeutete, auf der Skalierungskurve voraus zu bleiben.
• Rückstand bedeutete den Verlust von Einfluss auf die AGI-Entwicklung.
  Dieser Glaube an „Skalierung über alles“ setzte die Regeln für die neue Ära der KI und trieb die gesamte Branche in ein ressourcenintensives Wettrennen – ungeachtet alternativer Ansätze oder möglicher Nachteile.

3. Das Wachstum des KI-Imperiums wird durch die Ausbeutung verletzlicher globaler Arbeitskräfte zur Datenannotation befeuert.

Hinter den Versprechen, ihre Technologien würden Produktivität steigern, wirtschaftliche Freiheit ermöglichen und neue Arbeitsplätze schaffen, die Automatisierung abmildern, verbirgt sich heute das genaue Gegenteil.

Die verborgene Arbeitskraft. Das Training von KI-Modellen, insbesondere großen Sprachmodellen, erfordert enorme Mengen menschlicher Arbeit, um Daten zu sammeln, zu säubern und zu annotieren. Diese „Geisterarbeit“ wird oft an Niedriglohnarbeiter weltweit ausgelagert, vor allem in wirtschaftlich gebeutelten Ländern.

Ausbeutung in Krisenökonomien. Firmen wie Scale AI und Sama nutzten Krisen wie den wirtschaftlichen Zusammenbruch Venezuelas oder die Pandemie in Kenia, um verzweifelte Arbeiter zu finden, die bereit waren, monotone und oft psychisch belastende Aufgaben für wenige Cent zu erledigen.

• Venezolaner arbeiteten für weniger als einen Dollar pro Stunde auf Plattformen wie Remotasks.
• Kenianische Arbeiter erhielten weniger als zwei Dollar pro Stunde, um toxische Inhalte für OpenAI zu filtern.
  Diese Abhängigkeit von prekären Arbeitsverhältnissen spiegelt historische koloniale Praktiken wider, bei denen unterworfene Bevölkerungen zur Ressourcengewinnung ausgebeutet wurden.

Die Kosten der „Datensümpfe“. Die Umstellung auf das Training mit ungefilterten, massiven Datensätzen („Data Swamps“) erhöhte den Bedarf an Inhaltsmoderation und Verstärkendem Lernen durch menschliches Feedback (RLHF). Dies setzte die Arbeiter verstörenden Inhalten aus, darunter kinderpornografischem Material, was zu schweren psychischen Belastungen führte – oft ohne angemessene Unterstützung oder faire Entlohnung.

4. Der Aufbau des KI-Imperiums verlangt enorme Ressourcen und verursacht weltweit erhebliche Umweltkosten.

Wenn wir diese Technologie so entwickeln, wie wir es bisher getan haben, werden wir die Erde verwüsten.

Physische Infrastruktur. KI-Modelle, besonders große generative, benötigen riesige physische Rechenzentren („Hyperscaler“ und „Megacampusse“) für Training und Inferenz. Diese Anlagen verbrauchen enorme Mengen an Energie, Land, Mineralien und Wasser.

Wachsende Umweltbelastung. Der Ressourcenbedarf wächst exponentiell mit der Skalierung.

• Bis 2030 könnten Rechenzentren 8 % des US-Stromverbrauchs ausmachen.
• Der weltweite Energieverbrauch für KI könnte den Indiens übersteigen.
• Der Wasserverbrauch für KI könnte bis 2027 zwischen 1,1 und 1,7 Billionen Gallonen Frischwasser betragen.
  Diese Ressourcenintensität verschärft den Klimawandel und belastet lokale Ökosysteme, besonders in wasserarmen Regionen.

Unverhältnismäßige Auswirkungen. Die Umweltlast trifft vor allem Gemeinschaften im Globalen Süden, wo Rechenzentren wegen günstiger Grundstücke, Energie und Wasser errichtet werden. Diese bereits durch historischen Extraktivismus verwundeten Regionen leiden unter:

• Erschöpften Wasserquellen.
• Steigender Energienachfrage, die lokale Netze belastet.
• Lärm- und Flächenbelastung.
  Trotz unternehmerischer Nachhaltigkeitsversprechen setzt sich hier oft die Ausbeutung von Ressourcen zugunsten entfernter Tech-Giganten fort.

5. Interne Konflikte zwischen Sicherheit und Kommerzialisierung verschärften sich, als OpenAI die Markteinführung beschleunigte.

Um erfolgreich zu sein, müssen diese drei Gruppen sich zu einem Stamm vereinen – ohne die Stärken jeder Gruppe zu verlieren – und gemeinsam auf eine AGI hinarbeiten, die der Menschheit maximal nützt.

Fraktionen innerhalb OpenAIs. Von Anfang an war OpenAI von internen Spannungen geprägt, die sich in drei Lager aufteilten: „Explorative Forschung“ (Fähigkeiten vorantreiben), „Sicherheit“ (Risiken im Blick) und „Startup“ (schnelles Handeln und Produktentwicklung). Diese Gruppen gerieten oft aneinander, was Prioritäten und Entwicklungstempo betraf.

Sicherheitsbedenken vs. Produktdruck. Die „Sicherheits“-Fraktion, insbesondere jene, die sich mit katastrophalen und existenziellen Risiken (Doomer) beschäftigten, wurde zunehmend alarmiert durch das schnelle Hochskalieren und die Einführung von Modellen wie GPT-3 und DALL-E 2 ohne ausreichende Tests oder Sicherheitsmechanismen. Sie forderten Vorsicht und Verzögerungen.

Kommerzielle Interessen setzten sich durch. Die „Angewandte“ Abteilung und das „Startup“-Lager, gestützt durch Investitionen und Umsatzdruck, drängten auf schnellere Produktveröffentlichungen („iterative Deployment“).

• Die GPT-3-API wurde trotz Sicherheitsbedenken freigegeben.
• DALL-E 2 erschien als „Forschungs-Vorschau“, um Risiken zu minimieren.
• ChatGPT wurde wegen wahrgenommener Konkurrenz hastig auf den Markt gebracht.
  Diese Entscheidungen übergingen oft Sicherheitswarnungen, was zu Spannungen führte und den Weggang wichtiger Sicherheitsforscher zur Folge hatte, die sich übergangen fühlten.

6. Sam Altmans Führungsstil – geprägt von Ehrgeiz, Deal-Making und angeblicher Manipulation – trieb sowohl Erfolg als auch Turbulenzen voran.

„Sam ist extrem gut darin, Macht zu erlangen.“

Ehrgeiz und Netzwerkaufbau. Sam Altman zeichnet sich durch unermüdlichen Ehrgeiz, Verhandlungsgeschick und strategischen Fokus auf den Aufbau mächtiger Netzwerke aus. Er nutzte seine Position bei Y Combinator und Beziehungen zu Persönlichkeiten wie Peter Thiel und Reid Hoffman, um seine Karriere und OpenAIs Stellung voranzutreiben.

Widersprüchliches Verhalten. Altman wird als charismatisch und nach außen hin gefällig beschrieben, zeigt aber auch Ängste und ein Muster, verschiedenen Personen das zu sagen, was sie hören wollen. Dies führte zu Verwirrung, Misstrauen und Konflikten unter Kollegen und Partnern, darunter:

• Falsche Darstellungen von Vereinbarungen mit Microsoft.
• Gegeneinander Ausspielen von Führungskräften (z. B. Sutskever und Pachocki).
• Unterminierung von Kritikern.
  Diese Verhaltensweisen, einzeln subtil, erzeugten auf höchster Ebene ein Gefühl der Instabilität.

Vorwürfe von Unehrlichkeit und Missbrauch. Schwerwiegendere Anschuldigungen, unter anderem von seiner Schwester Annie Altman und ehemaligen Kollegen wie Geoffrey Irving, zeichnen ein Bild einer langen Geschichte angeblicher Manipulation, Unehrlichkeit und Missbrauch. Während Altman und seine Familie diese Vorwürfe zurückweisen, trugen sie zu der Wahrnehmung bei, dass sein persönliches Verhalten problematisch und für seine Führung eines mächtigen KI-Unternehmens relevant sein könnte.

7. Die Krise im Vorstand 2023 offenbarte tiefe Machtkämpfe und Versagen in der Unternehmensführung an der Spitze der KI-Entwicklung.

Sie zeigte auf eindrücklichste Weise, wie sehr ein Machtkampf unter einer kleinen Elite des Silicon Valley die Zukunft der KI prägt.

Die Sorgen des Vorstands. Der gemeinnützige Vorstand von OpenAI, der die Mission über den Profit stellen soll, wurde zunehmend besorgt über Altmans Führungsstil, mangelnde Offenheit und Verhaltensweisen, die die Aufsicht des Vorstands und die Sicherheitskultur des Unternehmens untergruben. Rückmeldungen von Führungskräften wie Ilya Sutskever und Mira Murati verstärkten diese Bedenken.

Die Entlassung und ihre Folgen. Die Entscheidung des Vorstands, Altman zu feuern, löste eine chaotische fünftägige Phase aus.

• Mitarbeiter drohten mit Massenkündigungen.
• Investoren übten Druck auf den Vorstand aus, Altman wieder einzusetzen.
• Microsoft unterstützte Altman öffentlich und bot Jobs für ausscheidende Mitarbeiter an.
  Die schnelle und überwältigende Gegenreaktion offenbarte die Fehleinschätzung des Vorstands bezüglich Altmans Einfluss und die tiefe Loyalität, die er bei Mitarbeitern und wichtigen Akteuren genoss.

Versagen der Unternehmensführung. Die Krise legte die Fragilität von OpenAIs einzigartiger Governance-Struktur offen. Der gemeinnützige Vorstand, trotz seines Mandats, gab letztlich dem Druck wohlhabender Interessen und der drohenden Unternehmenskrise nach. Das Ereignis verdeutlichte, dass entscheidende Weichenstellungen für eine Technologie mit globaler Bedeutung hinter verschlossenen Türen von einer kleinen Gruppe getroffen wurden – mit begrenzter Transparenz selbst gegenüber den Mitarbeitern.

8. OpenAI gestaltet aktiv KI-Politik, um etablierte Akteure und Frontier-Modelle zu bevorzugen – oft auf Kosten aktueller Schäden.

Altmans Vorbereitungsteam wertete dies als durchschlagenden Erfolg.

Politische Einflussnahme. Nach dem Erfolg von ChatGPT starteten Sam Altman und OpenAI eine aggressive weltweite Lobbykampagne, trafen sich mit Entscheidungsträgern rund um den Globus, um KI-Regulierung mitzugestalten. Altmans Anhörung vor dem US-Kongress war ein Schlüsselmoment, der OpenAI als verantwortungsbewussten Vorreiter positionierte, der notwendige Schutzmaßnahmen fordert.

Fokus auf „Frontier“-Risiken. OpenAIs politische Vorschläge, unterstützt vom „Frontier Model Forum“ (darunter Google und Anthropic), legen den Schwerpunkt auf die Regulierung zukünftiger, potenziell katastrophaler Risiken durch hochleistungsfähige („Frontier“) KI-Modelle. Dies lenkt die Aufmerksamkeit von der Regulierung der gegenwärtigen, dokumentierten Schäden bestehender KI-Systeme ab, wie etwa:

• Arbeitsplatzverlust und Ausbeutung.
• Umweltbelastungen.
• Vorurteile und Diskriminierung.
• Urheberrechtsverletzungen und Datenschutzprobleme.

Compute-Schwellenwerte und Exportkontrollen. Wichtige Vorschläge, etwa die Nutzung von Compute-Schwellen (z. B. 10^26 FLOPs) zur Identifikation von „Frontier“-Modellen und deren Exportbeschränkungen (möglicherweise ein Verbot offener Modellgewichte), entsprechen OpenAIs Skalierungsstrategie und Wettbewerbsinteressen. Diese Maßnahmen drohen, die Dominanz von Unternehmen mit enormen Rechenressourcen zu zementieren und unabhängige Forschung und Entwicklung zu behindern.

9. Die Metapher des „KI-Imperiums“ offenbart beunruhigende Parallelen zu historischem Kolonialismus und Extraktivismus.

Im Laufe der Jahre fand ich nur eine Metapher, die das Wesen dieser KI-Machtspieler wirklich einfängt: Imperien.

Ressourcenausbeutung. Wie historische Imperien reißen KI-Unternehmen wertvolle Ressourcen an sich und schöpfen sie ab:

• Die Arbeit von Künstlern, Schriftstellern und Online-Nutzern (Daten).
• Die Arbeit von Niedriglohnkräften weltweit (Datenannotation, Inhaltsmoderation).
• Land, Energie, Wasser und Mineralien für Rechenzentren und Hardware.
  Diese Ausbeutung geschieht oft ohne Zustimmung, faire Entlohnung oder Rücksicht auf lokale Gemeinschaften und Umwelt.

Rechtfertigung durch Narrative. Das Streben nach AGI und das Versprechen einer besseren Zukunft („Modernität“, „Fortschritt“, „Überfluss“) dienen als mächtige Erzählung, um diese Ausbeutung zu legitimieren. Dies ähnelt historischen Imperien, die „Zivilisierungsmissionen“ als Rechtfertigung nutzten.

Konzentration von Reichtum und Macht. Die Vorteile dieses Systems kommen einer kleinen Elite im Silicon Valley und verbündeten Konzernen zugute, während die Kosten von verletzlichen Bevölkerungen weltweit getragen werden. Der unerbittliche Wettlauf, Konkurrenten im „KI-Rennen“ zu übertrumpfen, befeuert diese extraktive Dynamik weiter und konsolidiert Macht und Reichtum an der Spitze.

10. Alternative Visionen für die KI-Entwicklung eröffnen Wege zu dezentraler, ethischer und gemeinschaftsorientierter Technologie.

Künstliche Intelligenz muss nicht so sein, wie sie heute ist.

Widerstand gegen das dominante Paradigma. Gemeinschaften und Organisationen weltweit stellen das vorherrschende Modell der KI-Entwicklung infrage, das zentralisiert, ressourcenintensiv und extraktiv ist. Sie argumentieren, dass KI anders entwickelt werden kann – mit Priorität auf menschliches Wohlbefinden und ökologische Nachhaltigkeit.

Beispiele alternativer Ansätze:

• Gemeinschaftsorientierte KI: Projekte wie Te Hiku Media in Neuseeland entwickeln KI (z. B. Spracherkennung) basierend auf Gemeinschaftszustimmung, Gegenseitigkeit und Datenhoheit, mit kleinen, aufgabenorientierten Modellen.
• Ethische Forschungsinstitute: Organisationen wie DAIR (Distributed AI Research Institute) betreiben KI-Forschung mit Fokus auf betroffene Gemeinschaften, hinterfragen bestehende Systeme und entlohnen Arbeit fair.
• Aktivistische Bewegungen: Gruppen wie MOSACAT in Chile kämpfen gegen die Umweltfolgen von Rechenzentren, setzen sich für lokale Kontrolle über Ressourcen ein und entwerfen KI-Infrastrukturen, die mit ökologischer Wiederherstellung verbunden sind.

Machtumverteilung. Diese Initiativen zielen darauf ab, die Macht von zentralisierten KI-Imperien zu verschieben durch:

• Förderung unabhängiger Wissensproduktion und Forschung.
• Forderung nach Transparenz bei Daten, Modellen und Lieferketten.
• Einsatz für stärkeren Arbeits- und Umweltschutz.
• Aufbau kollektiver Stärke durch grenzüberschreitende Solidarität und Organisation.
  Diese Vision will die KI-Entwicklung zu einer demokratischeren, gerechteren und nachhaltigeren Zukunft formen.