Kluczowe wnioski
Założycielski altruizm OpenAI stał się maską dla budowania imperium
Taktyka „przynęty i zamiany" stanowi główną tezę książki. W 2015 roku OpenAI wystartowało jako organizacja non-profit, deklarując miliard dolarów i obiecując otwarte badania, przejrzystość, a nawet gotowość do poświęcenia: gdyby konkurent zbliżył się bardziej do stworzenia korzystnej AGI, OpenAI zobowiązywało się zaprzestać rywalizacji i zacząć pomagać. W ciągu kilku lat stało się dokładnym przeciwieństwem. Agresywnie skomercjalizowało ChatGPT, odcięło dostęp do badań i wywołało właśnie ten wyścig na dno, przed którym samo ostrzegało.
Główny argument Hao sprowadza się do tego, że misja OpenAI (zapewnić, by sztuczna inteligencja ogólna służyła ludzkości) działa jak trzyczęściowa formuła konsolidacji władzy: mobilizuje talenty wokół quasi-religijnej sprawy, uzasadnia gromadzenie kapitału i zasobów, powołując się na groźnych konkurentów, i pozostaje na tyle mglistą, że kierownictwo może ją reinterpretować w sposób odpowiadający własnej ekspansji.
Uderzające jest to, jak Hao przedstawia idealizm nie jako ofiarę chciwości, lecz jako jej narzędzie. Mglistość pojęcia „korzystna AGI" działa jak elastyczne deklaracje misji, które socjolog Max Weber opisywał w kontekście instytucji charyzmatycznych: niefalsyfikowalne, nieskończenie odnawialne. Krytycy mogliby kontrargumentować, że dryfowanie misji dotyka niemal każdego startupu borykającego się z ograniczeniami kapitałowymi i że koszty mocy obliczeniowej OpenAI rzeczywiście wymagały przychodów komercyjnych. Jednak celniejszy argument Hao pozostaje w mocy: żadna inna organizacja nie przekształciła niefalsyfikowalnej obietnicy dotyczącej przyszłości w licencję na bieżącą eksploatację równie skutecznie. Metafora imperium niesie ryzyko przesady, ale trafnie nazywa dynamikę, której określenie „korporacyjna hipokryzja" nie oddaje w pełni.
Skalowanie to samospełniająca się przepowiednia, nie prawo natury
Moc obliczeniowa stała się religią. Współzałożyciel Ilja Sutskever głosił prosty dogmat: większe sieci neuronowe, karmione większą ilością danych i mocy obliczeniowej, zrodzą inteligencję. OpenAI odkryło, że możliwości AI podwajały się co 3,4 miesiąca, znacznie wyprzedzając prawo Moore'a. Nazwali to „prawami skalowania
Jednak Hao upiera się, że skalowanie było wyborem, nie fizyką. GPT-4 jest podobno ponad 15 000 razy większy niż GPT-1 zbudowany pięć lat wcześniej. Istniały alternatywy: Stable Diffusion potrzebował zaledwie 256 chipów w porównaniu z superkomputerami OpenAI, a podejścia neurosymboliczne lub dane lepszej jakości mogły osiągnąć podobną wydajność przy znacznie mniejszej mocy obliczeniowej. Samo prawo Moore'a nigdy nie było fizyką — było celem biznesowym Gordona Moore'a, który branża postanowiła realizować. Skalowanie zwyciężyło, ponieważ było najłatwiejsze do skomercjalizowania i nagradzało tych, którzy dysponowali największą ilością danych.
Najgłębsza myśl ma tu charakter epistemologiczny: przewidywanie, raz przyjęte przez wpływowych aktorów, wytwarza warunki, które je potwierdzają. Przywodzi to na myśl „samospełniającą się przepowiednię
Współczesna sztuczna inteligencja opiera się na ukrytych pracownikach zarabiających poniżej 2 dolarów za godzinę
„Bagno danych" generowało traumatyczną pracę. Gdy OpenAI przestało filtrować dane treningowe i zamiast tego zaczęło zgarniać całą zawartość internetu, potrzebowało ludzi do oczyszczania toksycznych wyników. Firma zawarła umowę z przedsiębiorstwem Sama, które zatrudniło kenijskich pracowników sortujących opisy wykorzystywania seksualnego dzieci, zoofilii i przemocy za stawkę od około 1,46 do 3,74 dolara za godzinę.
Schemat powtarza się po załamaniach gospodarczych. Firmy zajmujące się adnotacją danych, takie jak Scale AI, dopracowały sprawdzony scenariusz: wchodzić do krajów pogrążonych w kryzysie (Wenezuela w czasie hiperinflacji sięgającej 10 milionów procent, potem Kenia, potem Afryka Północna), oferować wysokie wynagrodzenie, by przyciągnąć pracowników, a następnie dusić płace po ugruntowaniu swojej pozycji. Jeden z pracowników, Mophat Okinyi, przeglądał treści dotyczące wykorzystywania seksualnego, aż zniszczyło to jego małżeństwo i zdrowie psychiczne. Gdy pracownicy zaczęli używać ChatGPT, by przyspieszyć wykonywanie własnych zadań, Scale umieściło na czarnej liście całe kraje za „oszukiwanie".
Reportaże Hao rozszerzają koncepcję „pracy-widmo" Mary Gray i Siddhartha Suriego: niewidocznej ludzkiej pracy podtrzymującej rzekomo zautomatyzowane systemy. Tym, co jest tu nowo druzgocące, jest moralna inwersja, którą Hao dokumentuje. Pracownik umysłowy wykorzystujący ChatGPT do zwiększenia produktywności jest fetowany jako przyszłość pracy; kenijski annotator robiący to samo zostaje zwolniony za oszustwo. Kolonialna analogia nie jest retorycznym ozdobnikiem, lecz ma charakter strukturalny: firmy celowo wyszukują populacje wykształcone, podłączone do internetu i zdesperowane. Zasadnym wyzwaniem jest pytanie, czy moderacja treści może kiedykolwiek być humanitarna na dużą skalę, ale argument Hao pozostaje w mocy — obecne wynagrodzenia i zabezpieczenia psychologiczne odzwierciedlają celowe cięcie kosztów, a nie konieczność.
Centra danych wysysają wodę i energię od najbardziej bezbronnych społeczności świata
Sztuczna inteligencja ma fizyczne ciało — i jest spragniona. Trening GPT-3 pochłonął według doniesień 1287 megawatogodzin energii, a w ciągu jednego miesiąca w dotkniętej suszą Iowie centra danych Microsoftu zużyły około 6 procent wody jednego okręgu wodociągowego. Każde zapytanie do ChatGPT wymaga mniej więcej dziesięciokrotnie więcej energii elektrycznej niż wyszukiwanie w Google.
Koszty spadają na marginalizowanych. W chilijskim regionie Atacama społeczności, już wyniszczone przez wydobycie miedzi i litu, walczą teraz z centrami danych o swoją wodę. W Urugwaju, podczas suszy tak dotkliwej, że rząd mieszał wodę morską z kranówką, Google planowało centrum zużywające dwa miliony galonów wody pitnej dziennie. Aktywiści tacy jak Daniel Pena i grupa MOSACAT wymusili ujawnienie informacji i zablokowali projekty. Do 2030 roku centra danych mogą pochłaniać 8 procent energii elektrycznej w USA.
Ten rozdział osadza abstrakcję „chmury" w błocie, suszy i zanieczyszczeniu hałasem, nawiązując do „Atlas of AI" Kate Crawford i jej przekonania, że obliczenia to wydobycie. Ujęcie AI jako najnowszego rozdziału kolonializmu zasobowego jest prowokacyjne i w dużej mierze uzasadnione: te same regiony, które zaopatrywały imperia kolonialne, teraz zaopatrują imperium mocy obliczeniowej. Warto dodać niuans — część wody jest recyrkulowana, a niektóre regiony dysponują nadwyżką energii odnawialnej, więc obraz nie jest jednolity. Jednak zasadnicze obnażenie przez Hao korporacyjnej tajemnicy, firm-wydmuszek i złamanych obietnic zrównoważonego rozwoju ujawnia branżę, która aktywnie ukrywa koszty, które mogłaby ujawnić.
Nazwanie tego „inteligencją" było chwytem marketingowym, który wciąż nas oszukuje
Grzech pierworodny tej dziedziny polegał na zmianie nazwy. W 1956 roku John McCarthy potrzebował chwytliwszego określenia niż „badania nad automatami", żeby przyciągnąć finansowanie, więc ukuł termin „sztuczna inteligencja". Słowo to przemyciło w sobie obietnicę. Tymczasem nie istnieje naukowy konsensus co do tego, czym w ogóle jest inteligencja, a każdy punkt odniesienia (szachy, Go, test Turinga) zostaje przekroczony, po czym odrzucony jako „nie prawdziwa inteligencja".
Antropomorfizacja ma swoje konsekwencje. W 1966 roku prosty chatbot ELIZA, stworzony przez Josepha Weizenbauma, zdołał wmówić ludziom, że ich rozumie, czym zaniepokoił nawet swojego twórcę. ChatGPT celowo posiada ten sam człekopodobny interfejs. Kiedy programiści mówią, że modele „uczą się" lub „czytają" jak ludzie, zawyża to postrzegane możliwości tych systemów, a jednocześnie służy jako tarcza prawna: firmy argumentują, że trenowanie na materiałach chronionych prawem autorskim to po prostu „inspiracja" — tak jak czytanie w przypadku człowieka.
Hao ożywia ostrzeżenie Weizenbauma z nową pilnością. Sformułowanie lingwistki Emily Bender o „stochastycznej papudze" stanowi tu dopełnienie: modele generują statystycznie prawdopodobny tekst bez znaczenia czy intencji, a mimo to nasz mózg nie potrafi przestać wyobrażać sobie umysłu stojącego za płynnymi słowami. Ta obserwacja uderza zarówno w retorykę branży, jak i w intuicję konsumentów. Można pójść dalej: antropomorfizacja to nie tylko zabieg marketingowy, lecz także poznawczy mechanizm domyślny, udokumentowany w psychologii rozwojowej, którego żadne zastrzeżenie nie jest w stanie w pełni zneutralizować. Ma to znaczenie, ponieważ nieuzasadnione zaufanie już wyrządziło szkody — od prawnika powołującego się na sfabrykowane orzeczenia po samobójstwo Belga po rozmowach z chatbotem. Sam termin „halucynacja", jak zauważa Hao, w mylący sposób sugeruje błąd, a nie podstawowy mechanizm działania.
Dwie rywalizujące religie AI — Entuzjaści i Katastrofiści — czczą tego samego boga
Dolina Krzemowa podzieliła się na obozy, które są swoim lustrzanym odbiciem. Katastrofiści (Doomers), przesiąknięci ideami efektywnego altruizmu, obawiają się, że wymknięta spod kontroli superinteligencja może doprowadzić do zagłady ludzkości, i chcą spowolnić lub ostrożnie kontrolować rozwój AI. Entuzjaści (Boomers), czyli efektywni akceleracjoniści, postrzegają postęp technologiczny jako moralny imperatyw, który należy przyspieszyć. Anthropic i OpenAI stały się sztandarowymi przedstawicielami każdej ze stron.
Obie strony głoszą kazania z tego samego pisma świętego. Kluczowa obserwacja Hao: obie traktują AGI jako nieuchronne i bliskie, obie mówią o nim z religijnym zapałem i obie roszczą sobie prawo do moralnego autorytetu, by utrzymać rozwój AI w rękach swoich wyznawców. Jedna ostrzega przed ogniem piekielnym, druga obiecuje niebo, ale żadna nie kwestionuje, czy ta technologia w ogóle powinna być tworzona ani kto ma o tym decydować. Matematyka „wartości oczekiwanej" efektywnego altruizmu usprawiedliwiała nawet bogacenie się po to, by później rozdawać pieniądze.
To jeden z najbardziej rozjaśniających zabiegów w książce: pozorna debata zostaje sprowadzona do wspólnej teologii. Oba obozy czerpią korzyści z szumu medialnego, ponieważ egzystencjalna stawka — czy to budzące strach, czy entuzjazm — sprawia, że technologia wydaje się wydarzeniem historycznym na skalę światową i uzasadnia koncentrację kontroli w rękach wąskiej elity. To ujęcie przywołuje na myśl badania religioznawcze nad ruchami millenarystycznymi, skupionymi na nadchodzącym końcu czasów. Argument na korzyść Katastrofistów: niektóre zagrożenia mogą być realne niezależnie od tego, kto czerpie zyski z tej narracji. Jednak spostrzeżenie Hao o brakującej trzeciej pozycji (czy to w ogóle powinno być budowane i przez kogo) odsłania, jak samo sformułowanie debaty służy dominującym graczom, nie dopuszczając outsiderów do stołu.
ChatGPT był „skromnym podglądem badawczym
Najważniejsza premiera w historii AI była niemal przypadkiem. Obawiając się, że Anthropic jako pierwszy wypuści chatbota, OpenAI w pośpiechu udostępniło interfejs czatowy oparty na istniejącym modelu GPT-3.5 w listopadzie 2022 roku. Kierownictwo nazwało to „skromnym podglądem badawczym
Stał się najszybciej rosnącą aplikacją konsumencką w historii
Ten epizod to studium przypadku
Geniusz Altmana to talent do słuchania, zawierania transakcji i sprzedawania opowieści w służbie władzy
Czerwoną nicią kariery Altmana są wpływy, nie kod. Jego mentor Paul Graham powiedział, że można by go zostawić na wyspie kanibali, a po powrocie zastać go jako króla. Nazywany „Michaelem Jordanem słuchania", Altman zapamiętuje drobne szczegóły dotyczące ludzi, hojnie oferuje pomoc i kapitał, a następnie wykorzystuje tę życzliwość. Zbudował powiązania finansowe z ponad 400 firmami, przez co trudno znaleźć kogokolwiek w jego orbicie, kto nie miałby udziału w jego sukcesie.
Powraca mroczniejszy schemat. Dwukrotnie w jego pierwszym startupie Loopt starsi pracownicy nalegali, by zarząd go zwolnił za przedkładanie własnych korzyści i zniekształcanie prawdy w drobny, trudny do uchwycenia sposób. Te same zarzuty pojawiły się ponownie w OpenAI: mówienie ludziom tego, co chcą usłyszeć, a następnie podkopywanie pozycji oponentów, aż ustąpią. Za każdym razem wychodził z tego z przewagą.
Hao przedstawia konkretny archetyp: przedsiębiorcę sieciowego, którego produktem są relacje. Koresponduje to z badaniami socjologa Ronalda Burta nad „lukami strukturalnymi", zgodnie z którymi władza kumuluje się w rękach tych, którzy pośredniczą w kontaktach między odizolowanymi od siebie grupami. Geniusz Altmana polegał na uczynieniu siebie niezastąpionym węzłem Doliny Krzemowej. „Drobne cięcia" w postaci niewielkich nieuczciwości — z osobna błahych, lecz w sumie niszczących zaufanie — to psychologicznie przenikliwa obserwacja, która wpisuje się w badania nad tym, jak zdrada rozkłada zespoły. Uczciwe zastrzeżenie: źródła Hao są przechylone w stronę osób, które weszły w konflikt z Altmanem, a charyzma w połączeniu z ambicją to cechy wielu skutecznych założycieli firm. Mimo to powtarzalność tego wzorca na przestrzeni dwóch dekad i dwóch firm trudno zbyć jako zbieg okoliczności.
Pięciodniowy zamach stanu udowodnił, że garstka wtajemniczonych kontroluje przyszłość AI
W listopadzie 2023 roku zarząd OpenAI zwolnił Altmana za brak „konsekwentnej szczerości
Wnioski Hao wykraczają poza kwestię tego, kto wygrał. Dramat ujawnił, że los technologii zdolnej kształtować cywilizację spoczywa w rękach garstki elit Doliny Krzemowej, których sprzeczne ego, ideologie i lojalności ścierają się za zamkniętymi drzwiami. Nawet pracownicy samego OpenAI zostali pozostawieni w niewiedzy. Rada non-profit, zaprojektowana jako ostateczny mechanizm kontroli bezpieczeństwa, natychmiast ugięła się pod presją pieniędzy.
Implozja zarządu to przypowieść o zarządzaniu. Struktura, którą sam Altman zaprojektował — przyznając radzie non-profit uprawnienia do zwolnienia go dla dobra ludzkości — okazała się teatralna w momencie, gdy została skonfrontowana z miliardami Microsoftu i udziałami kapitałowymi pracowników. Mrożące krew w żyłach słowa dyrektor Helen Toner, że zniszczenie firmy mogłoby być zgodne z misją, obnażyły, jak oderwane od realnych bodźców było to zabezpieczenie. Politolodzy badający projektowanie instytucjonalne zauważają, że papierowe mechanizmy kontroli nic nie znaczą bez odpowiednio umocowanej władzy zdolnej je egzekwować. To, co pozostaje w pamięci, to deficyt demokratyczny: osiem miliardów ludzi dotkniętych konsekwencjami, około dziesięciu podejmujących decyzje. Pytanie Hao o zarządzanie (kto kształtuje AI) staje się tu konkretne i niepokojące.
Jest inna droga: małe, oparte na zgodzie, będące własnością społeczności systemy AI już działają
Antidotum Hao to maoryska stacja radiowa w Nowej Zelandii. Te Hiku Media chciało transkrybować archiwalne nagrania starszyzny, aby ożywić te reo — zagrożony wymarciem język. Zamiast zgarniać dane, oparli się na trzech zasadach: zgody, wzajemności i suwerenności. Poprosili społeczność o pozwolenie, zbierali dane wyłącznie od chętnych darczyńców i zachowali je pod maoryską opieką, udostępniając je na licencji jedynie do zatwierdzonych zastosowań.
Wyniki obalają dogmat skali. W ciągu dziesięciu dni ufni członkowie społeczności przekazali 310 godzin transkrybowanego dźwięku — wystarczająco, by zbudować model mowy o 86-procentowej dokładności, wykorzystując zaledwie dwa chipy. Porównajmy to z 680 000 godzin, które OpenAI zeskrobało na potrzeby swojego narzędzia Whisper. Wniosek: zadaniowo ukierunkowana, oparta na zgodzie, energooszczędna AI może podnosić zmarginalizowane społeczności, zamiast z nich czerpać.
Te Hiku przeformułowuje całą debatę — z pytania „jak uczynić AI dobrym
Redystrybucja władzy wzdłuż trzech osi: wiedzy, zasobów i wpływów
Hao proponuje konkretną formułę demontażu imperium. Giganci AI kontrolują trzy osie władzy, z których każda wzmacnia pozostałe: wiedzę (poprzez erozję otwartej nauki i ukrywanie modeli przed kontrolą), zasoby (poprzez gromadzenie danych, mocy obliczeniowej, gruntów i siły roboczej) oraz wpływy (poprzez wytwarzanie ideologii i olśniewających demonstracji, które pobudzają wyobraźnię).
Przeciwdziałania wzdłuż każdej z osi:
1. Finansowanie niezależnych badań i ewaluatorów, abyśmy nie musieli polegać na firmach oceniających własną pracę domową.
2. Wymóg ujawniania danych treningowych i specyfikacji technicznych — tak jak samochody otrzymują etykiety energetyczne, a leki przechodzą kontrolę FDA.
3. Wzmocnienie ochrony praw pracowniczych i związków zawodowych, wzorem hollywoodzkich scenarzystów, którzy wywalczyli zabezpieczenia dotyczące AI.
4. Inwestowanie w szeroką edukację publiczną, aby rozwiać aurę tajemniczości.
5. Wspieranie oddolnych, dekolonialnych inicjatyw AI, takich jak DAIR i Te Hiku.
Siła tej recepty tkwi w odrzuceniu zarówno fatalizmu, jak i technooptymizmu — autorka upiera się, że AI jest produktem tysięcy podważalnych ludzkich decyzji, a nie przeznaczeniem. Analogie do etykiet energetycznych i kontroli FDA są retorycznie skuteczne: już teraz regulujemy produkty konsumenckie bardziej niż systemy oparte na danych, które wpływają na miliardy ludzi. Ograniczeniem pozostaje egzekwowanie przepisów. Wymogi przejrzystości napotykają zaciekły lobbing, czego dowodzi zawetowana w Kalifornii ustawa SB 1047, a globalne łańcuchy dostaw wymykają się prawu krajowemu. Nacisk Hao na transgraniczną solidarność wśród dotkniętych społeczności — od kenijskich annotatorów po chilijskich aktywistów — przywołuje historię ruchu robotniczego: władzy skoncentrowanej globalnie można przeciwstawić się jedynie poprzez globalne organizowanie się. Czy taka koalicja zdoła powstać w obliczu bilionowych korporacji — to pytanie, które pozostaje otwarte.
Analiza
„Imperium AI" Karen Hao najlepiej rozumieć jako dziennikarstwo śledcze w zbroi teorii politycznej. Jej centralny zabieg konceptualny — przedstawienie OpenAI i podobnych firm jako współczesnych imperiów — nie jest ozdobnikiem. Imperia, jak argumentuje Hao, przejmują zasoby, które do nich nie należą, eksploatują odległą siłę roboczą, usprawiedliwiają podbój rywalizacją z konkurencyjnymi imperiami i maskują wyzysk narracjami o cywilizacyjnym postępie. Każdy z tych elementów znajduje swoje odwzorowanie w świecie AI: zeskrobane dane i dzieła sztuki, niedopłacani annotatorzy z Globalnego Południa, nieustanne przywoływanie Chin i ewangelia „korzystnej AGI".
Strukturalną innowacją książki jest podwójna optyka. Hao przeplata kulisy intryg w gabinetach najbardziej tajemniczego laboratorium Doliny Krzemowej z reportażami z terenu — z Kenii, Chile, Urugwaju i Wenezueli. To zestawienie samo w sobie stanowi argument: w tych samych tygodniach, gdy wycena OpenAI osiągnęła 157 miliardów dolarów, kenijscy pracownicy, którzy uczynili ChatGPT bezpiecznym, byli wpisywani na czarne listy, a chilijskie społeczności walczyły o dostęp do wody pitnej. Bogactwo płynie w górę; koszty spadają na najsłabszych.
To, co odróżnia tę pracę od pokrewnych krytyk (kapitalizm inwigilacji Zuboff, teza o ekstrakcji Crawford, stochastyczne papugi Bender), to dostęp, jakim dysponuje Hao. Jej profil z 2019 roku uczynił ją pierwszą dziennikarką osadzoną wewnątrz OpenAI, a jej źródła dotyczące kryzysu zarządu w listopadzie 2023 roku są bezkonkurencyjne — łącznie z surrealistycznym przypadkowym przeniknięciem do wspólnej skrzynki pocztowej autorów listu przeciwko Altmanowi.
Warto wskazać słabsze strony książki. Metafora imperium momentami się nadwyręża, a sama Hao przyznaje, że imperia AI nie stosują jawnej przemocy swoich kolonialnych poprzedników. Jej źródła dotyczące Altmana skłaniają się ku osobom, które weszły z nim w konflikt. A jej optymizm wobec małoskalowych alternatyw, takich jak Te Hiku, może nie doceniać tego, dlaczego systemy ogólnego przeznaczenia przyciągają kapitał: obiecują zwroty, których wąsko wyspecjalizowane narzędzia zapewnić nie mogą.
Mimo to osiągnięcie jest trwałe. Hao przeformułowuje kluczowe pytanie — z preferowanego przez branżę „jak uczynić AI bezpiecznym" na polityczne „kto decyduje i kto ponosi koszty". Upierając się, że nic w kształcie tej technologii nie było nieuchronne, otwiera na nowo przyszłość, którą obecni gracze woleliby zamknąć. Książka jest nie tyle proroctwem zagłady, co żądaniem demokratycznego rozliczenia.
Podsumowanie recenzji
Empire of AI otrzymuje mieszane recenzje — chwalona jest za dziennikarstwo śledcze dotyczące OpenAI i Sama Altmana, ale krytykowana za postrzeganą stronniczość i brak głębi technicznej. Niektórzy czytelnicy doceniają ujawnienie wpływu AI na środowisko i warunki pracy, podczas gdy inni uważają książkę za nadmiernie krytyczną i ideologicznie nacechowaną. Struktura narracji i skupienie się na szczegółach osobistych budzą kontrowersje. Ogólnie czytelnicy cenią wgląd w ewolucję OpenAI i praktyki branży AI, ale opinie na temat perspektywy i wniosków książki są podzielone.
Pobierz PDF
Pobierz EPUB
.epub digital book format is ideal for reading ebooks on phones, tablets, and e-readers.
