Punti chiave
1. La base materiale dell’IA: la Terra come industria estrattiva
I media computazionali partecipano oggi a processi geologici (e climatologici), dalla trasformazione dei materiali terrestri in infrastrutture e dispositivi fino all’alimentazione di questi nuovi sistemi con riserve di petrolio e gas.
La dipendenza dell’IA dalle risorse. L’intelligenza artificiale non è un concetto etereo, ma un’industria profondamente materiale che si fonda sull’estrazione delle risorse della Terra. Dalle miniere di litio in Nevada ai giacimenti di terre rare nella Mongolia Interna, la creazione di sistemi di IA richiede una vasta catena di approvvigionamento di minerali, energia e materiali. Questa domanda alimenta pratiche minerarie spesso distruttive per l’ambiente, troppo spesso trascurate nei discorsi sul progresso tecnologico.
Impatto ambientale. La richiesta di risorse da parte del settore tecnologico contribuisce in modo significativo al degrado ambientale. L’estrazione dei minerali inquina corsi d’acqua, distrugge foreste e provoca lo spostamento di comunità. Inoltre, la natura energivora dell’IA, soprattutto nell’addestramento di modelli di grandi dimensioni, contribuisce a un’impronta di carbonio in crescita, paragonabile a quella dell’industria aerea.
Necessità di un cambio di prospettiva. Per comprendere il vero costo dell’IA, dobbiamo andare oltre le promesse astratte del progresso tecnologico e considerare le sue conseguenze materiali. Ciò implica riconoscere i costi ambientali e umani legati all’estrazione delle risorse, al consumo energetico e alle catene di approvvigionamento globali che sostengono i sistemi di IA.
2. Il costo umano: lo sfruttamento del lavoro nei sistemi di IA
Coordinare le azioni degli esseri umani con i movimenti ripetitivi di robot e macchinari di linea ha sempre significato controllare i corpi nello spazio e nel tempo.
La dipendenza dell’IA dal lavoro umano. Nonostante il racconto dell’automazione, i sistemi di IA si basano fortemente sul lavoro umano, spesso nascosto e mal retribuito. Si tratta di lavoratori digitali che etichettano dati, dipendenti di magazzini Amazon che evadono ordini, moderatori di contenuti che filtrano materiale dannoso. Questi lavoratori sono essenziali per il funzionamento dell’IA, ma il loro contributo è spesso sottovalutato e le loro condizioni di lavoro sfruttate.
Tempo e controllo. La gestione del tempo è centrale nello sfruttamento del lavoro nei sistemi di IA. I lavoratori sono sottoposti a sorveglianza costante e valutazioni algoritmiche, con ogni loro azione tracciata e misurata per massimizzare l’efficienza. Questo crea un ambiente lavorativo stressante e disumanizzante, dove i lavoratori sono trattati come semplici appendici della macchina.
Necessità di solidarietà tra lavoratori. Per contrastare lo sfruttamento del lavoro nei sistemi di IA, i lavoratori devono organizzarsi e chiedere migliori condizioni, salari equi e maggiore controllo sul proprio tempo e lavoro. Ciò richiede costruire solidarietà tra i diversi settori dell’industria dell’IA, dai minatori agli ingegneri, e sfidare le strutture di potere che perpetuano lo sfruttamento.
3. I dati come infrastruttura: la cancellazione del contesto e del consenso
Tutto il materiale digitale accessibile pubblicamente — inclusi dati personali o potenzialmente dannosi — è aperto alla raccolta per dataset di addestramento usati per produrre modelli di IA.
Estrazione dei dati. L’industria dell’IA si basa sulla raccolta massiccia di dati, spesso senza consenso o rispetto della privacy. Si tratta di informazioni personali, immagini e testi prelevati da internet e utilizzati per addestrare modelli di IA. Questa pratica tratta i dati come una risorsa gratuita, ignorando le implicazioni etiche e sociali della raccolta e dell’uso delle informazioni delle persone senza il loro consenso.
Dall’immagine all’infrastruttura. La trasformazione delle immagini in dati le priva del loro contesto e significato. Fotografie segnaletiche, selfie e foto personali diventano semplici punti dati, usati per addestrare sistemi di riconoscimento facciale e altri modelli di IA. Questa cancellazione del contesto può portare a risultati distorti e discriminatori, poiché i sistemi di IA imparano ad associare certe caratteristiche a stereotipi negativi.
Questioni etiche. Le pratiche attuali di raccolta e uso dei dati nell’IA sollevano profonde preoccupazioni etiche. Dobbiamo andare oltre l’idea che i dati siano una risorsa neutra e riconoscere le dinamiche di potere insite nella loro raccolta, etichettatura e utilizzo. Ciò richiede lo sviluppo di linee guida etiche e regolamentazioni che proteggano la privacy delle persone e prevengano l’abuso dei loro dati.
4. La classificazione come potere: codificare i pregiudizi nei sistemi di IA
Osservando come vengono effettuate le classificazioni, vediamo come gli schemi tecnici impongano gerarchie e amplifichino le disuguaglianze.
La classificazione come atto politico. I sistemi di IA si basano sulla classificazione per interpretare il mondo. Tuttavia, le categorie usate per classificare i dati non sono neutrali o oggettive, ma riflettono i pregiudizi e le assunzioni dei loro creatori. Questi pregiudizi possono essere codificati nei sistemi di IA, portando a risultati discriminatori.
Il problema del pregiudizio. È dimostrato che i sistemi di IA manifestano pregiudizi in vari ambiti, dal riconoscimento facciale alla giustizia penale. Questi pregiudizi spesso riflettono modelli storici di discriminazione, perpetuando e amplificando le disuguaglianze esistenti. Per esempio, i sistemi di riconoscimento facciale possono essere meno accurati per persone con pelle scura, causando errori di identificazione e arresti ingiustificati.
Oltre il dibattito sui pregiudizi. Per affrontare il problema dei pregiudizi nell’IA, dobbiamo superare le soluzioni tecniche e intervenire sulle strutture sociali e politiche che modellano i dati e gli algoritmi usati per addestrare i sistemi di IA. Ciò implica sfidare le dinamiche di potere che perpetuano le disuguaglianze e promuovere approcci più equi e inclusivi allo sviluppo dell’IA.
5. Il riconoscimento delle emozioni: la scienza problematica della lettura degli affetti
La soluzione all’enigma di Clever Hans, scrisse Pfungst, era la direzione inconscia data dai domandanti al cavallo.
La pretesa delle emozioni universali. I sistemi di riconoscimento affettivo si basano sull’idea che le emozioni siano universali e rilevabili in modo affidabile dalle espressioni facciali. Tuttavia, questa affermazione è fortemente contestata, con molti ricercatori che sostengono come le emozioni siano culturalmente variabili e dipendenti dal contesto.
L’influenza di Paul Ekman. Il lavoro dello psicologo Paul Ekman ha avuto un ruolo centrale nel campo del riconoscimento affettivo. La sua ricerca, iniziata negli anni ’60, sosteneva di aver identificato un insieme di emozioni di base universalmente espresse e riconosciute. Tuttavia, i suoi metodi e risultati sono stati ampiamente criticati per la mancanza di rigore scientifico.
Questioni etiche. Nonostante i dubbi scientifici, questi strumenti vengono rapidamente adottati in contesti ad alto rischio, dal reclutamento al controllo di polizia. Ciò solleva serie preoccupazioni etiche, poiché le persone possono essere giudicate e discriminate sulla base di valutazioni inaccurate e inaffidabili del loro stato emotivo.
6. L’IA come strumento del potere statale: sorveglianza e controllo
Il passato e il presente militare dell’intelligenza artificiale hanno plasmato le pratiche di sorveglianza, estrazione dati e valutazione del rischio che osserviamo oggi.
Origini militari dell’IA. Lo sviluppo dell’IA è stato fortemente influenzato dai finanziamenti e dalle priorità militari. Questo ha orientato il campo verso la sorveglianza, l’estrazione dati e la valutazione del rischio, con scarso riguardo per le implicazioni etiche e sociali.
L’archivio Snowden. L’archivio Snowden ha rivelato fino a che punto le agenzie di intelligence abbiano utilizzato l’IA per raccogliere e analizzare dati su scala massiccia. Questi strumenti, un tempo riservati alla sicurezza nazionale, sono ora impiegati anche a livello domestico, confondendo i confini tra sorveglianza militare e civile.
La strategia del Terzo Offset. La strategia militare statunitense del Terzo Offset mira a mantenere il dominio nell’IA collaborando con il settore tecnologico. Ciò ha portato a un rapporto stretto tra militari e Silicon Valley, con le aziende tech che forniscono strumenti e competenze all’ente della Difesa.
7. Le grandi case dell’IA: centralizzazione del potere e ampliamento delle asimmetrie
Queste dinamiche politiche sono guidate dalle Grandi Case dell’IA, ovvero le poche aziende che dominano il calcolo planetario su larga scala.
Concentrazione del potere. L’industria dell’IA è dominata da un numero ristretto di potenti corporation tecnologiche. Queste aziende controllano enormi quantità di dati, risorse e competenze, ottenendo un vantaggio significativo nel plasmare lo sviluppo e l’implementazione dei sistemi di IA.
Disuguaglianze crescenti. La concentrazione del potere nelle mani di pochi giganti tecnologici aggrava le disuguaglianze esistenti. I sistemi di IA sono spesso progettati per servire gli interessi di queste aziende, ampliando ulteriormente il divario tra ricchi e poveri, potenti e marginalizzati.
Necessità di regolamentazione. Per affrontare la concentrazione del potere nell’industria dell’IA, servono regolamentazioni più stringenti che promuovano la concorrenza, tutelino la privacy e garantiscano un uso dell’IA a beneficio della società nel suo complesso. Ciò implica sfidare il dominio dei giganti tecnologici e promuovere forme di governance dell’IA più democratiche e responsabili.
8. Sfida alle logiche: verso movimenti interconnessi per la giustizia
Con il mutare delle condizioni sulla Terra, le richieste di protezione dei dati, diritti dei lavoratori, giustizia climatica ed equità razziale devono essere ascoltate insieme.
Movimenti interconnessi. Affrontare i problemi fondamentali dell’IA richiede di collegare le questioni di potere e giustizia. Ciò include la protezione dei dati, i diritti dei lavoratori, la giustizia climatica e l’equità razziale. Lavorando insieme, questi movimenti possono sfidare le strutture di potere che l’IA attualmente rafforza.
Politiche del rifiuto. Dobbiamo rifiutare l’idea che l’IA sia inevitabile e che non abbiamo scelta se non accettarne le conseguenze. Questo richiede di contestare le narrazioni del determinismo tecnologico e di chiedere forme di governance dell’IA più democratiche e responsabili.
Una visione diversa. Collegando le questioni di potere e giustizia, possiamo creare una visione alternativa per l’IA, che metta al centro il benessere umano, la sostenibilità ambientale e l’equità sociale. Ciò implica sfidare le logiche estrattive dell’IA e costruire un futuro più giusto e sostenibile per tutti.
Sintesi delle recensioni
Atlas of AI ha suscitato pareri contrastanti: da un lato, viene apprezzato per la sua analisi critica degli impatti sociali e ambientali dell’intelligenza artificiale; dall’altro, viene criticato per uno stile a tratti ripetitivo e per l’assenza di soluzioni concrete. I lettori riconoscono il valore dell’esplorazione dei costi materiali dell’IA, dello sfruttamento del lavoro e delle questioni etiche che essa solleva. Tuttavia, alcuni lo giudicano eccessivamente pessimista e carente di approfondimenti tecnici. Il libro viene lodato per il suo approccio esaustivo, ma al contempo criticato per un tono accademico e per una certa dispersione tematica. Nonostante queste imperfezioni, molti lo considerano una lettura fondamentale per comprendere le implicazioni più ampie dell’intelligenza artificiale.
Altri hanno letto anche
FAQ
What's Atlas of AI about?
- Exploration of AI's Impact: Atlas of AI by Kate Crawford delves into the profound implications of artificial intelligence on society, politics, and the environment. It critiques the portrayal of AI as a neutral technology, highlighting its entanglement with power structures and extractive industries.
- Critique of AI Myths: The book challenges the notion that AI can replicate human intelligence, emphasizing that intelligence is shaped by cultural and historical contexts. Crawford uses examples like Clever Hans to illustrate biases in systems claiming objectivity.
- Interconnected Systems: Crawford presents AI as a "megamachine" reliant on a vast network of resources, including human labor and natural materials, urging readers to consider the broader implications of AI technologies on human rights and social justice.
Why should I read Atlas of AI?
- Critical Perspective: The book offers a critical lens on AI, challenging readers to think about the ethical and social ramifications of technology. It encourages a deeper understanding of how AI systems are designed and the biases they may perpetuate.
- Broader Context: Crawford situates AI within a larger framework of extraction and exploitation, linking it to historical and contemporary issues of power and inequality. This context is crucial for understanding the societal impacts of AI.
- Engaging Narratives: Combining rigorous research with compelling storytelling, the book makes complex topics accessible and engaging. Readers will find a blend of academic analysis and real-world examples that illustrate the stakes involved in AI development.
What are the key takeaways of Atlas of AI?
- AI as a Power Structure: The book posits that AI reflects existing power structures, serving the interests of those in control. AI systems are not neutral but are designed to optimize for specific outcomes that often reinforce inequality.
- Environmental and Labor Costs: Crawford highlights the significant environmental impact of AI, particularly in terms of resource extraction and energy consumption, and reveals how AI systems rely on cheap labor from marginalized communities.
- Call for Justice: Crawford advocates for a movement towards justice that addresses the interconnectedness of technology, capitalism, and social equity. She urges readers to consider how AI can be reoriented to serve the public good rather than perpetuate harm.
What are the best quotes from Atlas of AI and what do they mean?
- "Artificial intelligence is a registry of power.": This quote encapsulates Crawford's argument that AI systems reflect and reinforce existing power dynamics rather than being impartial technologies. It suggests that understanding AI requires examining who benefits from its deployment.
- "The story of Clever Hans is a cautionary reminder that you can’t always be sure of what a model has learned from the data it has been given.": This highlights the potential for bias in AI systems, emphasizing that the data used to train models can lead to misleading conclusions.
- “AI systems are expressions of power that emerge from wider economic and political forces.”: This quote challenges the reader to critically assess who benefits from AI technologies, emphasizing that AI is not neutral but reflects and amplifies existing power dynamics.
How does Kate Crawford define artificial intelligence in Atlas of AI?
- Not Artificial or Intelligent: Crawford argues that AI is neither truly artificial nor genuinely intelligent. Instead, it is a complex interplay of human labor, natural resources, and socio-political structures.
- Embodied and Material: She emphasizes that AI systems are built from physical materials and depend on extensive infrastructures, which include energy and labor. This challenges the common perception of AI as a purely digital phenomenon.
- Political and Social Practices: Crawford asserts that AI is shaped by political and social practices, meaning it cannot be understood in isolation from the contexts in which it operates.
What is the Clever Hans Effect mentioned in Atlas of AI?
- Observer-Expectancy Effect: The Clever Hans Effect refers to the phenomenon where a subject performs based on unintentional cues from the observer rather than genuine understanding. This highlights the influence of biases in interpreting intelligence.
- Implications for AI: Crawford uses this effect to illustrate how AI systems can also be misinterpreted based on the data they are trained on and the expectations of their creators.
- Broader Context of Intelligence: The effect raises questions about how intelligence is defined and measured, suggesting that our understanding of intelligence is often shaped by cultural and contextual factors.
How does Atlas of AI address the environmental impact of AI?
- Resource Extraction: Crawford discusses the extensive mining and resource extraction required to power AI technologies, particularly the demand for rare earth minerals, leading to significant ecological damage.
- Energy Consumption: The book highlights the enormous energy demands of AI systems, particularly in data centers, which contribute to carbon emissions and climate change.
- Interconnectedness with Climate Justice: Crawford connects the environmental impact of AI to broader issues of climate justice, arguing that the exploitation of resources for AI disproportionately affects marginalized communities.
What role does labor play in the construction of AI according to Atlas of AI?
- Exploitation of Workers: Crawford reveals how AI systems rely on cheap labor, often sourced from vulnerable populations, to function effectively. This exploitation is a critical aspect of the AI industry.
- Digital Piecework: The book discusses the rise of digital piecework, where workers are paid minimal amounts to perform tasks that support AI systems, such as labeling data.
- Surveillance and Control: Crawford highlights how AI technologies increase surveillance and control over workers, leading to a more regimented and exploitative work environment.
How does Atlas of AI address the issue of data extraction?
- Data Colonialism: Crawford discusses how data extraction often mirrors colonial practices, where marginalized communities are exploited for their data without consent or benefit.
- Consent and Privacy: The book emphasizes the lack of informed consent in data collection practices, particularly in how personal data is harvested for AI training.
- Impact on Communities: The extraction of data can have detrimental effects on communities, reinforcing existing inequalities and injustices.
What critiques does Atlas of AI offer regarding emotion recognition technologies?
- Scientific Foundations Questioned: Crawford highlights that many emotion recognition technologies are based on flawed scientific assumptions, particularly the idea that facial expressions universally correspond to specific emotions.
- Cultural Bias: The book points out that emotion recognition systems often fail to account for cultural differences in emotional expression, leading to biased outcomes.
- Potential for Harm: Crawford warns that deploying these technologies without understanding their limitations can lead to harmful consequences, such as misinterpretation of individuals' emotional states.
How does Atlas of AI connect AI to state power?
- Surveillance and Control: Crawford discusses how AI technologies are increasingly used by state actors for surveillance and control, often without adequate oversight.
- Military Applications: The book explores the relationship between AI development and military applications, particularly through programs like Project Maven.
- Corporate-State Collaboration: Crawford highlights the collaboration between tech companies and government agencies, suggesting that this partnership can lead to a lack of accountability and transparency.
What are the implications of Atlas of AI for the future of technology?
- Reevaluation of AI Development: Crawford's work calls for a reevaluation of how AI technologies are developed and deployed, emphasizing the need for ethical considerations and social responsibility.
- Advocacy for Justice Movements: The book encourages readers to engage in justice movements that address the intersections of technology, labor, and environmental issues.
- Critical Engagement with AI: Crawford urges readers to critically engage with AI technologies, questioning their implications and advocating for transparency and accountability.
