Điểm chính
1. Cơ sở vật chất của AI: Trái Đất như một ngành công nghiệp khai thác
Truyền thông tính toán giờ đây tham gia vào các quá trình địa chất (và khí hậu), từ việc biến đổi vật liệu của trái đất thành cơ sở hạ tầng và thiết bị đến việc cung cấp năng lượng cho các hệ thống mới này bằng dầu mỏ và khí đốt.
Sự phụ thuộc của AI vào tài nguyên. Trí tuệ nhân tạo không phải là một khái niệm mơ hồ mà là một ngành công nghiệp vật chất sâu sắc, phụ thuộc vào việc khai thác tài nguyên của Trái Đất. Từ các mỏ lithium ở Nevada đến các mỏ khoáng sản đất hiếm ở Nội Mông, việc tạo ra các hệ thống AI đòi hỏi một chuỗi cung ứng rộng lớn gồm khoáng sản, năng lượng và vật liệu. Nhu cầu này thúc đẩy các hoạt động khai thác gây hại môi trường, thường bị bỏ qua trong các cuộc thảo luận về tiến bộ công nghệ.
Tác động môi trường. Nhu cầu tài nguyên của ngành công nghệ góp phần đáng kể vào sự suy thoái môi trường. Việc khai thác khoáng sản làm ô nhiễm nguồn nước, phá hủy rừng và khiến cộng đồng địa phương phải di dời. Hơn nữa, tính chất tiêu thụ năng lượng cao của AI, đặc biệt trong việc huấn luyện các mô hình lớn, làm gia tăng dấu chân carbon, ngang ngửa với ngành hàng không.
Cần thay đổi cách nhìn nhận. Để hiểu đúng chi phí thực sự của AI, chúng ta phải vượt ra ngoài những lời hứa trừu tượng về tiến bộ công nghệ và cân nhắc đến hậu quả vật chất của nó. Điều này đòi hỏi phải thừa nhận các chi phí về môi trường và con người liên quan đến khai thác tài nguyên, tiêu thụ năng lượng và chuỗi cung ứng toàn cầu hỗ trợ các hệ thống AI.
2. Chi phí con người: Sự bóc lột lao động trong hệ thống AI
Việc phối hợp hành động của con người với các chuyển động lặp đi lặp lại của robot và dây chuyền máy móc luôn liên quan đến việc kiểm soát cơ thể trong không gian và thời gian.
AI phụ thuộc vào lao động con người. Dù có câu chuyện về tự động hóa, các hệ thống AI vẫn dựa nhiều vào lao động con người, thường bị ẩn giấu và trả lương thấp. Điều này bao gồm những người làm việc theo sản phẩm số hóa để gán nhãn dữ liệu, nhân viên kho Amazon thực hiện đơn hàng, và các nhân viên kiểm duyệt nội dung lọc bỏ thông tin độc hại. Những người lao động này là yếu tố thiết yếu để hệ thống AI hoạt động, nhưng đóng góp của họ thường bị đánh giá thấp và điều kiện làm việc bị bóc lột.
Thời gian và kiểm soát. Quản lý thời gian là trung tâm của sự bóc lột lao động trong hệ thống AI. Người lao động bị giám sát liên tục và đánh giá bằng thuật toán, mọi hành động đều bị theo dõi và đo lường nhằm tối đa hóa hiệu quả. Điều này tạo ra môi trường làm việc căng thẳng và mất nhân tính, nơi người lao động chỉ được xem như bộ phận phụ thuộc vào máy móc.
Cần sự đoàn kết của người lao động. Để giải quyết sự bóc lột lao động trong hệ thống AI, người lao động phải tổ chức và đòi hỏi điều kiện làm việc tốt hơn, mức lương công bằng và quyền kiểm soát nhiều hơn đối với thời gian và sức lao động của mình. Điều này đòi hỏi xây dựng sự đoàn kết giữa các ngành nghề trong ngành AI, từ thợ mỏ đến kỹ sư, và thách thức các cấu trúc quyền lực duy trì sự bóc lột.
3. Dữ liệu như cơ sở hạ tầng: Xóa nhòa bối cảnh và sự đồng thuận
Tất cả tài liệu kỹ thuật số công khai — bao gồm dữ liệu cá nhân hoặc có thể gây hại — đều có thể bị thu thập để tạo bộ dữ liệu huấn luyện cho các mô hình AI.
Khai thác dữ liệu. Ngành AI dựa vào việc thu thập dữ liệu hàng loạt, thường không có sự đồng ý hay quan tâm đến quyền riêng tư. Điều này bao gồm thông tin cá nhân, hình ảnh và văn bản được thu thập từ internet để huấn luyện các mô hình AI. Thực hành này xem dữ liệu như một nguồn tài nguyên miễn phí, bỏ qua các hệ quả đạo đức và xã hội khi thu thập và sử dụng thông tin của người khác mà không được biết hay cho phép.
Từ hình ảnh đến cơ sở hạ tầng. Việc biến hình ảnh thành dữ liệu làm mất đi bối cảnh và ý nghĩa của chúng. Ảnh chân dung, ảnh tự chụp và ảnh cá nhân bị giảm xuống thành các điểm dữ liệu, được dùng để huấn luyện hệ thống nhận diện khuôn mặt và các mô hình AI khác. Việc xóa nhòa bối cảnh này có thể dẫn đến kết quả thiên vị và phân biệt đối xử, khi hệ thống AI học cách liên kết một số đặc điểm với các định kiến tiêu cực.
Mối quan ngại đạo đức. Các thực hành hiện tại trong việc thu thập và sử dụng dữ liệu trong AI đặt ra những vấn đề đạo đức sâu sắc. Chúng ta phải vượt qua quan niệm dữ liệu là nguồn tài nguyên trung lập và nhận thức được các mối quan hệ quyền lực vốn có trong việc thu thập, gán nhãn và sử dụng dữ liệu. Điều này đòi hỏi phát triển các hướng dẫn và quy định đạo đức nhằm bảo vệ quyền riêng tư của người dùng và ngăn chặn việc sử dụng dữ liệu sai mục đích.
4. Phân loại như quyền lực: Mã hóa định kiến trong hệ thống AI
Qua cách phân loại, ta thấy các sơ đồ kỹ thuật củng cố thứ bậc và phóng đại bất bình đẳng.
Phân loại là hành động chính trị. Hệ thống AI dựa vào phân loại để hiểu thế giới. Tuy nhiên, các danh mục dùng để phân loại dữ liệu không trung lập hay khách quan mà phản ánh định kiến và giả định của người tạo ra chúng. Những định kiến này có thể được mã hóa vào hệ thống AI, dẫn đến kết quả phân biệt đối xử.
Vấn đề định kiến. Hệ thống AI đã được chứng minh có định kiến trong nhiều lĩnh vực, từ nhận diện khuôn mặt đến tư pháp hình sự. Những định kiến này thường phản ánh các mô hình phân biệt đối xử lịch sử, duy trì và khuếch đại bất bình đẳng hiện hữu. Ví dụ, hệ thống nhận diện khuôn mặt có thể kém chính xác với người có làn da sẫm màu, dẫn đến việc nhận dạng sai và bắt giữ oan.
Vượt qua tranh luận về định kiến. Để giải quyết vấn đề định kiến trong AI, chúng ta phải vượt ra ngoài các giải pháp kỹ thuật và đối mặt với các cấu trúc xã hội, chính trị định hình dữ liệu và thuật toán dùng để huấn luyện AI. Điều này đòi hỏi thách thức các mối quan hệ quyền lực duy trì bất bình đẳng và thúc đẩy các phương pháp phát triển AI công bằng, bao trùm hơn.
5. Nhận diện cảm xúc: Khoa học đầy tranh cãi về đọc hiểu cảm xúc
Giải pháp cho câu đố Clever Hans, Pfungst viết, là sự chỉ dẫn vô thức từ những người hỏi ngựa.
Khẳng định về cảm xúc phổ quát. Hệ thống nhận diện cảm xúc dựa trên giả định rằng cảm xúc là phổ quát và có thể được phát hiện chính xác qua biểu cảm khuôn mặt. Tuy nhiên, giả định này bị tranh cãi mạnh mẽ, nhiều nhà nghiên cứu cho rằng cảm xúc thay đổi theo văn hóa và phụ thuộc vào bối cảnh.
Ảnh hưởng của Paul Ekman. Công trình của nhà tâm lý học Paul Ekman có ảnh hưởng lớn trong lĩnh vực nhận diện cảm xúc. Nghiên cứu của ông từ những năm 1960 khẳng định có một tập hợp cảm xúc cơ bản được biểu hiện và nhận biết trên toàn cầu. Tuy nhiên, phương pháp và kết quả của ông bị chỉ trích rộng rãi vì thiếu tính khoa học nghiêm ngặt.
Mối quan ngại đạo đức. Dù có nhiều nghi ngờ khoa học, các công cụ nhận diện cảm xúc đang được triển khai nhanh chóng trong nhiều bối cảnh quan trọng, từ tuyển dụng đến giám sát an ninh. Điều này đặt ra những lo ngại nghiêm trọng về đạo đức, khi con người có thể bị đánh giá và phân biệt đối xử dựa trên những đánh giá cảm xúc không chính xác và thiếu tin cậy.
6. AI như công cụ quyền lực nhà nước: Giám sát và kiểm soát
Quá khứ và hiện tại quân sự của trí tuệ nhân tạo đã định hình các thực hành giám sát, khai thác dữ liệu và đánh giá rủi ro mà ta thấy ngày nay.
Nguồn gốc quân sự của AI. Sự phát triển của AI chịu ảnh hưởng lớn từ nguồn tài trợ và ưu tiên quân sự. Điều này đã định hướng lĩnh vực tập trung vào giám sát, khai thác dữ liệu và đánh giá rủi ro, ít quan tâm đến các hệ quả đạo đức và xã hội.
Hồ sơ Snowden. Hồ sơ Snowden tiết lộ mức độ các cơ quan tình báo sử dụng AI để thu thập và phân tích dữ liệu trên quy mô lớn. Những công cụ này, từng chỉ dành cho mục đích an ninh quốc gia, giờ đây được triển khai trong nước, làm mờ ranh giới giữa giám sát quân sự và dân sự.
Chiến lược Bù đắp Thứ ba. Chiến lược Bù đắp Thứ ba của quân đội Mỹ nhằm duy trì vị thế dẫn đầu trong AI bằng cách hợp tác với ngành công nghệ. Điều này tạo nên mối quan hệ mật thiết giữa quân đội và Thung lũng Silicon, với các công ty công nghệ cung cấp công cụ và chuyên môn AI cho Bộ Quốc phòng.
7. Các “Đại gia” AI: Tập trung quyền lực và mở rộng bất bình đẳng
Chính trị này được thúc đẩy bởi các “Đại gia” AI, gồm khoảng nửa tá công ty thống trị tính toán quy mô hành tinh.
Tập trung quyền lực. Ngành AI bị chi phối bởi một số ít tập đoàn công nghệ quyền lực. Những công ty này kiểm soát lượng lớn dữ liệu, tài nguyên và chuyên môn, mang lại cho họ lợi thế lớn trong việc định hình phát triển và triển khai hệ thống AI.
Bất bình đẳng ngày càng gia tăng. Việc tập trung quyền lực vào tay một vài ông lớn công nghệ làm trầm trọng thêm các bất bình đẳng hiện hữu. Hệ thống AI thường được thiết kế phục vụ lợi ích của các công ty này, càng làm rộng khoảng cách giữa giàu và nghèo, quyền lực và bị gạt ra ngoài lề.
Cần có quy định. Để giải quyết sự tập trung quyền lực trong ngành AI, chúng ta cần các quy định mạnh mẽ hơn nhằm thúc đẩy cạnh tranh, bảo vệ quyền riêng tư và đảm bảo AI được sử dụng vì lợi ích chung của xã hội. Điều này đòi hỏi thách thức sự thống trị của các ông lớn công nghệ và thúc đẩy các hình thức quản trị AI dân chủ, có trách nhiệm hơn.
8. Thách thức các logic: Hướng tới các phong trào liên kết vì công lý
Khi điều kiện trên Trái Đất thay đổi, các yêu cầu bảo vệ dữ liệu, quyền lao động, công lý khí hậu và công bằng chủng tộc cần được lắng nghe cùng nhau.
Các phong trào liên kết. Giải quyết các vấn đề nền tảng của AI đòi hỏi kết nối các vấn đề quyền lực và công lý. Điều này bao gồm bảo vệ dữ liệu, quyền lao động, công lý khí hậu và công bằng chủng tộc. Bằng cách hợp tác, các phong trào này có thể thách thức các cấu trúc quyền lực mà AI hiện nay củng cố.
Chính trị từ chối. Chúng ta phải từ chối ý tưởng rằng AI là điều không thể tránh khỏi và chúng ta không có lựa chọn nào khác ngoài việc chấp nhận hậu quả của nó. Điều này đòi hỏi thách thức các câu chuyện về định mệnh công nghệ và đòi hỏi các hình thức quản trị AI dân chủ, có trách nhiệm hơn.
Một tầm nhìn khác. Bằng cách kết nối các vấn đề quyền lực và công lý, chúng ta có thể tạo ra một tầm nhìn khác cho AI, ưu tiên phúc lợi con người, bền vững môi trường và công bằng xã hội. Điều này đòi hỏi thách thức các logic khai thác của AI và xây dựng một tương lai công bằng, bền vững cho tất cả mọi người.
Cập nhật lần cuối:
FAQ
What's Atlas of AI about?
- Exploration of AI's Impact: Atlas of AI by Kate Crawford delves into the profound implications of artificial intelligence on society, politics, and the environment. It critiques the portrayal of AI as a neutral technology, highlighting its entanglement with power structures and extractive industries.
- Critique of AI Myths: The book challenges the notion that AI can replicate human intelligence, emphasizing that intelligence is shaped by cultural and historical contexts. Crawford uses examples like Clever Hans to illustrate biases in systems claiming objectivity.
- Interconnected Systems: Crawford presents AI as a "megamachine" reliant on a vast network of resources, including human labor and natural materials, urging readers to consider the broader implications of AI technologies on human rights and social justice.
Why should I read Atlas of AI?
- Critical Perspective: The book offers a critical lens on AI, challenging readers to think about the ethical and social ramifications of technology. It encourages a deeper understanding of how AI systems are designed and the biases they may perpetuate.
- Broader Context: Crawford situates AI within a larger framework of extraction and exploitation, linking it to historical and contemporary issues of power and inequality. This context is crucial for understanding the societal impacts of AI.
- Engaging Narratives: Combining rigorous research with compelling storytelling, the book makes complex topics accessible and engaging. Readers will find a blend of academic analysis and real-world examples that illustrate the stakes involved in AI development.
What are the key takeaways of Atlas of AI?
- AI as a Power Structure: The book posits that AI reflects existing power structures, serving the interests of those in control. AI systems are not neutral but are designed to optimize for specific outcomes that often reinforce inequality.
- Environmental and Labor Costs: Crawford highlights the significant environmental impact of AI, particularly in terms of resource extraction and energy consumption, and reveals how AI systems rely on cheap labor from marginalized communities.
- Call for Justice: Crawford advocates for a movement towards justice that addresses the interconnectedness of technology, capitalism, and social equity. She urges readers to consider how AI can be reoriented to serve the public good rather than perpetuate harm.
What are the best quotes from Atlas of AI and what do they mean?
- "Artificial intelligence is a registry of power.": This quote encapsulates Crawford's argument that AI systems reflect and reinforce existing power dynamics rather than being impartial technologies. It suggests that understanding AI requires examining who benefits from its deployment.
- "The story of Clever Hans is a cautionary reminder that you can’t always be sure of what a model has learned from the data it has been given.": This highlights the potential for bias in AI systems, emphasizing that the data used to train models can lead to misleading conclusions.
- “AI systems are expressions of power that emerge from wider economic and political forces.”: This quote challenges the reader to critically assess who benefits from AI technologies, emphasizing that AI is not neutral but reflects and amplifies existing power dynamics.
How does Kate Crawford define artificial intelligence in Atlas of AI?
- Not Artificial or Intelligent: Crawford argues that AI is neither truly artificial nor genuinely intelligent. Instead, it is a complex interplay of human labor, natural resources, and socio-political structures.
- Embodied and Material: She emphasizes that AI systems are built from physical materials and depend on extensive infrastructures, which include energy and labor. This challenges the common perception of AI as a purely digital phenomenon.
- Political and Social Practices: Crawford asserts that AI is shaped by political and social practices, meaning it cannot be understood in isolation from the contexts in which it operates.
What is the Clever Hans Effect mentioned in Atlas of AI?
- Observer-Expectancy Effect: The Clever Hans Effect refers to the phenomenon where a subject performs based on unintentional cues from the observer rather than genuine understanding. This highlights the influence of biases in interpreting intelligence.
- Implications for AI: Crawford uses this effect to illustrate how AI systems can also be misinterpreted based on the data they are trained on and the expectations of their creators.
- Broader Context of Intelligence: The effect raises questions about how intelligence is defined and measured, suggesting that our understanding of intelligence is often shaped by cultural and contextual factors.
How does Atlas of AI address the environmental impact of AI?
- Resource Extraction: Crawford discusses the extensive mining and resource extraction required to power AI technologies, particularly the demand for rare earth minerals, leading to significant ecological damage.
- Energy Consumption: The book highlights the enormous energy demands of AI systems, particularly in data centers, which contribute to carbon emissions and climate change.
- Interconnectedness with Climate Justice: Crawford connects the environmental impact of AI to broader issues of climate justice, arguing that the exploitation of resources for AI disproportionately affects marginalized communities.
What role does labor play in the construction of AI according to Atlas of AI?
- Exploitation of Workers: Crawford reveals how AI systems rely on cheap labor, often sourced from vulnerable populations, to function effectively. This exploitation is a critical aspect of the AI industry.
- Digital Piecework: The book discusses the rise of digital piecework, where workers are paid minimal amounts to perform tasks that support AI systems, such as labeling data.
- Surveillance and Control: Crawford highlights how AI technologies increase surveillance and control over workers, leading to a more regimented and exploitative work environment.
How does Atlas of AI address the issue of data extraction?
- Data Colonialism: Crawford discusses how data extraction often mirrors colonial practices, where marginalized communities are exploited for their data without consent or benefit.
- Consent and Privacy: The book emphasizes the lack of informed consent in data collection practices, particularly in how personal data is harvested for AI training.
- Impact on Communities: The extraction of data can have detrimental effects on communities, reinforcing existing inequalities and injustices.
What critiques does Atlas of AI offer regarding emotion recognition technologies?
- Scientific Foundations Questioned: Crawford highlights that many emotion recognition technologies are based on flawed scientific assumptions, particularly the idea that facial expressions universally correspond to specific emotions.
- Cultural Bias: The book points out that emotion recognition systems often fail to account for cultural differences in emotional expression, leading to biased outcomes.
- Potential for Harm: Crawford warns that deploying these technologies without understanding their limitations can lead to harmful consequences, such as misinterpretation of individuals' emotional states.
How does Atlas of AI connect AI to state power?
- Surveillance and Control: Crawford discusses how AI technologies are increasingly used by state actors for surveillance and control, often without adequate oversight.
- Military Applications: The book explores the relationship between AI development and military applications, particularly through programs like Project Maven.
- Corporate-State Collaboration: Crawford highlights the collaboration between tech companies and government agencies, suggesting that this partnership can lead to a lack of accountability and transparency.
What are the implications of Atlas of AI for the future of technology?
- Reevaluation of AI Development: Crawford's work calls for a reevaluation of how AI technologies are developed and deployed, emphasizing the need for ethical considerations and social responsibility.
- Advocacy for Justice Movements: The book encourages readers to engage in justice movements that address the intersections of technology, labor, and environmental issues.
- Critical Engagement with AI: Crawford urges readers to critically engage with AI technologies, questioning their implications and advocating for transparency and accountability.
Đánh giá
Cuốn sách Atlas of AI nhận được nhiều ý kiến trái chiều, có người khen ngợi vì cách phân tích sâu sắc về tác động xã hội và môi trường của trí tuệ nhân tạo, nhưng cũng có người phê bình vì lối viết lặp đi lặp lại và thiếu những giải pháp cụ thể. Độc giả đánh giá cao việc tác giả khai thác chi tiết về chi phí vật chất, sự bóc lột lao động và những vấn đề đạo đức liên quan đến AI. Tuy nhiên, một số lại cho rằng nội dung quá bi quan và thiếu chiều sâu kỹ thuật. Cuốn sách được ghi nhận vì cách tiếp cận toàn diện, nhưng cũng bị chỉ trích vì giọng điệu học thuật và đôi khi thiếu sự tập trung. Dù còn nhiều hạn chế, nhiều người vẫn xem đây là một tác phẩm quan trọng để hiểu rõ hơn về những hệ quả rộng lớn của trí tuệ nhân tạo.
Similar Books
