Nexus

จากหนังสือที่ได้รับการยอมรับในวงกว้างและแปลไปแล้วหลายภาษา นี่คือหนังสือที่นำเสนอแนวคิดเกี่ยวกับข้อมูลและเทคโนโลยีที่มีผลกระทบต่อสังคมมนุษย์ในหลายมิติ

1. ข้อมูลคือการเชื่อมโยง ไม่ใช่แค่การแทนที่

ข้อมูลไม่ได้บอกเราเกี่ยวกับสิ่งต่าง ๆ เสมอไป แต่จะทำให้สิ่งต่าง ๆ เข้าสู่การจัดรูปแบบ

ข้อมูลสร้างความเป็นจริง ตลอดประวัติศาสตร์ ข้อมูลถูกใช้ไม่เพียงแค่เพื่อแทนที่ความเป็นจริงที่มีอยู่ แต่ยังเพื่อสร้างความเป็นจริงใหม่โดยการเชื่อมโยงองค์ประกอบที่แตกต่างกัน ตั้งแต่ DNA ในชีววิทยาไปจนถึงข้อความทางศาสนาในสังคมมนุษย์ เทคโนโลยีข้อมูลเช่นการเขียน การพิมพ์ และคอมพิวเตอร์ได้ขยายความสามารถของเราในการสร้างและรักษาเครือข่ายความร่วมมือขนาดใหญ่

• ตัวอย่างของข้อมูลที่สร้างความเป็นจริง:
  • DNA เชื่อมโยงเซลล์เป็นสิ่งมีชีวิต
  • ข้อความทางศาสนาเชื่อมโยงผู้ศรัทธาเป็นชุมชน
  • เอกสารทางกฎหมายเชื่อมโยงบุคคลเป็นชาติ
  • โค้ดคอมพิวเตอร์เชื่อมโยงอุปกรณ์เป็นเครือข่าย

การเข้าใจข้อมูลในฐานะที่เป็นแรงเชื่อมโยงช่วยอธิบายปรากฏการณ์เช่นพลังของตำนาน การขึ้นของระบบราชการ และผลกระทบที่เป็นไปได้ของ AI ต่อสังคมมนุษย์

2. เรื่องราวและตำนานสร้างความร่วมมือของมนุษย์ในระดับใหญ่

เป็นเวลาหลายหมื่นปีที่ Sapiens สร้างและรักษาเครือข่ายขนาดใหญ่โดยการประดิษฐ์และแพร่กระจายเรื่องราวที่เป็นนิยาย จินตนาการ และความหลงผิดในมวลชน—เกี่ยวกับเทพเจ้า เกี่ยวกับไม้กวาดที่มีมนต์ขลัง เกี่ยวกับ AI และเกี่ยวกับสิ่งอื่น ๆ อีกมากมาย

ตำนานทำให้เกิดความร่วมมือในระดับใหญ่ มนุษย์มีความสามารถพิเศษในการสร้างและเชื่อในนิยายร่วมกัน ซึ่งทำให้เกิดความร่วมมือเกินกว่ากลุ่มเครือญาติเล็ก ๆ ตำนานร่วมเหล่านี้ - ไม่ว่าจะเป็นทางศาสนา ชาติ หรืออุดมการณ์ - มีความสำคัญในการสร้างสังคมและอารยธรรมขนาดใหญ่

• หน้าที่ของตำนานร่วม:
  • สร้างอัตลักษณ์ร่วม
  • กำหนดเป้าหมายร่วม
  • ให้เหตุผลในการจัดลำดับชั้นทางสังคม
  • ให้ความหมายและวัตถุประสงค์

อย่างไรก็ตาม ในขณะที่ตำนานเป็นเครื่องมือที่ทรงพลังสำหรับความร่วมมือ พวกมันยังสามารถเป็นแหล่งของความขัดแย้งและการกดขี่เมื่อกลุ่มต่าง ๆ มีความเชื่อที่ไม่สอดคล้องกัน ความท้าทายสำหรับสังคมสมัยใหม่คือการใช้พลังเชื่อมโยงของเรื่องราวร่วมในขณะที่รักษาความยืดหยุ่นและความอดทนต่อมุมมองที่หลากหลาย

3. ระบบราชการและเอกสารรวมศูนย์อำนาจแต่จำกัดความเป็นส่วนตัว

เอกสาร จดหมายเหตุ แบบฟอร์ม ใบอนุญาต กฎระเบียบ และกระบวนการทางราชการอื่น ๆ ได้เปลี่ยนวิธีการไหลของข้อมูลในสังคม และด้วยเหตุนี้วิธีการทำงานของอำนาจ

ระบบราชการเปลี่ยนการไหลของข้อมูล การขึ้นของเอกสารที่เป็นลายลักษณ์อักษรและระบบราชการได้เปลี่ยนแปลงวิธีการเก็บรวบรวม จัดเก็บ และใช้ข้อมูลในสังคม การเปลี่ยนแปลงนี้รวมศูนย์อำนาจในรูปแบบใหม่ แต่ยังสร้างข้อจำกัดใหม่เกี่ยวกับความเป็นส่วนตัวและอิสระของบุคคล

• การเปลี่ยนแปลงสำคัญที่เกิดจากระบบราชการ:
  • การรวมศูนย์ข้อมูลในจดหมายเหตุ
  • การสร้างแบบฟอร์มและกระบวนการมาตรฐาน
  • การขึ้นของชนชั้นราชการเฉพาะทาง
  • การเพิ่มความสามารถของรัฐในการเก็บภาษีและควบคุม

ในขณะที่ระบบราชการทำให้การปกครองมีความซับซ้อนและมีประสิทธิภาพมากขึ้น มันยังสร้างรูปแบบใหม่ของการกดขี่และการเฝ้าระวัง ความตึงเครียดระหว่างประสิทธิภาพของระบบราชการและความเป็นส่วนตัวของบุคคลยังคงเป็นความท้าทายสำคัญในยุคดิจิทัล

4. หนังสือศักดิ์สิทธิ์และแหล่งข้อมูลที่ไม่ผิดพลาดมักนำไปสู่การควบคุมมนุษย์

ความพยายามที่จะลงทุนอำนาจทั้งหมดในเทคโนโลยีที่ไม่ผิดพลาดนำไปสู่การขึ้นของสถาบันมนุษย์ที่ทรงพลังใหม่—โบสถ์

ความไม่ผิดพลาดนำไปสู่การควบคุม ตลอดประวัติศาสตร์ ความพยายามที่จะสร้างแหล่งข้อมูลที่ไม่ผิดพลาด - ไม่ว่าจะเป็นหนังสือศักดิ์สิทธิ์ อุดมการณ์ หรือระบบ AI - มักนำไปสู่การควบคุมมนุษย์มากกว่าการปลดปล่อยจากความผิดพลาด ความขัดแย้งนี้เกิดขึ้นเพราะแหล่งข้อมูลที่ไม่ผิดพลาดยังคงต้องการการตีความและการดำเนินการของมนุษย์

• ตัวอย่างของแหล่งข้อมูลที่ "ไม่ผิดพลาด" นำไปสู่การควบคุมมนุษย์:
  • ข้อความทางศาสนาและชนชั้นนักบวช
  • อุดมการณ์ทางการเมืองและชนชั้นพรรค
  • ระบบ AI และบริษัทเทคโนโลยี

บทเรียนสำหรับยุค AI คือการที่การอ้างสิทธิ์ในความไม่ผิดพลาดของอัลกอริทึมควรถูกมองด้วยความสงสัย และการกำกับดูแลและการตีความของมนุษย์จะยังคงมีความสำคัญแม้ว่า AI จะมีความสามารถมากขึ้น

5. ประชาธิปไตยพึ่งพาข้อมูลที่กระจายและการแก้ไขตัวเอง

ประชาธิปไตยคือการสนทนากับผู้เข้าร่วมจำนวนมาก หลายคนพูดพร้อมกัน มันอาจจะยากที่จะติดตามการสนทนาดังกล่าว

ประชาธิปไตยยุ่งเหยิงแต่ยืดหยุ่น ระบบประชาธิปไตยมีลักษณะโดยการไหลของข้อมูลที่กระจายและกลไกการแก้ไขตัวเองที่แข็งแกร่ง ในขณะที่สิ่งนี้อาจทำให้พวกมันดูวุ่นวายหรือไม่มีประสิทธิภาพเมื่อเทียบกับระบบที่รวมศูนย์มากกว่า แต่มันยังทำให้พวกมันปรับตัวได้มากขึ้นและทนทานต่อข้อผิดพลาดที่ร้ายแรง

ลักษณะสำคัญของระบบข้อมูลประชาธิปไตย:

• ช่องทางข้อมูลอิสระหลายช่องทาง
• เสรีภาพในการพูดและสื่อ
• การแยกอำนาจ
• การเลือกตั้งปกติและการถ่ายโอนอำนาจอย่างสันติ

ความท้าทายสำหรับประชาธิปไตยสมัยใหม่คือการรักษาคุณลักษณะที่กระจายและแก้ไขตัวเองเหล่านี้ในเผชิญกับเทคโนโลยีใหม่ที่ทำให้เกิดการรวมศูนย์และการควบคุมข้อมูลอย่างไม่เคยมีมาก่อน

6. คอมพิวเตอร์กำลังเปลี่ยนธรรมชาติของเครือข่ายข้อมูล

ไม่เหมือนกับเครื่องพิมพ์และวิทยุที่เป็นเครื่องมือที่อยู่ในมือของมนุษย์ คอมพิวเตอร์กำลังกลายเป็นตัวแทนที่มีความสามารถในการหลบหนีการควบคุมและความเข้าใจของเรา และสามารถริเริ่มในการกำหนดรูปแบบสังคม วัฒนธรรม และประวัติศาสตร์

คอมพิวเตอร์เป็นตัวแทนที่มีความสามารถ การขึ้นของคอมพิวเตอร์และ AI เป็นการเปลี่ยนแปลงพื้นฐานในธรรมชาติของเครือข่ายข้อมูล ไม่เหมือนกับเทคโนโลยีก่อนหน้านี้ คอมพิวเตอร์สามารถตัดสินใจและสร้างแนวคิดใหม่โดยไม่ต้องมีการป้อนข้อมูลจากมนุษย์

• ความแตกต่างสำคัญระหว่างคอมพิวเตอร์และเทคโนโลยีก่อนหน้านี้:
  • ความสามารถในการประมวลผลข้อมูลจำนวนมาก
  • ความสามารถในการเรียนรู้ของเครื่องและการปรับปรุงตัวเอง
  • ศักยภาพในการตัดสินใจอัตโนมัติ
  • การสร้างความเป็นจริงระหว่างคอมพิวเตอร์

การเปลี่ยนแปลงนี้ทำให้เกิดคำถามลึกซึ้งเกี่ยวกับการควบคุมของมนุษย์และอนาคตของระบบสังคมและการเมืองที่สร้างขึ้นบนการตัดสินใจของมนุษย์

7. ปัญหาการปรับแนว AI ก่อให้เกิดความเสี่ยงต่อมนุษยชาติ

ปัญหาการปรับแนวกลายเป็นปัญหาของตำนาน

การปรับแนว AI กับค่านิยมของมนุษย์เป็นสิ่งสำคัญ เมื่อระบบ AI มีความสามารถมากขึ้น การทำให้แน่ใจว่าเป้าหมายและการกระทำของพวกมันสอดคล้องกับค่านิยมและผลประโยชน์ของมนุษย์กลายเป็นความท้าทายที่สำคัญ ปัญหาการปรับแนวนี้ซับซ้อนเพราะมันเกี่ยวข้องไม่เพียงแค่ปัญหาทางเทคนิค แต่ยังคำถามพื้นฐานเกี่ยวกับค่านิยมของมนุษย์และธรรมชาติของจิตสำนึก

• แง่มุมสำคัญของปัญหาการปรับแนว:
  • การกำหนดค่านิยมของมนุษย์ในรูปแบบที่เครื่องจักรอ่านได้
  • การทำให้แน่ใจว่าระบบ AI ดำเนินการตามเป้าหมายที่ตั้งใจไว้แทนที่จะเป็นเป้าหมายที่เป็นตัวอักษร
  • การรักษาการควบคุมของมนุษย์เหนือระบบที่มีความเป็นอิสระมากขึ้น
  • การแก้ไขความขัดแย้งที่อาจเกิดขึ้นระหว่าง AI และผลประโยชน์ของมนุษย์

การแก้ไขปัญหาการปรับแนวอาจเป็นความท้าทายที่สำคัญที่สุดที่มนุษยชาติต้องเผชิญในทศวรรษที่จะมาถึง เนื่องจากระบบ AI ที่ไม่สอดคล้องกันอาจก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ของมนุษย์แม้ว่าพวกมันจะไม่เป็นศัตรูกับมนุษย์โดยตรง

8. อคติของคอมพิวเตอร์สามารถสืบทอดและขยายอคติของมนุษย์

AI ก็มีประสบการณ์ในวัยเด็ก อัลกอริทึมอาจติดเชื้อกันด้วยอคติของพวกมัน เช่นเดียวกับมนุษย์

AI สามารถขยายอคติ ในขณะที่ระบบ AI มักถูกนำเสนอว่าเป็นกลางและไม่มีอคติ พวกมันสามารถสืบทอดและขยายอคติของมนุษย์ที่มีอยู่ในข้อมูลการฝึกอบรมของพวกมันได้ สิ่งนี้เกิดขึ้นเพราะระบบ AI เรียนรู้รูปแบบจากข้อมูลที่มีอยู่ ซึ่งมักสะท้อนถึงอคติและความไม่เท่าเทียมทางประวัติศาสตร์

ตัวอย่างของอคติใน AI:

• ระบบจดจำใบหน้าที่ทำงานไม่ดีบนโทนสีผิวที่เข้มกว่า
• อัลกอริทึมการคัดกรองประวัติย่อที่ให้ความสำคัญกับผู้สมัครชาย
• ระบบการทำนายการก่ออาชญากรรมที่มุ่งเป้าไปที่ย่านชนกลุ่มน้อย

การแก้ไขอคติใน AI ต้องการไม่เพียงแค่การแก้ไขทางเทคนิค แต่ยังการตรวจสอบบริบททางสังคมและประวัติศาสตร์ที่ระบบ AI ถูกพัฒนาและนำไปใช้

9. ประชาธิปไตยเผชิญกับความท้าทายใหม่ในยุคของ AI และการอัตโนมัติ

หากการว่างงานสูงสามปีสามารถนำฮิตเลอร์ขึ้นสู่อำนาจ ความวุ่นวายที่ไม่สิ้นสุดในตลาดงานจะทำอะไรกับประชาธิปไตย?

AI ทำลายเสถียรภาพของประชาธิปไตย ความเร็วของการเปลี่ยนแปลงทางเทคโนโลยี โดยเฉพาะใน AI และการอัตโนมัติ ก่อให้เกิดความท้าทายสำคัญต่อระบบประชาธิปไตย ความท้าทายเหล่านี้รวมถึงการว่างงานจำนวนมาก ความไม่เท่าเทียมทางเศรษฐกิจที่เพิ่มขึ้น และการบิดเบือนความคิดเห็นของสาธารณชนผ่านระบบข้อมูลที่ขับเคลื่อนด้วย AI

ภัยคุกคามที่เป็นไปได้ต่อประชาธิปไตยจาก AI:

• การแทนที่งานทำให้เกิดความไม่สงบทางสังคม
• การรวมศูนย์ความมั่งคั่งและอำนาจในบริษัทเทคโนโลยี
• ระบบการเฝ้าระวังและการควบคุมทางสังคมที่ขับเคลื่อนด้วย AI
• การบิดเบือนการเลือกตั้งผ่านข้อมูลที่ผิดเป้าหมาย

การแก้ไขความท้าทายเหล่านี้จะต้องการรูปแบบใหม่ของการปกครองประชาธิปไตยและการจัดระเบียบทางเศรษฐกิจที่สามารถปรับตัวให้เข้ากับการเปลี่ยนแปลงทางเทคโนโลยีอย่างรวดเร็วในขณะที่รักษาค่านิยมหลักของประชาธิปไตย

10. การรักษาความเป็นตัวของมนุษย์เป็นสิ่งสำคัญเมื่อ AI มีความสามารถมากขึ้น

เพื่อป้องกันปัญหาที่ไม่สามารถคาดการณ์ได้มากมาย ทางเลือกที่ดีที่สุดของเราคือการสร้างสถาบันที่มีชีวิตที่สามารถระบุและตอบสนองต่อภัยคุกคามเมื่อพวกมันเกิดขึ้น

การกำกับดูแลของมนุษย์ยังคงมีความสำคัญ เมื่อระบบ AI มีความสามารถและเป็นอิสระมากขึ้น การรักษาความเป็นตัวของมนุษย์และการกำกับดูแลกลายเป็นสิ่งสำคัญมากขึ้น สิ่งนี้ต้องการไม่เพียงแค่การป้องกันทางเทคนิค แต่ยังการพัฒนาสถาบันทางสังคมและการเมืองใหม่ที่สามารถควบคุมระบบ AI ได้

หลักการสำคัญในการรักษาความเป็นตัวของมนุษย์:

• การรักษาการควบคุมของมนุษย์เหนือการตัดสินใจที่สำคัญ
• การทำให้แน่ใจว่าระบบ AI มีความโปร่งใสและรับผิดชอบได้
• การพัฒนากรอบจริยธรรมที่แข็งแกร่งสำหรับการพัฒนา AI
• การลงทุนในการศึกษาและความสามารถในการปรับตัวของมนุษย์

ความท้าทายสูงสุดคือการใช้ประโยชน์จากศักยภาพอันมหาศาลของ AI ในขณะที่ทำให้แน่ใจว่ามันยังคงเป็นเครื่องมือสำหรับความเจริญรุ่งเรืองของมนุษย์แทนที่จะเป็นภัยคุกคามต่อความเป็นอิสระและการดำรงอยู่ของมนุษย์

Last updated: September 10, 2024