Nexus

1. اطلاعات درباره‌ی ارتباط است، نه فقط بازنمایی

اطلاعات لزوماً ما را درباره‌ی چیزها آگاه نمی‌کند. بلکه، چیزها را در یک ساختار قرار می‌دهد.

اطلاعات واقعیت‌ها را خلق می‌کند. در طول تاریخ، اطلاعات نه تنها برای بازنمایی واقعیت‌های موجود، بلکه برای خلق واقعیت‌های جدید از طریق اتصال عناصر مختلف استفاده شده است. این امر از DNA در زیست‌شناسی تا متون دینی در جوامع انسانی صادق است. فناوری‌های اطلاعاتی مانند نوشتن، چاپ و اکنون کامپیوترها به طور چشمگیری توانایی ما را برای ایجاد و حفظ شبکه‌های همکاری بزرگ‌مقیاس گسترش داده‌اند.

• مثال‌هایی از خلق واقعیت‌ها توسط اطلاعات:
  • DNA که سلول‌ها را به موجودات زنده متصل می‌کند
  • متون دینی که مؤمنان را به جوامع متصل می‌کند
  • اسناد قانونی که افراد را به ملت‌ها متصل می‌کند
  • کدهای کامپیوتری که دستگاه‌ها را به شبکه‌ها متصل می‌کند

درک اطلاعات به عنوان یک نیروی ارتباطی به توضیح پدیده‌هایی مانند قدرت اسطوره‌ها، ظهور بوروکراسی‌ها و تأثیر بالقوه‌ی هوش مصنوعی بر جوامع انسانی کمک می‌کند.

2. داستان‌ها و اسطوره‌ها همکاری انسانی را در مقیاس وسیع شکل می‌دهند

برای ده‌ها هزار سال، انسان‌ها با اختراع و گسترش افسانه‌ها، تخیلات و توهمات جمعی - درباره‌ی خدایان، جاروهای جادویی، هوش مصنوعی و بسیاری چیزهای دیگر - شبکه‌های بزرگ را ساخته و حفظ کرده‌اند.

اسطوره‌ها امکان همکاری وسیع‌مقیاس را فراهم می‌کنند. انسان‌ها در توانایی خود برای خلق و باور به افسانه‌های مشترک منحصر به فرد هستند، که این امر امکان همکاری فراتر از گروه‌های خویشاوندی کوچک را فراهم می‌کند. این اسطوره‌های مشترک - چه دینی، ملی یا ایدئولوژیک - در ساخت جوامع و تمدن‌های بزرگ نقش حیاتی داشته‌اند.

• کارکردهای اسطوره‌های مشترک:
  • ایجاد هویت‌های مشترک
  • تعیین اهداف مشترک
  • توجیه سلسله‌مراتب اجتماعی
  • ارائه معنا و هدف

با این حال، در حالی که اسطوره‌ها ابزارهای قدرتمندی برای همکاری هستند، می‌توانند منبعی برای تعارض و سرکوب نیز باشند زمانی که گروه‌های مختلف باورهای ناسازگار دارند. چالش برای جوامع مدرن این است که قدرت ارتباطی داستان‌های مشترک را مهار کنند در حالی که انعطاف‌پذیری و تحمل برای دیدگاه‌های متنوع را حفظ کنند.

3. بوروکراسی و اسناد قدرت را متمرکز کردند اما حریم خصوصی را محدود کردند

اسناد، آرشیوها، فرم‌ها، مجوزها، مقررات و دیگر رویه‌های بوروکراتیک نحوه‌ی جریان اطلاعات در جامعه و با آن نحوه‌ی کارکرد قدرت را تغییر داده‌اند.

بوروکراسی جریان اطلاعات را تغییر داد. ظهور اسناد مکتوب و سیستم‌های بوروکراتیک به طور چشمگیری نحوه‌ی جمع‌آوری، ذخیره‌سازی و استفاده از اطلاعات در جوامع را تغییر داد. این تغییر قدرت را به روش‌های جدیدی متمرکز کرد، اما همچنین محدودیت‌های جدیدی بر حریم خصوصی و خودمختاری فردی ایجاد کرد.

• تغییرات کلیدی ایجاد شده توسط بوروکراسی:
  • تمرکز اطلاعات در آرشیوها
  • ایجاد فرم‌ها و رویه‌های استاندارد
  • ظهور طبقات بوروکراتیک تخصصی
  • افزایش ظرفیت دولت برای مالیات‌گیری و کنترل

در حالی که بوروکراسی امکان حکمرانی پیچیده‌تر و کارآمدتر را فراهم کرد، همچنین اشکال جدیدی از سرکوب و نظارت را ایجاد کرد. تنش بین کارایی بوروکراتیک و حریم خصوصی فردی همچنان یک چالش مرکزی در عصر دیجیتال باقی مانده است.

4. کتاب‌های مقدس و منابع غیرقابل خطا اغلب به کنترل انسانی منجر می‌شوند

تلاش برای سرمایه‌گذاری تمام قدرت در یک فناوری فوق‌انسانی غیرقابل خطا به ظهور یک نهاد انسانی جدید و بسیار قدرتمند - کلیسا - منجر شد.

غیرقابل خطا بودن به کنترل منجر می‌شود. در طول تاریخ، تلاش‌ها برای ایجاد منابع غیرقابل خطا از حقیقت - چه کتاب‌های مقدس، ایدئولوژی‌ها یا سیستم‌های هوش مصنوعی - اغلب به افزایش کنترل انسانی منجر شده‌اند نه رهایی از خطا. این پارادوکس به این دلیل به وجود می‌آید که منابع غیرقابل خطا همچنان به تفسیر و اجرای انسانی نیاز دارند.

• مثال‌هایی از منابع "غیرقابل خطا" که به کنترل انسانی منجر می‌شوند:
  • متون دینی و طبقات روحانی
  • ایدئولوژی‌های سیاسی و نخبگان حزبی
  • سیستم‌های هوش مصنوعی و شرکت‌های فناوری

درس برای عصر هوش مصنوعی این است که ادعاهای غیرقابل خطا بودن الگوریتمی باید با شک و تردید مواجه شوند و نظارت و تفسیر انسانی همچنان حیاتی باقی خواهد ماند حتی زمانی که سیستم‌های هوش مصنوعی قدرتمندتر می‌شوند.

5. دموکراسی به اطلاعات توزیع‌شده و خوداصلاحی متکی است

دموکراسی یک گفت‌وگو با شرکت‌کنندگان متعدد است، بسیاری از آن‌ها همزمان صحبت می‌کنند. دنبال کردن چنین گفت‌وگویی می‌تواند دشوار باشد.

دموکراسی آشفته اما مقاوم است. سیستم‌های دموکراتیک با جریان‌های اطلاعاتی توزیع‌شده و مکانیزم‌های خوداصلاحی قوی مشخص می‌شوند. در حالی که این امر می‌تواند آن‌ها را در مقایسه با سیستم‌های متمرکزتر آشفته یا ناکارآمد نشان دهد، اما همچنین آن‌ها را سازگارتر و مقاوم‌تر در برابر خطاهای فاجعه‌بار می‌کند.

ویژگی‌های کلیدی سیستم‌های اطلاعاتی دموکراتیک:

• کانال‌های اطلاعاتی مستقل متعدد
• آزادی بیان و مطبوعات
• تفکیک قوا
• انتخابات منظم و انتقال مسالمت‌آمیز قدرت

چالش برای دموکراسی‌های مدرن این است که این ویژگی‌های توزیع‌شده و خوداصلاحی را در مواجهه با فناوری‌های جدیدی که امکان تمرکز و کنترل بی‌سابقه اطلاعات را فراهم می‌کنند، حفظ کنند.

6. کامپیوترها در حال تغییر ماهیت شبکه‌های اطلاعاتی هستند

برخلاف دستگاه‌های چاپ و رادیو که ابزارهای غیرفعال در دست انسان بودند، کامپیوترها در حال حاضر به عاملان فعالی تبدیل می‌شوند که از کنترل و درک ما فرار می‌کنند و می‌توانند ابتکار عمل در شکل‌دهی به جامعه، فرهنگ و تاریخ را به دست گیرند.

کامپیوترها عاملان فعال هستند. ظهور کامپیوترها و هوش مصنوعی یک تغییر بنیادی در ماهیت شبکه‌های اطلاعاتی را نشان می‌دهد. برخلاف فناوری‌های قبلی، کامپیوترها می‌توانند به طور مستقل از ورودی انسانی تصمیم‌گیری کنند و ایده‌های جدید خلق کنند.

• تفاوت‌های کلیدی بین کامپیوترها و فناوری‌های قبلی:
  • توانایی پردازش حجم وسیعی از داده‌ها
  • ظرفیت یادگیری ماشینی و بهبود خود
  • پتانسیل تصمیم‌گیری خودمختار
  • ایجاد واقعیت‌های بین‌کامپیوتری

این تغییر سؤالات عمیقی درباره‌ی عاملیت انسانی، کنترل و آینده سیستم‌های اجتماعی و سیاسی مبتنی بر تصمیم‌گیری انسانی مطرح می‌کند.

7. مسئله هم‌راستایی هوش مصنوعی خطرات وجودی برای بشریت ایجاد می‌کند

مسئله هم‌راستایی در اصل، مسئله‌ای از اسطوره‌شناسی است.

هم‌راستایی هوش مصنوعی با ارزش‌های انسانی حیاتی است. با قدرتمندتر شدن سیستم‌های هوش مصنوعی، اطمینان از اینکه اهداف و اقدامات آن‌ها با ارزش‌ها و منافع انسانی هم‌راستا باشد به یک چالش وجودی تبدیل می‌شود. این "مسئله هم‌راستایی" پیچیده است زیرا نه تنها مسائل فنی، بلکه سؤالات بنیادی درباره‌ی ارزش‌های انسانی و ماهیت آگاهی را در بر می‌گیرد.

• جنبه‌های کلیدی مسئله هم‌راستایی:
  • تعریف ارزش‌های انسانی به صورت قابل خواندن توسط ماشین
  • اطمینان از اینکه سیستم‌های هوش مصنوعی اهداف مورد نظر را دنبال می‌کنند نه اهداف لفظی
  • حفظ کنترل انسانی بر سیستم‌های خودمختار فزاینده
  • پرداختن به تعارضات بالقوه بین هوش مصنوعی و منافع انسانی

حل مسئله هم‌راستایی ممکن است مهم‌ترین چالش پیش روی بشریت در دهه‌های آینده باشد، زیرا سیستم‌های هوش مصنوعی ناهماهنگ می‌توانند خطرات وجودی ایجاد کنند حتی اگر به طور صریح خصمانه نسبت به انسان‌ها نباشند.

8. تعصبات کامپیوتری می‌توانند تعصبات انسانی را تداوم بخشیده و تقویت کنند

هوش مصنوعی‌ها نیز تجربیات کودکی دارند. الگوریتم‌ها ممکن است حتی یکدیگر را با تعصبات خود آلوده کنند، همان‌طور که انسان‌ها این کار را می‌کنند.

هوش مصنوعی می‌تواند تعصبات را تقویت کند. در حالی که سیستم‌های هوش مصنوعی اغلب به عنوان عینی و بدون تعصب ارائه می‌شوند، در واقع می‌توانند تعصبات انسانی موجود در داده‌های آموزشی خود را تداوم بخشیده و تقویت کنند. این امر به این دلیل رخ می‌دهد که سیستم‌های هوش مصنوعی الگوها را از داده‌های موجود یاد می‌گیرند، که اغلب منعکس‌کننده تعصبات و نابرابری‌های تاریخی هستند.

مثال‌هایی از تعصب هوش مصنوعی:

• سیستم‌های تشخیص چهره که در تشخیص رنگ پوست تیره‌تر عملکرد ضعیفی دارند
• الگوریتم‌های غربالگری رزومه که به نفع نامزدهای مرد عمل می‌کنند
• سیستم‌های پیش‌بینی پلیس که محله‌های اقلیت را هدف قرار می‌دهند

پرداختن به تعصب هوش مصنوعی نیازمند نه تنها راه‌حل‌های فنی، بلکه بررسی عمیق زمینه‌های اجتماعی و تاریخی است که در آن سیستم‌های هوش مصنوعی توسعه و به کار گرفته می‌شوند.

9. دموکراسی با چالش‌های جدیدی در عصر هوش مصنوعی و اتوماسیون مواجه است

اگر سه سال بیکاری بالا می‌تواند هیتلر را به قدرت برساند، آشفتگی بی‌پایان در بازار کار چه تأثیری بر دموکراسی خواهد داشت؟

هوش مصنوعی ثبات دموکراتیک را مختل می‌کند. سرعت سریع تغییرات فناوری، به ویژه در هوش مصنوعی و اتوماسیون، چالش‌های قابل توجهی برای سیستم‌های دموکراتیک ایجاد می‌کند. این چالش‌ها شامل بیکاری گسترده، افزایش نابرابری اقتصادی و دستکاری افکار عمومی از طریق سیستم‌های اطلاعاتی مبتنی بر هوش مصنوعی است.

تهدیدات بالقوه برای دموکراسی از سوی هوش مصنوعی:

• جابجایی شغلی که به ناآرامی اجتماعی منجر می‌شود
• تمرکز ثروت و قدرت در شرکت‌های فناوری
• سیستم‌های نظارت و کنترل اجتماعی مبتنی بر هوش مصنوعی
• دستکاری انتخابات از طریق اطلاعات نادرست هدفمند

پرداختن به این چالش‌ها نیازمند اشکال جدیدی از حکمرانی دموکراتیک و سازماندهی اقتصادی است که بتواند به تغییرات سریع فناوری سازگار شود در حالی که ارزش‌های اصلی دموکراتیک را حفظ می‌کند.

10. حفظ عاملیت انسانی با قدرتمندتر شدن هوش مصنوعی حیاتی است

برای محافظت در برابر مجموعه‌ای از مشکلات غیرقابل پیش‌بینی، بهترین شرط ما ایجاد نهادهای زنده‌ای است که بتوانند تهدیدات را شناسایی کرده و به آن‌ها پاسخ دهند.

نظارت انسانی همچنان ضروری است. با قدرتمندتر و خودمختارتر شدن سیستم‌های هوش مصنوعی، حفظ عاملیت و نظارت انسانی به طور فزاینده‌ای حیاتی می‌شود. این امر نیازمند نه تنها محافظت‌های فنی، بلکه توسعه نهادهای اجتماعی و سیاسی جدیدی است که قادر به حکمرانی بر سیستم‌های هوش مصنوعی باشند.

اصول کلیدی برای حفظ عاملیت انسانی:

• حفظ کنترل انسانی بر تصمیمات حیاتی
• اطمینان از شفافیت و پاسخگویی در سیستم‌های هوش مصنوعی
• توسعه چارچوب‌های اخلاقی قوی برای توسعه هوش مصنوعی
• سرمایه‌گذاری در آموزش و سازگاری انسانی

چالش نهایی این است که پتانسیل عظیم هوش مصنوعی را مهار کنیم در حالی که اطمینان حاصل کنیم که به ابزاری برای شکوفایی انسانی تبدیل می‌شود نه تهدیدی برای خودمختاری و وجود انسانی.

آخرین به‌روزرسانی:: September 10, 2024