The Chaos Machine

1. الگوریتم‌های شبکه‌های اجتماعی محتوای افراطی را تقویت می‌کنند و باعث قطبی‌سازی و اطلاعات نادرست می‌شوند

"الگوریتم یوتیوب اساساً به مردم کمک می‌کند تا به این سمت‌ها بروند."

تقویت الگوریتمی: پلتفرم‌های شبکه‌های اجتماعی از الگوریتم‌های پیچیده‌ای برای تعیین محتوایی که کاربران می‌بینند استفاده می‌کنند. این الگوریتم‌ها برای حداکثر کردن تعامل طراحی شده‌اند و اغلب محتوای هیجانی، احساسی یا بحث‌برانگیز را ترویج می‌دهند. این منجر به اثری می‌شود که کاربران به طور فزاینده‌ای در معرض دیدگاه‌های افراطی‌تر قرار می‌گیرند.

اتاق‌های پژواک و حباب‌های فیلتر: با تعامل کاربران با انواع خاصی از محتوا، الگوریتم‌ها به ارائه محتوای مشابه ادامه می‌دهند و اتاق‌های پژواکی ایجاد می‌کنند که باورها و تعصبات موجود را تقویت می‌کنند. این فرآیند می‌تواند کاربران را در طول زمان رادیکال کند و آن‌ها را به سمت ایدئولوژی‌های حاشیه‌ای یا نظریه‌های توطئه سوق دهد.

گسترش اطلاعات نادرست: طبیعت ویروسی شبکه‌های اجتماعی، همراه با تقویت الگوریتمی، به اطلاعات نادرست اجازه می‌دهد به سرعت گسترش یابد. بررسی‌های واقعیت و اصلاحات اغلب تلاش می‌کنند تا به همان اندازه اطلاعات نادرست اولیه جلب توجه کنند، که منجر به باور گسترده به روایت‌های نادرست می‌شود.

2. گسترش جهانی فیس‌بوک منجر به خشونت واقعی در کشورهای در حال توسعه شد

"فیس‌بوک در مقیاس وسیع به مردم آسیب می‌زند."

گسترش سریع بدون محافظت: فیس‌بوک به طور تهاجمی به کشورهای در حال توسعه گسترش یافت، اغلب از طریق برنامه‌های "صفر-رتبه" که دسترسی رایگان به پلتفرم را فراهم می‌کردند. با این حال، شرکت نتوانست به طور کافی محتوا را مدیریت کند یا زمینه‌های محلی را درک کند، که منجر به پیامدهای خطرناک شد.

مطالعات موردی خشونت:

• میانمار: فیس‌بوک برای گسترش سخنان نفرت‌انگیز علیه اقلیت روهینگیا استفاده شد و به نسل‌کشی کمک کرد.
• سریلانکا: اطلاعات نادرست منتشر شده در پلتفرم شورش‌های ضد مسلمانان را تحریک کرد.
• برزیل: الگوریتم‌های یوتیوب و فیس‌بوک محتوای راست افراطی و نظریه‌های توطئه را ترویج کردند و بر نتایج سیاسی تأثیر گذاشتند.

پاسخ ناکافی: با وجود هشدارهای فعالان محلی و محققان، فیس‌بوک در رسیدگی به این مسائل کند بود و اغلب به کمبود مدیران زبان محلی یا درک فرهنگی اشاره می‌کرد.

3. سیستم توصیه یوتیوب اتاق‌های پژواک راست افراطی و نظریه‌های توطئه ایجاد کرد

"این الگوریتم یوتیوب است که این کانال‌ها را به هم متصل می‌کند. این چیز ترسناکی است."

اثر سوراخ خرگوش: سیستم توصیه یوتیوب برای نگه داشتن کاربران در حال تماشا برای مدت طولانی طراحی شده است. تحقیقات نشان داده است که اغلب کاربران را از محتوای اصلی به دیدگاه‌های افراطی‌تر هدایت می‌کند و یک مسیر به سوی رادیکال‌سازی ایجاد می‌کند.

مطالعات موردی:

• سیاست‌های راست افراطی: کاربران در حال تماشای محتوای محافظه‌کارانه اصلی اغلب به ویدیوهای راست افراطی‌تر توصیه می‌شدند.
• نظریه‌های توطئه: جستجوهای بی‌ضرر می‌توانست کاربران را به ویدیوهایی که نظریه زمین تخت، محتوای ضد واکسن یا QAnon را ترویج می‌کردند هدایت کند.
• استثمار کودکان: الگوریتم گاهی اوقات ویدیوهای ظاهراً بی‌ضرر کودکان را به محتوای جنسی‌سازی کودکان متصل می‌کرد.

مقاومت در برابر تغییر: با وجود هشدارهای داخلی و خارجی درباره این مسائل، یوتیوب در ایجاد تغییرات قابل توجه در سیستم توصیه خود کند بود و معیارهای تعامل را بر آسیب‌های احتمالی اجتماعی اولویت داد.

4. QAnon و دیگر جنبش‌های حاشیه‌ای از طریق پلتفرم‌های اجتماعی به جریان اصلی دست یافتند

"الگوریتم‌ها در حال ساختن شبه‌نظامیان هستند."

از حاشیه به جریان اصلی: QAnon، یک نظریه توطئه که در 4chan آغاز شد، به سرعت در پلتفرم‌های اصلی شبکه‌های اجتماعی گسترش یافت. محتوای این جنبش اغلب توسط الگوریتم‌های توصیه ترویج می‌شد و آن را به مخاطبان بسیار گسترده‌تری معرفی می‌کرد.

پیامدهای واقعی:

• تأثیر سیاسی: باورمندان به QAnon برای مناصب سیاسی نامزد شدند و پیروز شدند.
• شورش 6 ژانویه: بسیاری از شرکت‌کنندگان با باورهای QAnon انگیزه داشتند.
• بهداشت عمومی: روایت‌های QAnon به اطلاعات نادرست درباره COVID-19 و تردید در واکسن کمک کرد.

پاسخ‌های پلتفرم: شرکت‌های شبکه‌های اجتماعی در اقدام علیه QAnon و جنبش‌های مشابه کند بودند و اغلب به نگرانی‌های آزادی بیان اشاره می‌کردند. هنگامی که اقدام کردند، اغلب برای جلوگیری از تأثیرات واقعی قابل توجه دیر بود.

5. شرکت‌های فناوری تعامل را بر تأثیر اجتماعی اولویت دادند و در برابر تغییرات معنادار مقاومت کردند

"عدم اقدام فیس‌بوک در حذف پست ترامپ که به خشونت تحریک می‌کرد، باعث شرمندگی من از کار در اینجا می‌شود."

تصمیمات مبتنی بر سود: شرکت‌های شبکه‌های اجتماعی به طور مداوم تعامل کاربر و رشد را بر آسیب‌های احتمالی اجتماعی اولویت دادند. این منجر به تصمیماتی شد که محتوای تفرقه‌انگیز و اطلاعات نادرست را تقویت کرد.

تعارضات داخلی: بسیاری از کارکنان در شرکت‌های فناوری نگرانی‌هایی درباره تأثیرات پلتفرم‌های خود مطرح کردند، اما اغلب توسط رهبری نادیده گرفته شدند یا به حاشیه رانده شدند.

مقاومت در برابر مقررات: شرکت‌های فناوری علیه مقررات دولتی لابی کردند و اغلب در برابر درخواست‌ها برای شفافیت یا پاسخگویی بیشتر مقاومت کردند.

اصلاحات محدود: هنگامی که تغییراتی ایجاد شد، اغلب سطحی یا به راحتی قابل برگشت بودند و نتوانستند به مسائل اساسی مدل‌های کسب‌وکار و الگوریتم‌های پلتفرم‌ها رسیدگی کنند.

6. انتخابات 2016 ایالات متحده قدرت شبکه‌های اجتماعی در تأثیرگذاری بر سیاست و گسترش اطلاعات نادرست را نشان داد

"ما آلت رایت را به وجود آوردیم."

دخالت روسیه: پلتفرم‌های شبکه‌های اجتماعی توسط عوامل روسی برای گسترش اطلاعات نادرست و ایجاد نفاق در طول انتخابات ریاست‌جمهوری 2016 ایالات متحده استفاده شدند.

ظهور آلت رایت: جنبش‌های راست‌گرای حاشیه‌ای از طریق کمپین‌های هماهنگ شبکه‌های اجتماعی به دست آوردند و اغلب از الگوریتم‌های پلتفرم برای رسیدن به مخاطبان گسترده‌تر بهره‌برداری کردند.

اپیدمی اخبار جعلی: سهولت ایجاد و به اشتراک‌گذاری اطلاعات نادرست در شبکه‌های اجتماعی منجر به گسترش "اخبار جعلی" شد که بر افکار عمومی تأثیر گذاشت.

پاسخ‌های پلتفرم: در ابتدا، شرکت‌های فناوری نقش خود در این مسائل را کم‌اهمیت جلوه دادند. با گذشت زمان، آن‌ها برخی اقدامات برای مبارزه با اطلاعات نادرست اجرا کردند، اما این تلاش‌ها اغلب به عنوان ناکافی مورد انتقاد قرار گرفتند.

7. شبکه‌های اجتماعی نقش مهمی در رادیکال‌سازی شرکت‌کنندگان در شورش 6 ژانویه کنگره ایفا کردند

"ما داخل هستیم، ما داخل هستیم! دریک ایوانز در کنگره است!"

سازماندهی آنلاین: پلتفرم‌های شبکه‌های اجتماعی برای برنامه‌ریزی و هماهنگی رویدادهای 6 ژانویه استفاده شدند و بسیاری از شرکت‌کنندگان به طور علنی درباره نیت‌های خود بحث کردند.

مسیر رادیکال‌سازی: بسیاری از شورشیان از طریق الگوریتم‌های شبکه‌های اجتماعی در معرض محتوای افراطی‌تر قرار گرفته بودند و به باور در نظریه‌های توطئه درباره تقلب در انتخابات رسیدند.

پخش زنده حمله: شرکت‌کنندگان از شبکه‌های اجتماعی برای پخش زنده اقدامات خود در زمان واقعی استفاده کردند و تأثیر این رویداد را بیشتر کردند.

پاسخ‌های پلتفرم: در پی این رویداد، شرکت‌های شبکه‌های اجتماعی اقداماتی بی‌سابقه انجام دادند، از جمله ممنوعیت رئیس‌جمهور وقت ترامپ از پلتفرم‌های خود. با این حال، این اقدامات به عنوان ناکافی و دیرهنگام مورد انتقاد قرار گرفتند.

8. تلاش‌ها برای اصلاح شبکه‌های اجتماعی توسط انگیزه‌های سود و مقاومت ایدئولوژیک محدود شده‌اند

"تسلط عظیمی از کانال‌های راست‌گرا در یوتیوب وجود دارد."

تغییرات الگوریتمی: برخی پلتفرم‌ها تنظیماتی در سیستم‌های توصیه خود انجام داده‌اند، اما این تغییرات اغلب نتوانسته‌اند به مسائل اساسی رسیدگی کنند.

چالش‌های مدیریت محتوا: مقیاس‌بندی مدیریت محتوا به میلیاردها کاربر دشوار بوده است و پلتفرم‌ها در تلاش برای تعادل بین نگرانی‌های آزادی بیان و نیاز به حذف محتوای مضر هستند.

فشارهای نظارتی: دولت‌ها در سراسر جهان شروع به بررسی مقررات قوی‌تر برای شرکت‌های شبکه‌های اجتماعی کرده‌اند، اما پیشرفت کند و نابرابر بوده است.

مقاومت داخلی: بسیاری در شرکت‌های فناوری همچنان در برابر تغییرات اساسی در مدل‌های کسب‌وکار یا فناوری‌های اصلی خود مقاومت می‌کنند و اغلب به ایده‌های لیبرترین آزادی بیان و حداقل مقررات اشاره می‌کنند.

9. اقتصاد توجه و طراحی متقاعدکننده روان‌شناسی انسانی را برای تعامل بهره‌برداری می‌کنند

"ما باید به این دولت فاسد پایان دهیم."

ربودن مغز: پلتفرم‌های شبکه‌های اجتماعی برای بهره‌برداری از آسیب‌پذیری‌های روان‌شناختی، مانند نیاز به تأیید اجتماعی و ترس از دست دادن، طراحی شده‌اند.

حلقه‌های بازخورد دوپامین‌محور: ویژگی‌هایی مانند لایک‌ها، اشتراک‌گذاری‌ها و اعلان‌ها چرخه‌های اعتیادآور تعامل ایجاد می‌کنند و کاربران را به بازگشت بیشتر ترغیب می‌کنند.

بازی‌سازی تعامل: پلتفرم‌ها از عناصر شبیه به بازی برای افزایش تعامل کاربر استفاده می‌کنند، اغلب به قیمت تعامل معنادار یا کیفیت اطلاعات.

نگرانی‌های اخلاقی: منتقدان استدلال می‌کنند که این انتخاب‌های طراحی به نوعی دستکاری تبدیل می‌شوند و سوالاتی درباره اخلاق فناوری متقاعدکننده و تأثیر آن بر جامعه مطرح می‌کنند.

آخرین به‌روزرسانی:: August 10, 2024