Nexus

1. Informasi adalah tentang koneksi, bukan sekadar representasi

Informasi tidak selalu memberi tahu kita tentang hal-hal. Sebaliknya, informasi menyusun hal-hal dalam suatu formasi.

Informasi menciptakan realitas. Sepanjang sejarah, informasi telah digunakan tidak hanya untuk merepresentasikan realitas yang ada, tetapi juga untuk menciptakan yang baru dengan menghubungkan elemen-elemen yang berbeda. Hal ini berlaku dari DNA dalam biologi hingga teks-teks keagamaan dalam masyarakat manusia. Teknologi informasi seperti tulisan, pencetakan, dan kini komputer telah secara dramatis memperluas kemampuan kita untuk menciptakan dan memelihara jaringan kerjasama berskala besar.

• Contoh informasi yang menciptakan realitas:
  • DNA menghubungkan sel-sel menjadi organisme
  • Teks-teks keagamaan menghubungkan para penganut menjadi komunitas
  • Dokumen hukum menghubungkan individu menjadi bangsa
  • Kode komputer menghubungkan perangkat menjadi jaringan

Memahami informasi sebagai kekuatan penghubung membantu menjelaskan fenomena seperti kekuatan mitos, munculnya birokrasi, dan potensi dampak AI pada masyarakat manusia.

2. Cerita dan mitos membentuk kerjasama manusia dalam skala besar

Selama puluhan ribu tahun, Sapiens membangun dan memelihara jaringan besar dengan menciptakan dan menyebarkan fiksi, fantasi, dan delusi massal—tentang dewa, tentang sapu terbang, tentang AI, dan banyak hal lainnya.

Mitos memungkinkan kerjasama berskala besar. Manusia memiliki kemampuan unik untuk menciptakan dan mempercayai fiksi bersama, yang memungkinkan kerjasama melampaui kelompok kekerabatan kecil. Mitos-mitos bersama ini—baik yang bersifat religius, nasional, maupun ideologis—telah menjadi kunci dalam membangun masyarakat dan peradaban besar.

• Fungsi mitos bersama:
  • Menciptakan identitas bersama
  • Menetapkan tujuan bersama
  • Membenarkan hierarki sosial
  • Memberikan makna dan tujuan

Namun, meskipun mitos adalah alat yang kuat untuk kerjasama, mereka juga bisa menjadi sumber konflik dan penindasan ketika kelompok-kelompok yang berbeda memegang keyakinan yang tidak kompatibel. Tantangan bagi masyarakat modern adalah memanfaatkan kekuatan penghubung dari cerita bersama sambil mempertahankan fleksibilitas dan toleransi terhadap perspektif yang beragam.

3. Birokrasi dan dokumen memusatkan kekuasaan tetapi membatasi privasi

Dokumen, arsip, formulir, lisensi, regulasi, dan prosedur birokrasi lainnya telah mengubah cara informasi mengalir dalam masyarakat, dan dengan itu cara kerja kekuasaan.

Birokrasi mengubah aliran informasi. Munculnya dokumen tertulis dan sistem birokrasi secara dramatis mengubah cara informasi dikumpulkan, disimpan, dan digunakan dalam masyarakat. Pergeseran ini memusatkan kekuasaan dengan cara baru, tetapi juga menciptakan batasan baru pada privasi dan otonomi individu.

• Perubahan kunci yang dibawa oleh birokrasi:
  • Pusat informasi dalam arsip
  • Penciptaan formulir dan prosedur standar
  • Munculnya kelas birokrasi yang terampil
  • Peningkatan kapasitas negara untuk perpajakan dan kontrol

Meskipun birokrasi memungkinkan pemerintahan yang lebih kompleks dan efisien, ia juga menciptakan bentuk penindasan dan pengawasan baru. Ketegangan antara efisiensi birokratis dan privasi individu tetap menjadi tantangan utama di era digital.

4. Buku suci dan sumber yang tak salah sering kali mengarah pada kontrol manusia

Upaya untuk menempatkan semua otoritas pada teknologi superhuman yang tak salah mengarah pada munculnya institusi manusia baru yang sangat kuat—gereja.

Ketaksalahan melahirkan kontrol. Sepanjang sejarah, upaya untuk menciptakan sumber kebenaran yang tak salah—baik itu buku suci, ideologi, atau sistem AI—sering kali mengarah pada peningkatan kontrol manusia daripada pembebasan dari kesalahan. Paradoks ini muncul karena sumber yang tak salah tetap memerlukan interpretasi dan implementasi manusia.

• Contoh sumber "tak salah" yang mengarah pada kontrol manusia:
  • Teks-teks keagamaan dan kelas pendeta
  • Ideologi politik dan elit partai
  • Sistem AI dan perusahaan teknologi

Pelajaran untuk era AI adalah bahwa klaim tentang ketaksalahan algoritmik harus diperlakukan dengan skeptisisme, dan pengawasan serta interpretasi manusia akan tetap penting meskipun sistem AI menjadi lebih kuat.

5. Demokrasi bergantung pada informasi yang terdistribusi dan koreksi diri

Demokrasi adalah percakapan dengan banyak peserta, banyak di antaranya berbicara pada saat yang sama. Sulit untuk mengikuti percakapan semacam itu.

Demokrasi itu rumit tetapi tangguh. Sistem demokrasi ditandai dengan aliran informasi yang terdistribusi dan mekanisme koreksi diri yang kuat. Meskipun ini dapat membuatnya tampak kacau atau tidak efisien dibandingkan dengan sistem yang lebih terpusat, hal ini juga membuatnya lebih adaptif dan tahan terhadap kesalahan yang katastrofik.

Fitur kunci dari sistem informasi demokratis:

• Banyak saluran informasi independen
• Kebebasan berbicara dan pers
• Pemisahan kekuasaan
• Pemilihan umum yang teratur dan transfer kekuasaan yang damai

Tantangan bagi demokrasi modern adalah mempertahankan fitur-fitur terdistribusi dan koreksi diri ini di tengah teknologi baru yang memungkinkan pemusatan dan kontrol informasi yang belum pernah terjadi sebelumnya.

6. Komputer mengubah sifat jaringan informasi

Berbeda dengan mesin cetak dan radio, yang merupakan alat pasif di tangan manusia, komputer sudah mulai menjadi agen aktif yang melampaui kendali dan pemahaman kita dan yang dapat mengambil inisiatif dalam membentuk masyarakat, budaya, dan sejarah.

Komputer adalah agen aktif. Munculnya komputer dan AI mewakili pergeseran mendasar dalam sifat jaringan informasi. Berbeda dengan teknologi sebelumnya, komputer dapat membuat keputusan dan menciptakan ide-ide baru secara independen dari masukan manusia.

• Perbedaan kunci antara komputer dan teknologi sebelumnya:
  • Kemampuan untuk memproses sejumlah besar data
  • Kapasitas untuk pembelajaran mesin dan perbaikan diri
  • Potensi untuk pengambilan keputusan otonom
  • Penciptaan realitas antar-komputer

Pergeseran ini menimbulkan pertanyaan mendalam tentang agensi manusia, kontrol, dan masa depan sistem sosial dan politik yang dibangun di atas pengambilan keputusan manusia.

7. Masalah keselarasan AI menimbulkan risiko eksistensial bagi umat manusia

Masalah keselarasan ternyata, pada dasarnya, adalah masalah mitologi.

Menyelaraskan AI dengan nilai-nilai manusia sangat penting. Seiring dengan semakin kuatnya sistem AI, memastikan bahwa tujuan dan tindakan mereka selaras dengan nilai-nilai dan kepentingan manusia menjadi tantangan eksistensial. "Masalah keselarasan" ini kompleks karena melibatkan bukan hanya isu teknis, tetapi juga pertanyaan mendasar tentang nilai-nilai manusia dan sifat kesadaran.

• Aspek kunci dari masalah keselarasan:
  • Mendefinisikan nilai-nilai manusia dalam istilah yang dapat dibaca mesin
  • Memastikan sistem AI mengejar tujuan yang dimaksudkan, bukan tujuan literal
  • Mempertahankan kontrol manusia atas sistem yang semakin otonom
  • Mengatasi potensi konflik antara AI dan kepentingan manusia

Menyelesaikan masalah keselarasan mungkin menjadi tantangan terpenting yang dihadapi umat manusia dalam beberapa dekade mendatang, karena sistem AI yang tidak selaras dapat menimbulkan risiko eksistensial meskipun mereka tidak secara eksplisit bermusuhan terhadap manusia.

8. Bias komputer dapat memperpetuasi dan memperkuat prasangka manusia

AI juga memiliki pengalaman masa kecil. Algoritma bahkan dapat saling menginfeksi dengan bias mereka, sama seperti manusia.

AI dapat memperkuat bias. Meskipun sistem AI sering kali dipresentasikan sebagai objektif dan tidak bias, mereka sebenarnya dapat memperpetuasi dan memperkuat prasangka manusia yang ada dalam data pelatihan mereka. Ini terjadi karena sistem AI belajar pola dari data yang ada, yang sering kali mencerminkan bias dan ketidaksetaraan historis.

Contoh bias AI:

• Sistem pengenalan wajah berkinerja buruk pada kulit yang lebih gelap
• Algoritma penyaringan resume lebih memilih kandidat pria
• Sistem kepolisian prediktif menargetkan lingkungan minoritas

Mengatasi bias AI memerlukan tidak hanya solusi teknis, tetapi juga pemeriksaan mendalam terhadap konteks sosial dan historis di mana sistem AI dikembangkan dan diterapkan.

9. Demokrasi menghadapi tantangan baru di era AI dan otomatisasi

Jika tiga tahun pengangguran tinggi dapat membawa Hitler ke kekuasaan, apa yang mungkin dilakukan oleh gejolak yang tak berujung di pasar kerja terhadap demokrasi?

AI mengganggu stabilitas demokratis. Kecepatan perubahan teknologi yang cepat, terutama dalam AI dan otomatisasi, menimbulkan tantangan signifikan bagi sistem demokrasi. Tantangan ini termasuk potensi pengangguran massal, peningkatan ketidaksetaraan ekonomi, dan manipulasi opini publik melalui sistem informasi yang didorong oleh AI.

Potensi ancaman terhadap demokrasi dari AI:

• Pemindahan pekerjaan yang menyebabkan kerusuhan sosial
• Konsentrasi kekayaan dan kekuasaan di perusahaan teknologi
• Sistem pengawasan dan kontrol sosial yang didorong oleh AI
• Manipulasi pemilihan melalui informasi yang ditargetkan

Mengatasi tantangan ini akan memerlukan bentuk baru pemerintahan demokratis dan organisasi ekonomi yang dapat beradaptasi dengan perubahan teknologi yang cepat sambil mempertahankan nilai-nilai demokratis inti.

10. Mempertahankan agensi manusia sangat penting seiring dengan semakin kuatnya AI

Untuk melindungi dari berbagai masalah yang tidak terduga, taruhan terbaik kita adalah menciptakan institusi hidup yang dapat mengidentifikasi dan merespons ancaman saat muncul.

Pengawasan manusia tetap penting. Seiring dengan semakin kuat dan otonomnya sistem AI, mempertahankan agensi dan pengawasan manusia menjadi semakin krusial. Ini memerlukan tidak hanya langkah-langkah teknis, tetapi juga pengembangan institusi sosial dan politik baru yang mampu mengatur sistem AI.

Prinsip kunci untuk mempertahankan agensi manusia:

• Mempertahankan kontrol manusia atas keputusan penting
• Memastikan transparansi dan akuntabilitas dalam sistem AI
• Mengembangkan kerangka etika yang kuat untuk pengembangan AI
• Berinvestasi dalam pendidikan dan adaptabilitas manusia

Tantangan utama adalah memanfaatkan potensi besar AI sambil memastikan bahwa ia tetap menjadi alat untuk kemakmuran manusia daripada ancaman terhadap otonomi dan keberadaan manusia.

Terakhir diperbarui: September 10, 2024