Nexus

1. Informatie gaat over verbinding, niet alleen representatie

Informatie informeert ons niet noodzakelijkerwijs over dingen. In plaats daarvan zet het dingen in formatie.

Informatie creëert realiteiten. Door de geschiedenis heen is informatie niet alleen gebruikt om bestaande realiteiten te vertegenwoordigen, maar ook om nieuwe te creëren door verschillende elementen met elkaar te verbinden. Dit geldt van DNA in de biologie tot religieuze teksten in menselijke samenlevingen. Informatietechnologieën zoals schrijven, drukken en nu computers hebben ons vermogen om grootschalige samenwerkingsnetwerken te creëren en te onderhouden drastisch uitgebreid.

• Voorbeelden van informatie die realiteiten creëert:
  • DNA dat cellen verbindt tot organismen
  • Religieuze teksten die gelovigen verbinden tot gemeenschappen
  • Juridische documenten die individuen verbinden tot naties
  • Computercode die apparaten verbindt tot netwerken

Informatie begrijpen als een verbindende kracht helpt fenomenen verklaren zoals de kracht van mythen, de opkomst van bureaucratieën en de potentiële impact van AI op menselijke samenlevingen.

2. Verhalen en mythen vormen menselijke samenwerking op grote schaal

Al tienduizenden jaren bouwen en onderhouden Sapiens grote netwerken door het uitvinden en verspreiden van ficties, fantasieën en massale illusies—over goden, over betoverde bezemstelen, over AI en over nog veel meer.

Mythen maken grootschalige samenwerking mogelijk. Mensen zijn uniek in hun vermogen om gedeelde ficties te creëren en erin te geloven, wat samenwerking buiten kleine verwantschapsgroepen mogelijk maakt. Deze gedeelde mythen - of ze nu religieus, nationaal of ideologisch zijn - zijn cruciaal geweest bij het bouwen van grote samenlevingen en beschavingen.

• Functies van gedeelde mythen:
  • Creëren van gemeenschappelijke identiteiten
  • Vaststellen van gedeelde doelen
  • Rechtvaardigen van sociale hiërarchieën
  • Bieden van betekenis en doel

Hoewel mythen krachtige hulpmiddelen zijn voor samenwerking, kunnen ze ook bronnen van conflict en onderdrukking zijn wanneer verschillende groepen onverenigbare overtuigingen hebben. De uitdaging voor moderne samenlevingen is om de verbindende kracht van gedeelde verhalen te benutten terwijl flexibiliteit en tolerantie voor diverse perspectieven behouden blijven.

3. Bureaucratie en documenten centraliseerden macht maar beperkten privacy

Documenten, archieven, formulieren, licenties, regelgeving en andere bureaucratische procedures hebben de manier waarop informatie in de samenleving stroomt veranderd, en daarmee de manier waarop macht werkt.

Bureaucratie veranderde de informatiestroom. De opkomst van geschreven documenten en bureaucratische systemen veranderde drastisch hoe informatie werd verzameld, opgeslagen en gebruikt in samenlevingen. Deze verschuiving centraliseerde macht op nieuwe manieren, maar creëerde ook nieuwe beperkingen op privacy en individuele autonomie.

• Belangrijke veranderingen door bureaucratie:
  • Centralisatie van informatie in archieven
  • Creatie van gestandaardiseerde formulieren en procedures
  • Opkomst van gespecialiseerde bureaucratische klassen
  • Verhoogde staatscapaciteit voor belastingheffing en controle

Hoewel bureaucratie complexer en efficiënter bestuur mogelijk maakte, creëerde het ook nieuwe vormen van onderdrukking en surveillance. De spanning tussen bureaucratische efficiëntie en individuele privacy blijft een centrale uitdaging in het digitale tijdperk.

4. Heilige boeken en onfeilbare bronnen leiden vaak tot menselijke controle

De poging om alle autoriteit te investeren in een onfeilbare bovenmenselijke technologie leidde tot de opkomst van een nieuwe en uiterst krachtige menselijke instelling—de kerk.

Onfeilbaarheid kweekt controle. Door de geschiedenis heen hebben pogingen om onfeilbare bronnen van waarheid te creëren - of het nu heilige boeken, ideologieën of AI-systemen zijn - vaak geleid tot verhoogde menselijke controle in plaats van bevrijding van fouten. Deze paradox ontstaat omdat onfeilbare bronnen nog steeds menselijke interpretatie en implementatie vereisen.

• Voorbeelden van "onfeilbare" bronnen die leiden tot menselijke controle:
  • Religieuze teksten en priesterlijke klassen
  • Politieke ideologieën en partijelites
  • AI-systemen en technologiebedrijven

De les voor het tijdperk van AI is dat claims van algoritmische onfeilbaarheid met scepsis moeten worden behandeld, en menselijke toezicht en interpretatie zullen cruciaal blijven, zelfs als AI-systemen krachtiger worden.

5. Democratie berust op gedistribueerde informatie en zelfcorrectie

Democratie is een gesprek met talrijke deelnemers, waarvan velen tegelijkertijd praten. Het kan moeilijk zijn om zo'n gesprek te volgen.

Democratie is rommelig maar veerkrachtig. Democratische systemen worden gekenmerkt door gedistribueerde informatiestromen en sterke zelfcorrigerende mechanismen. Hoewel dit hen chaotisch of inefficiënt kan doen lijken in vergelijking met meer gecentraliseerde systemen, maakt het hen ook meer aanpasbaar en bestand tegen catastrofale fouten.

Belangrijke kenmerken van democratische informatiesystemen:

• Meerdere onafhankelijke informatiekanalen
• Vrijheid van meningsuiting en pers
• Scheiding der machten
• Regelmatige verkiezingen en vreedzame machtsoverdrachten

De uitdaging voor moderne democratieën is om deze gedistribueerde en zelfcorrigerende kenmerken te behouden in het licht van nieuwe technologieën die ongekende centralisatie en controle van informatie mogelijk maken.

6. Computers veranderen de aard van informatienetwerken

In tegenstelling tot drukpersen en radio's, die passieve hulpmiddelen in menselijke handen waren, worden computers al actieve agenten die aan onze controle en begrip ontsnappen en die initiatieven kunnen nemen in het vormgeven van de samenleving, cultuur en geschiedenis.

Computers zijn actieve agenten. De opkomst van computers en AI vertegenwoordigt een fundamentele verschuiving in de aard van informatienetwerken. In tegenstelling tot eerdere technologieën kunnen computers beslissingen nemen en nieuwe ideeën creëren onafhankelijk van menselijke input.

• Belangrijke verschillen tussen computers en eerdere technologieën:
  • Vermogen om enorme hoeveelheden data te verwerken
  • Capaciteit voor machine learning en zelfverbetering
  • Potentieel voor autonome besluitvorming
  • Creatie van inter-computer realiteiten

Deze verschuiving roept diepgaande vragen op over menselijke handelingsbekwaamheid, controle en de toekomst van sociale en politieke systemen die zijn gebouwd op menselijke besluitvorming.

7. Het afstemmingsprobleem van AI vormt existentiële risico's voor de mensheid

Het afstemmingsprobleem blijkt in wezen een probleem van mythologie te zijn.

AI afstemmen op menselijke waarden is cruciaal. Naarmate AI-systemen krachtiger worden, wordt het waarborgen dat hun doelen en acties in lijn zijn met menselijke waarden en belangen een existentiële uitdaging. Dit "afstemmingsprobleem" is complex omdat het niet alleen technische kwesties omvat, maar ook fundamentele vragen over menselijke waarden en de aard van bewustzijn.

• Belangrijke aspecten van het afstemmingsprobleem:
  • Definiëren van menselijke waarden in machine-leesbare termen
  • Waarborgen dat AI-systemen bedoelde in plaats van letterlijke doelen nastreven
  • Behouden van menselijke controle over steeds autonomere systemen
  • Aanpakken van potentiële conflicten tussen AI en menselijke belangen

Het oplossen van het afstemmingsprobleem kan de belangrijkste uitdaging zijn waarmee de mensheid de komende decennia wordt geconfronteerd, aangezien niet-uitgelijnde AI-systemen existentiële risico's kunnen vormen, zelfs als ze niet expliciet vijandig staan tegenover mensen.

8. Computerbiases kunnen menselijke vooroordelen voortzetten en versterken

AIs hebben ook jeugdervaringen. Algoritmen kunnen elkaar zelfs besmetten met hun vooroordelen, net zoals mensen dat doen.

AI kan vooroordelen versterken. Hoewel AI-systemen vaak worden gepresenteerd als objectief en onbevooroordeeld, kunnen ze in werkelijkheid menselijke vooroordelen in hun trainingsdata voortzetten en versterken. Dit gebeurt omdat AI-systemen patronen leren van bestaande data, die vaak historische vooroordelen en ongelijkheden weerspiegelen.

Voorbeelden van AI-vooroordelen:

• Gezichtsherkenningssystemen die slecht presteren op donkere huidtinten
• CV-screening algoritmen die mannelijke kandidaten bevoordelen
• Voorspellende politiezorgsystemen die zich richten op minderheidswijken

Het aanpakken van AI-vooroordelen vereist niet alleen technische oplossingen, maar ook een diepgaande analyse van de sociale en historische contexten waarin AI-systemen worden ontwikkeld en ingezet.

9. Democratie staat voor nieuwe uitdagingen in het tijdperk van AI en automatisering

Als drie jaar hoge werkloosheid Hitler aan de macht kon brengen, wat zou eindeloze onrust op de arbeidsmarkt dan met de democratie kunnen doen?

AI verstoort democratische stabiliteit. Het snelle tempo van technologische verandering, met name in AI en automatisering, vormt aanzienlijke uitdagingen voor democratische systemen. Deze uitdagingen omvatten potentiële massale werkloosheid, toegenomen economische ongelijkheid en de manipulatie van de publieke opinie door AI-gedreven informatiesystemen.

Potentiële bedreigingen voor democratie door AI:

• Werkverdringing die leidt tot sociale onrust
• Concentratie van rijkdom en macht in technologiebedrijven
• AI-gestuurde surveillance- en sociale controlesystemen
• Manipulatie van verkiezingen door gerichte desinformatie

Het aanpakken van deze uitdagingen vereist nieuwe vormen van democratisch bestuur en economische organisatie die zich kunnen aanpassen aan snelle technologische veranderingen terwijl ze kernwaarden van de democratie behouden.

10. Het behouden van menselijke handelingsbekwaamheid is cruciaal naarmate AI krachtiger wordt

Om ons te beschermen tegen een overvloed aan onvoorziene problemen, is onze beste gok het creëren van levende instellingen die bedreigingen kunnen identificeren en erop kunnen reageren zodra ze zich voordoen.

Menselijk toezicht blijft essentieel. Naarmate AI-systemen krachtiger en autonomer worden, wordt het behouden van menselijke handelingsbekwaamheid en toezicht steeds crucialer. Dit vereist niet alleen technische waarborgen, maar ook de ontwikkeling van nieuwe sociale en politieke instellingen die in staat zijn AI-systemen te besturen.

Belangrijke principes voor het behouden van menselijke handelingsbekwaamheid:

• Behouden van menselijke controle over kritieke beslissingen
• Waarborgen van transparantie en verantwoording in AI-systemen
• Ontwikkelen van robuuste ethische kaders voor AI-ontwikkeling
• Investeren in menselijke educatie en aanpassingsvermogen

De ultieme uitdaging is om het immense potentieel van AI te benutten terwijl ervoor wordt gezorgd dat het een hulpmiddel blijft voor menselijk welzijn in plaats van een bedreiging voor menselijke autonomie en bestaan.

Last updated: September 10, 2024