Algorithms Are Not Enough

1. Künstliche Allgemeine Intelligenz Bleibt Trotz Spezieller KI-Erfolge Unerreichbar

Die Werkzeuge, mit denen wir spezialisierte Intelligenz erschaffen, reichen nicht aus für allgemeine Intelligenz.

Spezialisierte Triumphe. Seit Jahrzehnten erzielt künstliche Intelligenz beeindruckende Erfolge in engen Anwendungsbereichen – vom Besiegen von Weltmeistern im Schach und Go bis hin zur Diagnose von Krankheiten und dem Betrieb autonomer Fahrzeuge. Diese Erfolge beruhen jedoch auf hochspezialisierten Algorithmen und von Menschen entworfenen Problemstrukturen, nicht auf einem generalisierten Verständnis oder Anpassungsfähigkeit. Jeder Durchbruch ist ein „Igel“ – der in einer wichtigen Sache brilliert – statt ein „Fuchs“, der viele Dinge kennt.

Begrenzter Anwendungsbereich. Aktuelle KI-Systeme sind im Grunde ausgefeilte „Wegfinder“ innerhalb vorgegebener „Zustandsräume“. Ob es darum geht, Schachzüge zu navigieren oder Muster in medizinischen Bildern zu erkennen – die Intelligenz des Systems ist auf das spezifische Problem und die von Menschen bereitgestellte Repräsentation beschränkt. Das bedeutet, dass eine Go-KI nicht plötzlich Gedichte schreiben kann, und ein medizinisches Diagnosesystem kein Auto steuern kann. Dies verdeutlicht die tiefe Kluft zwischen spezialisierter und allgemeiner Intelligenz.

Übermäßige Abhängigkeit von Rechenleistung. Frühe KI-Pioniere wie Herbert Simon sagten optimistisch eine allgemeine KI innerhalb weniger Jahrzehnte voraus, in der Annahme, dass steigende Rechenleistung und Speicherkapazität die Lücke schließen würden. Zwar ist die Rechenkapazität tatsächlich exponentiell gewachsen (Moores Gesetz), doch hat sie vor allem bestehende spezialisierte Methoden schneller und praktikabler gemacht, anstatt echte allgemeine Intelligenz zu ermöglichen. Die grundlegende Beschränkung liegt nicht in Geschwindigkeit oder Speicher, sondern im Fehlen von Mechanismen zur autonomen Problemdefinition und -repräsentation.

2. Menschliche Intelligenz Verbindet Schnelle Intuition mit Überlegten Algorithmen

Menschliche Intelligenz, auch die von Einstein, benötigt sowohl eine logische, systematische Denkweise als auch eine nichtlogische Art des Denkens, die Einsicht ermöglicht.

Zwei Denksysteme. Menschliche Intelligenz funktioniert durch ein dynamisches Zusammenspiel zweier unterschiedlicher, aber sich ergänzender kognitiver Systeme. Daniel Kahneman beschreibt diese als System 1, das schnell, automatisch, intuitiv und oft emotional ist, und System 2, das langsam, überlegt, logisch und anstrengend arbeitet. Während System 2 mit höheren intellektuellen Funktionen wie komplexem Problemlösen und formaler Argumentation verbunden ist, bildet System 1 die Grundlage für schnelles Lernen, Mustererkennung und gesunden Menschenverstand.

Heuristiken und Verzerrungen. System 1 nutzt häufig „Heuristiken“ – mentale Abkürzungen, die meist effektiv sind, aber zu vorhersehbaren Verzerrungen oder „Fehlern“ in der formalen Logik führen können. Beispiele sind:

• Verfügbarkeitsheuristik: Einschätzung der Wahrscheinlichkeit basierend darauf, wie leicht einem Beispiele einfallen.
• Repräsentativitätsheuristik: Einschätzung der Wahrscheinlichkeit anhand der Ähnlichkeit zu einem Prototyp.
• Framing-Effekt: Unterschiedliche Entscheidungen je nach Darstellung der Information (z. B. „90 % Überlebensrate“ vs. „10 % Sterblichkeit“).
  Diese „Eigenheiten“ sind keine bloßen Fehler, sondern essenzielle Mechanismen, die es Menschen erlauben, sich in einer komplexen, unsicheren Welt zurechtzufinden, ohne sich in Gedanken zu verlieren.

Mehr als reine Logik. Anders als frühe KI-Modelle, die menschliches Denken als rein logische, systematische Prozesse nachahmen wollten, ist echte menschliche Intelligenz von Natur aus unscharf und nicht-monoton. Wir lernen aus wenigen Beispielen, ziehen widerlegbare Schlüsse (Glauben, die revidierbar sind) und priorisieren oft plausible Ergebnisse über strikt logische. Diese Mischung aus intuitiven, oft „irrationalen“ Prozessen und überlegten, „rationalen“ ist entscheidend für Anpassungsfähigkeit und Problemlösung in der realen Welt.

3. Die Richtige Problemrepräsentation (TRICS) ist der Unbesungene Held des KI-Fortschritts

Die Erfindungskraft, auf die sie angewiesen sind, wird von Menschen bereitgestellt.

Von Menschen entworfene Rahmenwerke. Jedes erfolgreiche System künstlicher Intelligenz, von Schachprogrammen bis zu Deep-Learning-Netzen, verdankt seine Fähigkeiten den „Repräsentationen, die es entscheidend voraussetzt“ (TRICS) – den spezifischen Arten, wie seine menschlichen Entwickler das Problem, die Eingaben und die möglichen Lösungen strukturieren. Diese Repräsentationen verwandeln komplexe, unlösbare Probleme in einfachere, berechenbare. So wurde etwa Schach als Zugbaum und Go als Mustererkennungsaufgabe dargestellt, was diese Spiele für KI lösbar machte.

Engpass der Innovation. Die Fähigkeit, neuartige und effektive Repräsentationen zu schaffen, ist der wichtigste Engpass auf dem Weg zur künstlichen allgemeinen Intelligenz. Aktuelle KI kann Parameter innerhalb einer gegebenen Repräsentation optimieren, aber sie kann nicht eigenständig neue konzeptuelle Rahmen oder Problemlösungsparadigmen erfinden. Dieser kreative Sprung, beispielhaft durch Kekulés Benzolring oder Mendelejews Periodensystem, bleibt eine einzigartige menschliche Fähigkeit, die KI bislang nicht nachahmen kann.

Implizites Wissen im Design. Selbst scheinbar „selbstlernende“ tiefe neuronale Netze sind stark von ihrer Architektur geprägt, die implizit Annahmen über Daten und Lernaufgabe kodiert. So ist etwa die Engpass-Schicht eines Autoencoders darauf ausgelegt, eine bestimmte statistische Reduktion durchzuführen, nicht eine neue Form der Datenkompression zu erfinden. Die „Intelligenz“ liegt oft im klugen Design des menschlichen Ingenieurs, nicht in der Fähigkeit der Maschine, diese Strukturen zu überwinden.

4. Maschinelles Lernen Exzelliert in Optimierung, Fehlt Aber Wahre Kreativität und Gesunder Menschenverstand

Die vorliegenden Belege deuten darauf hin, dass Erfindung – etwa das Design neuer, unvorhergesehener Strukturen, die Formulierung neuer wissenschaftlicher Paradigmen oder die Schaffung neuer Repräsentationsformen – andere Fähigkeiten erfordert als Optimierung in einem bekannten Raum.

Grenzen der Optimierung. Maschinelles Lernen ist im Kern ein Optimierungsprozess: Parameter innerhalb eines vorgegebenen Modells werden angepasst, um ein gewünschtes Ergebnis zu maximieren (z. B. Genauigkeit, Belohnung) oder Fehler zu minimieren. Das ist mächtig bei Aufgaben wie Klassifikation, Vorhersage und Strategiespielen, bei denen der Problemraum klar definiert ist. Doch Optimierung kann keine völlig neuen Parameter erzeugen, den Problemraum neu definieren oder außerhalb des gegebenen Rahmens neuartige Lösungen erfinden.

Fehlender gesunder Menschenverstand. Ein entscheidendes fehlendes Element aktueller KI ist der gesunde Menschenverstand – das umfangreiche, implizite und oft nicht-monotone Wissen, das Menschen nutzen, um den Alltag zu meistern. Gesunder Menschenverstand erlaubt es uns,

• unausgesprochene Fakten zu erschließen (z. B. wenn John einen Job hat, verdient er Geld),
• Mehrdeutigkeiten zu klären (z. B. bedeutet „Tube“ in London U-Bahn),
• kontextabhängige Bedeutungen zu verstehen,
• Ursache und Wirkung zu durchdenken.
  Ohne dieses Wissen hat KI Schwierigkeiten mit schlecht definierten Problemen, unerwarteten Situationen und selbst grundlegender Sprachverständnis, was oft zu „dummen“ Fehlern führt, die kein Mensch machen würde.

Kreativität als Neukonzeptualisierung. Wahre Kreativität, wie sie menschliche Genies zeigen, bedeutet „Neukonzeptualisierung“ – das Erschaffen neuer Parameter oder völlig neuer Problemrepräsentationen. AlphaGos „kreativer“ Zug war ein unerwarteter Pfad innerhalb eines bekannten Spielraums, nicht eine Neudefinition des Spiels selbst. KI kann neue Kombinationen innerhalb bestehender Rahmen erzeugen (z. B. neue Musik im gelernten Stil), aber sie kann nicht eigenständig neue künstlerische Stile oder wissenschaftliche Paradigmen erfinden.

5. Menschliche Expertise Entwickelt Sich Durch Gezieltes Üben und Abstraktes Wissen

Überlegene Erinnerung resultiert daraus, Experte zu sein, nicht Expertise daraus, ein gutes Gedächtnis zu haben.

Wissen, nicht nur Kapazität. Menschliche Expertise beruht nicht nur auf besserem Gedächtnis oder schnellerer Verarbeitung, sondern auf dem Erwerb und der Organisation tiefgehenden, abstrakten Wissens in einem bestimmten Bereich. Schachmeister merken sich beispielsweise nicht nur mehr einzelne Figurenpositionen, sondern erkennen komplexe „Chunks“ oder Muster von Figuren und deren strategische Bedeutung, was ihnen erlaubt, schnell hochwertige Züge zu identifizieren.

Abstrakte Repräsentationen. Experten unterscheiden sich von Anfängern nicht nur durch die Menge ihres Wissens, sondern durch die Art, wie sie Probleme repräsentieren. Physikexperten kategorisieren Probleme nach zugrundeliegenden Prinzipien (z. B. Energieerhaltung), während Anfänger sich auf oberflächliche Merkmale (z. B. Federn, schiefe Ebenen) konzentrieren. Diese Fähigkeit, von konkreten Details zu fundamentalen Prinzipien zu abstrahieren, ist ein Kennzeichen von Expertise und ermöglicht effektiveres Problemlösen und Transferlernen.

Die „10-Jahres-Regel“ und gezieltes Üben. Um Spitzenexpertise in verschiedenen Bereichen – von Musik und Schach bis Sport und Wissenschaft – zu erreichen, sind typischerweise etwa 10.000 Stunden oder 10 Jahre „gezieltes Üben“ erforderlich. Dabei handelt es sich nicht um beliebiges Üben, sondern um fokussierte, messbare Anstrengung mit unmittelbarem Feedback, die darauf abzielt, spezifische Leistungsaspekte zu verbessern. Das legt nahe, dass Expertise überwiegend kultiviert wird, nicht angeboren ist, und impliziert, dass es auch für KI keinen Abkürzungsweg zum Erwerb tiefen, domänenspezifischen Wissens gibt.

6. Ängste Vor Superintelligenz und „Robopokalypse“ Sind Grundlegend Fehlgeleitet

Wenn von einer Maschine erwartet wird, unfehlbar zu sein, kann sie nicht zugleich intelligent sein.

Missverständnisse über KI-Wachstum. Die Angst vor einer „technologischen Singularität“ oder „Robopokalypse“, bei der eine superintelligente KI sich rasch selbst verbessert und die Kontrolle übernimmt, beruht auf mehreren grundlegenden Missverständnissen. Oft wird Rechenkapazität mit echter Intelligenz verwechselt, in der Annahme, schnellere Prozessoren führten automatisch zu exponentiellem intellektuellem Wachstum. Intelligenz erfordert jedoch mehr als Geschwindigkeit; sie verlangt Wissen, Erfahrung und die Fähigkeit, mit einer unsicheren Welt zu interagieren.

Beschränkungen in der realen Welt. Die Geschwindigkeit, mit der KI „lernen“ und sich „verbessern“ kann, wird oft durch die Rate realer Interaktion und Rückmeldung begrenzt, nicht nur durch Prozessorleistung. Zum Beispiel:

• Wettervorhersage erfordert das Abwarten tatsächlicher Wetterereignisse.
• Autonome Fahrzeuge lernen durch gefahrene Kilometer und begegnen seltenen Ereignissen langsam.
• Komplexe Probleme wie die „Summe von drei Kuben“ können trotz weniger Variablen Jahre an Berechnung benötigen.
  Diese physikalischen und informationellen Engpässe begrenzen das Tempo der Intelligenzentwicklung und verhindern eine plötzliche, unkontrollierbare „Explosion“.

Der „Flaschengeist“-Irrtum. Gedankenexperimente wie Bostroms „Papierklammer-Maximierer“ gehen davon aus, dass eine KI ein schlecht definiertes Ziel rücksichtslos verfolgt und der Menschheit schadet. Aktuelle KI kann jedoch nicht:

• eigenständig eigene Ziele setzen oder neu definieren,
• ihre Mission über programmierte Parameter hinaus „verstehen“,
• wirklich neuartige Lösungen außerhalb ihres gegebenen Repräsentationsraums generieren.
  Solche Szenarien ignorieren die tiefen Beschränkungen heutiger KI und die komplexe, oft widersprüchliche Natur menschlicher Werte und Ziele. Die „unerwarteten Lösungen“, die KI findet, sind durch ihr Design begrenzt, nicht willkürlich neu.

7. Die Erreichung Allgemeiner KI Erfordert Neue Paradigmen für Selbstrepräsentation und Lernen

Eine künstliche allgemeine Intelligenz muss in der Lage sein, eigene neuartige Repräsentationen zu schaffen.

Jenseits der Optimierung. Der Weg zur künstlichen allgemeinen Intelligenz (AGI) kann nicht durch bloßes Hochskalieren aktueller maschineller Lernverfahren – einem „Igelstapel“ – erreicht werden. AGI erfordert einen grundlegenden Paradigmenwechsel, der über reine Parameteroptimierung innerhalb menschlich entworfener Rahmen hinausgeht. Sie braucht Mechanismen für:

• Autonome Problemidentifikation und Zielsetzung: Probleme erkennen und Ziele definieren ohne explizite menschliche Vorgaben.
• Kreative Repräsentationsgenerierung: Neue Wege erfinden, Probleme zu konzeptualisieren, vergleichbar mit menschlicher Einsicht.
• Robustes Transferlernen: Wissen von einer Domäne auf völlig neue, unterschiedliche Probleme anwenden, ohne katastrophales Vergessen.

Lernen von menschlicher Entwicklung. Erkenntnisse aus der menschlichen kognitiven Entwicklung, wie Piagets Stufenmodell oder Wygotskis Betonung der Sprache als Denkwerkzeug, legen nahe, dass AGI von einem „Kind-Maschine“-Ansatz profitieren könnte. Dabei beginnt man mit einfacheren Systemen, die durch Interaktion und Erfahrung lernen und allmählich Komplexität und abstraktes Verständnis aufbauen. Dies erfordert jedoch die Überwindung von Herausforderungen wie schnellem Lernen aus wenigen Beispielen und der Fähigkeit, abstrakte Analogien zu bilden.

Die Herausforderung des „Verstehens“. Obwohl eine vollständige Gehirnemulation theoretisch möglich ist, ist unser heutiges Verständnis der komplexen, dynamischen und oft stochastischen Prozesse im Gehirn viel zu begrenzt. Wir wissen nicht, wie Neuronen Erinnerungen speichern, Rollen wechseln oder zum Bewusstsein beitragen. AGI wird wahrscheinlich nicht aus einer perfekten biologischen Nachbildung entstehen, sondern aus neuen Rechenarchitekturen, die autonom:

• Nicht-monoton schließen: Überzeugungen angesichts neuer, widersprüchlicher Beweise anpassen,
• Analogie und Metapher nutzen: Unerwartete Beziehungen zwischen unterschiedlichen Konzepten erkennen,
• Chaotische Systeme navigieren: Mit realen Phänomenen umgehen, bei denen kleine Veränderungen unvorhersehbare, großskalige Effekte haben.
  Diese Fähigkeiten markieren die Grenze der AGI-Forschung und erfordern einen Paradigmenwechsel jenseits aktueller algorithmischer und optimierungsorientierter Ansätze.