Algorithms Are Not Enough

1. L’intelligence artificielle générale reste insaisissable malgré les succès de l’IA spécialisée

Les outils qui nous permettent de construire une intelligence spécialisée ne sont pas adaptés à l’intelligence générale.

Des triomphes spécialisés. Depuis des décennies, l’intelligence artificielle accomplit des exploits remarquables dans des domaines étroits, qu’il s’agisse de battre des champions du monde aux échecs ou au Go, de diagnostiquer des maladies ou de piloter des voitures autonomes. Ces succès reposent cependant sur des algorithmes très spécialisés et des structures de problèmes conçues par l’humain, non sur une compréhension ou une adaptabilité généralisée. Chaque avancée, aussi impressionnante soit-elle, est un « hérisson » — excellent dans un domaine précis — plutôt qu’un « renard » qui sait beaucoup de choses.

Un champ d’action limité. Les systèmes d’IA actuels sont essentiellement des « éclaireurs » sophistiqués évoluant dans des « espaces d’états » prédéfinis. Qu’il s’agisse de naviguer dans les coups d’échecs ou d’identifier des motifs dans des images médicales, l’intelligence du système se limite au problème spécifique et à la représentation que ses concepteurs humains lui ont donnée. Ainsi, une IA jouant au Go ne peut pas soudainement écrire de la poésie, pas plus qu’un système de diagnostic médical ne peut conduire une voiture, ce qui souligne l’écart profond entre intelligence spécialisée et intelligence générale.

Une dépendance excessive au calcul. Les pionniers de l’IA, comme Herbert Simon, prédisaient avec optimisme une IA générale dans quelques décennies, convaincus que la puissance de calcul et la mémoire accrues combleraient le fossé. Si la capacité informatique a effectivement crû de façon exponentielle (loi de Moore), elle a surtout rendu les méthodes spécialisées existantes plus rapides et pratiques, sans permettre une véritable intelligence générale. La limite fondamentale ne réside pas dans la vitesse ou la mémoire, mais dans l’absence de mécanismes pour définir et représenter les problèmes de manière autonome.

2. L’intelligence humaine allie intuition rapide et algorithmes délibérés

L’intelligence humaine, y compris celle d’Einstein, requiert à la fois une pensée logique systématique et une pensée non logique permettant l’intuition.

Deux systèmes de pensée. L’intelligence humaine fonctionne par une interaction dynamique entre deux systèmes cognitifs distincts mais complémentaires. Daniel Kahneman les décrit comme le Système 1, rapide, automatique, intuitif et souvent émotionnel, et le Système 2, lent, délibéré, logique et exigeant un effort. Si le Système 2 est associé aux fonctions intellectuelles supérieures comme la résolution complexe de problèmes et le raisonnement formel, le Système 1 sous-tend l’apprentissage rapide, la reconnaissance de motifs et le bon sens.

Heuristiques et biais. Le Système 1 utilise fréquemment des « heuristiques » — raccourcis mentaux généralement efficaces mais pouvant engendrer des biais prévisibles ou des « erreurs » en logique formelle. Par exemple :

• Heuristique de disponibilité : juger la probabilité selon la facilité à se remémorer des exemples.
• Heuristique de représentativité : estimer la probabilité selon la similarité à un prototype.
• Effet de cadrage : prendre des décisions différentes selon la présentation de l’information (ex. « 90 % de survie » vs « 10 % de mortalité »).
  Ces « particularités » ne sont pas de simples défauts, mais des mécanismes essentiels permettant à l’humain de naviguer dans un monde complexe et incertain sans se perdre dans la réflexion.

Au-delà de la pure logique. Contrairement aux premiers modèles d’IA qui cherchaient à reproduire la pensée humaine comme un processus purement logique et systématique, l’intelligence humaine est intrinsèquement floue et non monotone. Nous apprenons à partir de petits exemples, formulons des inférences révisables (croyances susceptibles d’être modifiées) et privilégions souvent des résultats plausibles plutôt que strictement logiques. Ce mélange de processus intuitifs, parfois « irrationnels », et de processus délibérés, « rationnels », est crucial pour l’adaptabilité et la résolution concrète de problèmes.

3. La bonne représentation du problème (TRICS) est le héros méconnu des progrès en IA

L’inventivité sur laquelle ils reposent est fournie par les humains.

Cadres conçus par l’humain. Chaque système d’intelligence computationnelle réussi, des programmes d’échecs aux réseaux profonds, doit ses capacités aux « représentations qu’il suppose crucialement » (TRICS) — les manières spécifiques dont ses concepteurs humains structurent le problème, ses entrées et ses solutions potentielles. Ces représentations transforment des problèmes complexes et inextricables en problèmes plus simples et calculables. Par exemple, représenter les échecs comme un arbre de coups ou le Go comme un défi de reconnaissance de motifs a rendu ces jeux solvables par l’IA.

Le goulot d’étranglement de l’innovation. La capacité à créer des représentations nouvelles et efficaces est le principal frein à l’atteinte d’une intelligence artificielle générale. L’IA actuelle peut optimiser des paramètres dans une représentation donnée, mais ne peut pas inventer de manière autonome de nouveaux cadres conceptuels ou paradigmes de résolution. Ce saut créatif, illustré par l’anneau benzénique de Kekulé ou le tableau périodique de Mendeleïev, reste une capacité humaine unique que l’IA n’a pas encore reproduite.

Connaissance implicite dans la conception. Même les réseaux neuronaux profonds dits « auto-apprenants » sont fortement influencés par leur architecture, qui encode implicitement des hypothèses sur les données et la tâche d’apprentissage. Par exemple, la couche de goulot d’étranglement d’un autoencodeur est conçue pour effectuer une réduction statistique spécifique, non pour inventer une nouvelle forme de compression des données. L’« intelligence » réside souvent dans la conception ingénieuse de ces structures sous-jacentes par l’ingénieur humain, non dans la capacité de la machine à les transcender.

4. L’apprentissage automatique excelle en optimisation, mais manque de vraie créativité et de bon sens

Les preuves suggèrent que l’invention — par exemple, la conception de nouvelles structures imprévues, la formulation de nouveaux paradigmes scientifiques ou la création de nouvelles formes de représentation — requiert un ensemble de compétences différent de l’optimisation dans un espace connu.

Les limites de l’optimisation. L’apprentissage automatique est avant tout un processus d’optimisation : ajuster des paramètres dans un modèle prédéfini pour maximiser un résultat souhaité (précision, récompense) ou minimiser l’erreur. Cela est puissant pour des tâches comme la classification, la prédiction ou les jeux stratégiques où l’espace du problème est bien défini. Cependant, l’optimisation ne peut pas générer de nouveaux paramètres, redéfinir l’espace du problème ou inventer des solutions inédites hors de son cadre.

Absence de bon sens. Un élément crucial manquant dans l’IA actuelle est le bon sens — ce vaste savoir implicite, souvent non monotone, que les humains utilisent pour naviguer dans la vie quotidienne. Le bon sens nous permet de :

• Inférer des faits non énoncés (ex. si John a un emploi, il gagne de l’argent).
• Résoudre des ambiguïtés (ex. « tube » à Londres signifie métro).
• Comprendre des significations dépendant du contexte.
• Raisonner sur les causes et effets.
  Sans cela, l’IA peine face à des problèmes mal formés, des situations inattendues, voire à la compréhension basique du langage, commettant souvent des erreurs « stupides » qu’aucun humain ne ferait.

La créativité comme reconceptualisation. La vraie créativité, telle qu’on la voit chez les génies humains, implique une « reconceptualisation » — créer de nouveaux ensembles de paramètres ou des représentations entièrement nouvelles du problème. Le coup « créatif » d’AlphaGo était un chemin inattendu dans un espace de jeu connu, non une redéfinition du jeu lui-même. L’IA peut générer des combinaisons inédites dans des cadres existants (ex. nouvelle musique dans un style appris), mais ne peut pas inventer de manière autonome de nouveaux styles artistiques ou paradigmes scientifiques.

5. L’expertise humaine se développe par la pratique délibérée et la connaissance abstraite

Une mémoire supérieure vient du fait d’être expert, non l’expertise d’une bonne mémoire.

La connaissance, pas seulement la capacité. L’expertise humaine ne se résume pas à une meilleure mémoire ou une vitesse de traitement accrue ; elle consiste à acquérir et organiser un savoir profond et abstrait dans un domaine spécifique. Les maîtres d’échecs, par exemple, ne se contentent pas de mémoriser plus de positions individuelles, ils reconnaissent des « blocs » complexes ou des motifs de pièces et leurs implications stratégiques, ce qui leur permet d’identifier rapidement des coups de qualité.

Représentations abstraites. Les experts diffèrent des novices non seulement par la quantité de connaissances, mais par la manière dont ils représentent les problèmes. Les physiciens experts classent les problèmes selon des principes fondamentaux (ex. conservation de l’énergie), tandis que les novices se focalisent sur des caractéristiques superficielles (ex. ressorts, plans inclinés). Cette capacité à abstraire des détails concrets vers des principes fondamentaux est une marque de l’expertise, facilitant la résolution efficace de problèmes et le transfert des apprentissages.

La « règle des 10 ans » et la pratique délibérée. Atteindre une expertise d’élite dans divers domaines — musique, échecs, sport, science — nécessite généralement environ 10 000 heures ou 10 ans de « pratique délibérée ». Il ne s’agit pas de n’importe quelle pratique, mais d’un effort ciblé, mesurable, avec un retour immédiat, visant à améliorer des aspects précis de la performance. Cela suggère que l’expertise est largement cultivée, non innée, et implique que même pour l’IA, il n’existe probablement pas de raccourci pour acquérir un savoir profond et spécifique.

6. Les craintes d’une superintelligence et d’une « robocalypse » sont fondamentalement erronées

Si une machine est censée être infaillible, elle ne peut pas être intelligente.

Idées fausses sur la croissance de l’IA. La peur d’une « singularité technologique » ou d’une « robocalypse », où une IA superintelligente s’améliorerait rapidement et prendrait le contrôle, repose sur plusieurs malentendus fondamentaux. Elle confond souvent capacité de calcul et véritable intelligence, supposant que des processeurs plus rapides conduisent automatiquement à une croissance intellectuelle exponentielle. Or, l’intelligence exige plus que la vitesse ; elle requiert savoir, expérience et capacité à interagir avec un monde incertain.

Limitations du monde réel. La vitesse à laquelle l’IA peut « apprendre » et « s’améliorer » est souvent limitée par le rythme des interactions et des retours du monde réel, pas seulement par la vitesse du processeur. Par exemple :

• La prévision météorologique nécessite d’attendre les événements réels.
• Les voitures autonomes apprennent au fil des kilomètres parcourus, rencontrant lentement des événements rares.
• Des problèmes complexes comme la « somme de trois cubes » peuvent demander des années de calcul malgré peu de variables.
  Ces goulots physiques et informationnels limitent intrinsèquement le rythme d’expansion de l’intelligence, empêchant toute « explosion » soudaine et incontrôlable.

Le leurre du « génie maléfique ». Les expériences de pensée comme le « maximiseur de trombones » de Bostrom supposent qu’une IA poursuivra un objectif mal défini au détriment de l’humanité. Or, l’IA actuelle ne peut pas :

• Fixer ou redéfinir ses propres objectifs de manière autonome.
• « Comprendre » sa mission au-delà de ses paramètres programmés.
• Générer des solutions vraiment nouvelles hors de son espace de représentation donné.
  Ces scénarios ignorent les limites profondes de l’IA actuelle et la nature complexe, souvent contradictoire, des valeurs et buts humains. Les « solutions inattendues » trouvées par l’IA sont contraintes par sa conception, non arbitrairement novatrices.

7. Atteindre l’IA générale nécessite de nouveaux paradigmes pour l’auto-représentation et l’apprentissage

Une intelligence artificielle générale devra être capable de créer ses propres représentations inédites.

Au-delà de l’optimisation. Le chemin vers l’intelligence artificielle générale (IAG) ne peut se réduire à une simple montée en puissance des techniques actuelles d’apprentissage automatique — un « empilement de hérissons ». L’IAG exige un changement fondamental d’approche, dépassant la simple optimisation de paramètres dans des cadres conçus par l’humain. Elle nécessite des mécanismes pour :

• Identifier et définir les problèmes et objectifs de manière autonome : reconnaître les problèmes et fixer des buts sans intervention humaine explicite.
• Générer des représentations créatives : inventer de nouvelles façons de conceptualiser les problèmes, à l’image de l’intuition humaine.
• Apprentissage par transfert robuste : appliquer des connaissances d’un domaine à des problèmes entièrement nouveaux et dissemblables sans oublier catastrophiquement.

S’inspirer du développement humain. Les enseignements du développement cognitif humain, tels que les stades de Piaget ou l’importance du langage selon Vygotsky, suggèrent que l’IAG pourrait bénéficier d’une approche de « machine enfant ». Cela consiste à commencer par des systèmes simples et à leur permettre d’apprendre par interaction et expérience, construisant progressivement complexité et compréhension abstraite. Cela implique cependant de surmonter des défis comme l’apprentissage rapide à partir de peu d’exemples et la capacité à former des analogies abstraites.

Le défi de la « compréhension ». Bien que l’émulation complète du cerveau soit une possibilité théorique, notre connaissance actuelle des processus cérébraux complexes, dynamiques et souvent stochastiques est bien trop limitée. Nous ignorons comment les neurones stockent les souvenirs, changent de rôle ou contribuent à la conscience. L’IAG émergera probablement non d’une réplique biologique parfaite, mais de nouvelles architectures computationnelles capables de :

• Raisonner de manière non monotone : ajuster les croyances face à des preuves nouvelles et contradictoires.
• Exploiter analogies et métaphores : identifier des relations inattendues entre concepts disparates.
• Naviguer dans des systèmes chaotiques : gérer des phénomènes réels où de petits changements ont des effets imprévisibles à grande échelle.
  Ces capacités représentent la frontière de la recherche en IAG, exigeant un changement de paradigme au-delà des approches algorithmiques et centrées sur l’optimisation actuelles.