Mécanismes de décision

La distinction entre automatisation et véritable cognition

L’idée centrale défendue par Martín-Loeches repose sur la frontière entre le traitement algorithmique et la pensée adaptative. Pour le chercheur, un système qui dispose de réponses prêtes pour chaque situation n’est pas intelligent ; il est simplement efficace. L’intelligence ne résiderait pas dans l’accumulation de connaissances ou la vitesse d’exécution, mais dans la gestion de la rupture.

Dans cette perspective, l’intelligence est une réponse à l’échec de la prédiction. Lorsqu’un agent — qu’il soit biologique ou artificiel — rencontre une situation qui ne correspond à aucun de ses modèles internes, il entre dans une phase de traitement de l’inconnu. C’est dans cet interstice, entre la règle connue et l’action réussie, que se situe la cognition.

wp:quote
L’intelligence apparaît précisément au moment où nous cessons de savoir quoi faire.
Manuel Martín-Loeches, chercheur en neurosciences

Les limites des modèles de langage face à l’imprévu

Les architectures actuelles, dominées par les grands modèles de langage (LLM), excellent dans la reconnaissance de motifs et la prédiction statistique. Ces systèmes fonctionnent en calculant la probabilité du prochain élément d’une séquence en se basant sur des volumes massifs de données historiques. Toutefois, cette méthode présente une limite structurelle majeure identifiée par les critiques de l’IA actuelle.

Si un modèle est confronté à une situation hors de son domaine d’entraînement, il ne possède pas de mécanisme de raisonnement pour compenser l’absence d’information. Au lieu de traiter l’incertitude, ces systèmes produisent souvent des erreurs factuelles ou des “hallucinations”. Pour Martín-Loeches, ce phénomène démontre que la capacité de prédiction, bien que puissante, n’est pas synonyme d’intelligence. La véritable intelligence nécessiterait une transition de la prédiction vers la résolution de problèmes en situation de vide informationnel.

L’incertitude comme moteur de l’évolution cognitive

Dans le domaine des neurosciences, l’incertitude est traitée comme un signal complexe plutôt que comme un simple bruit. Le cerveau humain utilise des processus de plasticité pour ajuster ses modèles internes face à la nouveauté. Ce mécanisme repose sur un équilibre entre l’exploitation, qui consiste à utiliser les connaissances acquises, et l’exploration, qui consiste à tester de nouvelles hypothèses.

L’approche de Martín-Loeches s’aligne sur les théories de la codification prédictive, où le cerveau cherche constamment à minimiser l’erreur de prédiction. Cependant, l’intelligence proprement dite intervient lorsque l’erreur ne peut plus être réduite par les méthodes habituelles. À ce stade, le système doit modifier sa structure de pensée ou ses stratégies d’action. Cette capacité de réorganisation est ce qui permet aux organismes vivants de survivre dans des environnements changeants, une caractéristique qui fait défaut aux systèmes d’IA rigides.

Les enjeux pour le développement de l’intelligence artificielle générale

Le débat sur l’intelligence artificielle générale (AGI) se concentre souvent sur l’augmentation de la puissance de calcul et de la taille des bases de données. Les travaux de Martín-Loeches suggèrent que cette voie pourrait être insuffisante pour atteindre une véritable AGI. Pour atteindre ce stade, la recherche devra se déplacer de la quantité d’informations vers la qualité de la gestion de l’incertitude.

L’enjeu pour les prochaines années sera de concevoir des architectures capables de reconnaître leurs propres limites de savoir. Une machine réellement intelligente devra être capable de dire qu’elle ne sait pas quoi faire, et de déployer alors des processus de raisonnement inédits pour combler ce manque. La transition d’une IA qui prédit vers une IA qui raisonne dans l’inconnu constitue le prochain défi majeur de la discipline.

Find more reporting in our Sciences et technologies section.