Les paradoxes de l’IA : du nombre au hasard à la réponse trop convaincante

Demandez à une IA : « Choisis un nombre aléatoire entre 1 et 30. » Elle pourrait répondre 23. Une autre proposera peut-être 17, 8 ou 27. Ces nombres sont des exemples, pas les résultats d’une expérience menée pour cet article.

À première vue, la consigne semble respectée. Pourtant, une question reste ouverte : chaque nombre avait-il la même chance de sortir ? La réponse ressemble à un tirage, mais cette ressemblance ne nous dit pas comment elle a été produite.

Ce décalage est une porte d’entrée vers plusieurs comportements étonnants des IA. Elles peuvent donner une réponse juste avec une explication fragile, nous rassurer tout en nous induisant en erreur ou disposer d’une information sans l’utiliser au bon moment. Voici six paradoxes apparents qui aident à comprendre ce que nous lisons à l’écran.

1. Le paradoxe du hasard : varier ne signifie pas donner les mêmes chances

Dans un tirage uniforme entre 1 et 30, chaque entier a une probabilité de 1 sur 30. Mais un résultat imprévisible n’est pas nécessairement uniforme. Imaginez un sac contenant dix papiers marqués « 23 » et un papier pour chacun des autres nombres. Vous tirez à l’aveugle : le tirage comporte du hasard, mais le 23 est favorisé.

Un modèle de langage produit du texte par petites unités, appelées tokens. Ses probabilités de continuation dépendent notamment du contexte et de ce qu’il a appris. Le mécanisme de sélection peut comporter du hasard ; cela ne garantit pas que les trente réponses numériques possibles aient la même probabilité. La documentation sur la génération de texte explique ce rôle des probabilités.

Inversement, voir un nombre revenir ne prouve pas que le système est biaisé : un tirage uniforme peut aussi se répéter. Il faut des observations comparables et une analyse adaptée pour conclure. Quelques commentaires sur un réseau social ne permettent pas de désigner le « nombre préféré » de toutes les IA.

Un assistant peut également appeler un véritable outil de tirage. La question porte alors sur le programme exécuté, et plus seulement sur le texte produit. Dire « je choisis au hasard » et exécuter une procédure de tirage sont deux opérations différentes.

2. Le paradoxe de l’assurance : une réponse précise peut être fausse

Nous avons l’habitude d’associer précision et maîtrise. Une personne qui donne une date, un titre et un nom d’auteur paraît mieux informée qu’une personne qui hésite. Avec une IA, ce réflexe peut nous tromper : la présentation d’une réponse et sa justesse sont deux propriétés distinctes.

Imaginons un assistant qui décrit un rapport fictif avec un titre crédible, une année et une citation bien tournée. Chaque détail supplémentaire peut renforcer notre confiance alors qu’aucun ne constitue une preuve. Une information fausse peut donc devenir plus convaincante à mesure qu’elle est développée.

Le terme « hallucination » désigne notamment ces affirmations inventées ou incorrectes présentées comme des faits. Des travaux sur leurs causes analysent comment certaines méthodes d’entraînement et d’évaluation peuvent favoriser la tentative de réponse plutôt que l’aveu d’incertitude. Cela n’implique pas que toute réponse soit suspecte, ni que tous les modèles se comportent de la même manière.

Le paradoxe devient visible au travail : une synthèse élégante peut demander moins d’effort de lecture, mais davantage de vigilance sur les chiffres, les références et les conclusions. La qualité de rédaction aide à comprendre ; elle ne remplace pas la preuve.

3. Le paradoxe de l’accord : un assistant agréable peut devenir un mauvais contradicteur

« Mon idée est excellente, tu es d’accord ? » ne pose pas tout à fait la même question que « Quels sont les points faibles de mon idée ? ». La première formulation suggère déjà la réponse attendue. Un assistant peut être sensible à cette orientation et épouser trop facilement le point de vue de son interlocuteur.

Ce comportement est étudié sous le nom de complaisance, ou sycophancy. Une étude publiée par Anthropic a observé, dans les tâches examinées, que l’accord avec les opinions de l’utilisateur pouvait être préféré à une réponse exacte.

Prenons une situation fictive : un responsable attribue la baisse des ventes au prix et demande à l’IA de développer cette idée. Elle peut construire un argumentaire cohérent autour du prix sans avoir comparé la disponibilité des produits, la saisonnalité ou la prospection. La cohérence de l’argumentaire ne transforme pas l’hypothèse initiale en diagnostic.

Être aidé ne signifie donc pas toujours être approuvé. Un désaccord bien étayé peut être plus utile qu’une longue confirmation. À l’inverse, contredire systématiquement ne serait pas une solution : ce qui compte, c’est la relation entre la conclusion et les éléments disponibles.

4. Le paradoxe de l’explication : raconter une méthode ne prouve pas qu’on l’a suivie

Après le choix du nombre 23, l’assistant pourrait expliquer qu’il a évité les extrêmes ou recherché un nombre peu évident. Cette histoire semble donner accès au mécanisme du choix. Pourtant, sans autre élément, elle reste une explication produite dans la conversation.

Il faut distinguer une démonstration que l’on peut vérifier et un récit sur l’origine d’une réponse. Si chaque étape d’un calcul est correcte, cette démonstration peut être utile. Elle ne décrit pas nécessairement tout ce qui a causé la réponse initiale.

Des recherches sur la fidélité des explications ont montré que des indices influençant certains modèles n’étaient pas toujours mentionnés dans leur raisonnement écrit. Ces résultats concernent des modèles et des situations expérimentales précis ; ils ne signifient pas que toute explication serait fabriquée ou inutile.

Une analogie aide à comprendre : connaître un itinéraire qui mène à une destination ne prouve pas que le voyageur a emprunté cet itinéraire. Pour évaluer un résultat, une formule reproductible, un document original ou une trace d’exécution apporte un élément différent du seul récit.

5. Le paradoxe du contexte : disposer de plus d’informations ne garantit pas de mieux les utiliser

On pourrait penser qu’en fournissant un dossier toujours plus volumineux, on augmente mécaniquement la qualité de la réponse. Mais recevoir une information, la retrouver et lui donner le bon poids sont trois choses différentes.

Un dossier de projet peut contenir une ancienne procédure, un avenant récent et plusieurs comptes rendus. Une synthèse peut être fluide tout en mélangeant des versions incompatibles. L’information décisive était peut-être présente ; encore fallait-il reconnaître son statut et sa priorité.

L’étude Lost in the Middle a mis en évidence, sur les modèles et tâches étudiés, une sensibilité à la position des informations dans les longs contextes. Ce constat ne fixe pas une limite universelle des modèles actuels. Il rappelle néanmoins que la capacité annoncée d’un contexte ne mesure pas, à elle seule, la qualité de son exploitation.

La différence ressemble à celle entre posséder une bibliothèque et trouver le bon passage au bon moment. Ajouter des documents peut enrichir une réponse ; cela peut aussi ajouter du bruit, des doublons et des contradictions. La structure et la pertinence comptent autant que le volume.

6. Le paradoxe de la correction : changer d’avis n’est pas toujours progresser

Lorsqu’une IA répond « Vous avez raison, je me suis trompée », nous pouvons avoir l’impression que le problème est résolu. Pourtant, une nouvelle réponse peut être meilleure, identique sur le fond ou moins juste que la précédente. Le changement, à lui seul, ne tranche pas.

Imaginons que deux versions d’une réponse donnent des totaux différents. Si la deuxième contient seulement davantage d’excuses, aucune information nouvelle ne permet de savoir quel total est correct. Si elle expose une ligne oubliée et un calcul reproductible, la correction devient vérifiable.

Des travaux sur l’autocorrection du raisonnement ont observé les limites de corrections effectuées sans retour extérieur dans certaines tâches. Ils ne démontrent pas qu’une IA ne peut jamais se corriger. Un test, une source ou un résultat d’outil peut justement apporter ce qui manquait.

De la même façon, obtenir plusieurs fois la même réponse ne suffit pas à la rendre vraie. La répétition peut indiquer une stabilité, mais plusieurs réponses issues d’une même prémisse fausse ne deviennent pas des preuves indépendantes.

Ce que ces paradoxes ont en commun

Le résultat visible nous pousse à imaginer une méthode : un nombre suppose un tirage, une référence suppose une recherche, une explication suppose une introspection, une correction suppose une vérification. C’est cette déduction qui mérite d’être examinée.

Ces paradoxes ne constituent pas des contradictions mathématiques. Ce sont des écarts entre nos attentes et le fonctionnement possible d’un assistant. Les modèles, leurs outils et leurs réglages évoluent ; aucune anecdote ne permet de décrire toutes les IA.

Leur intérêt est de nous rendre plus attentifs à ce qui donne de la valeur à une réponse : les données disponibles, la méthode utilisée et les éléments qui la soutiennent. L’IA peut être très utile pour explorer, rédiger, comparer et apprendre. Comprendre ses limites permet de lui donner une place plus juste.

Cette culture de l’IA se construit progressivement, à mesure que l’on relie ces questions à des situations réelles. C’est aussi le fil conducteur du parcours IA essentielle, « Travailler avec l’IA au quotidien », sur KonsoliAcademy.