Chaque vague d’innovations en intelligence artificielle (IA) apporte son lot de progrès bien réels… et une montée spectaculaire du battage médiatique. À chaque percée, de nouveaux récits apparaissent: l’IA serait « magique », dotée d’une volonté propre, sur le point de devenir surhumaine ou, au contraire, totalement incontrôlable par le droit.
En conséquence, ce brouillard de mythes rend l’IA opaque pour le grand public, complique les décisions des organisations et détourne l’attention des vrais enjeux techniques et sociaux.
Dans ce contexte, ce billet, on propose une mise au point :
-
quels sont les principaux mythes qui entourent l’IA aujourd’hui,
-
et quelles réalités techniques, physiques et sociales permettent de les déconstruire.
Les grands mythes qui façonnent l’imaginaire de l’IA
Plus précisément, plusieurs mythes structurent aujourd’hui l’imaginaire collectif autour de l’IA.
-
« L’IA possède une agence »
L’idée que l’IA agirait de sa propre initiative, avec une volonté, des intentions ou des objectifs qui lui seraient propres.
-
« La superintelligence est imminente »
La conviction que nous sommes à quelques années (voire mois) d’une intelligence générale dépassant largement les capacités humaines.
-
« L’IA peut être objective ou impartiale »
La croyance que les algorithmes, parce qu’ils calculent, seraient neutres par nature.
-
« L’IA a une signification claire »
Comme si l’on parlait d’une technologie unifiée, bien définie. En pratique, il n’existe pas de définition unique et consensuelle.
-
« Des lignes directrices éthiques suffisent à nous protéger »
Les chartes d’éthique sont perçues comme un bouclier suffisant face aux dérives possibles.
-
« Il est impossible de réglementer l’IA »
Le mythe selon lequel la technologie irait trop vite pour que le droit puisse suivre.
-
« L’IA peut résoudre n’importe quel problème »
L’idée d’une solution universelle que l’on pourrait appliquer indifféremment à tous les défis techniques, économiques ou sociaux.
En réalité, ces mythes reposent sur un mélange de marketing, de science-fiction et de méconnaissance technique. Pour les dépasser, il faut revenir à ce que l’IA est réellement, aujourd’hui.
1. Agence et conscience : l’IA comme « perroquet stochastique »
Tout d’abord, l’un des glissements les plus fréquents consiste à attribuer à l’IA une intentionnalité : on parle de ce que « l’IA veut », « décide », ou « pense ». Or, les systèmes actuels, en particulier les grands modèles de langage (LLM), fonctionnent beaucoup plus simplement.
Des modèles qui prédisent, sans comprendre
Un LLM n’« interprète » pas vos phrases au sens humain du terme. Techniquement, il :
-
prend une séquence de tokens (morceaux de mots) en entrée ;
-
calcule, via un réseau de neurones entraîné, une distribution de probabilité sur le prochain token;
-
échantillonne ou choisit le token suivant en fonction de cette distribution ;
-
recommence, étape par étape, jusqu’à produire une réponse complète.
Ce processus s’appuie sur des corrélations statistiques massives apprises pendant l’entraînement. Mais à aucun moment le système ne possède :
-
de compréhension sémantique des concepts manipulés,
-
ni de modèle interne du monde comparable à celui d’un humain,
-
ni de volonté propre.
Autrement dit, c’est ce qu’on désigne, de manière parlante, comme un « perroquet stochastique » : une machine qui répète, de façon très sophistiquée, des structures de langage apprises, en les combinant de manière probabiliste.
L’anthropomorphisme comme biais permanent
Si ces systèmes « donnent l’impression » de penser, c’est d’abord parce que nous avons une forte tendance à anthropomorphiser tout ce qui présente un comportement apparemment intelligent ou conversationnel. Ce biais cognitif est au cœur de nombreux malentendus actuels sur l’IA.
2. Superintelligence : le mur des ressources
Ensuite, un autre récit dominant est que nous serions à l’aube d’une superintelligence générale, freinée uniquement par la volonté des acteurs industriels. Un regard sur l’infrastructure réelle raconte une histoire très différente.
Le « mur de données » : un capital fini
Les grands modèles actuels tirent leur puissance d’un volume colossal de données humaines de haute qualité : textes, conversations, code, contenus multimédias. Ce capital n’est pas infini.
Les estimations convergent : le réservoir de données de bonne qualité, utile pour l’entraînement de modèles de plus en plus gros, pourrait être épuisé entre 2026 et 2032. Au-delà :
-
on recyclerait en boucle les mêmes données (avec peu de gain marginal) ;
-
ou on devrait recourir à des données synthétiques, avec d’autres risques de dérive.
Contraintes physiques et rendements décroissants
Cependant, l’illusion d’une croissance sans limite de la puissance des modèles se heurte à plusieurs murs.
-
Réseaux électriques et refroidissement : la densité de calcul requise pour entraîner et déployer les plus grands modèles est telle que les data centers se heurtent aux limites :
-
de la capacité électrique disponible,
-
des infrastructures de refroidissement nécessaires pour évacuer la chaleur.
-
Matériel : les GPU et autres accélérateurs approchent des limites physiques en matière de performance par watt et par coût. Les gains de génération en génération ne suivent plus une exponentielle simple.
-
Rendements décroissants : chaque augmentation d’échelle (en paramètres, en données, en compute) apporte des gains de performance, mais ces gains sont de plus en plus faibles par unité de ressource investie.
Ces « murs des ressources » ne rend pas impossible une progression continue, mais il invalide le récit d’une trajectoire linéaire vers une superintelligence quasi illimitée.
3. Objectivité et impartialité : l’IA comme miroir des biais humains
On présente souvent l’IA comme un moyen de « neutraliser » les biais humains. En pratique, les systèmes d’IA ont plutôt tendance à hériter, et parfois amplifier ,les inégalités existantes.
Biais de données : qui est représenté, qui ne l’est pas
Un modèle ne peut généraliser correctement que si ses données d’entraînement :
-
couvrent une diversité suffisante de situations,
-
représentent de manière équilibrée les différents groupes de population.
Lorsque ce n’est pas le cas, les performances se dégradent de manière asymétrique. Des études ont montré, par exemple, que certains systèmes de reconnaissance faciale présentaient des taux d’erreur 35 % plus élevés pour les femmes à la peau foncée que pour les hommes blancs.
Ce n’est pas un bug isolé : c’est le symptôme direct d’un biais de représentation dans les données.
Biais de conception : les choix d’optimisation comptent
Même avec des données relativement équilibrées, les modèles incarnent les priorités de leurs concepteurs :
-
comment pondère-t-on la précision globale vs. la justice entre groupes ?
-
quelles métriques sont privilégiées à l’entraînement et en production ?
-
quels compromis accepte-t-on entre fausses alertes et faux négatifs ?
Ces choix, souvent implicites, ont un impact direct sur qui bénéficie et qui pâtit d’un système d’IA. Parler d’objectivité sans expliciter ces arbitrages relève plus du storytelling que de l’analyse technique.
4. L’architecture plurielle de l’IA
Contrairement au mythe, le terme « intelligence artificielle » ne désigne pas une technologie unique et bien définie, mais sert de terme « parapluie » pour un ensemble vaste et hétérogène de méthodes, de théories et d’applications. En réalité, il n’existe aucun consensus technique universel sur sa définition, ce qui alimente une confusion majeure entre les concepts, les capacités réelles et les fantasmes de science-fiction.
Voici les réalités qui déconstruisent cette idée de technologie unifiée :
-
Une hiérarchie de concepts souvent confondus
Le public utilise souvent les termes IA, Machine Learning et Deep Learning de manière interchangeable, alors qu’ils entretiennent une relation de sous-ensembles.
-
L’Intelligence Artificielle (IA) : C’est le domaine global de l’informatique visant à créer des machines capables de simuler des fonctions cognitives humaines ou de résoudre des tâches complexes.
-
L’Apprentissage Automatique (Machine Learning – ML) : Un sous-ensemble de l’IA où l’ordinateur apprend à reconnaître des motifs à partir de données sans être explicitement programmé pour chaque règle.
-
L’Apprentissage Profond (Deep Learning – DL) : Une technique spécialisée du ML utilisant des réseaux de neurones multicouches pour analyser des données très complexes.
-
Des définitions divergentes selon l’approche
La réalité de l’IA change radicalement selon le point de vue adopté :
-
Définition scientifique : Une discipline de recherche visant à simuler des fonctions cognitives comme le raisonnement ou la perception.
-
Définition technologique : Des systèmes (agents) capables de percevoir leur environnement et d’exécuter des actions en conséquence.
-
Conception populaire : Une vision souvent « magique » ou anthropomorphique, prêtant une conscience ou une volonté propre aux machines, ce qui ne correspond à aucune réalité technique actuelle.
-
Une technologie fragmentée et non monolithique
L’IA n’est pas une entité unifiée mais se décompose en de nombreux domaines distincts (au moins 26 selon l’Association française pour l’IA). On distingue notamment deux grandes familles historiques qui fonctionnent selon des logiques opposées :
-
L’IA symbolique (explicite) : Basée sur des règles logiques et des symboles fournis par des experts humains.
-
L’IA connexionniste (statistique) : Fondée sur l’analyse probabiliste de masses de données, comme les modèles de langage actuels.
-
La barrière entre IA « faible » et « générale »
Aujourd’hui, la réalité technique se limite exclusivement à l’IA « faible » ou « étroite », capable d’exceller dans une tâche précise (jouer aux échecs, diagnostiquer une image médicale) mais totalement incapable de transférer cette compétence à un autre domaine. L’idée d’une Intelligence Artificielle Générale (IAG) capable d’apprendre n’importe quelle tâche humaine reste, à ce jour, une perspective spéculative.
5. Éthique, marketing et besoin de lois contraignantes
Face à ces risques, la réponse des organisations a longtemps pris la forme de chartes éthiques : principes de haut niveau, engagements volontaires, codes de conduite internes. Ces outils ont une utilité, mais leurs limites sont claires.
Le « marketing éthique »
Sans mécanisme de contrôle ou de sanction, nombre de ces chartes s’apparentent à du « marketing éthique » :
-
elles rassurent les parties prenantes,
-
elles améliorent l’image de marque,
-
mais elles n’empêchent pas concrètement la mise en production de systèmes à haut risque mal contrôlés.
Vers un droit effectif : l’exemple de l’AI Act de l’UE
À l’inverse du mythe « l’IA est ingouvernable », on voit émerger des cadres juridiques contraignants, comme l’AI Act de l’Union européenne, qui propose une approche fondée sur le risque :
L’objectif n’est pas de « ralentir la technologie », mais de ramener l’IA dans un espace gouverné par le droit, où les acteurs restent responsables de leurs décisions et de leurs systèmes.
6. L’IA n’est pas une baguette magique : un outil spécifique, pas une panacée
Enfin, l’un des mythes les plus pernicieux consiste à voir l’IA comme une solution universelle : face à tout problème complexe, « on mettra de l’IA dessus ».
Une IA faible, spécialisée, dépendante du contexte
L’IA qui fonctionne en production aujourd’hui est :
-
spécialisée : par exemple, reconnaître des objets dans des images, résumer du texte, détecter des fraudes, suggérer du code ;
-
dépourvue de sens commun : elle échoue facilement sur des situations légèrement hors distribution ou sur des raisonnements de bon sens ;
-
très dépendante du contexte :
-
qualité, volume et fraîcheur des données disponibles ;
-
qualité de l’intégration dans un système humain plus large (processus métiers, gouvernance, contrôles humains).
Un même modèle pourra produire d’excellents résultats dans un environnement bien cadré, et échouer spectaculairement dès que les données changent, que les objectifs sont flous ou que l’usage réel diverge de l’usage prévu.
L’IA comme composant, pas comme stratégie
Pour les organisations, cela implique de penser l’IA comme :
-
un composant d’architecture (au même titre qu’une base de données ou un service métier),
-
à intégrer dans une stratégie plus large : objectifs clairs, indicateurs, plan de déploiement, gestion des risques, accompagnement humain.
La mauvaise question est : « Comment pouvons-nous mettre de l’IA partout ? »
La bonne question est : « Sur quels problèmes concrets, bien définis, l’IA apporte-t-elle un avantage réel par rapport aux alternatives ? »
Sortir du mythe pour mieux concevoir et réguler l’IA
L’IA actuelle n’est ni une entité consciente, ni une promesse de superintelligence imminente, ni une baguette magique. En réalité, il s’agit d’un ensemble de techniques puissantes, mais profondément ancrées dans le réel. D’uen part, elle demeure limitée par les lois de la physique, notamment les contraintes liées à l’énergie, au refroidissement et au matériel. Enfin, elle est aussi dépendante des ressources disponibles, comme les données et la puissance de calcul. Enfin, elle est inévitablement imprégnée des structures sociales et des biais humains présents dans les données et dans les objectifs qui guident son développement.
Ainsi, en déconstruisant les mythes associés à l’intelligence artificielle, qu’il s’agisse de l’idée d’une véritable agence autonome, d’une superintelligence imminente, d’une objectivité parfaite, d’une irréductibilité au droit ou encore d’une panacée universelle, on se donne les moyens de poser de meilleures questions techniques et de concevoir des systèmes plus sûrs et plus justes. De plus, cette démarche permet également d’élaborer des régulations plus ciblées et adaptées aux réalités technologiques.
Au final, elle nous aide à utiliser l’intelligence artificielle pour ce qu’elle est réellement : un outil spécifique, qui doit être manié avec rigueur, transparence et supervision humaine. Comprendre ces réalités est une première étape essentielle pour développer, encadrer et utiliser l’IA de manière responsable. Vous avez des questions sur l’IA et ses applications concrètes? Nos experts sont là pour vous guider. Contactez-nous pour en discuter.
Onshape AI Advisor
