Quand un système tombe en panne de façon évidente, vous le voyez. Le tableau de bord se casse, le chiffre ne colle pas, quelqu’un appelle. Mais il existe un autre type d’erreur, bien plus difficile à détecter : celle qui se produit en silence, avec toutes les apparences de la normalité. Quand l’IA se trompe, elle se trompe avec beaucoup d’assurance. Le système continue de fonctionner, de produire des résultats, de donner des réponses. Et vous continuez de prendre des décisions à partir de ces réponses.
C’est le problème dont personne ne veut parler quand il est question d’intelligence artificielle appliquée à l’entreprise.
Depuis des années, la conversation sur l’IA tourne presque toujours autour des modèles : lequel est le plus puissant, lequel raisonne le mieux, lequel passe le mieux à l’échelle. C’est une conversation légitime, mais incomplète. Parce que le modèle ne décide rien tout seul. Ce qui décide, c’est la combinaison du modèle et des données qui l’alimentent. Et de cette seconde partie, on parle beaucoup moins.
Le syndrome de Diogène de la donnée
Dans le retail et l’e-commerce, cela se voit avec une clarté particulière. Les entreprises accumulent des données depuis des années avec la même logique que certaines personnes accumulent des objets chez elles : au cas où. J’appelle cela le syndrome de Diogène de la donnée. Vous avez beaucoup de données, mais ni la capacité de les consommer ni l’idée de à quoi sert chaque chose. Et arrive alors la promesse de l’IA, censée ranger ce chaos. Mais l’IA ne range pas le chaos : elle l’amplifie. Un modèle puissant sur des données de mauvaise qualité ne produit pas de meilleures décisions ; il produit des décisions erronées plus vite et avec plus de conviction.
La question à se poser avant tout investissement en IA n’est pas « quel modèle utilisons-nous ? » mais « sur quelles données allons-nous l’utiliser ? ». Et la réponse réaliste, dans la plupart des entreprises avec lesquelles nous travaillons, est que ces données ne sont pas en bon état. Non parce que personne ne s’en est soucié, mais parce que maintenir des données fiables à l’échelle est bien plus difficile qu’il n’y paraît. Capturer cent produits d’une marketplace à un instant donné est trivial. Capturer un million de produits, trois fois par jour, pendant un an, avec un taux d’erreur minimal, est un tout autre jeu. Et cette différence est systématiquement sous-estimée.
La maintenance fait partie du produit
Il y a une autre conversation que l’on évite aussi : celle de la maintenance. L’idée assez répandue est que la maintenance, c’est ce que l’on fait quand quelque chose casse : un correctif, une réparation, du support. Je le vois autrement. La maintenance fait partie du produit, ce n’est pas du support. Les systèmes de données vivent dans un environnement en changement constant : les sites web se modifient, les formats changent, les plateformes mettent à jour leurs structures. Un système qui n’est pas conçu pour anticiper ces changements n’est pas fiable : c’est un système qui fonctionne jusqu’à ce qu’il cesse de fonctionner. Et quand il tombe, le client s’en aperçoit avant vous.
Concevoir avec cet état d’esprit change la façon de construire. On ne cherche pas la solution parfaite pour aujourd’hui ; on cherche celle qui pourra être reconstruite correctement quand l’environnement changera. Être adaptable, ce n’est pas avoir réponse à tout aujourd’hui. C’est la capacité de construire la bonne réponse demain.
Si les modèles disparaissaient demain
Lors d’une conversation récente, on m’a posé une question que j’ai trouvée très bien formulée : si tous les modèles d’IA disparaissaient demain, quelles capacités resteraient indispensables ? La réponse est celle de toujours : savoir quoi mesurer, construire des systèmes pour le mesurer de façon fiable et décider à partir de cette mesure. Ce qui change avec l’IA, c’est la vitesse à laquelle une mauvaise donnée peut se propager dans toute votre chaîne de décision.
Au fond, le défi n’est pas technologique. C’est une question de discernement. Savoir quelles données vous sont nécessaires, à quelle fréquence, avec quel niveau de qualité et pour quelles décisions concrètes. La donnée qui ne génère pas d’action est une perte de temps. Et cette clarté, à un moment où tout le monde court à implémenter des agents et des automatisations, est plus rare et plus précieuse que n’importe quel modèle.
J’écris ceci après une conversation dans le podcast d’Ecommerce News où nous avons essayé d’aborder tout cela avec l’honnêteté que le sujet mérite. Si vous voulez approfondir, vous pouvez l’écouter ici (en espagnol). Mais la réflexion que j’en retire est plus simple : avant de vous demander ce que fait votre IA, demandez-vous sur quelles données elle travaille.
Pour savoir comment nous capturons et maintenons ces données à l’échelle, nous l’expliquons dans notre méthode.