Peut-on faire confiance à l’IA ? De la fiabilité des résultats à l’appropriation des usages
La confiance dans l’IA est devenue une question centrale en entreprise. L’IA s’installe dans les organisations à un rythme inédit. Les cas d’usage se multiplient, les directions veulent accélérer, les collaborateurs expérimentent parfois avant même que le cadre soit posé. Selon McKinsey, 88 % des organisations déclaraient utiliser l’IA dans au moins une fonction en 2025.
Une question devient donc centrale pour les Directions métiers, Directions qualité et DSI : à quelles conditions pouvons-nous faire confiance à l’IA, aux résultats qu’elle produit et aux décisions qu’elle influence ?
Pour croiser ces regards, nous avons échangé avec Youssouf ZEBOUDJI, Ambassadeur IA dans le cadre du plan national “Osez l’IA” et Lead Usages & Acculturation IA chez Inside, et Erwann DESPRES, Consultant Expert chez QALIA Performance. Deux angles complémentaires : l’usage, la gouvernance et l’acculturation côté Inside ; la qualité, la mesure et la fiabilité opérationnelle côté QALIA Performance.
Que signifie la confiance dans l’IA dans un contexte d’entreprise ?
Erwann DESPRES
La confiance dépend d’abord du contexte d’utilisation. Chez QALIA Performance, nous l’abordons en particulier par le prisme de la fiabilité des résultats, avec un parallèle fort avec la métrologie.
Une mesure n’est jamais seulement liée à l’appareil utilisé. Elle dépend de tout un processus : les conditions d’usage, l’utilisateur, la méthode, l’environnement, les règles de décision. C’est également l’esprit de l’ISO 10012, qui porte sur la maîtrise des processus de mesure et la confiance dans les résultats obtenus.
Le parallèle avec l’IA est direct. Entre la performance théorique d’un modèle et la fiabilité réelle d’un résultat dans un contexte opérationnel, plusieurs facteurs créent de l’incertitude : les données, le paramétrage, les instructions, l’environnement technique, l’utilisateur et la criticité du cas d’usage. Il est donc essentiel de savoir comment mesurer la fiabilité du résultat. En métrologie, il y a des méthodes éprouvées. Ce n’est pas encore le cas pour l’IA.
Dans des secteurs comme l’aéronautique, le spatial ou le nucléaire, cette question devient très concrète. Si l’IA entre demain dans un circuit de décision ou de conformité, il faudra savoir qualifier l’incertitude du résultat et définir les règles qui permettent de l’utiliser ou non et dans quels contextes.
“La confiance dans l’IA, c’est savoir mesurer la fiabilité de ses résultats dans un contexte donné, et définir les règles qui permettent de les utiliser, les vérifier ou les écarter.”
Youssouf ZEBOUDJI
Oui, tout à fait. Je le résumerais simplement : “La confiance n’exclut pas le contrôle”. Ensuite, tout dépend du cas d’usage. Si vous utilisez l’IA pour rédiger un e-mail ou ouvrir des pistes créatives, le niveau d’exigence n’est pas le même que pour une analyse juridique, une décision réglementaire ou un processus industriel. Dans un cas, vous attendez de la créativité. Dans l’autre, vous attendez un résultat juste, vérifiable et sécurisé.
La confiance repose donc sur plusieurs questions très concrètes : quelles données sont utilisées ? Le résultat peut-il être vérifié ? Les sources sont-elles identifiables ? Les données sont-elles protégées ? L’utilisateur sait-il formuler son besoin et interpréter la réponse ?
Une IA peut être très performante, mais si l’utilisateur ne comprend ni ses limites ni la manière de l’interroger, le résultat peut devenir partiel ou risqué. La confiance dans l’IA passe donc aussi par l’acculturation : comprendre ce que l’outil sait faire, ce qu’il ne sait pas faire, et ce qui doit rester sous responsabilité humaine.
Erwann DESPRES
Oui, et le niveau de risque change selon la posture de l’utilisateur. Quand j’utilise l’IA dans mon domaine d’expertise, je sais challenger le résultat. Elle me permet d’aller plus vite et plus loin, sans perdre mon regard critique.
Quand je l’utilise dans une logique créative, j’accepte qu’elle ouvre des pistes imparfaites. Ce n’est pas un problème si l’objectif est d’explorer.
Le cas le plus dangereux se situe entre les deux : produire quelque chose dans un domaine que nous ne maîtrisons pas totalement. L’IA peut alors fournir une réponse très bien formulée, mais partiellement fausse. C’est là que la confiance devient risquée si elle n’est pas accompagnée d’un contrôle humain.
La confiance dans l’IA commence-t-elle par la qualité des données ?
Erwann DESPRES
Des données d’entrée fiables restent indispensables. Malgré tout, ce serait une erreur de réduire la confiance dans l’IA à la seule qualité apparente des données.
Dans une organisation, une donnée peut être propre, structurée, documentée… tout en étant déconnectée de la réalité du terrain. Chez QALIA Performance, nous travaillons justement sur cette confrontation entre le prescrit et le réel en nous appuyant sur la méthode Q-SYNQ® que nous avons développée avec des experts en sciences humaines. Le prescrit, ce sont les normes, procédures, processus et documents internes. Le réel, ce sont les pratiques effectives, les ajustements, les écarts et les règles implicites qui permettent à l’organisation de fonctionner. Dans beaucoup d’organisations, si les équipes respectaient strictement le prescrit, l’entreprise ne fonctionnerait pas.
Ce point est essentiel avec l’IA. Si vous alimentez un outil avec une documentation qui ne reflète pas les pratiques réelles, vous risquez d’automatiser un décalage. Pire : vous pouvez amplifier des dysfonctionnements déjà présents.
La donnée, dans son sens large, ne doit donc pas seulement être exacte ou bien structurée. Elle doit aussi être représentative du fonctionnement réel de l’organisation.
C’est d’autant plus sensible que l’IA peut créer une boucle d’altération de la connaissance. Demain, beaucoup de documentations internes seront produites ou reformulées avec l’aide de l’IA. Si la matière initiale est déjà biaisée ou trop éloignée du terrain, le risque est de produire une nouvelle documentation encore plus éloignée du réel.
“L’IA peut devenir un catalyseur de dysfonctionnements si elle est branchée sur une organisation qui n’a pas regardé lucidement ses écarts entre le prescrit et le réel.”
Youssouf ZEBOUDJI
Je partage complètement. Quand nous parlons de données, nous ne devons pas penser uniquement à la donnée informationnelle. Dans une entreprise, les processus, les règles d’usage, les responsabilités et les interactions entre services font aussi partie du socle d’entrée.
Nous rencontrons souvent des organisations qui veulent “mettre de l’IA” sur un cas d’usage. Très vite, la discussion revient sur les processus métiers : sont-ils clairs ? Partagés ? Réellement appliqués ? Alignés entre les équipes concernées ?
L’IA agit comme une loupe. Elle révèle les zones de friction, les processus insuffisamment décrits, les responsabilités implicites, les écarts entre ce que l’entreprise pense faire et ce qui se passe vraiment.
Oui, la confiance commence par la qualité des données, mais une donnée fiable ne garantit pas un usage fiable. Il faut aussi définir une politique d’usage : où l’IA intervient-elle ? Sur quels cas d’usage ? Avec quelles données ? Selon quelles règles ? Avec quel niveau de contrôle humain ?
La qualité des données est le point de départ. La confiance naît ensuite d’un cadre partagé, de processus clairs et d’utilisateurs capables d’exploiter les résultats avec discernement.
Comment passer d’une IA expérimentée à une IA fiable et utilisée au quotidien ?
Erwann DESPRES
Sur le terrain, nous observons encore beaucoup de prudence. Dans les environnements industriels sensibles que nous accompagnons, l’IA Générative reste souvent au stade de l’expérimentation ou de l’aide ponctuelle. Elle commence à être utilisée pour interroger une base documentaire, explorer des informations ou assister certaines tâches, mais elle entre encore rarement dans les circuits de décision critiques.
C’est assez logique. Dès que l’IA se rapproche d’un processus qui touche à la conformité d’un produit, d’un service ou d’une décision, le niveau d’exigence change. Il ne suffit plus qu’elle produise une réponse pertinente. Il faut pouvoir démontrer la fiabilité du résultat, suivre son niveau d’incertitude et définir les règles d’usage associées.
Dans les secteurs sensibles, la confiance se construira donc par étapes : des usages maîtrisés, un cadre clair et une capacité à prouver et mesurer la fiabilité de ce que produit l’IA.
La communication autour de l’IA donne parfois l’impression que tout est déjà massivement déployé. La réalité opérationnelle est plus nuancée !
Youssouf ZEBOUDJI
Je distingue deux sujets. L’IA existe depuis longtemps dans certains environnements industriels : optimisation, prédiction, traitement de données, maintenance… Ce qui change avec l’IA générative, c’est qu’elle touche maintenant tous les collaborateurs, tous les métiers, et parfois des usages très quotidiens.
Pour passer de l’expérimentation à un usage fiable, il faut commencer par un diagnostic : quelles données ? quels processus ? quels cas d’usage ? quelle valeur attendue ? Ensuite viennent les POC et les POV, avec des critères de réussite explicites. Tous les tests ne doivent pas passer à l’échelle. C’est même sain qu’une organisation sélectionne peu d’usages et qu’elle les industrialise correctement.
Le vrai passage à l’échelle commence lorsque l’IA est intégrée dans les processus métiers. Et là, la technologie ne suffit pas. Il faut une gouvernance, des règles d’usage, des responsabilités, mais aussi un accompagnement humain. Une IA peut être pertinente et créer de la valeur, tout en suscitant de la crainte chez les collaborateurs si elle transforme fortement et brutalement leur manière de travailler.
Parfois, c’est justement en découvrant la performance de l’IA que les utilisateurs perdent confiance : ils comprennent ce qu’elle peut changer dans leur métier.
Quels dispositifs concrets permettent d’ancrer la confiance dans les pratiques ?
Youssouf ZEBOUDJI
Le premier levier, c’est la compréhension et la prise de conscience. Beaucoup d’organisations sont encore au stade de la sensibilisation : les collaborateurs connaissent l’IA par le chat, mais pas toujours ses usages, ses limites, ni les risques associés.
La confiance repose donc sur un cadre simple : savoir ce que l’IA peut faire, avec quelles données, pour quels cas d’usage, et avec quel niveau de contrôle. Un risque qui peut alors apparaître, c’est la surconfiance. Si l’IA permet de produire en vingt minutes ce qui prenait une heure, les quarante minutes restantes doivent servir à relire, challenger et améliorer. Pour moi, le premier apport de l’IA, c’est d’améliorer la qualité grâce au temps libéré !
Chez Inside, c’est justement le rôle de nos dispositifs d’acculturation, des ateliers d’adoption, de la gouvernance et de l’accompagnement au changement.
Erwann DESPRES
Je peux prendre comme exemple notre propre appropriation chez QALIA Performance. L’usage le plus pertinent pour ancrer la confiance dans les pratiques consiste à utiliser l’IA pour amplifier son expertise métier, c’est-à-dire passer de l’expert à l’“expert augmenté”.
Concrètement, cela veut dire commencer dans son propre domaine d’expertise. C’est là que nous maîtrisons le contexte, que nous savons critiquer le résultat, repérer une approximation et garder la bonne distance. C’est aussi le meilleur moyen d’apprendre à utiliser l’IA sans lui déléguer trop vite des sujets que nous ne savons pas évaluer.
Il faut accepter cette courbe d’apprentissage. Une technologie met du temps à produire de manière fiable. Il faut tester, vérifier, corriger les usages, puis élargir progressivement.
Souveraineté et réglementation sont-elles des leviers réels de confiance dans l’IA ?
Youssouf ZEBOUDJI
C’est d’abord une question de responsabilité. Quand un collaborateur a besoin de résumer rapidement un document de 50 pages, il va souvent chercher le gain immédiat. Si le cadre n’est pas clair, il peut transmettre des données sensibles à un outil qui n’est pas adapté.
La souveraineté est donc un sujet d’entreprise autant qu’un sujet individuel. Elle suppose de poser des règles, de sensibiliser les équipes et de leur donner des solutions utilisables dans leur quotidien. Un seul mauvais usage peut suffire à créer une fuite de données.
La souveraineté ne se résume donc pas au choix d’un modèle ou d’un outil européen. Elle concerne toute la chaîne : les données, les modèles, l’hébergement, les dépendances technologiques, les outils connectés, les usages autorisés. C’est aussi une souveraineté interne : maîtriser ce que nous faisons de nos propres données, avec quels outils, pour quels usages et avec quelles garanties.
Erwann DESPRES
C’est un vrai sujet pour QALIA Performance, notamment parce que nous travaillons avec des clients dans des domaines sensibles. La protection des données était déjà très cadrée avant l’IA. L’IA ajoute un outil de plus et renforce notre vigilance.
Sur la partie normative, notamment autour de référentiels comme l’ISO 9001, nous suivons le sujet, mais il reste encore en construction. Le cadre européen et les futures évolutions normatives auront probablement un impact sur les systèmes de management, la protection des données et la fiabilité des résultats. C’est à ce moment-là que ces sujets entreront plus fortement dans nos domaines d’intervention.
Bien sûr, nous n’attendons pas que tout soit stabilisé pour nous poser les bonnes questions. La souveraineté, la confidentialité et la fiabilité des résultats sont déjà des conditions de confiance dans les usages actuels.
Qu’est-ce qui différenciera les entreprises qui réussiront avec l’IA selon vous ?
Erwann DESPRES
Celles qui réussiront seront d’abord les entreprises capables de regarder leur organisation avec lucidité. Avant d’intégrer l’IA dans des processus, il faut comprendre la réalité du terrain, les dysfonctionnements, les écarts entre ce qui est prescrit et ce qui est réellement pratiqué.
Si ce travail n’est pas fait, l’IA risque de devenir un catalyseur de dysfonctionnements. Elle ne corrigera pas, par magie, une organisation malade.
Demain, lorsque l’IA sera davantage intégrée dans les circuits de décision, elle deviendra aussi un nouvel acteur de l’organisation à analyser : où intervient-elle ? Comment influence-t-elle les décisions ? Comment les collaborateurs interagissent-ils avec elle ? C’est une évolution importante pour les démarches d’analyse organisationnelle.
Enfin, la place des experts restera déterminante. Avec l’IA, beaucoup de personnes pourront produire des contenus ou des analyses très bien formulés. Cependant, il faudra toujours des experts métiers pour faire le tri, challenger, vérifier, contextualiser et garantir la confiance à long terme !
Youssouf ZEBOUDJI
Les entreprises qui réussiront ne seront pas forcément celles qui auront lancé le plus de POC. Ce seront celles qui auront su choisir les bons cas d’usage, poser un cadre clair et accompagner les équipes dans la durée.
Il faut garder une approche pragmatique : partir des données, des processus et des besoins métiers, tester la valeur, puis intégrer les usages retenus dans les pratiques réelles avec une gouvernance et des relais terrain.
L’IA crée de la valeur quand elle est comprise, utilisée dans le bon contexte et maîtrisée par les équipes. C’est là que l’acculturation, l’accompagnement au changement et la gouvernance deviennent décisifs !
À propos des intervenants
QALIA Performance
QALIA Performance est un cabinet de conseil, d’audit et de formation qui accompagne les organisations dans l’amélioration durable de leur performance en conciliant exigences techniques, réalité opérationnelle et développement des compétences. Spécialiste des environnements exigeants, QALIA intervient sur les enjeux de qualité, métrologie, systèmes de management, amélioration continue, maîtrise des risques et transformation des organisations. À travers son approche Q-SYNQ, fondée sur l’analyse des écarts entre le prescrit et le réel, QALIA aide les entreprises à construire des organisations plus fiables, en alignant les processus, les pratiques et la réalité du terrain.
Inside
Inside est une société de conseil et de services numériques qui simplifie et accélère la transformation des entreprises, de la stratégie à la mise en œuvre, avec un objectif clair : produire des résultats concrets et durables. Inside couvre l’ensemble de la chaîne de valeur (Ops & Infra, Digital, Transformation & Projets, Cybersécurité, IA) avec une approche fondée sur l’Humain, l’Engagement et l’Excellence.
