Les quatre piliers d’une IA digne de confiance — et qui en est responsable

Galen Low : Qu'est-ce que la confiance en ingénierie et comment cela contribue-t-il à des solutions et expériences d’IA sécurisées ?

Cal Al-Dhubaib : C'est une boîte à outils de communication partagée pour aider les différents profils qui collaborent autour de la conception et de l’adoption des solutions d’IA à discuter de manière plus productive de la préservation de la confiance. Il fallait trouver un langage commun pour que tous parlent de la même chose et comprennent éventuellement comment la confiance peut être compromise avec l’IA, ainsi que les outils pour s’en prémunir.

Galen Low : Comment une équipe projet peut-elle se partager la responsabilité d’intégrer la confiance dans ses solutions et éviter que les responsabilités ne soient rejetées ?

Cal Al-Dhubaib : Ce qui est intéressant avec la notion de responsabilité, c’est que si cela incombe à tout le monde, au final personne ne s’en charge vraiment, donc il faut absolument désigner une personne précise qui s’appropriera cet aspect. Nous en affectons effectivement une à chacun de nos projets IA pour nous assurer que les bonnes questions soient posées.

Galen Low : À ton avis, combien de temps faudra-t-il à l’IA pour comprendre le concept humain de la confiance mieux que les humains eux-mêmes ?

Cal Al-Dhubaib : Je pense vraiment que la définition de l’IA est si circulaire... Comment l’IA pourrait-elle comprendre la confiance mieux que l’humain ? Je ne sais pas, mais aussi—

Galen Low : Bienvenue sur le podcast The Digital Project Manager — l’émission qui aide les responsables de la livraison à travailler plus intelligemment, à livrer avec fluidité et à conduire leurs équipes avec confiance à l’ère de l’IA. Je suis Galen, et chaque semaine, on plonge dans des stratégies concrètes, les tendances émergentes, des cadres éprouvés, et parfois des retours d’expérience du terrain. Que vous pilotiez des projets de transformation massive, que vous gériez des workflows IA ou que vous essayiez simplement de canaliser le chaos, vous êtes au bon endroit. C’est parti.

Aujourd’hui, nous parlons de la façon dont la confiance peut être intégrée dans les expériences propulsées par l’IA, pourquoi c’est crucial pour les organisations qui déploient des solutions d’IA dans des secteurs réglementés, et du rôle de l’équipe projet, et particulièrement du chef de projet, dans la création de cette confiance.

Je reçois aujourd’hui Cal Al-Dhubaib, responsable IA & Data Science chez Further, une société qui transforme l’expérience client grâce à la donnée et l’IA. Cal est expert en IA et data science, entrepreneur, conférencier prolifique et nouveau présentateur du podcast Open Data Science. Grâce à sa riche expérience, il aide les organisations à combler le fossé entre l’innovation IA et la responsabilité éthique, pour que leurs déploiements soient alignés avec leurs valeurs et objectifs.

Dans le secteur Tech de Cleveland, Cal a aussi été reconnu parmi les 20 talents de moins de 30 ans par Crain’s Cleveland, leader immigrant et dirigeant tech notable, ainsi que quadruple lauréat du prix Cleveland Smart 50.

Cal, merci beaucoup de nous rejoindre aujourd’hui.

Cal Al-Dhubaib : Galen, merci de m’inviter. Je suis ravi d’avoir cette conversation.

Galen Low : Moi aussi. J’apprécie vraiment nos échanges précédents. Tu es un vrai connaisseur du sujet, tu parcours les événements du secteur. Félicitations pour ta nouvelle position d’animateur du podcast Open Data Science. Tu as beaucoup de beaux projets en cours.

Je sais que tu es profondément investi, passionné, et j’espère que la discussion nous mènera vers des pistes inattendues. Mais juste au cas où, voici la feuille de route que j’ai esquissée pour aujourd’hui. Pour commencer, je te poserai une question épineuse qui t’attendait de mes auditeurs.

Je voudrais ensuite décomposer cela en trois points. D’abord, ce que signifie intégrer la confiance dans une solution IA et quelle est la responsabilité de l’équipe projet pour garantir cette confiance. Ensuite, comment la confiance peut être mesurée et auditée, en particulier dans le cadre réglementaire mais aussi au-delà de la conformité.

Et enfin, j’aimerais avoir ton regard sur l’avenir, et la manière dont notre perception de la confiance va probablement évoluer au fil des années à mesure que collectivement, nous comprenons mieux ce que deviennent nos données à l’ère de l’IA. C’est beaucoup, mais tu en dis quoi ?

Cal Al-Dhubaib : Je suis partant. On a un grand programme. C’est ambitieux, mais j’adore ça.

Galen Low : Excellent. Allons-y. Je veux commencer par une question très large autour de cette thématique d’ingénierie de la confiance dans les solutions et expériences IA, en particulier car les utilisateurs, les entreprises et les régulateurs n’adopteront une IA que s’ils lui font confiance.

Donc ma question est la suivante : lors du développement et déploiement des solutions IA, qui détient la responsabilité de la confiance en tant qu’exigence, et que se passe-t-il si elle disparaît d’une expérience IA ?

Cal Al-Dhubaib : La réponse simple, c’est que par défaut, personne ne s’en charge et c’est tout le problème. C’est d’ailleurs ce que j’essaie de résoudre avec la formation sur l’ingénierie de la confiance sur laquelle je travaille.

Cela me rappelle franchement les débuts de la data science où l’analytique, l’informatique ou la finance pouvaient chacun en avoir la charge, peu importait vraiment où cela se situait tant qu’il y avait une responsabilité claire pour cette capacité.

C’est la même chose pour l’ingénierie de la confiance dans les solutions IA : si ce n’est pas intégré au processus de conception, la solution aboutit souvent à des conséquences imprévues. L’un des outils que je cite souvent est la base d’incidents IA, dont j’ai récemment consulté les chiffres pour l’ensemble de 2025.

Et sans surprise, le nombre d’incidents continue d’augmenter année après année.

Galen Low : Intéressant. Peux-tu en dire plus sur la manière dont cette base de données définit un « incident » ?

Cal Al-Dhubaib : Ce que j’aime, c’est qu’ils parcourent les sources d’informations et recensent un incident sous plusieurs angles.

Si plusieurs médias indépendants couvrent une histoire donnée, ils rassemblent tout dans un incident unique et on peut consulter tout le suivi médiatique. Parmi les exemples emblématiques : le lancement de la carte de crédit Apple, qui accordait initialement des plafonds inférieurs aux femmes par rapport aux hommes, toutes choses égales par ailleurs.

Un autre exemple plus récent : AnyScale, connue pour ses solutions d’agents codants, a connu des problèmes d’accès aléatoires pour ses utilisateurs. Leur chatbot IA répondait alors avec de faux messages hallucinés, ce qui a fini par embrouiller les clients, qui se sont sentis manipulés, puis ont annulé leur abonnement. Et aussi, à l’automne dernier, l’un des « Big Four » du conseil a livré un dossier au gouvernement australien qui comportait de graves erreurs d’exactitude générées par l’IA lors de sa rédaction.

On a donc des exemples qui remontent à 2016, 2017, aux débuts du « machine learning », et le nombre d’incidents ne cesse de croître ces dernières années. Tous sont consignés dans la base d’incidents IA.

Galen Low : Ce que j’aime dans tes trois exemples, c’est qu’ils illustrent bien la diversité des incidents. Le premier met en lumière un biais probablement inscrit dans la donnée d’entraînement.

Cal Al-Dhubaib : Certainement, c’est dans la donnée.

Galen Low : Le deuxième, c’était plutôt, comment dire, « gaslighting » par l’IA — j’adore ce terme. C’est l’idée : « Non, c’est vous le problème, donc on vous coupe l’accès », et on finit par se dire : « L’IA est forcément plus intelligente que moi… » Mais non, pas forcément.

Cal Al-Dhubaib : C’est vrai, je n’y avais pas pensé.

Galen Low : Et le troisième, c’est l’erreur d’exactitude. On tombe dans le biais d’hallucination, ça concerne l’humain dans la boucle, la confiance et la nécessité de faire preuve de rigueur.

Cal Al-Dhubaib : Exactement.

Galen Low : C’est un excellent point de départ, justement parce qu’on va sans doute aborder tout cela et bien plus encore.

La confiance, ce n’est pas juste dire ce qu’on fait avec les données. C’est bien plus que cela pour rendre une solution digne de confiance, notamment dans les secteurs très régulés : santé, finance, défense… Là, la gestion éthique et responsable des données sensibles n’est pas qu’une question morale : le prix de la non-conformité peut être très lourd. Deux notions que tu abordes souvent sont l’ingénierie de la confiance… et l’idée que l’IA la plus sûre est aussi la plus « ennuyeuse ».

Cal Al-Dhubaib : J’adore. On cherche toujours à la rendre plus « sexy », mais j’ai appris très tôt que, dans ces environnements, le coût de l’erreur est immense. Et il y a une chose garantie avec l’IA : elle fait des erreurs.

Galen Low : Effectivement.

Cal Al-Dhubaib : Je me souviens avoir travaillé avec des hôpitaux et présenté la façon dont l’apprentissage automatique pouvait générer des modèles prédictifs. Mais il fallait aussi s’assurer que ces modèles soient performants sur toutes les populations. Impossible d’accepter un sous-performant sur des groupes minoritaires.

À l’époque — je parle de 2016, 2017, 2018 — la réponse était souvent « le jeu n’en vaut pas la chandelle, trop de risque pour un gain trop incertain », donc les projets étaient finalement mis de côté. Il n’existait pas de méthode simple en 1, 2, 3, 4 étapes pour traiter cela.

Galen Low : J’en ai discuté avec d’autres, comme Lauren Wallace dans ce podcast, sur le fait que dans les secteurs régulés, la tolérance au risque est très encadrée et clairement définie. Ce n’est pas que la techno soit mauvaise, mais que le risque est supérieur au seuil acceptable, donc on attend que la techno, les datas, les process soient prêts. Et c’est sain : parfois, la meilleure IA est une IA minimale.

Cal Al-Dhubaib : Absolument. Parfois, la meilleure IA, c’est moins d’IA.

J’en parle à travers la « minimisation stratégique de l’IA ». Un exemple récent : nous avions travaillé avec une université sur le traitement automatisé des relevés de notes. Il y avait plein de formats différents. On a atteint 90 % de précision sur l’extraction grâce aux modèles d’IA, ce qui est très bien dans ce contexte. Mais la question du client était immédiate : « Dans quels 10 % l’IA se trompe ? » Car ils ne peuvent pas fonctionner avec l’aléatoire.

Nous avons donc étudié les cas d’erreur, qui concernaient notamment les documents étrangers, ou les relevés issus d’un système de trimestres plutôt que de semestres. Finalement, une liste de règles détourne ces cas vers un contrôle humain, et l’IA traite le reste. Ce n’est pas 100 % d’automatisation, mais cela sécurise la solution dans les zones de confiance, c’est ça l’ingénierie de la confiance appliquée.

Galen Low : Allons-y justement. Tu prépares actuellement un cours sur LinkedIn Learning sur l’ingénierie de la confiance. Pourrais-tu nous donner ta définition et comment cela génère des solutions IA sûres ?

Cal Al-Dhubaib : C’est une boîte à outils partagée pour permettre aux différents profils collaborant à la conception et à l’adoption de l’IA de dialoguer efficacement pour préserver la confiance.

J’ai remarqué que chaque intervenant abordait la problématique de confiance avec sa vision : les ingénieurs IA connaissent les biais statistiques, les gestionnaires des risques s’intéressent à l’exposition, les gouvernances à la documentation des hypothèses, les designers à l’expérience utilisateur, et les parties prenantes côté business à la définition du besoin.

Il fallait donc créer ce langage commun de la confiance, de la manière dont elle peut être violée, et des outils pour la préserver.

Galen Low : J’adore cette idée d’un langage commun et d’un cadre pour diagnostiquer puis résoudre ces problèmes.

Tu évoquais tout à l’heure cette vision centralisée de la data science, où l’on veut faire porter à une seule personne la propreté, la précision, etc. Ce n’est pas tenable : la confiance est le résultat d’un travail collectif, transdisciplinaire. Ce cadre permet ce travail en équipe.

Cal Al-Dhubaib : Exactement.

Galen Low : Ce que tu dis sur la minimisation stratégique de l’IA rappelle bien qu’on n’est pas tout IA ou rien. C’est vraiment une collaboration humain-IA : chacun doit comprendre l’IA, et disposer du même vocabulaire pour un vrai dialogue dans la conception et la mise en place.

Mais il faut aussi se comprendre entre humains, car on excelle tellement dans nos spécialisations qu’on perd de vue l’objectif commun. Le management de projet, c’est fondamentalement faciliter la compréhension et la livraison, une forme de traduction permanente entre parties prenantes pour que tout le monde parle de la même chose.

Cal Al-Dhubaib : On se dit facilement « c’est couvert »… Mais c’est là que l’outil commun prend tout son sens pour en faire un sport d’équipe. Personne, même pas dans les questions d’accessibilité ou de confidentialité (qui font aussi partie de la confiance), ne peut être seul maître à bord sur des solutions complexes.

Cal Al-Dhubaib : Non, par exemple sur la notion d’équité dans la création d’un modèle d’admission étudiante. On doit s’assurer de la qualité pour chaque groupe, mais la question du client est inévitable : « Comment garantissez-vous cela ? » Nous leur expliquons qu’il existe 22 méthodes de calcul de l’équité. Au final, c’est au client/politique de définir l’approche qui lui correspond, pas à l’ingénieur seul.

Galen Low : Beaucoup pensent que l’IA va nous échapper, mais c’est aussi l’inverse : on doit revisiter des pratiques anciennes et se demander si elles sont éthiques, équitables, ou si on naviguait seulement à l’intuition. Maintenant, la politique doit être plus explicite, à l’instar de l’automobile autonome envisager le moins de mal possible, avec des choix conscients plutôt que des solutions par défaut.

Cal Al-Dhubaib : Parfois la question se joue sur des choses moins dramatiques. Les solutions génératives ouvertes sur de très large usages peuvent dérouter l’utilisateur : la bonne vieille limite rend service.

Galen Low : Intéressant.

Cal Al-Dhubaib : Et là, mes quatre piliers de la confiance entrent en jeu : gestion des attentes, conception de la décision, gouvernance, et gestion de l’infrastructure de la confiance, avec les bons outils et le bon niveau de risque maîtrisé. Le tout, c’est de guider l’utilisateur à travers les bonnes informations, les bons garde-fous, pour exploiter le système à bon escient.

Galen Low : Peut-on prendre un exemple, notamment sur gestion des attentes et conception de la décision, et voir ensuite qui doit être impliqué pour co-créer cette confiance dans l’expérience ?

Cal Al-Dhubaib : Un exemple simple — hors des situations de vie ou de mort, pour rester dans le grand public : la société Behr (de peintures).

Galen Low : Oui.

Cal Al-Dhubaib : Grande marque chez Home Depot, grand choix de couleurs. Mais le plus gros point de friction du client, c’est l’embarras face à la multitude de couleurs. J’ai, personnellement, un répertoire de couleurs limité, donc, devant l’éventail « blanc coquille d’œuf », je me perds rapidement. D’où la création d’une expérience générative pour le choix de produit.

Ce n’est pas si trivial : il faut respecter la science des couleurs, maintenir cohérence avec la charte graphique, et n’utiliser que des produits réellement existants. Savoir où placer la frontière entre conseils acceptables ou non (comment choisir une couleur versus expliquer la formulation ou l’application), c’est primordial : les consignes sont précises, et au-delà, on oriente l’utilisateur vers une assistance humaine.

Galen Low : C’est ce fameux 90/10 : on arrête là et on passe la main à un humain, au lieu de laisser l’IA inventer des réponses.

Cal Al-Dhubaib : Et il faut aussi veiller à ce que l’IA ne recommande pas des produits concurrents, et qu’elle ne dérape pas dans le dialogue, pour éviter les bad buzz.

Galen Low : Oui.

Cal Al-Dhubaib : Voilà un excellent exemple des éléments de l’ingénierie de la confiance : conception de la décision, encadrement, gestion des attentes, gouvernance, tout cela communiqués au client via une interface conviviale.

Galen Low : C’était bien une interface conversationnelle ?

Cal Al-Dhubaib : Oui, sur behrpaint.com. Promo gratuite : le chatbot « Chat Hue » apparaît !

Galen Low : J’aime, car cela englobe tous les aspects que tu décrivais. L’importance du spécialiste couleur, tout en douceur pour les usages ou déficiences, la voix de la marque, la mise à jour de la base produits… Et par ailleurs, sur un client financier, nous proposons la même logique pour une base de connaissances : il y a toute une organisation humaine pour garder les données fraîches, et l’IA tient compte de cette qualification.

Cal Al-Dhubaib : Une grande partie de la fiabilité du système dépend de la tenue à jour de la donnée, pilotée par l’humain.

Galen Low : Il s’agit bien de coopération, ce n’est pas du tout tout ou rien, l’humain garde toute sa place en supervision, qualification et amélioration continue. L’IA dépend de l’humain, même dans les cas où certains prédisent qu’elle pourrait tout piloter.

Cal Al-Dhubaib : Au contraire, dans tous les usages en production que j’ai rencontrés, il y a une forte dose d’intervention humaine, d’équilibrage et d’ajustement.

Galen Low : C’est plus réaliste et, qui sait où ira la technologie, mais la promesse marketing du tout autonome ne tient pas la route. Car souvent, la dépense salariale reste le principal coût.

Cal Al-Dhubaib : L’argument est séduisant…

Galen Low : Très séduisant. Pour autant, as-tu des « anti-exemples » de solutions IA du quotidien, qui n’intègrent pas cette ingénierie de la confiance, qui restent des « boîtes noires » sans garderails ?

Cal Al-Dhubaib : J’adore citer la base d’incidents IA. Un cas amusant : McDonald’s avait mis en place une solution de prise de commande vocale au drive avec un grand cabinet, mais a dû la désactiver car elle ne comprenait pas assez bien les commandes. Ce n’était pas tant l’échec de la techno que du cadre autour de la techno. Chez Domino’s à l’inverse, 80 % des commandes téléphoniques sont désormais pilotées par une IA.

Galen Low : Oh, impressionnant.

Cal Al-Dhubaib : Contrairement à McDonald’s qui a tenté le « full IA », Domino’s a toujours un superviseur humain pour intervenir en direct (accent, incompréhension) et vérifier la qualité. Les échecs sont rarement dus à l’IA elle-même mais au manque de dispositifs d’encadrement adaptés.

Galen Low : Il y a toujours un juste équilibre humain/IA. Celui qui mène le projet peut se retrouver à « dépenser » un budget colossal pour un projet au final remisé. Or ce n’est pas un échec total, mais plutôt une opportunité de progression. Le mauvais réflexe serait de jeter l’IA pour tout repasser en humain alors qu’on voit, dans le domaine de la relation client, de nombreux cas où on démarre par l’IA et, si nécessaire, on passe la main à l’humain — tout en alimentant l’apprentissage de l’IA (par exemple, pour la compréhension d’accents ou la gestion de cas complexes).

Cal Al-Dhubaib : Exact.

Galen Low : On collecte de plus en plus de données, ce qui finira par rendre l’automatisation possible à l’avenir. Côté risques, les pratiques consistent à équiper directement les opérateurs de centres d’appels d’une IA pour synthétiser des recommandations, voire répondre aux besoins plus rapidement et de façon sécurisée.

Cal Al-Dhubaib : Absolument, c’est le facteur humain qui apporte sécurité et expertise. Vous pouvez prévoir des garde-fous : utilisation contrôlée, diagnostics d’écarts, plans de correction. Sur un service comme la prise de commande McDonald’s, il faut tester ce plan : en cas d’incident, l’humain peut-il reprendre la main efficacement, comprendre le contexte, corriger — tout cela sans briser la confiance du client ?

Galen Low : Le test ultime du temps réel, sur un drive de fast food, pousse la contrainte à fond. En gestion de projet, je me dis que la pression sur une équipe de débutant doit être intense, et parfois insoutenable, face à un système IA pas assez fiable. Les industriels tentent, parfois essuient des échecs, mais ce n’est pas forcément la faute de la techno ou signe d’aggravation. C’est juste que l’on teste davantage et que les incidents remontent plus, dans une dynamique d’amélioration continue.

Cal Al-Dhubaib : C’est lié à deux facteurs : d’une part il devient plus facile de construire ces systèmes, donc les occasions de risques augmentent, mais la croissance n’est pas exponentielle par rapport à l’adoption. D’autre part, la société devient plus aguerrie dans l’identification des ratés ou dérives, notamment via les deepfakes, et la méfiance envers les contenus numériques augmente. Maintenant le regard critique est quasi-universel.

Galen Low : Cette montée du regard critique n’est pas forcément négative. Cela permet d’identifier les vrais problèmes de gouvernance, aussi bien technologiques qu’humains.

Cal Al-Dhubaib : Oui, et de progresser.

Galen Low : C’est tout le sens d’une confiance partagée, portée par de nouveaux profils en équipe projet — des linguistes, des data scientists… Les équipes changent et la boîte à outils de l’ingénierie de la confiance s’impose de plus en plus. Mais comment encourager la responsabilité collective, éviter le transfert de tort et l’effet « bouc émissaire » ?

Cal Al-Dhubaib : La responsabilité diluée n’est la responsabilité de personne. Il faut désigner une personne qui porte cet enjeu-clé.

Nous avons investi chez Further dans la formation de référents en gouvernance IA. Nous sommes membres de l’IAPP (International Association of Privacy Professionals), qui a lancé la certification en gouvernance IA pour des profils divers (juristes, ingénieurs, cybersécurité…). Ce référent est attribué à chaque projet IA afin de garantir le bon questionnement.

Galen Low : Justement, dans les projets digitaux, le chef de projet centralise souvent les responsabilités entre spécialistes, mais l’émergence du référent gouvernance IA permet d’identifier clairement où la responsabilité s’arrête, tout en impliquant chacun via un langage partagé.

Cal Al-Dhubaib : Exactement. Cela paraît lourd mais le but, en réalité, est de réduire l’effort total en introduisant une friction positive : prendre le temps, analyser les risques, établir des parades et se focaliser sur les points cruciaux, donc optimiser la qualité globale, pas juste la vélocité.

Galen Low : C’est ce que j’aime dans les secteurs régulés, cette capacité à savoir s’arrêter et peser collectivement l’intérêt et le risque global du projet, au-delà de la simple mise en marché ou « go live ».

Cal Al-Dhubaib : Pour moi, ce sont des nouveaux métiers : contrôle IA, assurance qualité IA, gestion de risque IA. Et le cœur du métier, c’est de poser les bonnes questions, pour aligner tout le monde.

Galen Low : J’adore.

Peut-on mesurer la confiance ? L’équipe peut-elle progresser objectivement sur ce point ?

Cal Al-Dhubaib : Excellente question. Certains indicateurs sont révélateurs : nombre d’incidents par exemple, mais aussi l’analyse des comportements utilisateurs. Pour le chatbot « Chat Hue », atteint-on bien le call-to-action comme cliquer sur une fiche produit ? L’efficacité réelle, le taux de complétion, le taux de retour sont des métriques de confiance indirectes.

Galen Low : Ce sont des méthodes connues : profil de risques, taux d’atteinte des objectifs, valeur délivrée à l'utilisateur, friction potentielle, friction liée à la confiance ou à l’explicabilité…

Cal Al-Dhubaib : Ou tout simplement l’absence d’utilité, qui fait aussi partie de la confiance. 

Galen Low : Oui, très juste. J’irais commander mon Big Mac au comptoir alors ! Pour finir, regardons vers l’avenir…

Dans d’autres discussions, tu as évoqué non pas seulement la confiance dans l’IA, mais aussi la confiance dans les humains parties prenantes, parfois biaisés (prime liée à la décision, intérêt personnel…) même inconsciemment.

Cal Al-Dhubaib : Oui, ils étaient motivés à ne pas faire confiance aux recommandations de l’IA, car leur bonus était en jeu.

Galen Low : Parfois, les humains sont bien imparfaits en matière de confiance. Oserais-je demander : Quand l’IA comprendra-t-elle mieux la confiance humaine que les humains eux-mêmes, et quelles seraient les implications ?

Cal Al-Dhubaib : C’est très circulaire, surtout en considérant l’intelligence générale artificielle (AGI) comme une IA capable de faire tout ce qu’un humain formé peut faire. Mais comme l’humain d’aujourd’hui s’appuie sur ses outils (dont l’IA), la définition se mord la queue. Peut-on imaginer une IA qui comprenne mieux la confiance ? Je ne sais pas. Surtout que la confiance est éminemment contextuelle, subjective et culturelle.

Un exemple académique de MIT : le site Moral Machine propose des dilemmes pour les voitures autonomes. Quel choix éthique faire si tous les scénarios impliquent de nuire ? Un grand nombre de réponses, issues des différentes régions du monde, ont révélé que les systèmes de valeurs sont culturellement marqués : en Occident, on privilégiera sauver le plus grand nombre, en Asie, l’accumulation d’années de vie, voire donner la priorité aux anciens, même seuls… Il n’existe donc pas de vérité morale universelle en matière de confiance.

Je le sais bien moi-même, d’origine saoudienne et américaine, baignant entre deux cultures souvent peu compatibles.

Galen Low : Cela invite à se demander si la vraie question n’est pas de savoir quand l’IA comprendra la culture humaine mieux que les humains eux-mêmes ? Peut-être plus vite qu’on ne le croit, car le brouillard culturel est bien réel partout.

Cal Al-Dhubaib : Voilà, c'est pour ça qu’on doit s’efforcer de reconnaître que ce n’est jamais tout noir ou tout blanc : il faut clarifier les hypothèses, décider des règles (ou laisser la main à l’utilisateur en fonction), et tout cela relève vraiment de l’ingénierie de la confiance.

Galen Low : Ce que j’aime dans l’ingénierie de la confiance, c’est qu’elle n’est pas une recette magique, mais une boîte à outils et un cadre pour réfléchir ensemble.

Cal Al-Dhubaib : Absolument.

Galen Low : Cal, merci beaucoup d'avoir participé à l’émission. Pour ceux qui souhaitent suivre la sortie de ton cours ?

Cal Al-Dhubaib : Je suis très présent sur LinkedIn, mon canal préféré, j’y annoncerai toutes les infos prochainement.

Galen Low : Parfait. Je mettrai donc le lien vers ton profil ainsi qu’un accès à la base d’incidents mentionnée, c'est vraiment riche pour les discussions. Merci Cal, c’était passionnant.

Cal Al-Dhubaib : Merci à toi Galen.

Galen Low : Voilà, c’est tout pour cet épisode du podcast The Digital Project Manager. Si vous avez apprécié, abonnez-vous, et pour plus de ressources pratiques, rendez-vous sur thedigitalprojectmanager.com.

À bientôt, et merci de votre écoute.