La confidentialité dès la conception : élaborer une stratégie d’IA qui ne compromet pas la confiance
Cet article a été adapté de l’épisode « Une stratégie d’IA axée sur la confidentialité : à quoi elle ressemble et pourquoi elle est importante » du podcast DPM.
Avantage réglementaire: Les secteurs réglementés peuvent réutiliser leurs pratiques établies de gouvernance, de conformité et de réponse aux incidents pour déployer l’IA de manière responsable.
Répartition des risques: Séparer les outils internes des fonctionnalités produit aide les organisations à évaluer plus précisément les risques liés à l’IA, les contrôles et la responsabilité.
La confidentialité d’abord: Une stratégie d’IA axée sur la confidentialité protège les données personnelles, les informations exclusives et la sécurité, tout en clarifiant la valeur commerciale attendue.
Responsabilité partagée: Les organisations devraient définir leur conception de la propriété des données avant d’établir des principes éthiques ou de concevoir des politiques relatives à l’IA.
Responsabilité concrète: Les équipes pluridisciplinaires, les matrices de risques, la formation des employés et l’examen attentif des fournisseurs contribuent à prévenir les raccourcis et à soutenir des décisions prises en toute confiance.
La plupart des gens supposent que les secteurs fortement réglementés — services financiers, santé, énergie, télécommunications — sont voués à avancer lentement dans le domaine de l’IA, freinés par les lourdeurs administratives tandis que les secteurs moins réglementés prennent de l’avance. Selon Lauren Wallace, conseillère stratégique et ancienne directrice juridique de RadarFirst, cette hypothèse est erronée.
Wallace, qui a occupé des postes dans les domaines juridique et du développement commercial chez Apple, Microsoft et Nike, affirme que les entreprises réglementées disposent en réalité d’une longueur d’avance lorsqu’il s’agit de mettre en place des programmes d’IA conformes et responsables. Cet article présente son cadre pour une stratégie d’IA axée sur la confidentialité : à quoi elle ressemble au niveau de ses composants, comment obtenir l’adhésion de l’organisation, et où se trouvent réellement les principaux risques — et les principales opportunités.
Déverrouillez gratuitement
Créez un compte gratuit pour terminer la lecture de cet article et rejoindre une communauté de leaders innovants qui accèdent à des outils, des méthodes et des idées pour prospérer à l’ère de l’IA.
Have an account? Log In
Pourquoi les secteurs réglementés disposent peut-être déjà d’une longueur d’avance
Les principes fondamentaux de la gouvernance de l’IA — transparence, responsabilité, surveillance des biais — ne sont pas de nouvelles inventions. Comme l’explique Wallace, « les principes qui sous-tendent la gouvernance de l’IA, comme la transparence, la responsabilité, la surveillance des biais, la prévention… sont déjà intégrés aux cadres réglementaires existants ». Cela inclut le RGPD, mais aussi les lois sur les prêts équitables, les lois sur l’égalité des chances, ainsi que de nombreux autres cadres relatifs aux droits civils et à la protection des consommateurs.
Les principes qui sous-tendent la gouvernance de l’IA, comme la transparence, la responsabilité, la surveillance des biais, la prévention… sont déjà intégrés aux cadres réglementaires existants.
Les banques, par exemple, appliquent depuis des années des « règles de gestion des modèles » pour la prise de décision algorithmique — des règles qui, selon Wallace, « se transposent facilement à ce que nous observons avec tous ces outils d’IA ». Les organisations de ces secteurs disposent généralement déjà de programmes de conformité, de ressources dédiées à la gouvernance et d’outils de contrôle conçus autour de ces cadres.
Cela s’applique également à la réponse aux incidents. Wallace est catégorique sur ce point : « Peu importe l’origine de l’incident, qu’il provienne d’un fax envoyé au mauvais destinataire ou d’une IA que vous avez autorisée à utiliser des informations personnelles. Un incident reste un incident. » Les règles de notification en matière de sécurité et de confidentialité ne prévoient pas d’exception pour l’IA et, comme elle le dit, « vous ne pouvez certainement pas simplement rejeter la faute sur votre IA ».
Alors, où se situe le véritable risque ? Pas chez les entreprises auxquelles on pourrait s’attendre. « Je pense en réalité que le principal défi concerne les entreprises de taille moyenne », affirme Wallace. « Elles sont peut-être confrontées pour la première fois à ces obstacles réglementaires lorsqu’elles intègrent l’IA à leurs flux de travail, et elles se demandent maintenant par où commencer. »
Répartissez vos cas d’utilisation en deux catégories
Wallace recommande de répartir dès le départ les initiatives d’IA en deux catégories :
- Les usages internes de l’IA pour la productivité, le remplacement d’outils existants ou l’ajout d’améliorations fonctionnelles.
- Les cas d’utilisation de l’IA pour le développement de produits.
Comme elle le souligne, « les considérations sont très différentes pour chacune de ces catégories » — traiter la stratégie d’IA comme un effort unique et indifférencié rend plus difficile l’évaluation précise des risques.
Commencez par la protection de la vie privée dès la conception — mais ne vous arrêtez pas aux données personnelles
Une approche axée sur la confidentialité va au-delà de la protection des informations des clients. Wallace souligne la nécessité de protéger « non seulement les informations personnelles, mais aussi les informations exclusives de l’entreprise », car « l’introduction d’informations de l’entreprise dans un LLM comme ChatGPT entraîne toute une série de nouveaux risques ».
Nous avons une nouvelle surface d’attaque stupéfiante avec l’IA. Vous devez donc vous assurer que votre sécurité est parfaitement configurée.
Elle signale également directement les enjeux liés à la sécurité : « Nous avons une nouvelle surface d'attaque stupéfiante avec l'IA. Vous devez donc vous assurer que votre sécurité est parfaitement configurée. » Mais surtout, elle insiste sur l'alignement interne — « lancer votre conversation interne pour comprendre ce que vous voulez faire avec l'IA, ce que vous pensez pouvoir faire avec l'IA et quel est le véritable retour sur investissement que vous espérez obtenir. »
Choisir le niveau d'exigence le plus élevé, pas le plus petit dénominateur commun
Les différentes réglementations en matière de confidentialité partagent des valeurs fondamentales similaires, mais les mettent en œuvre différemment. Le conseil de Wallace : « Essayez de trouver le niveau d'exigence le plus élevé. Essayez de trouver ce qui est cohérent entre les différents environnements réglementaires dans lesquels vous évoluez et traitez tout le monde comme s'il était soumis à cette même approche exigeante et fondée sur des principes. »
L'alternative — essayer de respecter partout le strict minimum légal — se retourne contre vous. « Cela peut sembler devoir vous éviter une certaine exposition réglementaire, explique-t-elle, mais cela vous coûtera beaucoup plus cher en matière de mise en œuvre et de charge mentale lorsque vous essayerez de faire des choses intéressantes. »
Il ne s'agit pas seulement d'exposition réglementaire, non plus. « Cela encouragera une approche éthique du travail que vous accomplissez, explique Wallace, même lorsque vous n'avez pas d'obligations réglementaires énoncées quelque part et auxquelles vous pouvez vous référer, chapitre et verset à l'appui. » Le risque juridique peut venir d'endroits inattendus — « une action collective », « une équipe juridique entrepreneuriale » ou « vos concurrents » — et pas uniquement d'un organisme de réglementation.
Déterminer la position de votre organisation sur la propriété des données
Avant de rédiger une liste de principes d'éthique de l'IA, Wallace estime que les organisations doivent d'abord répondre à une question plus fondamentale. Elle présente trois philosophies mondiales concurrentes concernant la propriété des données :
À propos du modèle de l'UE : « La confidentialité est un droit humain fondamental, et le droit de décider de l'utilisation de vos informations personnelles appartient à la personne concernée — l'être humain. »
À propos du modèle historique des États-Unis : « Nous avons considéré que la valeur de ces informations personnelles appartenait à l'entreprise qui les avait collectées, parce qu'elle en tirait de la valeur ; et donc, si elle en tirait de la valeur, celle-ci devait sûrement lui appartenir. »
À propos d'un troisième modèle observé ailleurs : « La valeur des informations personnelles, et même le contenu précis de ces informations, est considérée comme appartenant à l'État, parce que l'État va les utiliser dans l'intérêt supérieur de la personne concernée. »
Son propos est que les entreprises doivent choisir consciemment leur position plutôt que de s'y retrouver par défaut : « En tant qu'organisation, croyons-nous que nous servons nos intérêts en tirant de la valeur des informations personnelles ? [Ou] croyons-nous que nous servons nos intérêts en aidant nos clients à utiliser les informations personnelles au bénéfice de la personne concernée ? » Cette décision, explique-t-elle, doit précéder la liste des principes éthiques — « ce n'est pas avec une liste de principes comme l'équité, la responsabilité et l'atténuation des biais au cœur de la démarche » qu'il faut commencer.
Le coût caché de l'enrichissement des données
Les points de données individuels peuvent sembler sans valeur lorsqu'ils sont pris isolément, mais Wallace avertit que l'agrégation change la donne : « Les informations que vous avez fournies à ce fournisseur précis dans ce contexte précis — prises isolément, elles peuvent ne pas avoir énormément de valeur. Mais une fois agrégées, enrichies et revendues à des tiers qui peuvent les utiliser à d'autres fins, leur valeur est désormais bien plus élevée. »
Elle illustre ce phénomène avec l'histoire d'une acquisition réelle : une grande banque a acheté une start-up spécifiquement pour obtenir une liste de « 4 millions de noms de personnes ayant acheté leurs services de prêts étudiants », en payant environ « $175 million » — estimant qu'une liste de prospects qualifiés et vérifiés valait environ « a hundred dollars per person », contre un coût habituel d'acquisition client d'environ « 150 or so dollars. » Mais le problème était le suivant : « ils ont découvert que ces 4 millions de noms étaient faux. Ils avaient été générés artificiellement à l'aide d'un programme d'IA quelconque », et l'accord a échoué.
Sa conclusion remet en question la désinvolture avec laquelle les gens traitent leurs propres données : « Cette grande banque pensait que vous valiez au moins cent dollars. Alors, vous [le consommateur], feriez-vous quelque chose de différent avec ces données en connaissant leur valeur ? »
Intégrer la responsabilité à l'équipe projet, pas seulement à la salle du conseil
« Le ton donné par la direction » compte, affirme Wallace, mais « cela ne vous mène pas très loin quand vous opérez au niveau des projets ». Une véritable responsabilisation nécessite de réunir un groupe véritablement transversal autour de la table pour chaque initiative d’IA — « les équipes produit, d’ingénierie et de sécurité doivent être présentes » — ainsi que des fonctions souvent oubliées :
Réussite client : « Comprennent-ils suffisamment bien les fonctionnalités pour que, en l’absence du script, ils disposent au moins du vocabulaire nécessaire pour soulever la question auprès de quelqu’un d’autre ? »
Marketing : « Savez-vous s’ils appartiennent à la catégorie des personnes allergiques à l’IA ou, à l’autre extrémité, à celle des personnes très enthousiastes à l’idée d’essayer de nouvelles choses ? Comment allez-vous ajuster et calibrer votre message afin que, lorsque vous parlez de nouvelles fonctionnalités, vos interlocuteurs soient réceptifs ? »
Juridique : « Vous pouvez avoir dans votre portefeuille des clients qui interdisent l’utilisation de l’IA sur les produits qu’ils vous achètent. Cela peut être enfoui quelque part dans le contrat. Il peut y être question de prise de décision algorithmique ou d’utilisation de modèles. Vous pouvez avoir un contrat vieux de dix ans qui interdit cet usage. »
L’objectif, explique Wallace, est de constituer une équipe qui se tient elle-même responsable au moment où les décisions sont prises.
Distinguer les utilisations abusives involontaires de la prise de risques intentionnelle
Wallace établit une distinction claire entre l’exposition accidentelle et le fait de contourner délibérément les règles. Du côté des accidents : « La plupart de ces outils que nous utilisons disposent effectivement de configurations que vous pouvez activer afin de contrôler l’exposition de vos informations personnelles ou de vos informations professionnelles confidentielles. »
Le problème le plus difficile est le raccourci dicté par les délais : quelqu’un qui décide de « téléverser cet ensemble de données dans un grand modèle de langage public » parce qu’« il faut livrer vendredi ». La réponse de Wallace à ce scénario est catégorique : « Ne faites tout simplement pas ça. »
Donner aux équipes la permission de dire non
Dire non n’est pas punitif, affirme Wallace : c’est une discipline. « Il n’y a aucun plaisir à cela, n’est-ce pas ? Ce n’est pas une sorte de geste vindicatif. » L’outil qu’elle recommande est une simple matrice des risques — « la probabilité sur un axe et la gravité sur l’autre » — qui permet à une organisation d’avoir « une véritable conversation franche pour trouver votre point dans ce champ » et de convenir collectivement de l’endroit où se situe la limite.
Elle explique franchement qu’elle applique elle-même cette approche lors de l’évaluation des fournisseurs chez RadarFirst : « Nous avons étudié des centaines de fournisseurs au cours de l’année. Une proportion assez élevée a été refusée. Nous avons dit : "nous n’avons pas suffisamment d’informations, ou ils n’ont pas publié de centre de confiance que nous puissions réellement examiner en profondeur, ou ils utilisent des modèles sous-jacents qu’ils ne nous communiquent pas". »
Et l’ignorance ne constitue pas une défense a posteriori : « Je ne peux pas aller voir un fournisseur et lui dire : “Je n’ai pas vraiment compris ce que vous faisiez lorsque j’ai acheté votre produit.” L’ignorance ne constitue pas une défense au regard de la loi. Cela n’a jamais été le cas. Cela ne le sera jamais. »
Je ne peux pas aller voir un fournisseur et lui dire, “Je n’ai pas vraiment compris ce que vous faisiez lorsque j’ai acheté votre produit.” L’ignorance ne constitue pas une défense au regard de la loi.
More Articles
Développer la culture de l’IA dans toute l’organisation, pas seulement au sein de la direction
Chez RadarFirst, l’équipe de Wallace organisait régulièrement des sessions de sensibilisation : « Il y a environ un an et demi, nous avons lancé un déjeuner-conférence mensuel sur l’IA éthique. Chaque session portait sur un thème — l’autonomie humaine et la supervision, la transparence ou la responsabilisation. » Les sessions s’appuyaient sur les lignes directrices de l’Union européenne relatives à l’IA et accordaient une place importante à des études de cas réels issues de la base de données des incidents liés à l’IA : « Des événements choquants, tout juste sortis de l’actualité, qui avaient mis en cause ces principes de transparence ou d’atténuation des biais. »
Wallace précise que l’objectif n’était pas de faire changer d’avis qui que ce soit sur-le-champ : « Peut-être qu’au moment de quitter la salle, les participants n’avaient pas changé de position. Très bien. Mais lorsqu’ils retournaient à leur bureau, ils disposaient du vocabulaire nécessaire pour discuter de leurs préoccupations avec leur équipe, les faire remonter au service juridique ou à la conformité, ou les transmettre à l’équipe produit, selon le cas. »
Quant à savoir qui devrait animer ces sessions, elle ne pense pas qu’il soit nécessaire de recruter une personne dédiée à l’éthique de l’IA : « Je peux imaginer que cette mission soit même répartie d’un mois à l’autre entre différentes personnes, afin d’apporter une valeur légèrement différente à chaque fois. »
La réglementation rattrape lentement son retard — agissez dès maintenant selon vos propres principes éthiques
Wallace présente la loi elle-même comme un indicateur retardé des valeurs communes : « La loi est simplement une manière de mettre par écrit nos principes éthiques communs et de les consigner dans un endroit où les gens peuvent les trouver. » Entre-temps, les contentieux comblent le vide en traitant les questions « lorsqu’elles sont inédites, nouvelles, qu’elles ne se sont jamais posées et qu’il n’y a pas encore eu le temps de les examiner au cours des cycles législatifs » — mais ce processus est lent par nature : « les rouages de la justice tournent lentement, mais avec une précision extrême. »
Elle cite la législation du Colorado sur l’AI comme une mise en garde : l’État « a agi assez vite. Ils ont obtenu quelque chose d’assez bon, puis ils ont dû le retirer parce qu’ils ne trouvaient pas comment le mettre effectivement en œuvre. » Les entreprises qui avaient pris les devants en matière de conformité se sont retrouvées dans l’attente.
Elle recommande de ne plus considérer le rattrapage réglementaire comme la ligne d’arrivée : « Si vous savez ce que signifie être une organisation éthique, si vous savez où se situe votre seuil de risque, vous allez classer votre risque législatif ou contentieux du bon côté de cette catégorie et dire : d’accord, nous sommes prêts à y faire face si cela en arrive là. Mais nous n’en savons pas suffisamment pour le moment — ce que nous savons de nous-mêmes, c’est ce que nous estimons juste et ce que nous pensons que nos clients attendent de nous. Cela, nous pouvons le mettre en pratique dès aujourd’hui. »
Vous souhaitez découvrir d’autres analyses de ce type ? Inscrivez-vous gratuitement à un compte DPM pour écouter d’autres experts comme eux.