L’IA Pour Les Enfants : Comment Les Équipes Projet Peuvent La Concevoir De Manière Responsable

Galen Low : La plupart des solutions d’IA ne sont pas conçues pour les enfants, mais cela ne veut pas dire qu’ils ne les utilisent pas. Ce qui soulève la question : qui est responsable de la sécurité des enfants lorsqu’ils utilisent des expériences alimentées par l’IA ? Est-ce les parents ? Est-ce les équipes qui conçoivent et développent des expériences IA ? Ou bien les entreprises elles-mêmes ?

Et comment pouvons-nous guider nos équipes afin qu’elles se posent les bonnes questions éthiques et qu’elles intègrent les bonnes mesures de sauvegarde dans les expériences que nous créons ? Pour approfondir ce sujet, j’ai invité une cheffe de programme technique de chez Google, qui milite activement pour la sécurité des enfants et la cybersécurité dans l'IA et la tech.

Ensemble, nous allons explorer pourquoi les enjeux sont plus élevés pour les jeunes utilisateurs d’IA que pour les adultes, ce que nous pouvons faire pour défendre et concevoir la sécurité des enfants dans nos projets et produits IA, et comment l’IA pourrait elle-même devenir un défenseur de la sécurité des enfants, alors que la technologie évolue plus vite que notre capacité à créer des politiques, des lois et une éducation adaptées à l’interaction des enfants avec l’IA. Bonne écoute !

Bienvenue dans le podcast du Digital Project Manager — l’émission qui aide les chefs de projet à travailler plus intelligemment, à livrer plus sereinement, et à diriger leurs équipes avec confiance à l’ère de l’IA. Je suis Galen et chaque semaine nous explorons des stratégies concrètes, les nouvelles tendances, des cadres éprouvés, et quelques anecdotes du terrain. Que vous pilotiez de vastes projets de transformation, que vous intégriez des workflows d’IA, ou que vous essayiez simplement de canaliser le chaos, vous êtes au bon endroit. C’est parti !

Aujourd’hui, nous abordons l’IA sous l’angle de la sécurité des enfants et comment les équipes projets et produits peuvent se poser les bonnes questions pour créer des expériences propulsées par l’IA qui protègent les utilisateurs les plus vulnérables.

Avec moi aujourd’hui, Aderonke Akinbola — conférencière, défenseure de la sécurité des enfants et des écosystèmes d’IA, et cheffe de programme technique chez Google. Ade possède plus de trois ans d’expertise en développement de produit et gestion de programmes, ainsi qu’une expérience d’ingénieure sécurité chez Apple. Elle est également intervenue récemment lors du Sommet sur la Sécurité des Agents IA sur la sécurisation des agents IA en environnement centré sur l’enfant.

Ade, merci beaucoup de te joindre à moi aujourd’hui.

Aderonke Akinbola : Bonjour Galen, je suis vraiment ravie d’être ici.

Galen Low : Je suis ravi de t’accueillir. J’attendais cette rencontre avec impatience. J’ai apprécié nos échanges préparatoires. J’ai très envie d’approfondir le sujet, alors j’espère qu’on pourra explorer plein d’aspects, mais au cas où, voici le plan que j’ai préparé pour nous aujourd’hui.

Pour commencer, je voulais installer le décor en te posant une grande question complexe que mes auditeurs aimeraient entendre de ta part. Puis j’aimerais prendre un peu de recul et aborder trois axes : d’abord, ce qui rend l’expérience d’un enfant avec l’IA si différente de celle d’un adulte, et ce qui fait qu’une expérience IA est sûre pour les moins de 18 ans aujourd’hui et demain.

Ensuite, je voudrais rendre la discussion concrète et évoquer comment les équipes projettent et développent des solutions IA peuvent se poser les bonnes questions éthiques et concevoir une expérience qui éduque, explique et protège les plus jeunes. Enfin, j’aimerais avoir ton avis sur ce à quoi pourrait ressembler l’avenir pour les agents IA et les nouvelles générations si nous faisons bien les choses côté éthique, sécurité et sûreté.

Ça te convient ?

Aderonke Akinbola : Parfait, c’est pour ça que nous sommes là. Allons-y !

Galen Low : Allons-y. Génial. J’adore. Bon, pour démarrer, voici une grosse question épineuse. Je prends de l’élan. Depuis quelques mois, la question de la sécurité des enfants et des réseaux sociaux fait les gros titres.

L’Australie a récemment interdit les réseaux sociaux aux moins de seize ans, et le Royaume-Uni ainsi que d’autres pays envisagent la même chose. Certes, réseaux sociaux et IA ne sont pas la même chose, mais nombre de questions éthiques et de sécurité restent valables quand il s’agit des jeunes et de l’IA.

Donc ma grande question est la suivante. Selon toi, et à la lumière de ton expérience en sécurité et développement de produit dans les plus grandes entreprises tech à la pointe de l’IA, devrait-on même concevoir des solutions d’IA pour les moins de 18 ans ?

Aderonke Akinbola : Je pense que c’est la question à un million, Galen. Mais d’abord, ma position, c’est que nous avons dépassé le stade de « faut-il le faire ».

La question se pose désormais sur « comment » concevoir ces systèmes pour eux. Le fait est que ces outils sont déjà là, donc si nous choisissons de ne pas créer d’IA spécifiques et sécurisées pour les enfants, ils n’arrêteront jamais d’utiliser la techno — elle est à leur portée.

Ils utiliseront juste des solutions IA « boîte noire » prévues pour les adultes — ce qui est très risqué, car l'IA adulte est axée sur l’efficacité. Or, nos enfants ont besoin d’outils pour leur développement. Donc si nous ne construisons pas les bonnes versions, en gros, nous les laissons dans la jungle numérique sans boussole. Franchement, on n’en est plus à « doit-on construire pour eux ? ». La vraie discussion doit être sur comment le faire correctement.

Galen Low : C’est très juste ce que tu dis sur les objectifs de la techno. Pour un adulte, ce n’est pas du tout la même chose que pour un enfant. Et comme on l’a vu avec les réseaux sociaux, même dire « les mineurs ne devraient pas utiliser ça » ne les en empêche pas réellement.

Donc oui, la boîte de Pandore est ouverte — à nous de créer des environnements sûrs. Même si l’utilisateur visé n’a pas moins de 18 ans, je me demande si on peut prendre un peu de recul parce que j’ai pu regarder l’enregistrement de ton intervention au Sommet Sécurité des Agents IA et, avant cela, tu as posté quelque chose sur LinkedIn où tu disais : les terrains de jeux d’enfants ne seront plus seulement physiques, ils seront aussi numériques, intelligents et imprévisibles.

Je voulais te demander ce que tu entends par là et à quel moment on doit intégrer cette réalité dans ce qu’on construit aujourd’hui ?

Aderonke Akinbola : Excellente question, Galen. Pensons à un terrain de jeu physique : ils ont maintenant souvent des sols souples et des bords arrondis, non ? L’IA est elle aussi un terrain de jeu.

Mais c’est un terrain de jeu d’un nouveau genre : il parle, il façonne les idées. Et comme les enfants attribuent des sentiments aux agents d’IA, certains enfants les perçoivent comme des vrais amis et tombent dans ce qu’on appelle un puits de démêlage. Ils sont tellement convaincus que l’IA est réelle qu’ils deviennent particulièrement vulnérables à l’ingénierie sociale. Mais comment anticiper ça ? Ce n’est pas un truc qu’on corrige en phase de QA.

Il faut une « approche shift left » : pas seulement sur la sécurité mais aussi en impliquant des psychologues pour enfants dès la conception, au moment de l’architecture et même de l’entraînement du modèle. Il faut se demander : Est-ce que ce modèle est optimisé pour la vente ? Ou pour soutenir le développement humain ? Si on change de trajectoire, qu’on sort la question de la simple QA pour l’amener à la phase de construction des modèles, alors on pense vraiment à eux, on crée un terrain de jeu numérique plus centré sur l’enfant, en pensant à sa protection.

Galen Low : J’aime l’image du sol matelassé et des bords arrondis... même au-delà des aires de jeux, pour tout ce qui n’est pas pensé pour les enfants, il faut le sécuriser.

Je sais que quand mon fils était plus jeune, il a fallu « sécuriser » toute la maison, pas parce que les objets étaient destinés à être manipulés par un enfant, mais parce qu’on savait qu’il allait y toucher — et on ne voulait pas qu’il se blesse, on voulait l’aider à se développer sainement.

Ce que tu dis sur la cybersécurité, je comprends : ce ne peut pas être une réflexion après coup. Pour mes auditeurs : tu penses qu’on devrait intégrer un psychologue pour enfants à l’équipe projet, même si l’objectif du produit c’est juste de vendre ? Doit-on quand même impliquer des spécialistes qui défendent les intérêts des mineurs ?

Aderonke Akinbola : Je pense qu’on peut au moins les intégrer en tant que consultants. Prenons GPT ou Gemini : à la base, on a sans doute imaginé ces technologies pour des adultes. Mais désormais, tout a changé. On voit émerger toute une génération « enfants-iPad ». Comment empêcher ces enfants-iPad d’utiliser Gemini ?

Galen Low : Je peux témoigner : mon fils a accès à un appareil. Chez Google, le mode IA s’intègre à la recherche. Ce n’est même pas une question de lui apprendre spécifiquement Gemini — il l’utilise parce que c’est intégré à la recherche web, point.

Oui, c’est omniprésent, vraiment.

Aderonke Akinbola : Je vis aussi avec un tout-petit et il sait demander « Dis Siri » alors qu’il ne sait même pas encore parler parfaitement.

Galen Low : Exactement. C’est fou !

Aderonke Akinbola : Oui, c’est parce qu’il m’entend le faire tout le temps. Et comment Siri répond-elle à un « Dis Siri » venant d’un enfant ? Les possibilités sont infinies. L’enfant pourrait tout demander à Siri... Donc, je pense que même si les psychologues ne sont pas salariés à temps plein dans les équipes, il faudrait commencer à les consulter, initier ces conversations pour qu’on avance vers une construction responsable.

Je ne m’attends pas à ce que ça bascule dans les 2 ou 5 ans, l’IA évolue trop vite, de nouvelles thérapies ou applications sortent chaque semaine, tout le monde annonce une nouveauté. Donc, il s’agit d’amorcer la prise de conscience et voir comment ça évolue.

Galen Low : L’exemple de Siri m’a frappé parce que ce n’est pas nous qui mettons volontairement un appareil dans les mains de l’enfant. L’enfant interagit oralement, sans intentionnalité de notre part. Cela fait réfléchir à l’intérêt d’avoir un spécialiste même si son implication est ponctuelle, comme consultant, comme on fait pour la cybersécurité.

La cybersécurité n’est pas conçue uniquement pour l’utilisateur primaire ou bienveillant, mais elle anticipe déjà les usages malveillants, les cas limites ou accidentels.

Vu toutes les nouveautés, je te pose une question incisive : penses-tu que les entreprises d’IA en font assez aujourd’hui pour anticiper que leurs modèles et plateformes vont être utilisés par des mineurs ?

Aderonke Akinbola : Je ne pense pas que ce soit leur priorité. Ce qui les occupe, c’est plutôt : jusqu’où peut-on pousser l’IA ? Comment rendre nos modèles plus intelligents, plus rapides à résoudre des problèmes ? C’est la course à la performance, tout simplement.

Peu d’acteurs plaident vraiment pour les enfants, tout le monde veut imposer son modèle sur le marché. C’est aussi pour ça que je me suis spécialisée sur ce créneau : cybersécurité et IA pour les enfants.

Beaucoup d’efforts reposent encore sur les parents plutôt que sur ceux qui construisent la technologie. Voilà ce que j’en pense.

Galen Low : Intéressant, je suis d’accord. Tu parlais « d’explosion » de l’IA et c’est vrai qu’on peut aussi le voir comme une course.

Quand il s’agit de compétitionner, tout le monde veut construire la voiture la plus rapide, et pour l’instant, la ceinture de sécurité, c’est pour plus tard... On construit d’abord le moteur, puis on verra pour les freins, les sièges rembourrés, etc. Ce n’est pas le cœur de la motivation techno.

Je retiens que ce n’est pas qu’aux entreprises IA d’assumer la sécurité : il y a aussi la responsabilité des équipes qui s’appuient sur les modèles, et celle des parents. Bref, personne n’est seul responsable : c’est à tous d’être attentifs. Revenons à ce que tu disais : pourquoi l’expérience IA est-elle différente pour un enfant ? Est-ce que les enjeux sont tout simplement plus élevés pour eux que pour les adultes ?

Aderonke Akinbola : Pour les enfants, les enjeux sont exponentiellement plus élevés. Un adulte victime d’une fuite de données se voit attribuer une nouvelle carte bancaire, reçoit un mail d’excuse. Pour un enfant, c’est différent : les données IA forment une empreinte digitale permanente, un historique de sa personnalité, de sa curiosité, qui pourra jouer sur une admission universitaire ou une embauche 20 ans plus tard.

Dans ma présentation au Sommet IA Agent Security, j’ai parlé des trois ombres qui suivent les enfants dans l’IA : l’ombre de l’influence (l’IA peut être plus persuasive qu’un parent), l’ombre de l’exposition (cette traînée de données permanente), et l’ombre de la stagnation (le risque qu’une IA trop « assistante » bride la pensée critique et la ténacité de l’enfant face à la difficulté).

On apprend en se trompant, en essayant encore et encore. Si on efface cette part de tâtonnement avec des IA trop efficaces, on prive les enfants d’un apprentissage essentiel. L’IA devrait aussi parfois pousser à aller dehors, à discuter avec un adulte, pour éviter qu’ils restent collés à quelque chose qui n’existe même pas vraiment. Merci de la question, Galen.

Galen Low : C’est super intéressant. En conception de produit, on veut fluidifier l’expérience, réduire les frictions, alors que pour les enfants, tu montres l’intérêt d’introduire de la difficulté, sinon ils finissent par ne plus rien apprendre en résolvant tout trop vite.

La technologie doit aussi être capable de limiter un usage excessif, d’inciter à sortir, comme les montres qui rappellent de bouger, ou les outils de gestion du temps d’écran. J’aime cette idée : l’IA pourrait être plus responsable, moins addictive, rien qu’avec quelques « nudges » pour rappeler l’importance de varier les activités. Ce n’est pas forcément difficile à coder, mais moins évident à faire passer dans les priorités d’un backlog produit. Au moins, il existe des pistes à explorer, car l’usage par les enfants va arriver, c’est inévitable.

Aderonke Akinbola : Je pense d’ailleurs qu’il y aura beaucoup de recherches sur ces questions dans les années à venir. Il y en a déjà un peu, mais ce n’est qu’un début ; la plupart des enfants nés pendant le Covid n’ont que six ans aujourd’hui, donc on manque encore de recul sur la vraie portée de l’IA dans leur développement. En attendant, il faut déjà que quelqu’un porte la voix, défende cette attention indispensable.

Galen Low : J’adore cette idée : la recherche prend du temps mais d’ici là nous ne devons pas foncer tête baissée. Il faut ouvrir le dialogue, défendre les utilisateurs les plus jeunes et vulnérables en attendant d’avoir le recul scientifique sur les impacts et la façon d’ingénier correctement.

Je sais que tu es une grande partisane de l’éducation à l’IA, de l’explicabilité et de la sensibilisation éthique et sécurité dans les projets IA. Alors, ramenons le sujet très concrètement aux équipes de développement : qu’est-ce qu’elles peuvent faire pour intégrer sécurité et protection dans les IA, même dans de petits apps internes ? Quelles discussions faut-il avoir, quelles questions se poser pour défendre les plus jeunes ?

Aderonke Akinbola : Il faut passer du modèle « boîte noire » à une logique de « blocs de construction ». Pour les cheffes de projet, cela signifie plusieurs choses : d’abord, accepter la friction productive. Pour les enfants, au contraire des adultes, il faut ajouter de la difficulté : si un jeu IA devient trop fluide, sans défi, l’enfant ne sera pas stimulé. L’IA devrait jouer le rôle d’équilibreur cognitif et proposer des problèmes plus insolites pour les faire réfléchir.

Autre point : l’IA explicative. Il ne s’agit pas juste de donner la réponse mais d’expliquer la démarche, le raisonnement algorithmique menant à cette réponse. Par exemple, si l’enfant aime les planètes, expliquer pourquoi on va lui recommander une vidéo sur les étoiles. Il s’agit de nourrir leur culture algorithmique, de leur apprendre à découper un gros problème en petits morceaux, pas de leur donner juste une solution toute faite.

Enfin, un vrai atout sécurité serait de renforcer l’apprentissage fédéré : les données restent localisées sur l’appareil, elles ne quittent jamais la chambre de l’enfant. Tout ce qui est recherché, questionné, reste sur le téléphone et n’est conservé nulle part ailleurs, évitant une « trace » numérique susceptible de le nuire plus tard. Penser qu’un chatbot IA pour enfant pose question à 3 ans et que ça le poursuive à 20 ans est inacceptable. L’enfant doit avoir le droit de poser toutes les questions qu’il veut, même si elles paraissent naïves, et de ne pas être pénalisé pour sa curiosité. Voilà ma vision.

Galen Low : Pour un parent, la question de la permanence numérique fait très peur. Même dans le droit, on prévoit des exceptions et du pardon pour les mineurs, parce qu’ils apprennent justement en se trompant. Il ne faut surtout pas décourager la curiosité des jeunes avec de l’IA par crainte de laisser une trace éternelle. Il faut au contraire leur permettre d’explorer sereinement, avec des dispositifs qui protègent leur apprentissage, sans risque sur le long terme.

J’aime beaucoup l’idée d’un « mode entraînement » ou « mode pratique » comme dans les jeux vidéo. C’est une période où on a droit à l’erreur et on apprend ; puis on élève progressivement la difficulté.

Mais parfois, un produit n’est pas pensé pour le jeune public. Comment une équipe peut-elle faire remonter la sécurité des jeunes parmi les exigences du projet, même si ce n’est pas prévu ? Comment convaincre les parties prenantes — as-tu déjà tenté de le faire, et comment cela a-t-il été reçu ?

Aderonke Akinbola : Honnêtement, je ne l’ai pas revendiqué directement car je travaille plus côté réseaux et sécurité, pas en tant que conceptrice d’agents IA. Mais je pense qu’on réalisera collectivement de plus en plus l’importance de ces sujets. Peut-être que ce ne sera pas simple d’en convaincre une équipe projet aujourd’hui, mais avec le temps et la recherche, la nécessité deviendra évidente. Il faut continuer à plaider, à en parler sans se lasser, même si votre idée est rejetée cent fois, refaites la proposition encore. Si personne ne s’était battu pour l’IA au début, elle n’existerait pas. Continuez à parler, à défendre ce besoin, c’est ainsi qu’on finira par vous écouter. D’ailleurs, on voit bien que certaines lois commencent à s’inspirer du contexte numérique pour enfants ; le mouvement est enclenché.

Galen Low : Je trouve ça très pertinent. Pour les réseaux sociaux, beaucoup pensent qu’on a mis trop de temps à protéger les jeunes. Risque-t-on le même scénario avec l’IA aujourd’hui ? Que se passera-t-il si on rate le coche ?

Aderonke Akinbola : Le risque est réel, mais je pense qu’on est déjà plus conscients qu’à l’époque des réseaux sociaux ; on commence déjà à en parler, à agir. Mais le monde tourne encore plus autour du profit que de l’éthique et ça prendra du temps. L’important, c’est que la prise de conscience existe : c’est déjà la moitié du chemin. Autre point, l’IA s’intègre déjà aux réseaux sociaux, donc les problèmes sont multipliés. On ne peut pas attendre encore dix ans ; il faut aller vite, saisir ces sujets à bras-le-corps, notamment du côté des législateurs, car ils investissent beaucoup dans l’éducation et ont un rôle à jouer pour garantir aux enfants l’accès à des outils sûrs, utiles à leur développement.

Galen Low : Facile d’oublier que l’un des rôles des gouvernements est de préparer l’avenir via les jeunes générations. L’important est de mettre la pression, de contrebalancer la logique exclusivement marchande pour que les questions de sécurité enfant soient vraiment prises en compte dès la conception des outils, que ce soit des produits grand public ou de petits assistants IA internes, car une négligence aujourd’hui peut coûter cher demain.

Aderonke Akinbola : Je voudrais aussi évoquer le concept de « tuteur numérique » dont j’avais parlé : une tierce couche logicielle, un pare-feu éthique, qui joue le rôle de médiateur entre l’enfant et l’IA. Trois fonctions : thermomètre émotionnel (il détecte si l’enfant devient trop dépendant, trop isolé, et l’incite à aller voir un adulte ou coupe l’accès temporairement) ; « avocat numérique » (il négocie la confidentialité, vérifie avec chaque appli si l’enfant a le droit d’accéder ou exige que les données restent locales et temporaires) ; et « contrôleur du trafic aérien » (il simplifie les problématiques IA en modules assimilables pour les enfants). Ce tuteur numérique ne doit pas être un luxe — n’importe quel enfant, que ce soit au Ghana ou à San Francisco, doit pouvoir y accéder gratuitement, pas comme une option premium réservée à certains.

Galen Low : C’est une super idée. Il ne s’agit pas uniquement de protéger les enfants de la technologie, mais aussi de l’utiliser pour mieux les protéger. J’adore ce concept de tuteur numérique, surtout l’aspect équitable — l’accès ne devrait pas dépendre du statut social ou du lieu. Ce « pare-feu » négociant constituent une force modératrice, un équilibrage entre l’enfant et l’écosystème IA, qui explique, conseille, protège. C’est une vraie vision d’avenir. Selon toi, à quel horizon peut-on espérer voir naître concrètement cette conversation et mettre au point un tel système : est-ce pour dans des décennies ou cinq ans ?

Aderonke Akinbola : Je pense qu’on ne devrait pas attendre des décennies. Peut-être cinq ans, mais il faut commencer à échanger très vite entre les constructeurs d’agents et les pouvoirs publics. Si la techno est censée faciliter la vie, elle ne doit pas pour autant mettre la prochaine génération en péril. On doit ouvrir ces chantiers au plus tôt, on ne peut pas se permettre dix ans d’attente. L’évolution va très vite — regardez les robots domestiques, où seront-ils dans cinq ans ?

Galen Low : Tu as raison de rappeler le paradoxe : on a tiré des leçons du passé (réseaux sociaux, exigences sur la vie privée au niveau RGPD...), mais l’IA évolue si vite que l’on doit ouvrir la conversation avec la même célérité qu’elle se répand dans notre quotidien. Ça change la donne.

Aderonke Akinbola : Autre point : on n’a pas forcément besoin de recréer chaque fois une nouvelle appli ; parfois c’est juste une question d’intégrer un « mode enfant » dans l’outil existant, ou des niveaux adaptés à l’âge. On investit des milliards dans l’IA, encore faut-il ne pas devoir tout démolir dans quelques années. Autant bien construire dès le début.

Galen Low : J’adore : construisons pour le futur !

Aderonke Akinbola : Voilà, ça ferait un bon titre pour ce podcast !

Galen Low : Oui, « Générations futures et comment les accompagner »... J’ai adoré cet échange, Ade, merci beaucoup pour ton temps. J’ai appris énormément et j’adore ton regard sur ces sujets. Il me semble que, même si tu n’es pas sur toutes les conférences cette année, pour ceux qui veulent te suivre ou te contacter, où peut-on te retrouver ?

Aderonke Akinbola : Sur LinkedIn, à mon nom : Aderonke Akinbola. Je suis dans la région de la Baie de San Francisco. Il y a peut-être d’autres personnes qui portent le même nom, mais je crois être la seule ici pour l’instant. Pour découvrir ma dernière intervention, elle est aussi sur YouTube, sur la chaîne de Sanity. Je travaille aussi sur mon site web, mais il n’est pas encore en ligne, j’ai d’autres projets personnels en cours pour le moment. Donc, cet été, je me concentrerai davantage là-dessus, mais pour l’instant, c’est LinkedIn et l’engagement pour la cause des enfants.

Galen Low : Je mettrai le lien vers ton profil dans la description de l’épisode, ainsi que vers ta conférence. Merci encore Ade, c’était vraiment passionnant.

Aderonke Akinbola : Merci beaucoup Galen, ravie d’avoir pu échanger avec toi.

Galen Low : Voilà, c’est tout pour aujourd’hui dans le podcast du Digital Project Manager. Si ce sujet vous a plu, pensez à vous abonner où que vous écoutiez ce podcast. Et si vous souhaitez encore plus de cas pratiques, d’analyses ou de guides, créez un compte gratuit sur thedigitalprojectmanager.com.

À la prochaine, merci de votre écoute.