AI voor kinderen: hoe projectteams het verantwoord kunnen bouwen

Galen Low: De meeste AI-oplossingen zijn niet gemaakt voor kinderen, maar dat betekent niet dat kinderen ze niet gebruiken. Dat roept de vraag op: wie is verantwoordelijk voor de veiligheid van kinderen als het gaat om AI-aangedreven ervaringen? Zijn dat de ouders? Zijn dat de teams die AI-ervaringen ontwerpen en bouwen? Of zijn de AI-bedrijven zelf verantwoordelijk?

En wat zijn enkele manieren waarop we onze teams kunnen leiden om de juiste ethische vragen te stellen en ons sterk kunnen maken voor het inbouwen van goede veiligheidsmaatregelen in de ervaringen die we creëren. Om dit onderwerp te onderzoeken, heb ik een technisch programmamanager van Google uitgenodigd, die toevallig ook een sterke pleitbezorger is voor kindveiligheid en cybersecurity binnen AI en technologie.

Samen bespreken we waarom de inzet hoger is voor jongere AI-gebruikers dan voor volwassenen, wat we kunnen doen om ons in onze AI-projecten en -producten sterk te maken voor kindveiligheid en ervoor te ontwerpen, en hoe AI zelf misschien een pleitbezorger voor de veiligheid van kinderen kan worden nu het tempo van de technologie ons menselijke vermogen om betekenisvol beleid, wetgeving en onderwijs rond de interactie van kinderen met AI te creëren begint te overtreffen. Ik hoop dat je van deze aflevering geniet.

Welkom bij de podcast van The Digital Project Manager—de show die deliveryleiders helpt slimmer te werken, soepeler te leveren en hun teams met vertrouwen te leiden in het tijdperk van AI. Ik ben Galen, en elke week duiken we in echte strategieën, nieuwe trends, bewezen raamwerken en af en toe een waargebeurd verhaal vanaf de frontlinies van projecten. Of je nu grote transformatieprojecten aanstuurt, AI-workflows in goede banen leidt of gewoon probeert de chaos onder controle te houden: je bent hier op de juiste plek. Laten we beginnen.

Oké, vandaag hebben we het over AI in de context van de veiligheid van kinderen en over hoe project- en productteams de juiste vragen kunnen stellen om AI-aangedreven ervaringen te creëren die kwetsbare gebruikers beschermen.

Vandaag bij mij is Aderonke Akinbola—spreker, pleitbezorger voor kindveiligheid en AI-ecosystemen, en technisch programmamanager bij Google. Ade heeft meer dan drie jaar ervaring met productontwikkeling en programmamanagement, naast haar ervaring als beveiligingsengineer bij Apple. Ze sprak onlangs ook op de AI Agent Security Summit over het beveiligen van AI-agenten in kindgerichte ecosystemen.

Ade, heel erg bedankt dat je vandaag bij me bent.

Aderonke Akinbola: Hoi Galen, ik ben heel blij dat ik hier ben.

Galen Low: Ik vind het geweldig dat je er bent. Ik keek hiernaar uit. Ik heb genoten van onze gesprekken in aanloop hiernaartoe. Ik heb er echt zin in om hierin te duiken, dus ik hoop dat we samen allerlei zijpaden bewandelen, maar voor het geval dat heb ik voor vandaag deze routekaart voor ons uitgestippeld.

Om te beginnen wilde ik het kader schetsen door je een grote, complexe vraag voor te leggen waar mijn luisteraars jouw mening over willen horen. Daarna wil ik uitzoomen en het misschien over drie dingen hebben. Ten eerste wilde ik bespreken wat de ervaring van een kind met AI zo anders maakt dan die van een volwassene, en wat een AI-ervaring nu en in de toekomst veilig maakt voor jongeren onder de 18.

Daarna wil ik het praktisch maken en bespreken hoe project- en productteams die AI-oplossingen ontwikkelen de juiste ethische vragen kunnen stellen en een ervaring kunnen ontwerpen die jongere gebruikers onderwijst, uitleg geeft en beschermt. Tot slot wil ik graag horen hoe jij naar de toekomst kijkt voor AI-agenten en toekomstige generaties als we het goed kunnen aanpakken op het gebied van ethiek, beveiliging en veiligheid.

Hoe klinkt dat voor jou?

Aderonke Akinbola: Dat klinkt perfect. Daar zijn we hier voor. Laten we er meteen induiken.

Galen Low: Laten we er meteen induiken. Geweldig. Ik vind het leuk. Oké. Ik dacht dat ik zou beginnen met één grote, complexe vraag. Ik neem een aanloop. De afgelopen maanden stond de veiligheid van kinderen op sociale media volop in de belangstelling.

Australië heeft onlangs een verbod op sociale media ingevoerd voor jongeren onder de 16, en het Verenigd Koninkrijk en andere landen overwegen iets vergelijkbaars te doen. Natuurlijk zijn sociale media en AI niet hetzelfde, maar veel van dezelfde ethische en veiligheidsvragen gelden nog steeds wanneer jongeren AI gebruiken.

Dus mijn grote vraag is deze. Moeten we volgens jou, op basis van je ervaring met beveiliging en productontwikkeling bij enkele van de grootste en meest vooruitstrevende technologiebedrijven op het gebied van AI ter wereld, überhaupt AI-oplossingen bouwen voor kinderen jonger dan 18?

Aderonke Akinbola: Ik denk dat dit de vraag van een miljoen dollar is, Galen, maar mijn eerste standpunt is dat we het punt voorbij zijn waarop we ons afvragen óf we AI-systemen voor hen moeten bouwen.

We richten ons nu meer op de vraag hóé we deze systemen voor hen moeten bouwen. De realiteit is dat de speelpartner er al is. Dus als we ervoor kiezen geen specifieke en veilige kindgerichte AI te bouwen, zullen kinderen de technologie nooit ophouden te gebruiken. De technologie is er en is voor hen beschikbaar.

Ze zullen gewoon de ondoorzichtige AI voor volwassenen gebruiken, en dat is heel gevaarlijk, omdat AI voor volwassenen alleen op efficiëntie is gebouwd. Onze kinderen hebben echter hulpmiddelen voor ontwikkeling nodig. Als we niet de juiste versie bouwen, laten we hen in feite achter in een digitale wildernis zonder kompas. We zijn dus niet langer op het punt waarop we ons afvragen óf we voor hen moeten bouwen.

Het gesprek gaat nu vooral over de manier waarop we voor hen moeten bouwen.

Galen Low: Ik denk dat het een heel goed punt is over de doelen van de technologie. Vanuit het perspectief van volwassenen is dat anders dan de manier waarop we ermee omgaan voor kinderen. En zoals we weten van sociale media, zal zelfs het feit dat we zeggen: “Ja, minderjarigen zouden dit niet moeten gebruiken”, hen er niet van weerhouden het te gebruiken.

En ik ben het met je eens. Pandora is uit de doos en nu is het aan ons om veilige omgevingen te creëren. Zelfs als de beoogde gebruiker niet noodzakelijkerwijs jonger dan 18 of een kind is, vraag ik me af of we hier iets meer van kunnen uitzoomen. Ik heb de opname van je talk op de AI Agent Security Summit kunnen bekijken. Voorafgaand daaraan had je iets op LinkedIn geplaatst waarin je zei: “De speelpleinen van kinderen zullen niet alleen fysiek zijn; ze zullen ook digitaal, intelligent en onvoorspelbaar zijn.”

Wat bedoel je daarmee? En vanaf welk moment moeten we daar rekening mee houden in wat we vandaag bouwen?

Aderonke Akinbola: Oké. Dat is nog een goede vraag, Galen. Denk gewoon aan een fysiek speelplein. Veel speelpleinen hebben nu een zachte ondergrond en afgeronde randen. AI is ook zo’n speelplein.

Maar dit is een ander soort speelplein. Dit is een speelplein dat terugpraat en gedachten vormt. Omdat kinderen gevoelens toeschrijven aan AI, denken sommige kinderen zelfs dat AI-agenten echt zijn. Ze raken verstrikt in wat je een misleidende val zou kunnen noemen. Ze raken er volledig van overtuigd dat AI een echte vriend is.

Daardoor worden ze bijzonder kwetsbaar voor social engineering. Hoe plannen we hiervoor? Dit is niet iets wat we pas in de QA-fase doen. We hebben een aanpak nodig waarbij we al vroeg beginnen. Niet alleen op het gebied van beveiliging, maar ook hier hebben we kinderpsychologen nodig. We hebben zulke experts op architectuurniveau nodig.

Tijdens de trainingsfase van het model stellen zij vragen als: is dit model geoptimaliseerd om een verkoop te realiseren? Of is dit model geoptimaliseerd om de menselijke ontwikkeling te ondersteunen? Als we die koers veranderen en verder gaan dan de QA-fase, naar het daadwerkelijk bouwen van het model, dan houden we echt rekening met kinderen.

Dan creëren we digitaal een speelplein dat meer kindgericht is en denken we ook na over de bescherming van kinderen.

Galen Low: Ik vind de metafoor van de zachte ondergrond en de afgeronde randen mooi, en dat geldt niet eens noodzakelijkerwijs alleen voor speelpleinen, maar ook voor het veilig maken van dingen die niet voor kinderen zijn ontworpen.

Toen mijn zoon klein was, moesten we overal in huis kindbeveiliging aanbrengen. Het was een heel ander niveau, niet omdat die dingen bedoeld waren voor kinderen om bij te komen, maar omdat we wisten dat ze dat zouden doen. We wilden niet dat ze zichzelf pijn zouden doen en we wilden dat ze zich op een gezonde manier zouden ontwikkelen.

Ik begrijp wat je zegt, en ik weet dat cybersecurity ook belangrijk voor je is. Ook dat mag geen bijzaak zijn. Voor mijn luisteraars: stel je voor dat een kinderpsycholoog betrokken zou moeten zijn bij een project op teamniveau of bij productontwikkeling?

Zelfs als het doel van het product, zoals in jouw voorbeeld, geld verdienen en verkopen is—een verkoopinstrument dus—zou je dan nog steeds zeggen dat een kinderpsycholoog of iemand die de belangen van minderjarigen behartigt bij de productontwikkeling en projectplanning betrokken zou moeten zijn, ook als dat niet het hoofddoel of de belangrijkste vereiste van het product is?

Aderonke Akinbola: Ik denk dat we hen zelfs als we hen niet als fulltime medewerker aannemen, als consultants kunnen inschakelen. Ik denk nu bijvoorbeeld aan GPT en Gemini. Als we zeggen dat we deze technologie oorspronkelijk alleen voor volwassenen hebben gemaakt om hen sneller te laten werken, dan is de technologie dat punt allang voorbij.

We leven niet meer in een tijd waarin kinderen geen iPads hebben. We hebben letterlijk een hele generatie iPadkinderen. Hoe voorkomen we dat iPadkinderen Gemini gebruiken?

Galen Low: Dat kan ik uit ervaring vertellen. Mijn zoon is heel goed en verantwoordelijk met technologie omgegaan. We hebben hem toegang gegeven tot een apparaat.

Vooral vanuit Google-perspectief staat de AI-modus in de zoekfunctie. Het was dus niet eens zo dat ik zei: “Hé, hier is Gemini. Laat me je leren hoe je het gebruikt.” Hij was gewoon iets aan het opzoeken en ineens voerde hij een gesprek.

Ja, zeker wijdverbreid en zeker relevant.

Aderonke Akinbola: Ik woon toevallig ook met een peuter en hij is nog niet eens twee, maar hij kan al “Hé Siri” zeggen.

Galen Low: O ja. Ongelooflijk, hè?

Aderonke Akinbola: Ja, omdat hij mij dat de hele tijd hoort zeggen. En hoe reageert Siri nu op een “Hé Siri” van een kind? Er zijn eindeloze mogelijkheden voor wat het kind Siri kan vragen. Daarom denk ik dat we, in aanloop naar dit gesprek, ook als we hen niet als fulltime medewerkers aannemen, deze gesprekken moeten beginnen zodat we verantwoord kunnen blijven bouwen.

Ik verwacht niet dat dit misschien de komende twee of vijf jaar gebeurt. We zitten letterlijk in een AI-boom; elke week komt er wel een update. Iedereen heeft een update. Ik denk dus vooral aan het starten van deze gesprekken en ervoor zorgen dat deze mensen aan tafel komen.

Het hoeft niet meteen tot een concrete reactie te leiden. Laat het eerst maar bewustwording worden van deze behoefte, en dan zien we hoe het verdergaat.

Galen Low: Dat vind ik geweldig. En ik denk dat het Siri-voorbeeld zo goed is omdat we een kind niet bewust een apparaat hebben gegeven.

Kinderen kunnen letterlijk gewoon praten, toegang krijgen tot deze technologie en ermee communiceren. Je zette me aan het denken over wat je zei: misschien is iemand geen fulltime lid van het product- of projectteam, maar komt die persoon als consultant binnen. Ik zie daar ook parallellen met cybersecurity, want cybersecurity plant niet voor je primaire doelgroep en de goede actoren.

Het plant juist voor kwaadwillenden en voor dingen die opzettelijk of per ongeluk kunnen gebeuren. Je moet naar randgevallen kijken. Je maakt een goed punt over al die updates. We zitten absoluut in een AI-boom. De modellen veranderen voortdurend.

Een prikkelende vraag: heb je het gevoel dat AI-bedrijven genoeg doen om updates uit te rollen waarbij ze anticiperen op het feit dat hun platforms en modellen door kinderen onder de 18 gebruikt zullen worden?

Aderonke Akinbola: Ik denk niet dat dat momenteel hun focus is. Er zijn nu eindeloze mogelijkheden voor de manier waarop AI gebruikt kan worden en voor wat AI voor je kan doen.

Ik denk dat veel bedrijven nu onderzoeken hoe ze al het potentieel van deze AI-tools kunnen benutten. Hoe maken we onze modellen slimmer? Hoe maken we onze modellen intelligenter? Hoe trainen we modellen om problemen sneller op te lossen in zo’n omgeving met een hoog tempo?

Ik denk niet dat er veel belangenbehartiging voor kinderen plaatsvindt, omdat iedereen nu groot de markt op probeert te gaan. Het gaat dus vooral om de markt betreden in plaats van naar deze kinderen om te kijken. Dat is een van de redenen waarom ik persoonlijk geïnteresseerd ben geraakt in deze niche van cybersecurity binnen kindgerichte AI-ruimtes.

Er zijn veel voorbereidende stappen die meer met ouders te maken hebben dan met de mensen die deze technologie bouwen. Dat is wat ik daarover zou zeggen.

Galen Low: Dat is heel interessant. Ik ben het met je eens. Je gebruikt het woord AI-boom, en het is gemakkelijk om het ook als een AI-wedloop te zien.

Als je het als een competitieve race ziet, proberen ze allemaal de snelste auto te bouwen. Op dit moment kunnen de veiligheidsgordels later komen. Hoe bouwen we een motor? Hoe bouwen we de vering? Hoe bouwen we een voertuig dat heel snel kan gaan? Misschien komen de remmen daarna, maar comfortabele kuipstoelen en bevestigingspunten voor een kinderzitje lijken later te komen en worden niet gezien als het hoofddoel of de belangrijkste drijfveer van de technologie.

Ik vind het interessant wat je zegt over waar de verantwoordelijkheid ligt. Als ik je goed begrijp, is het misschien niet de huidige focus van de grote AI-bedrijven. Dat kan later veranderen, zodra ze verder in hun race zijn en het belangrijk wordt. Ik denk dat er een verantwoordelijkheid ligt bij de teams die deze producten bouwen boven op de modellen en grote taalmodellen. Daarnaast is er het niveau van de ouders wat betreft toezicht.

Met andere woorden: er is hier niet één groep die verantwoordelijk of aansprakelijk is voor de ervaring van een kind met de technologie. We moeten allemaal ons deel doen. Ik wil terugkomen op iets wat je zei. We hadden het over de manier waarop een kind AI ervaart. Het is niet noodzakelijkerwijs iets wat alleen kinderen aangaat—er zijn ook volwassenen die diepe banden en relaties aangaan met chatbots en agenten—maar vanuit het perspectief van een kind: zijn de risico’s gewoon groter wanneer iemand onder de 18 AI gebruikt? Wat maakt de AI-ervaring van een kind anders dan die van een volwassene?

Aderonke Akinbola: Voor kinderen zijn de risico’s exponentieel groter. Voor een volwassene betekent een datalek een nieuwe creditcard of gewoon een nieuwe kaart. Je kunt een e-mail krijgen met de melding dat er een datalek is geweest en dat je informatie misschien veilig is gebleven.

Voor een kind ligt dat anders. AI-gegevens van een kind zijn een permanente digitale vingerafdruk. Het is een verslag van nieuwsgierigheid en persoonlijkheid uit de kindertijd, en dat kan twintig jaar later invloed hebben op toelating tot een universiteit of op kansen op de arbeidsmarkt.

Wat ik als kind vroeg terwijl ik probeerde te leren en vragen aan AI stelde—tijdens mijn talk op de AI Agent Security Summit—noem ik de drie schaduwen die kinderen in AI volgen. De eerste is de schaduw van invloed. AI kan overtuigender zijn voor een kind dan een ouder of leraar.

Kinderen zijn onbeschreven bladzijden. Ze nemen alles in zich op. Ze zijn als een spons die alles absorbeert. Een kind kan een agent meer gaan geloven dan een leraar of ouder. Ik spreek ook over de schaduw van blootstelling. Dat is het permanente gegevensspoor dat ik eerder noemde.

En ten slotte is er de schaduw van stagnatie. Dat is een belangrijke voor projectmanagers. Als we AI-tools bouwen die te behulpzaam zijn en de tools al het denkwerk doen, ondermijnen we het kritisch denkvermogen en de veerkracht van het kind. Soms moet je iets meerdere keren proberen voordat je het begrijpt.

Dat is onderdeel van het leerproces. Je krijgt het niet meteen goed; je probeert het drie of vier keer en uiteindelijk lukt het. Zo leren we allemaal. Als we daar niet naar kijken, automatiseren we in feite het rommelige leerproces weg.

Leren is rommelig. Leren is niet altijd leuk. Ik wil iets niet vijf keer doen, maar ik moet het doen omdat ik weet dat ik zo miljoenen manieren ontdek waarop het niet werkt. Wanneer ik de ene manier vind waarop het wel werkt, maakt de fout ook deel uit van het proces.

Bij kinderen zijn de belangen dus veel groter. Ze worden gevormd tot de mensen die ze zullen worden. Soms moeten ze fouten maken. Dat hoort erbij. Modellen moeten hen ook op een manier trainen waarbij ze bijvoorbeeld worden aangemoedigd om naar buiten te gaan of met een volwassene te praten als ze te veel tijd met de AI doorbrengen. We moeten hen weg van de AI leiden in plaats van zo boeiend te zijn dat ze vastgeplakt blijven aan iets dat niet eens bestaat. Het is een computer.

Bedankt voor die vraag, Galen.

Galen Low: Dat is precies wat ik er mooi aan vind. Vanuit productontwerp en interfaceontwerp proberen we wrijving te verminderen. We proberen het zo eenvoudig mogelijk te maken. Maar je maakt een enorm goed punt: als je iets in een bepaalde ontwikkelingsfase te gemakkelijk maakt, creëren we oplossingen voor volwassenen die efficiënter willen zijn en meer gedaan willen krijgen op een werkdag, terwijl een kind vaardigheden ontwikkelt, kritisch leert denken en op zoek is naar rolmodellen en gezagsfiguren die het kan vertrouwen.

Dat is heel anders dan de manier waarop een volwassene het gebruikt. We zien dit idee ook op andere platforms, waar bepaalde controles en aanmoedigingen worden geïntroduceerd. Mijn horloge zegt bijvoorbeeld dat ik moet opstaan en rondlopen, en mijn telefoon beperkt mijn schermtijd. Dat wordt in de technologie ingebouwd.

Ik vind het een mooi idee dat AI misschien verantwoordelijke en iets minder verslavend kan worden door zulke functies in te bouwen. Bijna alsof de technologie zegt: “Je gebruikt deze technologie veel en je vertrouwt me, maar ga ook naar buiten en kom later terug.” Dat is een heel interessante functie om in te bouwen.

Aderonke Akinbola: Ik geloof dat hier de komende jaren veel meer onderzoek naar zal worden gedaan. Er wordt nu al onderzoek naar gedaan, maar er is meer nodig. We moeten de effecten van al deze tools op de ontwikkeling van kinderen onder de 18 onderzoeken.

We zijn nog niet zo ver met AI. De AI-boom begon letterlijk rond COVID, en we zitten technisch gezien nog steeds in het tijdperk na COVID. De wereld is dus nog niet volledig hersteld. De kinderen die tijdens COVID zijn geboren, worden dit jaar zes.

We hebben nog een lange weg te gaan wat onderzoek betreft: de effecten van deze dingen en hoe we betere systemen kunnen bouwen. Totdat we dat weten, moet iemand een stem zijn die zegt dat we hier aandacht aan moeten besteden en dit niet over het hoofd mogen zien.

Galen Low: Onderzoek kost tijd, maar ondertussen mogen we niet roekeloos zijn. We moeten de gesprekken voeren, pleiten voor jongere en kwetsbaardere gebruikers en de tijd nemen om met wetenschap zo duidelijk mogelijk vast te stellen wat de impact is en hoe we dit moeten ontwerpen.

Ik vind je punt over onderwijs en leren interessant. Ik weet dat je sterk voorstander bent van AI-onderwijs, uitlegbare AI en tools die gebruikers helpen kritisch te denken in plaats van passieve consumenten van technologie te zijn. Je pleit ook sterk voor het opnemen van ethische, veiligheids- en beveiligingsoverwegingen bij het ontwerpen en ontwikkelen van AI-aangedreven ervaringen.

Wat kunnen teams doen om veiligheids- en beveiligingsmaatregelen in te bouwen in de AI-oplossingen die we creëren, of dat nu een volledig consumentenproduct is of een app die met behulp van natuurlijke taal is gebouwd? Welke gesprekken moeten we voeren? Welke vragen moeten we elkaar stellen om op te komen voor de meer kwetsbare, jongere gebruiker in de dingen die we bouwen?

Aderonke Akinbola: We moeten van een ondoorzichtig model naar een model met bouwstenen gaan. Voor projectmanagers betekent dat een paar dingen.

Ten eerste: gewenste wrijving. Vaak willen we wrijving wegnemen. Maar voor kinderen moeten we die juist toevoegen. Als een kind moeiteloos door een spel gaat en alle niveaus snel doorloopt, zit daar geen uitdaging in.

AI zou als een cognitieve taakverdeler moeten werken. Het systeem introduceert een iets ingewikkelder probleem om het kind te laten nadenken. Niet noodzakelijkerwijs een moeilijker probleem, maar iets dat meer denkwerk vereist.

Daarnaast sprak ik in mijn talk over uitlegbare AI die niet alleen een uitkomst geeft, maar ook het proces uitlegt dat de AI heeft doorlopen om tot die uitkomst te komen. In plaats van alleen te zeggen: “Bekijk deze video”, kun je zeggen: “Omdat je planeten leuk vindt, geef ik je deze video over sterren.” Zo leren kinderen hoe algoritmen werken. Je breekt dingen voor hen op en geeft niet alleen antwoorden, maar begeleidt hen door het proces.

Zo leren we. Je breekt een groot probleem op in kleine stukjes en lost het op. Je krijgt niet zomaar een grote oplossing.

Tot slot zou het verbeteren van gedistribueerd leren een grote beveiligingswinst kunnen opleveren. In plaats van de gegevens van een kind naar een grote server te sturen, houd je al het leren lokaal op het apparaat. De gegevens verlaten dan nooit de slaapkamer. Alles wat het kind opvraagt of als prompt invoert, blijft op het lokale apparaat.

We sturen die prompts niet naar een server die ze duizenden jaren bewaart. Voor kindsystemen eindigt het daar. Als een kind op driejarige leeftijd iets aan een chatbot vraagt, zou dat geen invloed moeten hebben wanneer het later naar de universiteit wil. Kinderen zijn van nature nieuwsgierig. Ze stellen vragen. Soms denken we dat het domme vragen zijn, hoewel er eigenlijk geen domme vragen bestaan.

Stel je voor dat zulke vragen zo lang in het dossier van een kind blijven staan. Dat hebben kinderen niet nodig. Dat is wat ik denk.

Galen Low: Als je het hebt over de permanente aard van die schaduw van blootstelling, is dat als ouder echt beangstigend. Zelfs in ons juridische en rechtssysteem is er ruimte voor genade. Sommige overtredingen komen bijvoorbeeld niet op je permanente dossier als je jonger bent dan een bepaalde leeftijd.

Niet omdat we willen dat kinderen roekeloos zijn, maar omdat ze leren. We willen dat ze nieuwsgierig zijn en dat we hen onderwijzen, niet noodzakelijkerwijs straffen. Het laatste wat we zouden moeten willen, is dat jongeren bang zijn om nieuwsgierig te zijn naar technologie. Zo ontwikkelen ze juist vaardigheid en vertrouwdheid.

En door technologie te vermijden verdwijnt ze niet wanneer ze volwassen zijn. Ze lopen mogelijk achter als ze er niet nieuwsgierig naar zijn. De veiligheid zit erin dat het een soort ommuurde tuin kan zijn, met overwegingen rond gedistribueerde gegevens, zodat ze kunnen experimenteren zonder dat het op hun permanente dossier komt.

Ik vind het een heel interessant idee. Ik zie het bijna als een modus. Je wilt wrijving introduceren, maar niet zoveel dat niemand meer wil spelen. Je moet de balans vinden. Er zou een oefenmodus kunnen zijn waarin kinderen fouten mogen maken en domme dingen mogen doen, zodat ze ervan leren. Daarna kun je ze geleidelijk naar serieuzere niveaus of gebruikssituaties brengen.

Hoe kan een product- of projectteam dit als vereiste opwerpen als het nog niet in het plan zit? Hoe kunnen ze belanghebbenden ervan overtuigen dat er budget en inspanning nodig zijn om dit in te bouwen? Hoe heb jij dat in het verleden aangepakt?

Aderonke Akinbola: Om eerlijk te zijn heb ik hier persoonlijk nog geen zaak voor bepleit, omdat ik momenteel niet actief ben in het bouwen van AI-systemen. Ik houd me meer bezig met netwerkbeveiliging en het beschermen van netwerken.

Maar na verloop van tijd zal iedereen het belang hiervan inzien. Misschien is dit nu geen gesprek dat je in een productontwikkelingsteam kunt winnen, maar met de tijd en dankzij het onderzoek dat wordt gedaan, zal het heel duidelijk worden.

Blijf ervoor pleiten. Blijf je uitspreken. Ook als je het honderd miljoen keer moet zeggen, blijf het zeggen. Word niet moe. Als je idee nu wordt afgewezen, zal dat niet altijd zo blijven.

Denk aan de tijd voordat er AI was. Als dat altijd zo was gebleven en iedereen erover had gezwegen, zouden we vandaag geen AI hebben zoals we die gebruiken. Blijf spreken. Ik weet zeker dat binnenkort iedereen en elk land dit serieus zal nemen. Kijk naar wat je zei over de wetgeving van de Europese Unie en Australië, die sociale media voor kinderen onder de 18 verbieden.

Sociale media verschillen sterk van AI, maar het is wel een stap om een groot probleem in te dammen. Blijf er dus over praten en ervoor pleiten. Ik blijf erover spreken totdat de machthebbers aandacht gaan besteden aan deze zeer kwetsbare groep.

Galen Low: Ik denk dat je gelijk hebt. Sociale media en AI zijn technologisch niet hetzelfde, maar je maakt een goed punt: misschien hoeven we niet individueel op de barricaden te staan om die vereiste aan ons product of project toegevoegd te krijgen. We moeten de dialoog voeren.

Een van de dingen die we collectief verkeerd hebben gedaan met sociale media, is dat we sommige ontwikkelingen negeerden. We richtten ons op slechts een bepaald deel van de bevolking en de gebruikersbasis. We voerden niet genoeg gesprekken waarin iemand in het team uiteindelijk kon zeggen: “Dit is in het nieuws geweest en mensen praten hierover. Hier moeten we rekening mee houden.”

Als het eenmaal deel uitmaakt van het publieke gesprek en de populaire cultuur, wordt het geen buitengewoon voorstel meer. Het wordt onderdeel van de manier waarop we naar technologie kijken.

Als we teruggaan naar sociale media: veel mensen zouden zeggen dat we te lang hebben gewacht met het invoeren van veiligheidsmaatregelen voor jongeren. Lopen we vandaag met AI het risico hetzelfde moment tegemoet te gaan? Wat staat er in de toekomst op het spel als we dit nu verkeerd aanpakken?

Aderonke Akinbola: Er staat veel op het spel. Tegelijkertijd zijn we nu veel slimmer dan tijdens het tijdperk van sociale media, vooral wat betreft het herkennen van deze problemen. Destijds duurde het langer voordat we ze identificeerden, maar nu voeren we deze gesprekken al.

Veel mensen gaan naar vergaderingen en spreken zich uit voor kinderen. Ergens voeren we die gesprekken dus al. We leven echter ook in een wereld waarin de huidige systemen meer door winst dan door ethiek worden gedreven. Het kan dus nog steeds tijd kosten, maar er is al bewustzijn van het probleem. En wanneer er bewustzijn van een probleem is, is het probleem half opgelost.

AI zit bovendien al in sociale media. Instagram heeft AI. WhatsApp heeft AI. Alles heeft AI. Er zitten al agenten in die je vragen kunt stellen en die je antwoorden kunt laten verfijnen. Wat we uit elkaar proberen te houden, is dus eigenlijk hetzelfde.

We hebben niet veel tijd te verspillen. We moeten dit zelfs al op beleidsniveau gaan aanpakken en het gesprek naar wetgevend niveau brengen. We moeten meer betrokken raken bij gesprekken over leiderschap, bijvoorbeeld op lokaal niveau. Mensen ondertekenen voortdurend petities. We kunnen gesprekken in die richting beginnen.

Als de ontwikkelaars die deze producten moeten bouwen hier niet naar kijken, waarom veranderen we onze aanpak dan niet en benaderen we het vanuit de overheid? Dat is een andere manier om het gesprek aan een tafel te brengen die hier ook belang bij heeft. De overheid financiert veel openbare scholen en investeert veel geld in kinderen.

De overheid heeft dus ook een rol om ervoor te zorgen dat kinderen toegang krijgen tot de juiste technologie die hen helpt.

Galen Low: Het is gemakkelijk te vergeten dat een overheid zich ook richt op het ontwikkelen van toekomstige generaties, zelfs als dat vanuit economisch oogpunt of voor het voortbestaan van een land, regio of staat is.

Dat is wat de overheid zou moeten vertegenwoordigen. Belangenbehartiging gaat over het creëren van genoeg druk of tegenwicht. Zelfs als ons huidige kapitalistische model winstgedreven is en kinderen niet de klanten zijn die het meeste geld opleveren, brengt belangenbehartiging de balans terug.

Daarom moet dit deel uitmaken van de overwegingenmatrix wanneer teams en organisaties tools bouwen. Of het nu gaat om volledige consumentenproducten voor iedereen of om interne AI-agenten, apps die met behulp van natuurlijke taal zijn gebouwd en vergelijkbare toepassingen: het moet worden meegenomen. Als je dit niet doet, kan dat schadelijk zijn voor de manier waarop het product of de tool wordt gezien of gebruikt.

Aderonke Akinbola: Ik wil ook iets toevoegen over de digitale voogd waar ik over sprak. Bij het maken van deze modellen moeten we gaan nadenken over een digitale voogd die als centrale hoofdagent werkt. Dat is een ethische firewall en niet zomaar een app.

Het is een bemiddelingslaag die drie dingen doet. Ten eerste werkt de voogd als een emotionele thermostaat. Hij kan merken dat een kind te gehecht, verslaafd of geïsoleerd raakt. Vervolgens helpt hij het kind af te koelen door te zeggen: “Ga met een volwassene praten. Ga met je vriend praten.” Hij kan zichzelf uitschakelen om het kind te beschermen.

Ten tweede kan de digitale voogd als een digitale advocaat fungeren die privacyinstellingen met andere apps onderhandelt. Mag het kind hier toegang toe krijgen? Mag het daar toegang toe krijgen? Zo niet, dan eist de voogd dat de informatie tijdelijk en lokaal wordt opgeslagen.

Ten slotte werkt deze digitale gids als een luchtverkeersleider. Hij kan complexe AI opdelen in bouwstenen die kinderen daadwerkelijk kunnen verwerken. Bescherming mag geen luxe zijn. Het mag geen premiumfunctie zijn.

We moeten ervoor zorgen dat een kind in Ghana dezelfde digitale advocaat kan krijgen als een kind in San Francisco. We bouwen aan een filter dat voor iedereen veilig is en niet alleen gericht is op een bepaalde demografische groep of bevolking.

Galen Low: Dat is een enorm goed punt. Deze technologie kan jongeren ergens tegen beschermen, maar kan ook de technologie zijn die hen beschermt. Ik vind het idee van een digitale voogd geweldig. Ik had het opgeschreven als voogdagent.

Ik vind de invalshoek van gelijkheid sterk. Het mag inderdaad geen luxe zijn. Ik heb premiumaccounts voor allerlei apps vanwege functies voor kindveiligheid of gezinsdeling. Dat is een privilege en niet standaard ingebouwd.

Ik vind het idee van een firewall en tussenlaag geweldig: iets dat met alle andere AI-technologieën communiceert om een veilige ervaring voor kwetsbare gebruikers te creëren, namens hen te onderhandelen, advies te geven en hun beslissingen transparanter te maken.

Het zou bijna een moderator kunnen zijn, een kracht die evenwicht brengt in de manier waarop andere AI-tools worden gebruikt en vragen worden gesteld. En natuurlijk ben ik een groot voorstander van de toegankelijkheidskant: het moet voor iedereen beschikbaar zijn en als laag kunnen worden toegevoegd, niet alleen een app die je wel of niet installeert.

Hoe dichtbij of ver weg zijn we van een gesprek over het ontwikkelen van zoiets? Is dit iets voor over tientallen jaren, of gaan we ons de komende jaren richten op een beschermingslaag voor kwetsbaardere AI-gebruikers?

Aderonke Akinbola: Ik denk dat dit niet tientallen jaren weg zou moeten zijn. Het is waarschijnlijk geen kwestie van één of twee jaar, maar het zou geen decennia moeten duren. Misschien moeten we in de komende vijf jaar meer gerichte gesprekken voeren.

We hebben een brug nodig tussen bedrijven die deze agenten bouwen en de overheid. We moeten samen gesprekken voeren, aan dezelfde tafel zitten en eisen stellen. Als technologie ons leven gemakkelijker moet maken, mag technologie ons over een paar jaar niet in een gevaarlijke positie brengen.

We moeten zo snel mogelijk kritische gesprekken beginnen. Tien jaar is een lange tijd. We bouwen nu al modellen en robots die huishoudelijke taken uitvoeren. Waar staan we over vijf jaar als zulke robots upgrades krijgen?

Galen Low: Je brengt die spanning heel goed onder woorden. We hebben lessen geleerd van sociale media en bijvoorbeeld van de AVG op het gebied van gegevensprivacy. Dat is nu een wetgevende laag, met tools die voorkomen dat je gegevens overal terechtkomen.

Maar het duurde lang voordat we dat gesprek voerden. Nu weten we dat we het moeten voeren, maar AI ontwikkelt zich heel snel. Daarom moeten we nu beginnen met een open dialoog. Het gaat niet alleen om lessen leren en voorkomen dat de geschiedenis zich herhaalt. De technologie is nieuw en we moeten er voortdurend actief over blijven praten.

Aderonke Akinbola: Om voort te bouwen op wat je zei: we zouden ook modi kunnen hebben, bijvoorbeeld een volwassenmodus en een kindmodus met al deze functies. We hoeven dus niet noodzakelijkerwijs een compleet nieuwe app te maken. Het kan een laag zijn van dezelfde tools die we al gebruiken, waarbij je schakelt tussen volwassenmodus, kindmodus, peutermodus of tienermodus.

Dat is tegenwoordig niet te veel gevraagd. Er wordt miljarden aan deze sector uitgegeven. Het zou onverstandig zijn om geld te blijven investeren in iets dat mogelijk een nieuwe generatie kinderen beschadigt in plaats van helpt.

Als we zoveel middelen investeren, laten we dan ook goed bouwen, zodat we dezelfde systemen over een paar jaar niet hoeven af te breken om iets anders te bouwen.

Galen Low: Ik vind het geweldig: ontwerpen voor de toekomst.

Aderonke Akinbola: Dat is een mooi onderwerp voor deze podcast.

Galen Low: Misschien is dat een titel: Toekomstige generaties en hoe we voor hen ontwerpen. Ik vind het geweldig. Ade, heel erg bedankt dat je vandaag tijd met me hebt doorgebracht. Ik heb het erg leuk gehad en veel geleerd.

Ik ben dol op je inzichten en op de manier waarop je hierover nadenkt. Voor mensen die meer over je willen weten: waar kunnen ze terecht?

Aderonke Akinbola: Ga naar mijn LinkedIn. Zoek gewoon op mijn naam: Aderonke Akinbola. Ik woon in de Bay Area. Er zijn misschien een paar mensen met mijn voor- en achternaam, maar volgens mij ben ik momenteel de enige in de Bay Area.

Voor nu kun je me dus op LinkedIn vinden. Ik heb geen website. Als je mijn laatste talk wilt zien, staat die volgens mij ook op YouTube op het kanaal van Sanity. Daarmee kun je het voorbereidende gesprek bekijken dat tot deze aflevering heeft geleid.

Ik werk ook aan mijn website en andere zaken, maar die zijn nog niet volledig klaar. Andere persoonlijke projecten nemen momenteel mijn tijd in beslag. Tegen de zomer zal ik meer op mijn merk gericht zijn, maar voorlopig ben ik vooral bezig met belangenbehartiging voor kinderen.

Galen Low: Geweldig. Ik voeg een link naar je profiel en naar je talk toe aan de shownotes voor onze luisteraars. Ade, nogmaals bedankt. Dit was geweldig.

Aderonke Akinbola: Heel erg bedankt, Galen. Het was geweldig om hier te zijn. Bedankt voor de uitnodiging.

Galen Low: Goed, mensen, dat was de aflevering van vandaag van de podcast van The Digital Project Manager. Als je dit gesprek interessant vond, abonneer je dan via het platform waarop je luistert. En als je nog meer praktische inzichten, casestudy’s en draaiboeken wilt, maak dan een gratis account aan op thedigitalprojectmanager.com.

Tot de volgende keer. Bedankt voor het luisteren.