AI til børn: Sådan kan projektteams udvikle det ansvarligt

Galen Low: De fleste AI-løsninger er ikke udviklet til børn, men det betyder ikke, at børn ikke bruger dem. Det rejser spørgsmålet: Hvem har ansvaret for børns sikkerhed, når det gælder AI-drevne oplevelser? Er det forældrene? Er det de teams, der designer og udvikler AI-oplevelser? Eller er det AI-virksomhederne selv?

Og hvordan kan vi lede vores teams til at stille de rigtige etiske spørgsmål og arbejde for at indbygge ordentlige sikkerhedsforanstaltninger i de oplevelser, vi skaber? For at udforske dette emne har jeg inviteret en teknisk programleder fra Google, som også er en stærk fortaler for børnesikkerhed og cybersikkerhed inden for AI og teknologi.

Sammen dykker vi ned i, hvorfor indsatsen er større for yngre AI-brugere end for voksne, hvad vi kan gøre for at fremme og konstruere børnesikkerhed i vores AI-projekter og -produkter, og hvordan AI i sig selv måske kan blive en fortaler for børns sikkerhed, efterhånden som teknologiens udvikling begynder at overgå vores menneskelige evne til at skabe meningsfulde politikker, lovgivning og undervisning om børns interaktioner med AI. Jeg håber, du vil nyde episoden.

Velkommen til The Digital Project Manager Podcast—programmet, der hjælper ledere med ansvar for leverancer med at arbejde smartere, levere mere gnidningsfrit og lede deres teams med selvtillid i AI-alderen. Jeg hedder Galen, og hver uge dykker vi ned i strategier fra den virkelige verden, nye tendenser, gennemprøvede rammeværk og en lejlighedsvis krigshistorie fra projektfrontlinjen. Uanset om du styrer omfattende transformationsprojekter, håndterer AI-arbejdsgange eller bare forsøger at holde kaos under kontrol, er du kommet til det rigtige sted. Lad os komme i gang.

Okay, i dag taler vi om AI i forbindelse med børns sikkerhed, og om hvordan projekt- og produktteams kan stille de rigtige spørgsmål for at skabe AI-drevne oplevelser, der beskytter sårbare brugere.

Med mig i dag har jeg Aderonke Akinbola—foredragsholder, fortaler for børnesikkerhed og AI-økosystemer samt teknisk programleder hos Google. Ade har mere end tre års erfaring med produktudvikling og programledelse samt erfaring som sikkerhedsingeniør hos Apple. Hun talte også for nylig ved AI Agent Security Summit om sikring af AI-agenter i børnecentrerede økosystemer.

Ade, mange tak, fordi du ville være med i dag.

Aderonke Akinbola: Hej Galen, jeg er virkelig glad for at være her.

Galen Low: Jeg er begejstret for at have dig med. Jeg har set frem til det her. Jeg har nydt vores samtaler op til episoden. Jeg glæder mig virkelig til at gå i dybden, så jeg håber, vi kommer ud ad alle mulige tangenter sammen, men for en sikkerheds skyld er her den plan, jeg har skitseret for os i dag.

Til at begynde med ville jeg sætte scenen ved at stille dig et stort og vanskeligt spørgsmål, som mine lyttere gerne vil høre din holdning til. Derefter vil jeg zoome ud og tale om måske tre ting. For det første vil jeg tale om, hvad der gør et barns oplevelse med AI så anderledes end en voksens, og hvad der gør en AI-oplevelse sikker for personer under 18 år nu og i fremtiden.

Derefter vil jeg gøre det praktisk og tale om, hvordan projekt- og produktteams, der udvikler AI-løsninger, kan stille de rigtige etiske spørgsmål og designe en oplevelse, der underviser, forklarer og beskytter yngre brugere. Til sidst vil jeg gerne høre dit syn på, hvordan fremtiden ser ud for AI-agenter og kommende generationer, hvis vi får etik, sikkerhed og tryghed rigtigt.

Hvordan lyder det for dig?

Aderonke Akinbola: Det er perfekt. Det er det, vi er her for. Lad os gå direkte i gang.

Galen Low: Lad os gå direkte i gang. Fantastisk. Jeg elsker det. Jeg tænkte, at jeg ville starte med ét stort og vanskeligt spørgsmål. Jeg tager tilløb til det. I løbet af de seneste måneder har spørgsmålet om børns sikkerhed og sociale medier været i overskrifterne.

Australien har for nylig indført et forbud mod sociale medier for personer under 16 år, og Storbritannien og andre lande overvejer at gøre noget lignende. Sociale medier og AI er naturligvis ikke det samme, men mange af de samme spørgsmål om etik og sikkerhed gælder stadig, når unge mennesker bruger AI.

Så mit store spørgsmål er dette: Mener du, baseret på din erfaring med sikkerhed og produktudvikling hos nogle af verdens største og mest AI-fokuserede teknologivirksomheder, at vi overhovedet bør udvikle AI-løsninger til børn under 18 år?

Aderonke Akinbola: Jeg tror, det er spørgsmålet til en million dollars, Galen, men først og fremmest er min holdning, at vi er forbi spørgsmålet om, hvorvidt vi bør udvikle AI-systemer til dem.

Vi fokuserer i højere grad på, hvordan vi udvikler disse systemer til dem. Virkeligheden er, at legekammeraten allerede er her. Hvis vi vælger ikke at udvikle specifik og sikker, børnecentreret AI, vil børn aldrig holde op med at bruge teknologien. Den er der, og den er tilgængelig for dem.

De vil bare bruge den sorte boks, der er voksen-AI, og det er meget farligt, fordi voksen-AI primært er udviklet til effektivitet. Vores børn har derimod brug for værktøjer til udvikling. Hvis vi ikke udvikler den rigtige version, efterlader vi dem i en digital vildmark uden kompas. Så jeg mener, at vi ikke længere er ved spørgsmålet om, hvorvidt vi bør udvikle til dem.

Samtalen handler i stedet om, hvordan vi bør udvikle til dem.

Galen Low: Jeg synes, det er en virkelig god pointe om teknologiens mål. Fra en voksens perspektiv er det anderledes end den måde, vi bør behandle den på for børn. Og som vi ved fra sociale medier, vil det faktisk heller ikke stoppe dem, at vi siger: »Mindreårige bør ikke bruge det.«

Derfor er jeg enig med dig. Pandoras æske er åbnet, og nu er det op til os at skabe sikre miljøer. Selv hvis den tilsigtede bruger ikke nødvendigvis er under 18 år eller et barn, spekulerer jeg på, om vi kan zoome lidt ud. Jeg nåede at se optagelsen af dit oplæg på AI Agent Security Summit, og op til det havde du skrevet noget på LinkedIn, hvor du sagde, at børns legepladser ikke kun bliver fysiske, men også digitale, intelligente og uforudsigelige.

Hvad mener du med det? Og hvornår skal vi begynde at planlægge efter det i det, vi bygger i dag?

Aderonke Akinbola: Okay. Det er endnu et godt spørgsmål, Galen. Tænk på en fysisk legeplads. Mange af dem har nu bløde underlag og afrundede kanter. AI er også en legeplads på den måde.

Men det er en anden slags legeplads. Det er en legeplads, der taler tilbage og former tanker. Fordi børn tillægger ting følelser, og nogle børn endda tror, at AI-agenter er virkelige, bliver de overbevist om, at AI er en rigtig ven.

Det gør dem særligt sårbare over for social engineering. Hvordan planlægger vi så efter det? Det er ikke noget, vi først gør i kvalitetssikringsfasen. Vi har brug for en »shift left«-tilgang. Ikke kun inden for sikkerhed—vi har også brug for børnepsykologer med i processen.

Vi har brug for eksperter som dem allerede på arkitekturniveau. Under modellens træningsfase skal de stille spørgsmål som: Er denne model optimeret til at gennemføre et salg? Eller er den optimeret til at understøtte menneskelig udvikling? Hvis vi ændrer kursen og går uden for kvalitetssikringsfasen og ind i selve opbygningen af modellen, tænker vi faktisk på børnene.

Så skaber vi digitalt en legeplads, der er mere børnecentreret, samtidig med at vi beskytter børnene.

Galen Low: Jeg kan godt lide metaforen med det polstrede gulv og de afrundede kanter—ikke nødvendigvis kun til legepladser, men også til at gøre ting, der ikke er designet til børn, sikre for dem.

Da min søn var lille, skulle vi for eksempel børnesikre hele huset. Det var et helt andet niveau, ikke fordi tingene var beregnet til børn, men fordi vi vidste, at børn ville komme i kontakt med dem. Vi ville ikke have, at han skulle komme til skade, og vi ville gerne have, at han udviklede sig på en sund måde.

Jeg kan godt lide det, du siger, og jeg ved, at cybersikkerhed også fylder meget hos dig. Det er endnu en ting, der ikke kan være en eftertanke. Foreslår du, at en børnepsykolog bør inddrages på projektniveau eller i produktudviklingen?

Selv hvis produktets mål er at tjene penge og sælge—hvis det for eksempel er et salgsværktøj—vil du så stadig sige, at en børnepsykolog eller en person, der varetager mindreåriges interesser, bør være involveret i produktudvikling og projektplanlægning, selv om det ikke er det primære mål eller krav til produktet?

Aderonke Akinbola: Selv hvis vi ikke ansætter dem på fuld tid, kan vi have dem som konsulenter. Tænk på GPT og Gemini. Hvis vi oprindeligt sagde, at teknologien kun var til voksne, så de kunne arbejde hurtigere, er teknologien allerede gået langt videre end det.

Vi lever ikke længere i en tid, hvor børn ikke har iPads. Vi har bogstaveligt talt en hel generation af iPad-børn. Hvordan forhindrer vi iPad-børn i at bruge Gemini?

Galen Low: Det kan jeg fortælle dig af erfaring. Min søn har været meget god og ansvarlig med teknologi, så vi har givet ham adgang til en enhed.

Især fra et Google-perspektiv er AI-tilstanden jo indbygget i søgningen. Det var ikke, fordi jeg sagde: »Her er Gemini, lad mig lære dig at bruge det.« Han søgte bare efter noget, og pludselig havde han en samtale med det.

Det er bestemt udbredt og relevant.

Aderonke Akinbola: Jeg bor også sammen med et lille barn, og han er ikke engang to år, men han kan sige: »Hej Siri.«

Galen Low: Det er utroligt, ikke?

Aderonke Akinbola: Jo, fordi han hører mig sige det hele tiden. Hvordan reagerer Siri så på et »Hej Siri« fra et barn? Der er uendelige muligheder for, hvad barnet kan spørge Siri om. Derfor mener jeg, at vi skal begynde samtalen nu—selv hvis vi ikke ansætter dem på fuld tid—så vi kan begynde at bygge ansvarligt.

Jeg forventer ikke, at det sker inden for de næste to eller fem år. Vi befinder os bogstaveligt talt i et AI-boom, hvor der kommer opdateringer hver uge. Alle har en opdatering. Jeg mener bare, at vi skal begynde samtalerne og få disse mennesker med ved bordet.

Det bliver måske ikke en øjeblikkelig løsning, men det kan skabe opmærksomhed om behovet. Derefter kan vi se, hvordan det udvikler sig.

Galen Low: Det elsker jeg. Siri-eksemplet er så godt, fordi det ikke er, som om vi bevidst gav et barn en enhed.

Barnet kan ganske enkelt tale og få adgang til teknologien og interagere med den. Det fik mig til at tænke på det, du sagde om, at en børnepsykolog måske ikke behøver at være et fuldtidsmedlem af produkt- eller projektteamet. Måske kan personen komme ind som konsulent.

Jeg kan faktisk se paralleller til cybersikkerhed. Cybersikkerhed planlægger ikke kun for den primære målgruppe og de gode aktører. Man planlægger også for de dårlige aktører og for ting, der kan ske med vilje eller ved et uheld. Man er nødt til at se på randtilfælde og ekstreme scenarier.

Du har en god pointe om alle opdateringerne. Vi befinder os helt sikkert i et AI-boom, og modellerne ændrer sig hele tiden.

Et lidt provokerende spørgsmål: Synes du, at AI-virksomhederne gør nok for at udsende opdateringer, der tager højde for, at deres platforme og modeller kommer til at blive brugt af børn og personer under 18 år?

Aderonke Akinbola: Jeg tror ikke, det er deres fokus lige nu. Der er enorme muligheder for, hvordan AI kan bruges, og for hvad AI kan gøre for os.

Mange virksomheder undersøger lige nu, hvordan de kan udnytte alt det potentiale, AI-værktøjer kan give dem. Hvordan gør vi modellerne smartere? Hvordan gør vi dem mere intelligente? Hvordan træner vi modeller til at løse problemer hurtigere i et meget hektisk miljø?

Jeg tror ikke, der foregår meget fortalervirksomhed for børn, fordi alle forsøger at komme stort ind på markedet. Fokus er mere på at komme på markedet end på at beskytte børnene. Det er en af grundene til, at jeg personligt har interesseret mig for cybersikkerhed i børnecentrerede AI-miljøer.

Der er meget i de indledende faser, som handler om forældrene frem for de mennesker, der bygger teknologien. Det er det, jeg vil sige om det.

Galen Low: Det er virkelig interessant. Jeg er enig, og når man bruger udtrykket AI-boom, er det også nemt at tænke på det som et AI-kapløb.

Hvis man ser det som et konkurrencekapløb, forsøger alle at bygge den hurtigste bil. Sikkerhedsselerne kan komme senere. Først handler det om motor, affjedring og om at bygge et køretøj, der kan køre virkelig hurtigt. Bremserne kommer måske bagefter, og polstrede sæder og beslag til en autostol bliver måske først prioriteret senere.

Det virker ikke, som om sikkerhed bliver betragtet som det primære mål eller den vigtigste drivkraft for teknologien. Jeg synes, det er interessant, hvad du siger om, hvor ansvaret ligger. Hvis jeg forstår dig rigtigt, er det måske ikke de store AI-virksomheders fokus lige nu, men det kan blive det senere.

Jeg mener, at der er et ansvar hos de teams, der bygger produkterne oven på modellerne og de store sprogmodeller. Og så er der forældrenes ansvar, når det gælder tilsyn.

Med andre ord er der ikke én gruppe, der alene er ansvarlig for eller kan drages til ansvar for et barns oplevelse med teknologien. Vi er alle nødt til at gøre vores del.

Jeg vil gerne vende tilbage til noget, du sagde om, hvordan et barns oplevelse med AI er anderledes. Der findes naturligvis også voksne, som knytter dybe bånd til chatbots og agenter, men er indsatsen ganske enkelt større, når personer under 18 år bruger AI? Hvad gør et barns oplevelse med AI anderledes end en voksens?

Aderonke Akinbola: For børn er indsatsen eksponentielt større. For en voksen kan et databrud betyde et nyt kreditkort eller et nyt kort generelt. Man kan få en e-mail om, at der har været et databrud, og at ens oplysninger måske var sikre.

For et barn er det anderledes. For et barn er AI-data et permanent digitalt fingeraftryk. Det er en registrering af barndommens nysgerrighed og personlighed, og det kan påvirke optagelse på en uddannelse eller jobmuligheder 20 år senere.

I mit oplæg på AI Agent Security Summit talte jeg om de tre skygger, der følger børn i AI: indflydelsens skygge, eksponeringens skygge og stagnationens skygge.

Indflydelsens skygge betyder, at AI kan være mere overbevisende over for et barn end en forælder eller lærer. Børn er som blanke tavler. De optager alt som svampe og kan komme til at tro mere på en agent end på en lærer eller forælder.

Eksponeringens skygge er det permanente dataspor, jeg nævnte tidligere.

Stagnationens skygge er vigtig for projektledere. Hvis vi bygger AI-værktøjer, der er for hjælpsomme, og værktøjerne gør al tænkningen, svækker vi barnets kritiske tænkning og modstandskraft. En del af læringsprocessen er ikke at få det rigtigt første gang. Man prøver tre eller fire gange og finder til sidst løsningen.

Hvis vi ikke tager højde for det, automatiserer vi den rodede læringsproces væk. Læring er rodet. Læring er ikke altid sjov. Men fejl er også en del af processen.

Med børn er indsatsen derfor meget større. De formes til de mennesker, de bliver. De har brug for at begå fejl, og modellerne skal også træne dem på en måde, hvor de bliver ledt væk fra teknologien, hvis de bruger for meget tid med den. De skal opfordres til at gå udenfor eller tale med en voksen i stedet for at blive så engagerede, at de sidder fast i en samtale med noget, der ikke engang eksisterer.

Galen Low: Det er det, jeg elsker ved det. Fra et produktdesign- og brugerfladedesignperspektiv forsøger vi normalt at reducere friktion og gøre tingene så nemme som muligt.

Men du rejser et vigtigt punkt: Hvis man gør tingene for nemme på et bestemt udviklingstrin, skaber man måske løsninger til voksne, der vil være mere effektive, mens et barn faktisk er i gang med at udvikle færdigheder, lære at tænke kritisk og finde rollemodeller og autoritetsfigurer, som det kan stole på.

Jeg kan godt lide idéen om at indbygge kontroller og påmindelser. Et ur kan for eksempel fortælle mig, at jeg skal rejse mig og gå lidt rundt, og en telefon kan begrænse skærmtiden.

AI kunne måske være mere ansvarlig og mindre vanedannende ved at sige: »Du har brugt denne teknologi meget. Gå udenfor, mærk græsset, og kom tilbage senere.« Det er en interessant funktion, som vi bør indbygge, fordi vi ved, at det kommer til at ske.

Aderonke Akinbola: Jeg tror, at der i de kommende år vil komme meget mere forskning på området. Der foregår allerede forskning, men vi har brug for mere, hvis vi skal forstå virkningen af disse værktøjer på børn under 18 år.

AI-boomet begyndte jo først for alvor omkring covid-19, og vi befinder os teknisk set stadig i tiden efter covid-19. Verden er ikke helt kommet sig. Derfor har vi stadig lang vej igen, når det gælder forskning i virkningerne og i, hvordan vi bygger bedre systemer.

Indtil vi har den viden, er der nogen, der må være stemmen, der siger: »Vi er nødt til at være opmærksomme på dette. Vi må ikke overse det.«

Galen Low: Forskning tager tid, men i mellemtiden må vi ikke være uansvarlige. Vi er nødt til at have samtalerne og tale for yngre og mere sårbare brugere, mens videnskaben arbejder på at fastslå virkningerne mere endeligt.

Jeg kan godt lide din pointe om undervisning og læring. Du går stærkt ind for AI-undervisning, forklarlig AI og værktøjer, der hjælper brugere med at tænke kritisk i stedet for blot at være passive forbrugere af teknologien.

Hvad kan teams gøre for at indbygge sikkerhedsforanstaltninger i de AI-løsninger, vi skaber—uanset om det er et komplet forbrugerprodukt eller en hurtigt kodet app? Hvilke samtaler bør vi have, og hvilke spørgsmål bør vi stille hinanden for at tale for den mere sårbare, yngre bruger?

Aderonke Akinbola: Vi er nødt til at bevæge os fra en sort boks-model til en byggestensmodel. For projektledere betyder det flere ting.

For det første ønskværdig friktion. Vi forsøger ofte at fjerne friktion, men for børn kan vi have brug for at tilføje den. Hvis et barn bare bevæger sig hurtigt gennem et spil og gennemfører alle niveauerne uden udfordringer, er der ingen reel læring.

AI bør fungere som en kognitiv belastningsbalancer. Den kan introducere et lidt mere vanskeligt problem, der får barnet til at tænke—ikke nødvendigvis et hårdere problem, men noget mere finurligt.

For det andet talte jeg om forklarlig AI. Den skal ikke bare give et resultat, men forklare den proces, AI gennemgik for at nå frem til resultatet. I stedet for blot at sige »Se denne video«, kan den sige: »Fordi du kunne lide planeter, vil jeg vise dig en video om stjerner.« Det lærer børnene algoritmisk forståelse.

Det handler om at bryde tingene ned og føre dem gennem processen i stedet for bare at give svar. Sådan lærer vi. Man opdeler et stort problem i mindre dele og finder ud af det trin for trin.

Endelig ville en stor sikkerhedsgevinst være at forbedre fødereret læring. I stedet for at sende et barns data til en stor server kan al læring blive på enheden. Dataene forlader aldrig barnets værelse. Forespørgsler og prompter afsluttes lokalt.

På den måde ligger et barns spørgsmål ikke på en permanent registrering, der kan påvirke det, når det senere søger optagelse på en uddannelse. Børn er naturligt nysgerrige. De stiller spørgsmål, og selv om nogle spørgsmål kan virke dumme, findes der i virkeligheden ikke dumme spørgsmål.

Galen Low: Når du taler om eksponeringens skygge og om, at dataene er permanente, er det virkelig skræmmende som forælder.

Selv vores juridiske system indeholder nåde. Forseelser bliver eksempelvis ikke nødvendigvis stående på ens permanente straffeattest, hvis man er under en bestemt alder. Det er ikke, fordi vi ønsker, at børn skal være hensynsløse, men fordi de lærer.

Vi bør ikke gøre unge mennesker bange for at være nysgerrige på teknologien. Det er sådan, de opbygger fortrolighed og færdigheder. En sikker, afgrænset »øvelsestilstand« kunne give dem mulighed for at begå fejl og lære uden at få det registreret permanent.

Aderonke Akinbola: Jeg tror også, at vi har brug for forskellige tilstande. Det kunne være en voksen-tilstand, en børne-tilstand, en småbørnstilstand og en teenager-tilstand med forskellige funktioner.

Det behøver ikke være en helt ny app. Det kan være et ekstra lag i de værktøjer, vi allerede bruger. Vi investerer milliarder i denne industri, så det ville være meget uklogt at bruge pengene på noget, der potentielt kan ødelægge endnu en generation af børn.

Galen Low: Hvordan kan et produkt- eller projektteam rejse dette som et krav, hvis det ikke allerede er indbygget i planen? Hvordan argumenterer man over for interessenter for at bruge budget og ressourcer på det?

Aderonke Akinbola: Jeg har ikke selv argumenteret for det i et produktudviklingsteam, fordi jeg primært arbejder med netværkssikkerhed. Men med tiden vil alle se, hvor vigtigt det er.

Bliv ved med at tale for det. Bliv ved med at sige det, også selv om du skal sige det hundrede millioner gange. Hvis din idé bliver afvist nu, vil den ikke nødvendigvis blive afvist for altid.

Vi må blive ved med at tale om det og arbejde for det, indtil de ansvarlige begynder at tage den sårbare befolkningsgruppe alvorligt.

Galen Low: Jeg er enig. Måske kan vi lære af sociale medier. Vi tog for lang tid om at indføre sikkerhedsforanstaltninger for unge, og vi risikerer at opleve det samme med AI.

Aderonke Akinbola: Der står meget på spil, men vi er også klogere, end vi var under de sociale mediers begyndelse. Vi har allerede samtalerne, og mange går ind i rum og taler børnenes sag.

De systemer, der bygges, er dog stadig mere drevet af profit end af etik. Derfor kan det tage tid. Men når man er bevidst om et problem, er halvdelen af problemet allerede løst.

AI findes desuden allerede i sociale medier. Instagram har AI, WhatsApp har AI, og næsten alt har AI. Der findes agenter, som man kan stille spørgsmål til og bede om at forbedre ting. Derfor er sociale medier og AI ikke længere helt adskilte.

Vi bør begynde at få disse spørgsmål ind i politikker og lovgivning. Vi skal deltage i samtaler om ledelse på lokalt niveau, støtte underskriftsindsamlinger og overveje, om regeringerne kan spille en større rolle.

Hvis udviklerne ikke tager ansvar, kan vi også gå gennem regeringerne. Regeringer finansierer mange offentlige skoler og investerer store summer i børn. De har derfor også en rolle i at sikre, at børn får adgang til den rigtige teknologi.

Galen Low: Det er nemt at glemme, at en del af enhver regerings opgave er at udvikle kommende generationer. Fortalervirksomhed skaber et modtryk, der kan balancere en profitdrevet model.

Selv hvis børn ikke er de kunder, der skaber indtjeningen, bør børnesikkerhed stadig indgå i overvejelserne, når teams bygger værktøjer—uanset om det er forbrugerprodukter, interne AI-agenter eller hurtigt kodede apps.

Aderonke Akinbola: Jeg vil også tilføje idéen om en digital værge, som jeg talte om. Det er en central hovedagent, en slags etisk firewall og et mellemlag mellem forskellige AI-systemer.

Den fungerer for det første som en følelsesmæssig termostat. Den kan registrere, om et barn bliver for knyttet, afhængigt eller isoleret, og derefter opfordre barnet til at tale med en voksen eller en ven. Den kan lukke ned for at beskytte barnet.

For det andet fungerer den som en digital advokat, der forhandler privatlivsindstillinger med andre apps. Er barnet tilladt at få adgang til dette? Hvis ikke, skal data måske kun gemmes midlertidigt og lokalt.

For det tredje fungerer den som en flyveleder, der opdeler kompleks AI i byggesten, som børn kan forstå.

Beskyttelse må ikke være en luksus eller en premiumfunktion. Et barn i Ghana bør kunne få den samme digitale advokat som et barn i San Francisco. Det skal være et sikkert filter for alle og ikke kun for en bestemt befolkningsgruppe.

Galen Low: Det er en fantastisk pointe, at teknologien både kan være noget, vi skal beskytte unge mennesker imod, og noget, der beskytter dem. Jeg elsker idéen om en digital værge og også lighedsperspektivet.

Den bør ikke være en luksus. Den bør være et indbygget mellemlag, der interagerer med andre AI-teknologier og skaber en sikker oplevelse for sårbare brugere. Den kan forhandle på deres vegne, rådgive dem og gøre deres beslutninger mere gennemsigtige.

Hvor langt er vi fra faktisk at udvikle noget i den retning?

Aderonke Akinbola: Det bør ikke være årtier væk, men det er heller ikke noget, der sker på et eller to år. Måske inden for de næste fem år bør vi have mere fokuserede samtaler.

Vi har brug for en bro mellem virksomhederne, der bygger disse agenter, og regeringerne. Vi skal sidde ved det samme bord og stille krav. Hvis teknologiens formål er at gøre livet lettere, bør den ikke samtidig bringe os i en farlig situation nogle år senere.

Vi må begynde på de kritiske samtaler før snarere end senere. Ti år er lang tid, især når vi allerede bygger robotter, der kan udføre huslige opgaver. Hvor er vi om fem år, hvis robotterne bliver opgraderet?

Galen Low: Du har indrammet spændingen godt. Vi har lært af sociale medier og af databeskyttelse som GDPR, men det tog lang tid at få de samtaler.

AI udvikler sig meget hurtigt, så vi er nødt til at begynde dialogen nu og føre den løbende. Det handler ikke kun om at lære af historien, men om at forholde sig aktivt til noget nyt og hurtigt foranderligt.

Aderonke Akinbola: Jeg vil også vende tilbage til idéen om tilstande. Man kunne skifte mellem voksen- og børnetilstand eller mellem småbørns- og teenagefunktioner. Det er ikke for meget at forlange i dag.

Galen Low: Jeg elsker det—at konstruere til fremtiden.

Aderonke Akinbola: Det kunne være et godt emne for denne podcast.

Galen Low: Ja, måske er titlen »Kommende generationer og hvordan vi konstruerer til dem«. Det har været fantastisk. Ade, mange tak, fordi du brugte tid sammen med mig i dag. Jeg har haft det sjovt og lært en masse.

Hvis lytterne vil vide mere om dig, hvor kan de så finde dig?

Aderonke Akinbola: De kan finde mig på LinkedIn. Søg på mit navn, Aderonke Akinbola. Jeg bor i San Francisco Bay Area, og jeg tror, der er nogle få personer med samme for- og efternavn, men lige nu er jeg vist den eneste i området.

Jeg har ikke en hjemmeside endnu. Hvis man vil se mit seneste oplæg, ligger det vist også på YouTube på Sanity-kanalen. Jeg arbejder på en hjemmeside og andre ting, men lige nu bruger jeg tiden på personlige projekter. Til sommer vil jeg være mere fokuseret på mit brand, men indtil videre handler det om mig og fortalervirksomhed for børn.

Galen Low: Jeg indsætter et link til din profil i shownoterne og også et link til dit oplæg. Ade, mange tak igen.

Aderonke Akinbola: Mange tak, Galen. Det var dejligt at være med. Tak for muligheden.

Galen Low: Så er det slut for dagens episode af The Digital Project Manager Podcast. Hvis du nød samtalen, så husk at abonnere dér, hvor du lytter. Hvis du vil have endnu flere praktiske indsigter, casestudier og værktøjskasser, kan du oprette en gratis konto hos os på thedigitalprojectmanager.com.

Indtil næste gang—tak, fordi du lyttede.