Kunstig intelligens for barn: Slik kan prosjektteam utvikle det på en ansvarlig måte

Galen Low: De fleste KI-løsninger er ikke laget for barn, men det betyr ikke at barn ikke bruker dem. Det reiser spørsmålet: Hvem har ansvaret for barns sikkerhet når det gjelder KI-drevne opplevelser? Er det foreldrene? Er det teamene som utformer og bygger KI-opplevelser? Er det KI-selskapene selv?

Og hva er noen av måtene vi kan lede teamene våre til å stille de riktige etiske spørsmålene og gå i bresjen for å bygge inn gode sikkerhetstiltak i opplevelsene vi skaper? For å utforske dette temaet har jeg invitert en teknisk programleder fra Google, som også tilfeldigvis er en sterk forkjemper for barns sikkerhet og cybersikkerhet innen KI og teknologi.

Sammen skal vi se nærmere på hvordan innsatsen er høyere for yngre KI-brukere enn for voksne, hva vi kan gjøre for å fremme og utvikle barns sikkerhet i KI-prosjektene og -produktene våre, og hvordan KI selv kan bli en forkjemper for barns sikkerhet når teknologiutviklingen begynner å løpe fra vår evne som mennesker til å utforme meningsfulle retningslinjer, lover og opplæring rundt barns samhandling med KI. Håper du liker episoden.

Velkommen til podkasten «The Digital Project Manager» – programmet som hjelper leveranseledere med å jobbe smartere, levere jevnere og lede teamene sine med selvtillit i KI-alderen. Jeg heter Galen, og hver uke går vi gjennom strategier fra virkeligheten, nye trender, utprøvde rammeverk og av og til en krigshistorie fra prosjektfronten. Enten du styrer store transformasjonsprosjekter, temmer KI-arbeidsflyter eller bare prøver å holde kaoset under kontroll, er du på rett sted. La oss komme i gang.

I dag snakker vi om KI i sammenheng med barns sikkerhet, og om hvordan prosjekt- og produktteam kan stille de riktige spørsmålene for å skape KI-drevne opplevelser som beskytter sårbare brukere.

Med meg i dag har jeg Aderonke Akinbola – foredragsholder, forkjemper for barns sikkerhet og KI-økosystemer, og teknisk programleder hos Google. Ade har over tre års erfaring med produktutvikling og programledelse, i tillegg til erfaring som sikkerhetsingeniør hos Apple. Hun holdt også nylig foredrag på AI Agent Security Summit om sikring av KI-agenter i barnesentrerte økosystemer.

Ade, tusen takk for at du blir med meg i dag.

Aderonke Akinbola: Hei, Galen. Jeg er veldig glad for å være her.

Galen Low: Jeg gleder meg til å ha deg med. Jeg har sett frem til dette. Jeg har likt samtalene våre frem mot dette. Jeg gleder meg veldig til å gå i dybden, så jeg håper vi tar alle mulige avstikkere sammen, men for sikkerhets skyld er dette veikartet jeg har skissert for oss i dag.

For å begynne ville jeg sette scenen ved å stille deg et stort og krevende spørsmål som lytterne mine gjerne vil høre din mening om. Deretter vil jeg zoome ut og snakke om kanskje tre ting. For det første vil jeg snakke om hva som gjør et barns opplevelse med KI så annerledes enn en voksens, og hva som gjør en KI-opplevelse trygg for personer under 18 år, både nå og i fremtiden.

Deretter vil jeg bli praktisk og snakke om hvordan prosjekt- og produktteam som utvikler KI-løsninger, kan stille de riktige etiske spørsmålene og utforme en opplevelse som lærer opp, forklarer og beskytter yngre brukere. Til slutt vil jeg gjerne høre hva du tror fremtiden bringer for KI-agenter og fremtidige generasjoner dersom vi lykkes med etikk, sikkerhet og trygghet.

Hvordan høres det ut?

Aderonke Akinbola: Det høres perfekt ut. Det er dette vi er her for. La oss hoppe rett i det.

Galen Low: La oss hoppe rett i det. Supert. Jeg liker det. Jeg tenkte å starte med ett stort og krevende spørsmål. Jeg tar sats. De siste månedene har barns sikkerhet og sosiale medier vært mye omtalt i nyhetene.

Australia innførte nylig et forbud mot sosiale medier for personer under 16 år, og Storbritannia og andre land vurderer å gjøre noe lignende. Sosiale medier og KI er selvsagt ikke det samme, men mange av de samme spørsmålene om etikk og sikkerhet gjelder fortsatt når unge bruker KI.

Så det store spørsmålet mitt er dette: Etter din mening, basert på erfaringen din med sikkerhet og produktutvikling hos noen av verdens største og mest KI-fremtidsrettede teknologiselskaper, bør vi i det hele tatt bygge KI-løsninger for barn under 18 år?

Aderonke Akinbola: Jeg tror dette er et spørsmål til en million dollar, Galen, men først og fremst er mitt standpunkt at vi har kommet forbi spørsmålet om hvorvidt vi bør bygge KI-systemer for dem.

Vi er mer opptatt av hvordan vi skal bygge disse systemene for dem. Realiteten er at lekekameraten allerede er her. Hvis vi velger å ikke bygge spesifikk og sikker barnesentrert KI, vil barn aldri slutte å bruke teknologien. Den finnes, og den er tilgjengelig for dem.

De vil bare bruke den svarte boksen av voksen-KI, og det er svært farlig fordi voksen-KI først og fremst er bygget for effektivitet. Barna våre trenger imidlertid verktøy for utvikling. Hvis vi ikke bygger den riktige versjonen, etterlater vi dem i praksis i en digital villmark uten kompass. Jeg mener derfor at vi ikke lenger er på stadiet der vi spør om vi bør bygge for dem.

Samtalen handler i stedet om hvordan vi bør bygge for dem.

Galen Low: Jeg synes det er et veldig godt poeng om teknologiens mål. Fra et voksenperspektiv er målet annerledes enn måten vi bør behandle teknologien på for barn. Og som vi vet fra sosiale medier, vil det faktisk ikke stoppe barn fra å bruke tjenesten selv om vi sier at mindreårige ikke bør bruke den.

Så jeg er enig med deg. Pandoras eske er åpnet, og nå er det opp til oss å skape trygge miljøer. Selv om den tiltenkte brukeren ikke nødvendigvis er under 18 år eller et barn, lurer jeg på om vi kan zoome litt ut fra dette. Jeg fikk muligheten til å se opptaket av foredraget ditt på AI Agent Security Summit, og i forkant hadde du lagt ut noe på LinkedIn der du skrev at barns lekeplasser ikke bare kommer til å være fysiske, men også digitale, intelligente og uforutsigbare.

Hva mener du med det, og på hvilket tidspunkt må vi begynne å planlegge for dette i det vi bygger i dag?

Aderonke Akinbola: Tenk på en fysisk lekeplass. Mange av dem har nå myke underlag og avrundede kanter. KI er også en slik lekeplass.

Dette er imidlertid en annen type lekeplass. Det er en lekeplass som svarer, og som former tanker. Fordi barn tillegger ting følelser, tror noen barn til og med at KI-agentene er virkelige. De blir fanget i det som kan kalles en overbevisningsfelle, der de blir så overbevist om at KI er en ekte venn.

Da blir de spesielt sårbare for sosial manipulering. Hvordan planlegger vi for dette? Dette er ikke noe vi gjør i kvalitetssikringsfasen. Vi trenger en «shift left»-tilnærming. Ikke bare innen sikkerhet – vi trenger også barnepsykologer med på laget. Vi trenger slike eksperter allerede på arkitekturnivå.

Under modelltreningsfasen må de stille spørsmål som: Er denne modellen optimalisert for å gjennomføre et salg, eller er den optimalisert for å støtte menneskelig utvikling? Hvis vi endrer kursen og går utenfor kvalitetssikringsfasen og inn i selve modellbyggingen, begynner vi faktisk å tenke på barna.

Da skaper vi digitalt en mer barnesentrert lekeplass og tenker på hvordan vi kan beskytte barna.

Galen Low: Jeg liker metaforen med det polstrede gulvet og de avrundede kantene, ikke nødvendigvis bare for lekeplasser, men også for å gjøre ting som ikke er laget for barn, trygge.

Jeg husker da sønnen min var liten. All barnesikringen vi måtte sette opp rundt i huset, var på et helt annet nivå – ikke fordi tingene var ment for barn, men fordi vi visste at barn kom til å få tilgang til dem. Vi ville ikke at han skulle skade seg, og vi ville at han skulle utvikle seg på en sunn måte.

Jeg liker det du sier, og jeg vet at du også er svært opptatt av cybersikkerhet. Det kan heller ikke være noe man tenker på i etterkant. For lytterne mine: Foreslår du at en barnepsykolog bør involveres i et prosjekt på prosjektnivå eller i produktutviklingen?

Selv hvis målet med produktet er å tjene penger og selge, for eksempel som et salgsverktøy – mener du fortsatt at en barnepsykolog eller noen som ivaretar mindreåriges interesser, bør involveres i produktutvikling og prosjektplanlegging, selv om det ikke er hovedmålet eller kravet for produktet?

Aderonke Akinbola: Selv om vi ikke ansetter dem på heltid, kan vi bruke dem som konsulenter. Jeg tenker på GPT og Gemini. Hvis vi opprinnelig sa at vi laget denne teknologien bare for voksne, slik at de kunne jobbe raskere, har teknologien allerede gått langt forbi det punktet.

Vi lever ikke lenger i en tid der barn ikke har nettbrett. Vi har bokstavelig talt en hel generasjon med nettbrettbarn. Hvordan hindrer vi nettbrettbarn i å bruke Gemini?

Galen Low: Det kan jeg fortelle deg av erfaring. Sønnen min har vært veldig flink og ansvarlig med teknologi, så vi har på en måte gitt ham tilgang til en enhet.

Fra Googles perspektiv ligger KI-modus i søket. Det var ikke slik at jeg sa: «Her er Gemini, la meg lære deg hvordan du bruker det.» Han søkte bare etter noe, og plutselig hadde han en samtale.

Ja, det er absolutt utbredt og relevant.

Aderonke Akinbola: Jeg bor også sammen med en liten gutt. Han er ikke engang to år gammel, og han kan si «Hei, Siri».

Galen Low: Det er utrolig, ikke sant?

Aderonke Akinbola: Jo, fordi han hører meg si det hele tiden. Hvordan svarer Siri når et barn sier «Hei, Siri»? Det finnes uendelig mange ting barnet kan spørre Siri om. Derfor mener jeg at vi må begynne denne samtalen, selv om vi ikke har dem som heltidsansatte, slik at vi kan slutte å bygge uansvarlig.

Jeg forventer ikke at dette skjer i løpet av de neste to eller fem årene. Vi er bokstavelig talt inne i en KI-boom, og hver uke kommer det oppdateringer. Alle har en oppdatering. Jeg mener derfor at vi må begynne disse samtalene og få disse menneskene rundt bordet.

Det trenger ikke være en umiddelbar løsning. La det først være en bevisstgjøring og en forståelse av behovet, og så ser vi hvor det fører.

Galen Low: Jeg liker det. Siri-eksempelet er så godt fordi det ikke er slik at vi ga et barn en enhet og gjorde det med fullt overlegg.

Barnet kan bokstavelig talt bare snakke og få tilgang til teknologien og samhandle med den. Du fikk meg til å tenke på det du sa om at dette kanskje ikke trenger å være et heltidsmedlem av produkt- eller prosjektteamet. Kanskje personen kan komme inn som konsulent. Jeg tror faktisk det finnes paralleller til cybersikkerhet, fordi cybersikkerhet ikke planlegger for hovedmålgruppen og de gode aktørene.

Den planlegger for de onde aktørene og for det som kan skje, enten med vilje eller ved et uhell. Man må se på randtilfeller og uvanlige tilfeller. Du har et godt poeng om alle oppdateringene. Vi er definitivt inne i en KI-boom, og modellene endrer seg hele tiden.

Et litt provoserende spørsmål: Føler du at KI-selskapene gjør nok for å lansere oppdateringer som tar høyde for at plattformene og modellene deres kommer til å bli brukt av barn og andre under 18 år?

Aderonke Akinbola: Jeg tror ikke det er det som står øverst på agendaen deres akkurat nå. Det finnes uendelig mange muligheter for hvordan KI kan brukes og hva KI kan gjøre for oss.

Jeg tror det er dette mange selskaper utforsker nå: Hvordan kan vi utnytte alt potensialet disse KI-verktøyene kan gi oss? Hvordan kan vi gjøre modellene smartere og mer intelligente? Hvordan kan vi trene modeller til å løse problemer raskere i dette svært hektiske miljøet?

Jeg tror ikke det foregår mye arbeid for barn akkurat nå, fordi alle forsøker å komme stort inn på markedet. Det handler mer om å komme seg inn på markedet enn om å ivareta barna. Det er en av grunnene til at jeg personlig har engasjert meg i denne nisjen med cybersikkerhet i barnesentrerte KI-miljøer.

Mye av det innledende arbeidet handler egentlig mer om foreldrene enn om menneskene som bygger teknologien. Det er det jeg vil si om saken.

Galen Low: Det er veldig interessant. Jeg er enig med deg, og når du bruker uttrykket KI-boom, er det lett å også tenke på dette som et KI-kappløp.

Når man ser det som et konkurransepreget kappløp, prøver alle, for å bruke en analogi, å bygge den raskeste bilen. Akkurat nå kan sikkerhetsbeltene komme senere. Hvordan lager vi motoren? Hvordan bygger vi fjæringen? Hvordan bygger vi et kjøretøy som kan kjøre virkelig fort? Kanskje bremser kommer etterpå, mens polstrede seter og fester til barneseter kommer senere.

Det virker ikke som om dette ses på som hovedmålet eller den viktigste drivkraften for teknologien. Jeg synes det du sier om hvor ansvaret ligger, er interessant. Hvis jeg forstår deg riktig, er det kanskje ikke hovedfokuset til de store KI-selskapene nå, men det kan bli det senere når de har kommet lenger i kappløpet og det blir viktig.

Jeg mener teamene som bygger disse produktene oppå modellene og de store språkmodellene, har et ansvar. Så har vi foreldrenes ansvar når det gjelder tilsyn.

Med andre ord finnes det ingen enkeltgruppe som er ansvarlig for eller kan holdes ansvarlig for et barns opplevelse med teknologien. Vi må alle gjøre vår del. Jeg vil komme tilbake til noe du sa. Vi snakket om hvordan opplevelsen med KI er annerledes for et barn.

Er innsatsen ganske enkelt høyere når personer under 18 år bruker KI? Eller hva er det som gjør et barns opplevelse med KI annerledes enn en voksens?

Aderonke Akinbola: For barn er innsatsen eksponentielt høyere. For en voksen betyr et datainnbrudd et nytt kredittkort eller et nytt kort generelt.

Du kan få en e-post som sier at det har vært et datainnbrudd, men at opplysningene dine kanskje var trygge. For et barn er det annerledes. KI-data er et permanent digitalt fingeravtrykk for et barn. Det er en registrering av barndommens nysgjerrighet og personlighet, og det kan påvirke opptak til høyskole eller universitet.

Det kan også påvirke jobbmuligheter 20 år senere. Det jeg spurte om som barn, når jeg prøvde å lære og stille spørsmål til KI i foredraget mitt på AI Agent Security Summit, kan bli hengende igjen. Jeg snakker om tre skygger som følger barn i KI.

Den første er påvirkningens skygge. KI kan være mer overbevisende for et barn enn en forelder eller lærer. Når barn bruker disse verktøyene mye, er de som blanke ark. De tar inn alt, som svamper som absorberer alt. Et barn kan begynne å tro mer på en agent enn på en lærer eller forelder.

Jeg snakker også om eksponeringens skygge. Det er det permanente datasporet jeg nevnte tidligere. Til slutt har vi stagnasjonens skygge. Dette er viktig for prosjektledere. Hvis vi bygger KI-verktøy som er for hjelpsomme, der verktøyene gjør all tenkingen, svekker vi barnets kritiske tenkning og motstandskraft.

Å ikke få det til første gang er en del av læringsprosessen. Du prøver tre eller fire ganger, og til slutt får du det til. Det er slik vi alle lærer. Jeg prøvde å bygge en lyspære 99 ganger og fikk det til den siste gangen. Hvis vi ikke tar hensyn til dette, automatiserer vi bort den rotete læringsprosessen.

Læring er rotete. Læring er ikke alltid morsomt. Jeg vil ikke gjøre det samme fem ganger, men jeg må gjøre det fordi jeg vet at jeg bare finner fem millioner måter det ikke fungerer på. Når jeg finner den ene måten det fungerer på, er feilen også en del av prosessen.

Derfor mener jeg at innsatsen er så mye høyere for barn. De formes til menneskene de skal bli. Noen ganger trenger de å gjøre feil. Det er en del av prosessen, og modellene må også trenes til å si: «Hvis du bruker for mye tid sammen med meg, bør du gå ut og gjøre noe annet.»

Gå og snakk med en voksen. Vi må lede dem bort, i stedet for å være så engasjerende at de blir sittende fast i en samtale med noe som ikke engang finnes. Det er en datamaskin.

Takk for spørsmålet, Galen.

Galen Low: Det er det jeg liker ved dette. Fra et produktdesign- og brukergrensesnittperspektiv prøver vi å redusere friksjon. Vi prøver å gjøre alt så enkelt som mulig, men du kommer med et svært viktig poeng: Å gjøre noe for enkelt på et bestemt utviklingstrinn kan være skadelig.

Vi lager disse løsningene for voksne som prøver å bli mer effektive og få gjort mer i løpet av arbeidsdagen. Et barn utvikler derimot ferdigheter, lærer å tenke kritisk, og ser etter rollemodeller og autoritetspersoner de kan stole på. Det er helt annerledes enn hvordan voksne bruker teknologien.

Vi ser noe lignende på andre plattformer, der vi introduserer kontroller og påminnelser. Klokken min ber meg reise meg og gå litt rundt. Telefonen begrenser skjermtiden min. Dette bygges inn i teknologien.

Jeg liker ideen om at KI kan bli mer ansvarlig og litt mindre avhengighetsskapende, bare ved å inneholde slike funksjoner. «Du har brukt denne teknologien mye, og du stoler på meg, men gå også ut og få litt frisk luft. Kom tilbake senere.»

Det er en god idé å bygge inn, og den kan argumenteres for som relativt lite krevende teknisk. Det er kanskje ikke like enkelt å overbevise beslutningstakerne om at funksjonen bør inn i oppgavelisten, men jeg liker at vi har måter å ta høyde for dette på, fordi vi vet at det kommer til å skje.

Aderonke Akinbola: Jeg tror det kommer mye mer forskning på dette de kommende årene. Det forskes allerede på området, men vi trenger mer. Vi må undersøke hvilken effekt alle disse verktøyene har på barn under 18 år.

Vi har ikke kommet så langt med KI ennå. KI-boomen begynte bokstavelig talt rundt covid, og vi er teknisk sett fortsatt i tiden etter covid. Jeg tror ikke hele verden har kommet seg etter det. Mange av barna som ble født under covid, fyller seks år i år.

Vi har derfor fortsatt langt igjen når det gjelder forskning på effekten av disse tingene og hvordan vi kan bygge bedre systemer. Men inntil vi har svarene, må noen være en stemme som sier at vi må følge med på dette og ikke overse det.

Galen Low: Forskning tar tid, men i mellomtiden kan vi ikke være hensynsløse. Vi må ha samtalene, tale for yngre og mer sårbare brukere, og bruke tiden til å finne ut, med vitenskapelig grunnlag, hvilken effekt dette har og hvordan vi må utvikle løsningene.

Jeg liker poenget ditt om opplæring og læring. Jeg vet at du er en sterk forkjemper for KI-opplæring, forklarbar KI og verktøy som hjelper brukere med å tenke kritisk, i stedet for å være passive forbrukere av teknologi.

Du er også en sterk forkjemper for å inkludere etiske, trygge og sikkerhetsmessige hensyn når vi utformer og utvikler KI-drevne opplevelser. I tillegg til at vi har snakket om de store KI-selskapene og foreldrenes rolle, kan vi zoome inn på teamene som bygger disse løsningene?

For målgruppen min: Hva kan team gjøre for å bygge sikkerhetstiltak inn i KI-løsningene de lager, enten det er et komplett forbrukerprodukt eller en app som er laget med naturlig språk? Hvilke samtaler bør vi ha, og hvilke spørsmål bør vi stille hverandre for å ivareta den mer sårbare, yngre brukeren i det vi bygger?

Aderonke Akinbola: Vi må gå fra en svart boks-modell til en byggesteinsmodell. For prosjektledere betyr dette flere ting.

For det første bør vi snakke om ønsket friksjon. Vi ønsker ofte å fjerne friksjon, altså å fjerne det som skaper motstand. For barn må vi imidlertid legge til friksjon. Hvis et barn farer gjennom et spill og kommer seg raskt gjennom alle nivåene, finnes det ingen utfordring.

KI-en bør fungere som en kognitiv belastningsbalanserer som introduserer et litt vanskeligere problem for å få barnet til å tenke. Det trenger ikke være et hardere problem, bare noe mer utspekulert som får barnet til å tenke litt mer.

Jeg snakket også om forklarbar KI, altså KI som ikke bare gir et resultat, men forklarer prosessen den gikk gjennom for å komme frem til resultatet. I stedet for bare å si «Se denne videoen», kan den si: «Siden du likte planeter, vil jeg vise deg denne videoen om stjerner.»

Da lærer barnet om algoritmer. Vi bryter ting ned for dem og gir ikke bare svar, men veileder dem gjennom prosessen. Det er slik vi lærer. Vi bryter et stort problem ned i mindre deler og finner ut av det. Vi får ikke bare en ferdig løsning.

Til slutt tror jeg en stor sikkerhetsgevinst kan være å forbedre føderert læring. I stedet for å sende barnets data til en stor server beholder man all læringen lokalt på enheten. Da forlater dataene aldri soverommet. Det barnet spør om eller skriver som instruksjoner, avsluttes på den lokale enheten.

Vi sender ikke instruksjonene til en server som lagrer dem i tusenvis av år. De blir værende lokalt i barnesystemet. Hvis det jeg spurte en KI om da jeg var tre år, påvirker meg når jeg søker til høyskole eller universitet, legger vi opp til at barnet skal mislykkes.

Barn er naturlig svært nysgjerrige. De stiller spørsmål. Noen ganger synes vi spørsmålene er dumme, selv om det egentlig ikke finnes dumme spørsmål. Men forestill deg at disse spørsmålene blir værende på barnets register i lang tid. Jeg tror ikke barn trenger det.

Galen Low: Når du snakker om eksponeringens skygge og hvor permanent alt blir, er det skremmende som forelder. Selv rettssystemet vårt har innebygd en form for nåde, for eksempel når mindre alvorlige lovbrudd ikke havner på det permanente rullebladet dersom man er under en viss alder.

Det er ikke fordi vi ønsker at barn skal være hensynsløse, men fordi de lærer. Vi ønsker at de skal være nysgjerrige og lære, ikke nødvendigvis bli straffet. Det siste vi bør ønske, er at unge blir redde for å være nysgjerrige på teknologien. Det er slik de utvikler fortrolighet og ferdigheter.

Ved å unngå teknologien forsvinner den ikke når de blir voksne. De kan faktisk komme på etterskudd hvis de ikke får være nysgjerrige. Tryggheten ligger i at de kan utforske den i en avgrenset hage, med hensyn til fødererte data, uten at det havner på det permanente registeret.

Jeg ser for meg en modus. Jeg liker spillanalogien din, fordi spilldesignere ønsker å introdusere friksjon. Spillet skal være utfordrende, men ikke så vanskelig at ingen vil spille det. Man må finne balansen, og det skal kreve innsats.

Jeg liker ideen om en øvingsmodus. I mange spill lærer man alt på det første nivået. Det er greit å gjøre feil og dumme ting, fordi det er slik man lærer. Deretter kan man gradvis gå videre til mer seriøse nivåer eller bruksområder.

Tidligere snakket vi om at målet med et produkt ikke alltid er å skape en trygg opplevelse for en sårbar bruker eller et barn. Hvordan kan et produkt- eller prosjektteam løfte dette som et krav dersom det ikke allerede er en del av planen?

Hvordan kan de argumentere overfor interessentene for at de må bruke innsats eller budsjett på å bygge inn dette? Hvordan kan de presentere saken, og hvordan har det fungert for deg tidligere?

Aderonke Akinbola: For å være ærlig har jeg ikke selv argumentert for dette, fordi jeg ikke jobber direkte med å bygge KI-systemer nå. Jeg arbeider mer med nettverkssikkerhet, beskyttelse av nettverk og sikring av nettverk.

Men etter hvert kommer alle til å se hvor viktig dette er. Det er mulig at dette ikke er en diskusjon man vinner i et produktutviklingsteam akkurat nå. Med tiden, og med forskningen som er på vei, kommer det til å bli tydelig.

Generasjonen av barn som vokser opp nå, er annerledes, og vi kommer til å se effekten. Jeg vil si: Fortsett å argumentere. Fortsett å si fra. Selv om du må si det hundre millioner ganger, må du fortsette. Ikke bli lei av å si det. Hvis ideen din blir avvist nå, kommer den ikke alltid til å bli avvist.

Tenk på tiden før KI. Hvis alle hadde tiet stille, ville vi ikke hatt KI slik vi bruker det i dag. Fortsett å snakke. Jeg er sikker på at alle land snart vil se dette. Se bare på lovene i EU og Australia, som begrenser barns tilgang til sosiale medier.

Sosiale medier er svært forskjellig fra KI, men dette er likevel ett skritt i forsøket på å håndtere et stort problem. Fortsett å snakke om det og fremme saken. Jeg kommer til å fortsette å snakke om det til de som har makten, begynner å ta den sårbare befolkningen på alvor.

Galen Low: Jeg liker det. Sosiale medier og KI er teknologisk sett ikke det samme, men du har et godt poeng: Det er kanskje ikke opp til hver enkelt av oss å kjempe til døde for å få kravet inn i produktet eller prosjektet. Vi må likevel ha dialogen og samtalen.

En av tingene vi kollektivt gjorde feil med sosiale medier, var å lukke øynene for noe av det som skjedde. Vi fokuserte bare på en bestemt del av befolkningen og brukerbasen. Vi hadde ikke nok dialog til at noen på teamet kunne si: «Dette har vært i nyhetene, folk snakker om det, og vi bør ta hensyn til det.»

Da blir det ikke lenger ekstraordinært å foreslå dette, fordi det allerede er en del av samfunnsdebatten og populærkulturen. Det er en del av måten vi ser på teknologi på.

Hvis vi går tilbake til sosiale medier et øyeblikk, mener mange at det tok for lang tid å innføre sikkerhetstiltak for unge brukere. Risikerer vi å havne i den samme situasjonen med KI i dag? Hva står på spill i fremtiden hvis vi gjør dette feil nå?

Aderonke Akinbola: Det står mye på spill. Samtidig tror jeg vi er langt smartere nå enn vi var i tiden med sosiale medier, særlig når det gjelder å identifisere slike problemer.

I perioden med sosiale medier tok det tid å oppdage problemene, men nå har vi disse samtalene. Mange går inn i møter og taler barnas sak. Samtalene er allerede i gang.

Vi lever likevel i en verden der systemene som bygges, er mer profittstyrte enn etikkstyrte. Det kan derfor fortsatt ta tid, men bevisstheten om problemet er allerede der. Når man er bevisst på et problem, er halve problemet løst.

For å bygge videre på samtalen vår: KI skiller seg fra sosiale medier, men det finnes allerede KI i sosiale medier. Instagram har KI. WhatsApp har KI. Alt har KI. Det finnes agenter der som man kan stille spørsmål til, få svar fra og be om å forbedre ting.

Det vi forsøker å skille fra hverandre, er egentlig det samme. Vi har ikke tid til å kaste bort tid på dette. Vi må begynne å få ting inn i retningslinjer og ta dem helt til lovgivningsnivå. Vi må bli mer involvert i samtaler om ledelse, kanskje på lokalt nivå.

Vi ser begjæringer hele tiden. Folk forsøker å samle underskrifter. Vi kan begynne å ha samtaler i den retningen. Hvis utviklerne som skal bygge produktene, ikke tar hensyn til dette, kan vi endre tilnærmingen og gå via myndighetene.

Myndighetene finansierer mange offentlige skoler og bruker mye penger på barn. De har derfor også en rolle i å sikre at barna får tilgang til riktig teknologi som kan hjelpe dem.

Galen Low: Det er lett å glemme at en del av myndighetenes oppgave er å utvikle fremtidige generasjoner, enten det gjelder økonomien eller overlevelsen til en nasjon, region eller delstat.

Det er det de bør representere. Det som slår meg, er at forkjemperarbeid handler om å skape nok spenning eller en motvekt. Selv om vår kapitalistiske modell er profittdrevet, og barn ikke er kundene som skaper inntektene, er det forkjemperarbeidet som balanserer vekten.

Da blir barns sikkerhet viktig når team og organisasjoner bygger verktøy, enten det er komplette forbrukerverktøy ment for alle eller interne KI-agenter og apper laget med naturlig språk. Det bør fortsatt inngå i vurderingsmatrisen, fordi det å ikke ta hensyn til dette kan skade hvordan produktet eller verktøyet blir oppfattet og tatt i bruk.

Aderonke Akinbola: Jeg vil også legge til noe om en digital verge som jeg snakket om. Når vi lager disse modellene, må vi begynne å se på en digital verge som fungerer som en sentral hovedagent. Det er en etisk brannmur, ikke bare en app.

Den er et formidlingslag som gjør tre ting. For det første fungerer den som en følelsesmessig termostat. Den kan registrere at et barn kanskje blir for knyttet, avhengig eller isolert, og så roe situasjonen ned ved å oppmuntre barnet til å snakke med en voksen eller en venn. Den kan stenge ned for å beskytte barnet.

For det andre kan den digitale vergen fungere som en digital advokat som forhandler om personverninnstillinger med andre apper. Har barnet lov til å få tilgang til dette? Har barnet lov til å få tilgang til det? Hvis ikke, krever den at data lagres midlertidig og lokalt.

Den kommuniserer med andre apper for å kontrollere tillatelser. Kan barnet gå hit? Hvis ikke, avbryt, steng ned og ikke åpne dette.

Til slutt fungerer den digitale veilederen som en flygeleder. Den bryter kompleks KI ned i byggesteiner som barn faktisk kan forstå.

En av de viktigste delene er at beskyttelse ikke må være en luksus. Det må ikke være en premiumversjon, slik pro-versjoner finnes av alt mulig. Et barn i Ghana må kunne få den samme digitale advokaten som et barn i San Francisco.

Det er et filter vi bygger mot, som skal være trygt for alle, og ikke bare rettet mot en bestemt demografi eller befolkningsgruppe.

Galen Low: Dette er et svært godt poeng. Teknologien er noe vi må beskytte unge mot, men den kan også være teknologien som beskytter dem. Jeg liker ideen om en digital verge. Jeg skrev ned «vergeagent».

Jeg liker likhetsperspektivet. Det bør ikke være en luksus. Jeg har premiumkontoer i mange apper på grunn av funksjoner for barns sikkerhet eller familiedeling. Det er en fordel, ikke noe som er innebygd.

Jeg liker ideen din om at dette fungerer som en brannmur, mellomleddet som samhandler med all annen KI-teknologi og skaper en trygg opplevelse for sårbare brukere. Den kan forhandle på deres vegne, gi dem råd og gjøre noen av beslutningene deres mer transparente.

Den fungerer nesten som en moderator, en kraft som skaper balanse i hvordan andre KI-verktøy brukes og hvilke spørsmål som stilles. Jeg liker også tilgjengelighetsperspektivet. Det bør være noe alle kan bruke, som kan legges oppå systemene, ikke bare en app man installerer eller lar være å installere.

Hvor langt unna er vi å faktisk ha samtalen som trengs for å utvikle noe slikt? Er dette flere tiår unna, eller er det noe vi kan begynne å fokusere på i løpet av de neste årene for å tilby et beskyttelseslag for mer sårbare KI-brukere?

Aderonke Akinbola: Jeg synes dette er et svært godt spørsmål. Jeg tror ikke det bør ligge flere tiår frem i tid, men jeg vet at det heller ikke er noe som skjer om ett eller to år. Kanskje i løpet av de neste fem årene bør vi ha mer målrettede samtaler.

Vi trenger en bro mellom selskapene som bygger disse agentene, og myndighetene. Vi må ha samtaler sammen, sitte ved samme bord og stille krav. Hvis teknologiens mål er å gjøre livet enklere, bør den ikke samtidig sette oss i en farlig situasjon noen år senere.

Vi må begynne med kritiske samtaler før heller enn senere. Ti år er svært lang tid. Vi bygger allerede modeller, og Nvidia har en ny robot som utfører husarbeid. Hvor kommer vi til å være om fem år dersom roboten får oppgraderinger?

Galen Low: Du rammer inn spenningen svært godt. Vi har lært av sosiale medier og av ting som personvernforordningen GDPR. Den fungerer som et lovgivningsmessig lag, og det finnes verktøy som hindrer dataene dine i å spre seg overalt.

Det tok lang tid å få den samtalen. Nå vet vi at vi må ha den, men KI utvikler seg svært raskt og endrer seg raskere enn mange av teknologiene vi har hatt tidligere. Derfor må vi starte dialogen nå og ha en åpen samtale.

Det handler ikke bare om å lære av historien og unngå at den gjentar seg. Teknologien er ny og fersk, og vi må ha en aktiv samtale om den hele tiden.

Aderonke Akinbola: For å bygge videre på noe du sa: Jeg likte ideen om moduser, for eksempel en voksenmodus og en barnemodus med alle disse funksjonene.

Vi trenger kanskje ikke en helt ny app. Det kan være et lag i verktøyene vi allerede bruker, der man kan bytte fra voksenmodus til barnemodus, eller fra småbarnsmodus til tenåringsmodus. Jeg mener ærlig talt at det ikke er for mye å be om i dag.

Milliarder av dollar investeres i denne bransjen. Det ville være uklokt å fortsette å pumpe penger inn i noe som potensielt kan ødelegge en ny generasjon barn, i stedet for å hjelpe dem. Hvis vi investerer så mye ressurser, må vi også bygge riktig, slik at vi ikke må rive ned de samme systemene noen år senere og bygge noe annet.

Galen Low: Jeg liker det. Utvikle med tanke på fremtiden.

Aderonke Akinbola: Det liker jeg som tema for denne podkasten.

Galen Low: Der har vi kanskje tittelen: «Fremtidige generasjoner og hvordan vi utvikler for dem». Jeg liker det. Dette har vært flott. Ade, tusen takk for at du tok deg tid til å snakke med meg i dag. Jeg har hatt det veldig morsomt og lært mye.

Jeg liker innsiktene dine og måten du tenker på. Vi snakket tidligere i det grønne rommet om at du kanskje ikke skal reise rundt på konferanser i år. For de som vil lære mer om deg, hvor kan de finne deg?

Aderonke Akinbola: Finn meg på LinkedIn. Søk på fornavnet og etternavnet mitt: Aderonke Akinbola. Jeg holder til i San Francisco-området. Det finnes kanskje flere med samme fornavn og etternavn, men akkurat nå tror jeg at jeg er den eneste i San Francisco-området.

Du finner meg på LinkedIn. Jeg har ikke et nettsted ennå. Hvis du vil se det siste foredraget mitt, ligger det også på YouTube på Sanity-kanalen. Da får du med deg den innledende samtalen som ledet frem til dette.

Jeg arbeider også med nettstedet mitt og andre ting, men det er ikke helt klart ennå. Andre personlige prosjekter tar mesteparten av tiden min akkurat nå. Innen sommeren vil jeg være mer merkevarefokusert, men foreløpig handler det om meg og arbeidet for barns sikkerhet.

Galen Low: Jeg legger ved en lenke til profilen din i shownotatene for lytterne våre, samt en lenke til foredraget ditt. Jeg likte det veldig godt. Ade, tusen takk igjen. Dette var flott.

Aderonke Akinbola: Tusen takk, Galen. Det var flott å være her. Takk for muligheten.

Galen Low: Da var det alt for dagens episode av podkasten «The Digital Project Manager». Hvis du likte denne samtalen, må du abonnere der du lytter. Hvis du vil ha enda mer praktisk innsikt, casestudier og arbeidsbøker, kan du opprette en gratis konto hos oss på thedigitalprojectmanager.com.

Takk for at du lyttet, og vi høres neste gang.