Tekoäly lapsille: miten projektitiimit voivat rakentaa sitä vastuullisesti

Galen Low: Useimpia tekoälyratkaisuja ei ole suunniteltu lapsille, mutta se ei tarkoita, etteivätkö lapset käyttäisi niitä. Tämä herättää kysymyksen: kuka on vastuussa lasten turvallisuudesta tekoälyyn perustuvissa kokemuksissa? Ovatko vastuussa vanhemmat? Ovatko vastuussa tekoälykokemuksia suunnittelevat ja rakentavat tiimit? Vai ovatko vastuussa itse tekoäly-yritykset?

Ja millä tavoin voimme johtaa tiimejämme esittämään oikeita eettisiä kysymyksiä ja edistää asianmukaisten suojatoimien rakentamista luomiimme kokemuksiin? Tämän aiheen tarkastelemiseksi kutsuin vieraaksi Googlen teknisen ohjelmapäällikön, joka toimii myös vahvana lasten turvallisuuden ja kyberturvallisuuden puolestapuhujana tekoälyn ja teknologian alalla.

Yhdessä perehdymme siihen, miksi panokset ovat nuorempien tekoälyn käyttäjien kohdalla korkeammat kuin aikuisten kohdalla, mitä voimme tehdä lasten turvallisuuden puolesta ja sen huomioimiseksi tekoälyprojekteissamme ja -tuotteissamme sekä siihen, miten tekoälystä itsestään voisi tulla lasten turvallisuuden puolestapuhuja teknologian kehityksen alkaessa ohittaa ihmisten kykymme luoda merkityksellisiä toimintaperiaatteita, lainsäädäntöä ja koulutusta lasten ja tekoälyn välisestä vuorovaikutuksesta. Toivottavasti nautit jaksosta.

Tervetuloa The Digital Project Manager Podcastiin – ohjelmaan, joka auttaa toimitusjohtajia työskentelemään fiksummin, toimittamaan sujuvammin ja johtamaan tiimejään luottavaisin mielin tekoälyn aikakaudella. Olen Galen, ja joka viikko perehdymme käytännön strategioihin, nouseviin trendeihin, hyväksi havaittuihin viitekehyksiin ja toisinaan myös tosielämän tarinaan projektirintamalta. Johdatpa sitten valtavia muutosprojekteja, hallitset tekoälyn työnkulkuja tai yrität vain pitää kaaoksen kurissa, olet oikeassa paikassa. Aloitetaan.

Tänään puhumme tekoälystä lasten turvallisuuden näkökulmasta sekä siitä, miten projekti- ja tuotetiimit voivat esittää oikeita kysymyksiä luodakseen tekoälyyn perustuvia kokemuksia, jotka suojaavat haavoittuvia käyttäjiä.

Seurassani on tänään Aderonke Akinbola – puhuja, lasten turvallisuuden ja tekoälyekosysteemien puolestapuhuja sekä Googlen tekninen ohjelmapäällikkö. Adella on yli kolmen vuoden kokemus tuotekehityksestä ja ohjelmahallinnasta, minkä lisäksi hän on työskennellyt tietoturvainsinöörinä Applella. Hän puhui hiljattain myös AI Agent Security Summit -tapahtumassa tekoälyagenttien suojaamisesta lapsikeskeisissä ekosysteemeissä.

Ade, kiitos paljon, että liityit seuraani tänään.

Aderonke Akinbola: Hei Galen, olen todella iloinen saadessani olla täällä.

Galen Low: Olen innoissani saadessani sinut vieraaksi. Olen odottanut tätä. Olen pitänyt keskusteluistamme, joita kävimme ennen tätä. Olen todella innostunut syventymään aiheeseen, joten toivon, että eksymme yhdessä kaikenlaisiin sivupolkuihin. Mutta varmuuden vuoksi tässä on tämän päivän keskustelulle hahmottelemani etenemissuunnitelma.

Aloittaaksemme halusin luoda pohjan esittämällä sinulle yhden suuren ja vaikean kysymyksen, johon kuuntelijani haluavat kuulla näkemyksesi. Sen jälkeen haluaisin ottaa hieman etäisyyttä ja puhua ehkä kolmesta asiasta. Ensinnäkin halusin puhua siitä, mikä tekee lapsen tekoälykokemuksesta niin erilaisen kuin aikuisen kokemuksesta ja mikä tekee tekoälykokemuksesta turvallisen alle 18-vuotiaille nyt ja tulevaisuudessa.

Sen jälkeen haluaisin siirtyä käytäntöön ja puhua siitä, miten tekoälyratkaisuja kehittävät projekti- ja tuotetiimit voivat esittää oikeita eettisiä kysymyksiä sekä suunnitella kokemuksen, joka opettaa, selittää ja suojaa nuorempia käyttäjiä. Lopuksi haluaisin kuulla näkemyksesi siitä, miltä tekoälyagenttien ja tulevien sukupolvien tulevaisuus näyttää, jos onnistumme etiikan, tietoturvan ja turvallisuuden suhteen.

Miltä tämä kuulostaa?

Aderonke Akinbola: Se kuulostaa täydelliseltä. Sitä varten olemme täällä. Käydään suoraan asiaan.

Galen Low: Käydään suoraan asiaan. Hienoa. Pidän siitä. Ajattelin aloittaa yhdellä suurella ja vaikealla kysymyksellä. Otan ensin hieman vauhtia. Viime kuukausina lasten turvallisuus ja sosiaalinen media ovat olleet otsikoissa.

Australia otti hiljattain käyttöön sosiaalisen median kiellon alle 16-vuotiaille, ja Yhdistynyt kuningaskunta sekä muut maat harkitsevat jotain vastaavaa. Sosiaalinen media ja tekoäly eivät tietenkään ole sama asia, mutta monet samat etiikkaan ja turvallisuuteen liittyvät kysymykset koskevat myös nuorten tekoälyn käyttöä.

Suuri kysymykseni kuuluu siis näin: pitäisikö meidän mielestäsi rakentaa tekoälyratkaisuja alle 18-vuotiaille lapsille, kun otetaan huomioon kokemuksesi tietoturvasta ja tuotekehityksestä maailman suurimmissa ja tekoälyyn keskittyneimmissä teknologiayrityksissä?

Aderonke Akinbola: Tämä on varmasti miljoonan dollarin kysymys, Galen. Ensinnäkin oma näkemykseni on, että olemme jo ohittaneet sen vaiheen, jossa kysytään, pitäisikö meidän rakentaa heille tekoälyjärjestelmiä.

Keskitymme enemmän siihen, miten nämä järjestelmät rakennetaan heille. Todellisuudessa leikkikaveri on jo täällä. Jos päätämme olla rakentamatta erityisesti lapsille suunnattua ja turvallista tekoälyä, lapset eivät kuitenkaan lopeta teknologian käyttöä. Se on heidän saatavillaan.

He käyttävät vain aikuisille tarkoitettua mustan laatikon tekoälyä, mikä on erittäin vaarallista, koska aikuisten tekoäly on rakennettu tehokkuutta varten. Lapsemme tarvitsevat kuitenkin kehitystä tukevia työkaluja. Jos emme rakenna oikeaa versiota, jätämme heidät käytännössä digitaaliseen erämaahan ilman kompassia. Emme siis enää ole siinä vaiheessa, jossa pohditaan, pitäisikö niitä rakentaa heille.

Keskustelun pitäisi nyt keskittyä siihen, miten ne rakennetaan heille.

Galen Low: Mielestäni huomiosi teknologian tavoitteista on todella hyvä. Aikuisten näkökulmasta tavoitteet ovat erilaiset kuin siinä, miten teknologiaa käytetään lasten kohdalla. Ja kuten tiedämme sosiaalisen median perusteella, edes se, että sanomme alaikäisten ei pitäisi käyttää tätä, ei estä heitä käyttämästä sitä.

Olen siis kanssasi samaa mieltä. Pandora on jo päästetty ulos lippaasta, ja nyt meidän tehtävämme on luoda turvallisia ympäristöjä. Vaikka tarkoitettu käyttäjä ei olisi alle 18-vuotias tai lapsi, mietin, voisimmeko ottaa hieman etäisyyttä. Kuuntelin tallenteen puheestasi AI Agent Security Summit -tapahtumassa, ja ennen sitä olit kirjoittanut LinkedInissä, että lasten leikkipaikat eivät tule olemaan vain fyysisiä, vaan myös digitaalisia, älykkäitä ja arvaamattomia.

Mitä tarkoitat tällä, ja missä vaiheessa meidän pitäisi alkaa suunnitella tätä kaikkea, mitä rakennamme tänään?

Aderonke Akinbola: Ajatellaanpa fyysistä leikkipaikkaa. Monissa niistä on nykyään pehmeät alustat ja pyöristetyt reunat. Tekoäly on myös eräänlainen leikkipaikka.

Se on kuitenkin erilainen leikkipaikka. Se on leikkipaikka, joka vastaa, puhuu takaisin ja muokkaa ajatuksia. Koska lapset liittävät asioihin tunteita ja jotkut lapset jopa ajattelevat tekoälyagenttien olevan todellisia, heistä tulee ainutlaatuisen haavoittuvia manipuloinnille.

Miten tähän pitäisi varautua? Tätä ei pidä tehdä vain laadunvarmistusvaiheessa. Tarvitsemme siirtymistä vasemmalle, siis turvallisuuden tuomista osaksi prosessia jo varhaisessa vaiheessa. Tässä tarvitaan tietoturvan lisäksi myös lastenpsykologeja. Tällaiset asiantuntijat pitää ottaa mukaan jo arkkitehtuuritasolla.

Mallin koulutusvaiheessa on kysyttävä esimerkiksi: onko tämä malli optimoitu myynnin tekemiseen vai ihmisen kehityksen tukemiseen? Jos muutamme etenemissuuntaa ja siirrymme laadunvarmistusvaiheen ulkopuolelle mallin varsinaiseen rakentamiseen, alamme todella huomioida lapset.

Luomme digitaalisesti lapsikeskeisempää leikkipaikkaa ja ajattelemme samalla lasten suojaamista.

Galen Low: Pidän vertauksesta pehmustettuun lattiaan ja pyöristettyihin reunoihin. Se ei koske välttämättä vain leikkipaikkoja, vaan myös sellaisten asioiden tekemistä turvallisiksi, joita ei ole suunniteltu lapsille.

Kun poikani oli pieni, meidän piti tehdä paljon kodin lapsiturvallisuuteen liittyviä muutoksia. Se oli aivan eri tasoinen asia, ei siksi, että asiat olisi tarkoitettu lapsen käytettäväksi, vaan koska tiesimme hänen kuitenkin päätyvän niiden luo. Emme halunneet hänen satuttavan itseään, vaan halusimme hänen kehittyvän terveellä tavalla.

Pidän ajatuksestasi, ja tiedän, että olet vahvasti mukana myös kyberturvallisuudessa. Sekään ei voi olla jälkikäteen lisättävä asia. Kuulijoitani ajatellen: ehdotatko, että lastenpsykologi pitäisi ottaa mukaan projektiin projektitiimin tai tuotekehityksen tasolla?

Vaikka tuotteen tavoitteena olisi esimerkiksi rahan tekeminen ja myyminen, vaikka kyse olisi vain myyntityökalusta, pitäisikö lastenpsykologin tai alaikäisten etua valvovan henkilön silti olla mukana tuotekehityksessä ja projektisuunnittelussa, vaikka se ei olisi kyseisen tuotteen ensisijainen tavoite tai vaatimus?

Aderonke Akinbola: Vaikka emme palkkaisi heitä kokopäiväisiksi työntekijöiksi, voisimme käyttää heitä konsultteina. Ajattelen nyt GPT:tä ja Geminiä. Jos sanoisimme alun perin luoneemme tämän teknologian vain aikuisille, jotta he voisivat työskennellä nopeammin, teknologia on mennyt jo paljon pidemmälle.

Emme enää elä aikaa, jolloin lapset eivät käyttäisi iPadeja. Meillä on kokonainen iPad-lasten sukupolvi. Miten estämme iPad-lapsia käyttämästä Geminiä?

Galen Low: Voin kertoa kokemuksesta. Poikani on ollut teknologian kanssa erittäin hyvä ja vastuullinen, joten olemme antaneet hänelle pääsyn laitteeseen.

Googlen näkökulmasta tekoälytila on osa hakua. En siis sanonut hänelle: tässä on Gemini, opetan sinulle sen käytön. Hän vain haki jotain ja yhtäkkiä kävi keskustelua tekoälyn kanssa.

Kyllä, tämä on ehdottomasti yleistä ja ajankohtaista.

Aderonke Akinbola: Asun itsekin taaperon kanssa, eikä hän osaa vielä edes kunnolla puhua, mutta hän osaa sanoa ”Hei Siri”.

Galen Low: Aivan uskomatonta, eikö?

Aderonke Akinbola: Hän kuulee minun sanovan sen jatkuvasti. Mutta miten Siri vastaa lapsen sanomaan ”Hei Siriin”? Lapsi voi kysyä Siriltä loputtomasti erilaisia asioita. Siksi meidän pitäisi aloittaa keskustelut ja rakentaa vastuullisesti, vaikka emme palkkaisikaan heitä kokopäiväisiksi työntekijöiksi.

En odota tämän tapahtuvan seuraavan kahden tai viiden vuoden aikana. Elämme tekoälybuumia, ja joka viikko tulee uusia päivityksiä. Kaikilla on päivitys. Ajattelen siis ennen kaikkea sitä, että aloitamme keskustelut ja tuomme nämä ihmiset mukaan päätöksentekoon.

Vastaus ei ehkä synny heti, mutta voimme lisätä tietoisuutta tarpeesta ja katsoa, mihin se johtaa.

Galen Low: Pidän tästä. Siri-esimerkki on hyvä, koska emme varsinaisesti antaneet lapselle laitetta tarkoituksella.

Lapsi voi vain puhua ja päästä käsiksi teknologiaan sekä olla sen kanssa vuorovaikutuksessa. Sanoit, ettei kyse ehkä ole kokopäiväisestä tuote- tai projektitiimin jäsenestä, vaan konsultista. Tässä on mielestäni yhteys myös kyberturvallisuuteen, koska kyberturvallisuudessa ei varauduta vain ensisijaiseen yleisöön ja hyviin toimijoihin.

On varauduttava pahantahtoisiin toimijoihin ja asioihin, joita voi tapahtua tahallisesti tai vahingossa. On tarkasteltava poikkeustapauksia ja reunatapauksia. Mainitsit päivitykset, ja elämme ehdottomasti tekoälybuumia. Mallit muuttuvat jatkuvasti.

Esitän haastavan kysymyksen: tekevätkö tekoäly-yritykset mielestäsi riittävästi julkaistessaan päivityksiä ja ennakoidessaan sitä, että alle 18-vuotiaat ja lapset käyttävät heidän alustojaan ja mallejaan?

Aderonke Akinbola: En usko, että se on tällä hetkellä niiden painopiste. Tekoälyn käyttömahdollisuuksia on valtavasti, ja monet yritykset tutkivat parhaillaan sitä, miten kaikkea tekoälyn tarjoamaa potentiaalia voidaan hyödyntää.

Miten malleistamme tehdään älykkäämpiä? Miten niitä koulutetaan ratkaisemaan ongelmia nopeammin tässä erittäin nopeatempoisessa ympäristössä? En usko, että lasten puolesta tehdään paljonkaan vaikuttamistyötä, koska kaikki yrittävät päästä nopeasti markkinoille.

Tällä hetkellä keskitytään enemmän markkinoille menemiseen kuin lasten suojelemiseen. Siksi kiinnostuin henkilökohtaisesti kyberturvallisuudesta lapsikeskeisissä tekoälytiloissa.

Alustavissa vaiheissa keskitytään enemmän vanhempiin kuin teknologian rakentajiin. Näin vastaisin tähän tällä hetkellä.

Galen Low: Tämä on todella kiinnostavaa. Tekoälybuumi on helppo nähdä myös tekoälykilpailuna. Kilpailussa kaikki yrittävät rakentaa nopeimman auton, ja turvavyöt voidaan asentaa myöhemmin.

Miten rakennamme moottorin, jousituksen ja todella nopeasti kulkevan ajoneuvon? Jarrut voidaan ehkä lisätä seuraavaksi, mutta pehmustetut istuimet ja lastenistuimen kiinnikkeet tuntuvat jäävän myöhemmäksi. Niitä ei nähdä teknologian päätavoitteena.

Vastuu ei kuulu yhdelle ryhmälle. Tuotteita rakentavilla tiimeillä on vastuunsa mallien ja suurten kielimallien päällä, vanhemmilla on valvontaan liittyvä vastuunsa, ja kaikkien on tehtävä oma osuutensa.

Palaan siihen, mitä sanoit lapsen erilaisesta tekoälykokemuksesta. Ovatko panokset yksinkertaisesti suuremmat, kun alle 18-vuotiaat käyttävät tekoälyä? Mikä tekee lapsen tekoälykokemuksesta erilaisen kuin aikuisen?

Aderonke Akinbola: Lasten kohdalla panokset ovat eksponentiaalisesti suuremmat. Aikuiselle tietomurto voi tarkoittaa uutta luottokorttia tai muuta korttia. Hän voi saada sähköpostin, jossa kerrotaan tietomurrosta, ja ehkä tiedot olivat turvassa.

Lapsen kohdalla tilanne on erilainen. Lapsen tekoälydata on pysyvä digitaalinen sormenjälki. Se on tallenne lapsuuden uteliaisuudesta ja persoonallisuudesta, ja se voi vaikuttaa korkeakouluun pääsyyn tai työmahdollisuuksiin 20 vuoden päästä.

Puheessani käsittelin kolmea varjoa, jotka seuraavat lapsia tekoälyn maailmassa. Ensimmäinen on vaikutusvalta. Tekoäly voi olla lapselle vakuuttavampi kuin vanhempi tai opettaja.

Lapset ovat kuin tyhjiä tauluja. He omaksuvat kaiken kuin sienet. Lapsi voi alkaa uskoa agenttia enemmän kuin opettajaa tai vanhempaa.

Toinen on altistumisen varjo, eli aiemmin mainitsemani pysyvä datavanan. Kolmas on pysähtyneisyyden varjo. Tämä on projektipäälliköille suuri kysymys: jos rakennamme liian avuliaita tekoälytyökaluja, joissa työkalut tekevät kaiken ajattelun, heikennämme lasten kriittistä ajattelua ja kykyä sietää epäonnistumista.

Oppiminen on sotkuista. Kaikki ei onnistu ensimmäisellä kerralla. Yritämme uudelleen kolme tai neljä kertaa ja lopulta onnistumme. Jos tekoäly automatisoi pois tämän sotkuisen oppimisprosessin, lapset eivät opi samalla tavalla.

Lasten kohdalla panokset ovat siis paljon suuremmat. Heitä muovataan niiksi ihmisiksi, joita heistä tulee. Heidän täytyy joskus tehdä virheitä. Mallien on myös ohjattava heitä: jos he viettävät kanssani liikaa aikaa, mene ulos, puhu aikuiselle ja tee jotain muuta. Meidän pitäisi ohjata heitä poispäin sen sijaan, että olemme niin kiinnostavia, että he takertuvat keskusteluun jonkin sellaisen kanssa, jota ei edes ole olemassa.

Galen Low: Tuotesuunnittelussa ja käyttöliittymäsuunnittelussa yritämme vähentää kitkaa ja tehdä asioista mahdollisimman helppoja. Esitit kuitenkin tärkeän näkökulman: jos teemme asioista liian helppoja tietyssä kehitysvaiheessa, se voi olla haitallista.

Aikuisille suunnitellaan tehokkuutta lisääviä ratkaisuja, jotta saisimme työpäivässä enemmän aikaan. Lapsi taas kehittää taitoja, opettelee kriittistä ajattelua ja etsii luotettavia auktoriteetteja.

Pidän ajatuksesta, että tekoälyn voima voisi olla vastuullisempi ja hieman vähemmän riippuvuutta aiheuttava. Teknologiaan voisi rakentaa kehotteita, jotka muistuttavat pitämään tauon, lähtemään ulos ja palaamaan myöhemmin.

Aderonke Akinbola: Uskon, että tulevina vuosina aiheesta tehdään paljon enemmän tutkimusta. Tällä hetkellä tutkimusta tehdään jonkin verran, mutta tarvitsemme sitä lisää. Tekoälybuumi alkoi käytännössä koronan aikana, eikä maailma ole vieläkään täysin toipunut.

Meillä on vielä pitkä matka siihen, että ymmärrämme näiden työkalujen vaikutukset lapsiin ja opimme rakentamaan parempia järjestelmiä. Siihen saakka jonkun on toimittava äänenä ja muistutettava, että tähän on kiinnitettävä huomiota.

Galen Low: Tutkimus vie aikaa, mutta sillä välin emme voi toimia vastuuttomasti. Meidän on käytävä keskusteluja ja puolustettava nuorempia ja haavoittuvampia käyttäjiä, kunnes tiedämme tieteen avulla tarkemmin, millaisia vaikutuksia näillä asioilla on.

Mitä tiimit voivat tehdä rakentaakseen turvallisuus- ja tietoturvatoimet osaksi luomiaan tekoälyratkaisuja? Millaisia keskusteluja meidän pitäisi käydä ja millaisia kysymyksiä esittää, jotta haavoittuvammat ja nuoremmat käyttäjät huomioidaan?

Aderonke Akinbola: Meidän on siirryttävä mustan laatikon mallista rakennuspalikkamalliin. Projektipäälliköille tämä tarkoittaa muutamaa asiaa.

Ensinnäkin tarkoituksellista kitkaa. Haluamme yleensä poistaa kitkaa, mutta lasten kohdalla sitä pitäisi joskus lisätä. Jos lapsi etenee pelissä liian nopeasti kaikilla tasoilla, haastetta ei ole.

Tekoälyn pitäisi toimia kognitiivisen kuormituksen tasapainottajana ja esitellä hieman haastavampi ongelma, joka saa lapsen ajattelemaan. Sen ei välttämättä tarvitse olla vaikeampi ongelma, vaan ovelampi.

Toinen asia on selitettävä tekoäly. Sen ei pitäisi vain antaa lopputulosta, vaan selittää prosessi, jonka avulla se päätyi siihen. Jos lapsi pitää planeetoista, tekoäly voisi tarjota videon tähdistä ja selittää, miksi se teki tämän valinnan. Näin lapsi oppii algoritmista lukutaitoa.

Kolmas suuri tietoturvahyöty voisi olla hajautetun oppimisen vahvistaminen. Sen sijaan, että lapsen data lähetetään suurelle palvelimelle, oppiminen pidetään paikallisesti laitteessa. Data ei koskaan poistu makuuhuoneesta. Kyselyt ja kehotteet päättyvät paikalliselle laitteelle.

Jos kolmivuotiaan lapsen kysely vaikuttaa hänen elämäänsä vielä korkeakouluun hakiessa, asetamme hänet epäonnistumaan. Lapset ovat luonnostaan uteliaita ja kysyvät paljon. Heidän ei pitäisi kantaa tällaisia tietoja mukanaan ikuisesti.

Galen Low: Kun puhut altistumisen varjosta ja kaiken pysyvyydestä, se on vanhemmalle pelottavaa. Myös oikeusjärjestelmään on rakennettu armoa. Alaikäisen tekemät vähäiset rikokset eivät välttämättä päädy pysyvään rekisteriin, koska lapset oppivat.

Emme halua lasten pelkäävän teknologiaa tai olevansa uteliaita. Uteliaisuus rakentaa taitoa ja sujuvuutta. Turvallinen harjoittelutila voisi olla kuin pelin harjoittelutila: siellä voi tehdä virheitä ja kokeilla asioita, ennen kuin siirrytään vakavampiin tilanteisiin.

Miten tuotetiimi tai projektitiimi voi nostaa turvallisuuden vaatimukseksi, jos sitä ei ole vielä sisällytetty suunnitelmaan? Miten asia perustellaan sidosryhmille ja budjetille?

Aderonke Akinbola: Rehellisesti sanottuna en ole itse tehnyt tästä ehdotusta, koska en tällä hetkellä työskentele tekoälyjärjestelmien rakentamisen parissa. Olen enemmän verkkojen turvallisuuden ja suojaamisen puolella.

Uskon kuitenkin, että ajan myötä kaikki näkevät tämän tärkeyden. Keskustelua ei ehkä voi voittaa juuri nyt tuotekehitystiimissä, mutta tutkimuksen edetessä merkitys tulee selväksi.

Jatkakaa asian puolustamista ja puhukaa siitä. Vaikka idea torjutaan nyt, sitä ei torjuta ikuisesti. Puhukaa siitä sata miljoonaa kertaa, jos on tarpeen. Myös sosiaalisen median alaikäisiä koskevat rajoitukset ovat yksi askel suuren ongelman rajoittamisessa.

Galen Low: Olemme sosiaalisen median kohdalla ehkä sulkeneet silmämme liian pitkään. Keskityimme vain tiettyyn käyttäjäryhmään emmekä käyneet tarpeeksi keskustelua siitä, mitä tapahtui.

Jos palaamme hetkeksi sosiaaliseen mediaan, olemmeko vaarassa joutua tekoälyn kanssa samaan tilanteeseen? Mitä on tulevaisuudessa vaakalaudalla, jos toimimme nyt väärin?

Aderonke Akinbola: Paljon on vaakalaudalla. Olemme kuitenkin nykyään viisaampia kuin sosiaalisen median aikakaudella ja tunnistamme ongelmia nopeammin. Näitä keskusteluja käydään jo, ja monet puhuvat lasten puolesta.

Nykyiset järjestelmät ovat kuitenkin enemmän voitto- kuin etiikkavetoisia. Tietoisuus ongelmasta on olemassa, mutta ratkaisu voi silti viedä aikaa.

Tekoäly ja sosiaalinen media ovat myös yhä enemmän sama asia. Instagramissa ja WhatsAppissa on tekoälyä, ja lähes kaikkialla on agentteja, joille voi esittää kysymyksiä ja antaa tehtäviä. Meillä ei ole paljon aikaa hukattavaksi.

Meidän on vietävä keskustelua toimintaperiaatteisiin ja lainsäädäntöön, osallistuttava johtamista koskeviin keskusteluihin ja puhuttava asiasta myös paikallistasolla. Jos kehittäjät eivät huomioi asiaa, voimme lähestyä sitä hallinnon kautta. Hallitukset rahoittavat julkisia kouluja ja sijoittavat lapsiin, joten niillä on myös vastuu varmistaa, että lapset saavat käyttöönsä oikean teknologian.

Galen Low: Hallitusten tehtävänä on osaltaan kehittää tulevia sukupolvia. Vaikuttamistyö luo vastavoimaa voitontavoittelulle ja auttaa nostamaan lasten turvallisuuden tärkeäksi näkökulmaksi.

Sen pitäisi kuulua jokaisen tuotteen tai työkalun harkintakehykseen, oli kyseessä kuluttajatuote, sisäinen työkalu, tekoälyagentti tai nopeasti rakennettu sovellus. Jos asiaa ei huomioida, se voi vahingoittaa tuotteen mainetta tai käyttöönottoa.

Aderonke Akinbola: Haluan lisätä vielä digitaalisen suojelijan, josta puhuin. Mallien rakentamisessa meidän pitäisi alkaa ajatella digitaalista suojelijaa keskitettynä pääagenttina. Se olisi eettinen palomuuri ja välityskerros, ei vain sovellus.

Se toimisi ensinnäkin tunteiden termostaattina. Se voisi havaita, jos lapsi kiintyy liikaa, tulee riippuvaiseksi tai eristäytyy, ja ohjata häntä puhumaan aikuiselle tai ystävälle. Tarvittaessa se voisi sulkeutua lapsen suojaamiseksi.

Toiseksi se voisi toimia digitaalisena asianajajana, joka neuvottelee yksityisyysasetuksista muiden sovellusten kanssa. Onko lapsella lupa käyttää tätä? Jos ei, tiedot pitäisi tallentaa väliaikaisesti ja paikallisesti.

Kolmanneksi digitaalinen suojelija voisi toimia lennonjohtajana ja pilkkoa monimutkaisen tekoälyn rakennuspalikoiksi, joita lapset pystyvät käsittelemään.

Suojan ei pitäisi olla ylellisyys eikä maksullinen premium-ominaisuus. Ghanalaisella lapsella pitäisi olla käytössään sama digitaalinen asianajaja kuin San Franciscossa asuvalla lapsella. Suojan pitää olla kaikkien saatavilla.

Galen Low: Tämä on erittäin hyvä huomio. Teknologiaa pitää käyttää nuorten suojaamiseen, mutta teknologiasta voi myös tulla se, joka suojaa heitä. Pidän ajatuksesta digitaalisesta suojelijasta ja tasa-arvonäkökulmasta.

Sen pitäisi olla palomuuri ja välittäjä, joka toimii muiden tekoälyteknologioiden kanssa turvallisen kokemuksen luomiseksi, neuvottelee käyttäjän puolesta ja tekee päätöksistä läpinäkyvämpiä. Se toimisi tasapainottavana ja valvovana voimana.

Kuinka kaukana olemme siitä, että alamme todella kehittää tällaista? Onko se vuosikymmenten päässä vai voisimmeko keskittyä siihen jo lähivuosina?

Aderonke Akinbola: En usko, että tämä on vuosikymmenten päässä, mutta se ei myöskään tapahdu yhdessä tai kahdessa vuodessa. Ehkä seuraavan viiden vuoden aikana voimme käydä paljon keskittyneempiä keskusteluja.

Tarvitsemme sillan näitä agentteja rakentavien yritysten ja hallitusten välille. Niiden on istuttava saman pöydän ääreen, esitettävä vaatimuksia ja päätettävä, miten teknologia voi helpottaa elämää ilman, että se vie meidät vaaralliseen tilanteeseen muutaman vuoden päästä.

Meidän on aloitettava kriittiset keskustelut ennemmin kuin myöhemmin. Emme voi odottaa kymmentä vuotta, koska jo nyt rakennetaan robotteja, jotka suorittavat kotitaloustehtäviä. Missä olemme viiden vuoden päästä, jos nämä robotit saavat lisää päivityksiä?

Galen Low: Kuvasit jännitteen hyvin. Olemme oppineet sosiaalisesta mediasta ja tietosuojasta, esimerkiksi GDPR:stä, mutta näiden keskustelujen käyminen kesti kauan.

Tekoäly kehittyy nyt nopeasti, joten keskustelu on aloitettava heti ja sitä on käytävä aktiivisesti jatkuvasti. Kyse ei ole vain siitä, että opimme historiasta, vaan siitä, että tämä teknologia on uutta ja muuttuu nopeasti.

Aderonke Akinbola: Voisimme myös ajatella eri käyttötiloja. Sovelluksen ei tarvitse olla kokonaan uusi. Sama työkalu voisi sisältää aikuisille tarkoitetun tilan, lapsitilan, taaperotilan ja teini-ikäisille tarkoitetun tilan, joissa olisi erilaiset ominaisuudet.

Tässä ajassa se ei ole liikaa vaadittu. Tähän alaan sijoitetaan miljardeja dollareita, ja olisi hyvin epäviisasta rahoittaa jotain, joka voi mahdollisesti tuhota uuden lasten sukupolven sen sijaan, että auttaisi heitä.

Jos käytämme paljon resursseja, meidän on myös rakennettava oikein, jotta samoja järjestelmiä ei tarvitse muutaman vuoden kuluttua purkaa ja rakentaa uudelleen.

Galen Low: Rakennetaan tulevaisuutta varten.

Aderonke Akinbola: Pidän tuosta podcastin aiheena.

Galen Low: Siinäpä se. Ehkä otsikko voisi olla ”Tulevat sukupolvet ja se, miten rakennamme niitä varten”. Pidän siitä. Tämä on ollut hienoa. Ade, kiitos paljon ajastasi tänään. Olen viihtynyt ja oppinut paljon.

Pidän näkemyksistäsi ja tavastasi ajatella tätä asiaa. Kuulijoille, jotka haluavat oppia sinusta lisää: mistä sinut löytää?

Aderonke Akinbola: LinkedInistä nimelläni Aderonke Akinbola. Olen San Franciscon lahden alueella. Etunimelläni ja sukunimelläni on ehkä muutama muukin henkilö, mutta uskon olevani tällä hetkellä ainoa lahden alueella. Löydätte minut siis LinkedInistä.

Minulla ei ole vielä verkkosivustoa. Viimeisin puheeni on myös YouTubessa Sanity-kanavalla. Se tarjoaa taustaa keskustelulle, joka johti tähän jaksoon. Työskentelen verkkosivustoni ja muiden asioiden parissa, mutta tällä hetkellä henkilökohtaiset projektit vievät aikani.

Kesään mennessä keskityn enemmän brändiin, mutta tällä hetkellä keskityn lasten puolustamiseen.

Galen Low: Hienoa. Lisään profiilisi ja puheesi linkit ohjelman muistiinpanoihin. Kiitos vielä kerran, Ade.

Aderonke Akinbola: Kiitos paljon, Galen. Oli hienoa olla täällä. Kiitos mahdollisuudesta.

Galen Low: Hyvä kuulijat, siinä oli tämänpäiväinen The Digital Project Manager Podcast -jakso. Jos pidit keskustelusta, muista tilata podcast siellä, missä kuuntelet sitä. Jos haluat vielä enemmän käytännön näkemyksiä, tapaustutkimuksia ja toimintamalleja, luo maksuton tili osoitteessa thedigitalprojectmanager.com.

Ensi kertaan, kiitos kuuntelusta.