Yksityisyys etusijalla oleva tekoälystrategia: miltä se näyttää ja miksi sillä on merkitystä

Lauren Wallace: Yksityisyys on perustavanlaatuinen ihmisoikeus. Se on perustason odotus, jonka ansiosta voimme elää elämäämme itse määrittelemällämme tavalla. Yhdysvalloissa olemme historiallisesti kohdelleet henkilötietojen arvoa niiden kerääneen yrityksen omaisuutena. EU:ssa yksityisyys on perustavanlaatuinen ihmisoikeus, ja päätösvalta omien henkilötietojen käytöstä kuuluu rekisteröidylle eli ihmiselle.

Galen Low: Onko sääntely byrokratiaa, joka jarruttaa säänneltyjen toimialojen tekoälymuutosta?

Lauren Wallace: Uskon, että tiukasti säännellyillä yrityksillä on itse asiassa etulyöntiasema vaatimustenmukaisten tekoälyohjelmien suunnittelussa ja toteuttamisessa. Ne ovat jo valmiiksi olemassa olevien sääntelykehysten piirissä. Noin puolitoista vuotta sitten käynnistimme kuukausittaisten eettisen tekoälyn lounas- ja oppimistilaisuuksien sarjan. Puhuimme läpinäkyvyydestä ja vastuullisuudesta. Tämä on hauskinta. Kaikki rakastavat tosielämän selviytymiskertomuksia, eikö niin? Kaivoin esiin järkyttäviä, juuri julkaistuja esimerkkejä tapauksista, joissa nämä läpinäkyvyyden tai vinoumien torjunnan periaatteet olivat joutuneet koetukselle.

Galen Low: Tervetuloa The Digital Project Manager -podcastiin – ohjelmaan, joka auttaa toimitusjohtajia työskentelemään fiksummin, toimittamaan nopeammin ja johtamaan paremmin tekoälyn aikakaudella. Olen Galen, ja joka viikko perehdymme käytännön strategioihin, uusiin työkaluihin, hyväksi havaittuihin viitekehyksiin ja satunnaiseen tosielämän selviytymiskertomukseen projektien etulinjasta. Johdatpa valtavia muutoshankkeita, hallinnoit tekoälyn työnkulkuja tai yrität vain pitää kaaoksen hallinnassa, olet oikeassa paikassa. Aloitetaan.

Tänään avaamme tekoälymuutosta säännellyillä toimialoilla ja tarkastelemme, kuinka yksityisyys etusijalla oleva lähestymistapa tekoälyyn voi itse asiassa nopeuttaa innovointia, edistää eri toimintojen välistä yhteistyötä ja tasoittaa tietä pitkäkestoisille vaikutuksille. Vieraanani on Lauren Wallace, RadarFirstin strateginen neuvonantaja ja entinen lakiasiainjohtaja.

Laurenilla on laaja tausta lakiasioiden, liiketoiminnan kehittämisen ja johtotehtävien parissa Applen, Microsoftin ja Niken kaltaisissa brändeissä sekä pääomasijoitusten ja yksityisen pääoman tukemissa kasvuyrityksissä. Hänet tunnetaan käytännöllisestä ja helposti lähestyttävästä ohjauksestaan laki-, tuote-, markkinointi- ja kehitystiimeille tekoälyn vastuullisesta käytöstä. Säännösten noudattamisen navigoinnissa säännellyissä ympäristöissä hän on luonnonvoima.

Lauren, kiitos paljon, että olet täällä kanssani tänään!

Lauren Wallace: Kiitos kutsusta. On hienoa olla täällä.

Galen Low: Minustakin on hienoa olla täällä. Juttelimme juuri kaikesta mahdollisesta taustahuoneessa. Olisinpa nauhoittanut sen osuuden. Olen todella innoissani tästä.

Meillä on hyvä energia yhdessä. Olemme joistakin asioista samaa mieltä, mutta joistakin emme ehkä ole. Taustasi kiinnostaa minua suuresti, koska siinä yhdistyvät nopeatempoisen kasvuyrityskulttuurin ja esimerkiksi rahoituspalveluiden kaltaisten säänneltyjen toimialojen kiistatta hitaampi tahti. Uskon, että voimme tänään liikkua suuntaan ja toiseen, mutta tässä on meille hahmottelemani etenemissuunnitelma.

Aloittaakseni halusin ottaa esiin yhden niistä suurista ja polttavista kysymyksistä, joka painaa mieltä mutta on samalla jotenkin paradoksaalinen – kysymyksen, johon kaikki haluavat vastauksen. Sen jälkeen haluaisin ottaa hieman etäisyyttä ja puhua ehkä kolmesta asiasta. Ensinnäkin haluan tarkastella, miltä yksityisyys etusijalla oleva tekoälystrategia oikeastaan näyttää komponenttitasolla ja mitä johtajien ja säänneltyjen toimialojen on otettava käyttöön sen saavuttamiseksi sekä mitä hyötyjä siitä mahdollisesti on.

Sen jälkeen haluaisin tutkia esimerkkejä siitä, miltä sisäänrakennetun yksityisyyden lähestymistapa näyttää käytännössä ja kuinka ylemmät osastojen johtajat, jotka tuovat yrityksensä tekoälyvision käytäntöön, voivat valmistautua välttämään kivuliaita ongelmia tulevaisuudessa. Lopuksi haluaisin tarkastella, miltä kilpailuympäristö näyttää sen jälkeen, kun erikokoiset organisaatiot ovat viiden vuoden ajan edistäneet tekoälystrategioitaan. Siinä oli paljon asiaa. Miltä tämä kuulostaa?

Lauren Wallace: Viiden vuoden tarkastelua lukuun ottamatta, Galen, uskon, että voimme käsitellä täällä paljon asioita.

Galen Low: Selvä. Kaivamme siis kristallipallomme esiin ja voimme mennä kolmeen, viiteen tai kymmeneen vuoteen. Katsotaan.

Ajattelin aloittaa kysymällä sinulta yhden suuren ja vaikean kysymyksen, mutta pohjustan sen ensin. Kun ajattelemme tiukasti säänneltyjä toimialoja, kuten rahoituspalveluita, terveydenhuoltoa, energiaa tai televiestintää, useimmat meistä ajattelevat rajoituksia, jotka pakottavat organisaatiot etenemään hitaasti.

Seuraava ajatus on, että myös tekoälymuutos säännellyillä toimialoilla etenee hitaasti ja jättää nämä toimialat pimeään keskiaikaan muun maailman kiihdyttäessä tekoälystrategioitaan. Joten suuri kysymykseni on: onko sääntely byrokratiaa, joka jarruttaa säänneltyjen toimialojen tekoälymuutosta?

Vai onko se perusta, josta voisi lopulta olla hyötyä kaikille, vai jotain aivan muuta?

Lauren Wallace: Valitsen jotain aivan muuta. Aloitetaan kuitenkin hieman keskeltä kuvaamiasi vaihtoehtoja. Muotoilisin asian näin: mielestäni tiukasti säännellyillä yrityksillä on itse asiassa etulyöntiasema vaatimustenmukaisten tekoälyohjelmien suunnittelussa ja toteuttamisessa.

Tämä johtuu siitä, että tekoälyn hallintaa ohjaavat periaatteet, kuten läpinäkyvyys, vastuullisuus sekä vinoumien seuranta ja ehkäiseminen, ovat tekoälyn hallintaohjelman keskeisiä elementtejä. Ne on jo sisällytetty olemassa oleviin sääntelykehyksiin. Kyse on mielestäni laajemmasta kokonaisuudesta kuin jotkut välttämättä ajattelevat.

Siihen kuuluvat esimerkiksi GDPR, joka on todennäköisesti melko tuttu riippumatta siitä, millä toimialalla työskentelet. Jos työskentelet pankkialalla, sinua koskevat oikeudenmukaista luotonantoa koskevat lait. Jos palkkaat työntekijöitä yritykseesi, sinua koskevat yhdenvertaisia mahdollisuuksia koskevat lait. On olemassa joukko muita kansalaisoikeuksiin ja kuluttajansuojaan liittyviä kehyksiä, joihin voi erityisesti sisältyä algoritmista päätöksentekoa koskevia kieltoja tai rajoituksia.

Nämä säännöt, kuten pankkien vuosien ajan käyttämät mallien hallintaa koskevat säännöt, ovat olleet voimassa ikuisuuden. Niitä kutsutaan algoritmiseksi päätöksenteoksi, ja ne kääntyvät helposti siihen, mitä tarkastelemme kaikkien näiden tekoälytyökalujen yhteydessä. Suurilla ja tiukasti säännellyillä laitoksilla joillakin kuvaamillasi toimialoilla on siis valmiiksi vankat vaatimustenmukaisuusohjelmat näitä kehyksiä varten.

Niillä on myös resursseja, jotka on osoitettu näiden kehysten hallintaan. Niillä on valvontakeinoja ja työkaluja, jotka on suunniteltu varmistamaan näiden kehysten noudattaminen. En väitä, että tekoälyn hallinnan lisääminen olisi helppoa, mutta ainakin aloitat jostakin, kun haluat lisätä tekoälyn vaatimustenmukaisuuden.

Olen työskennellyt monien suurten ja tiukasti säänneltyjen laitosten kanssa niiden tekoälyn vaatimustenmukaisuusohjelmien parissa, ja vaihtelu on suurta. Jotkut ovat vielä täysin valmistautumattomia tai niillä on institutionaalinen allergia tekoälyä kohtaan, ja sitä on jotenkin kierrettävä. Monet niistä ovat kuitenkin erittäin kehittyneitä.

Niillä on nämä olemassa olevat ohjelmat, ja ne pohtivat vain, kuinka niitä laajennetaan. Miten hankimme tarvitsemamme osaamisen ja asiantuntemuksen? Miten tuomme yhteisömme mukaan uudella tavalla, jotta se voi osallistua tekoälyn vaatimustenmukaisuuteen suuremmassa mittakaavassa? Ne ovat lisäksi – ja tiedän tästä paljon – joutuneet noudattamaan erittäin monimutkaista tietoturvaloukkausten ilmoitusvaatimusten verkostoa.

RadarFirstin yhteisö, näen teidät. Rakastan sitä, että käytätte tähän RadarFirstia. Meillä on tuote, josta olen suuri fani. Siihen on koottu noin 500 maailmanlaajuista yksityisyyden ja tietoturvaloukkausten ilmoittamista koskevaa sääntöä, joita vasten voitte testata loukkauksianne. Mielestäni ihmisten on ymmärrettävä, ettei ole väliä, mistä loukkaus johtuu – väärin ohjatusta faksista tai tekoälystä, jonka on sallittu käyttää henkilötietoja.

Loukkaus on loukkaus. Jos henkilötietoja on mukana, näitä ilmoitussääntöjä sovelletaan. Tämä on tiedettävä, eikä pidä ajatella, että tekoälyloukkaukset voi sivuuttaa. Et todellakaan voi vain vierittää syytä tekoälyn niskoille. Olemme nähneet sitä, eikä se yleensä pääty hyvin.

Tarvitset siis prosessin loukkausten hallintaan, mutta nyt sitä on vahvistettava. Et aloita tyhjästä. Lyhyt kysymyksesi sai minulta pitkän vastauksen, mutta mielestäni suurempi haaste koskee keskisuuria yrityksiä. Ne saattavat kohdata nämä sääntelypaineet ensimmäistä kertaa ottaessaan tekoälyn käyttöön työnkuluissaan. Mistä ne siis aloittavat?

Niillä ei ehkä ole koskaan ollut työkaluja, joilla tietoja voisi analysoida suuressa mittakaavassa. Uudet, suhteellisen edulliset ja melko helposti saatavilla olevat tekoälytuotteet voivat mahdollistaa tämän. Yhtäkkiä ne kuitenkin toteuttavat prosesseja ja käyttävät tietoja tavoilla, joita ne eivät ole aiemmin käyttäneet, ja saattavat altistaa tiedot joukolle uusia riskejä.

Niille, jotka aloittavat hallintaprosessin tyhjästä, sanon: teillä on paljon tehtävää. Siinä oli pitkä vastaukseni lyhyeen kysymykseen.

Galen Low: Odotin sellaista toiveikasta loppua. Teillä on paljon tehtävää, mutta…

Lauren Wallace: Siirrytään sitten toiveikkaaseen osuuteen. Uskon, että voit aina aloittaa sisäänrakennetun yksityisyyden perusperiaatteista ja levittää niitä koskemaan paitsi henkilötietojen myös yrityksen luottamuksellisten tietojen suojaamista.

Kun yrityksen tietoja syötetään ChatGPT:hen tai johonkin vastaavaan, mukana on kokonainen joukko uusia riskejä. Haluat arvioida ja vahvistaa tietoturvan tilaa. Tekoäly on tuonut meille hämmästyttävän uuden hyökkäyspinta-alan. Siksi tietoturvan on oltava kunnossa. Ennen kaikkea – ja tästä toivon meidän puhuvan suurimman osan keskustelustamme – on käynnistettävä sisäinen keskustelu, jotta ymmärretään, mitä tekoälyllä halutaan tehdä, mitä sillä uskotaan voitavan tehdä ja mikä todellinen sijoitetun pääoman tuotto on, jota yhteisöissämme tavoitellaan.

Haluan jakaa tämän kahteen suuntaan. Ensimmäinen koskee tekoälyn sisäistä käyttöä tuottavuuden parantamiseen, nykyisten työkalujen korvaamiseen ja toiminnallisiin parannuksiin. Toinen koskee tuotekehityksen käyttötapauksia.

Galen Low: Mm-hmm.

Lauren Wallace: Kumpaankin liittyy hyvin erilaisia näkökohtia.

Galen Low: Haluan ehdottomasti perehtyä tähän. Olen iloinen, että mainitsit osaamisen, ja olen iloinen, että mainitsit GDPR:n, koska tulen digitaalisesta maailmasta. Maailmassani on kaksi asiaa, joiden kanssa olemme joutuneet jatkuvasti taistelemaan sääntelyn vuoksi. Ensimmäinen oli GDPR ja sitä ennen saavutettavuus, eikö niin? Kun ADA-laki tuli voimaan, juoksimme ympäriinsä kuin päätön kanalauma, koska ajattelimme: hetkinen.

Tämä kuulostaa niin juridiselta. Meillä ei ole tähän prosessia. Emme edes tiedä, mistä aloittaa. Meillä ei ollut edes keskustelun alkua sääntelystä, sakoista, loukkausten ilmoittamisesta tai edes tietojen näkyvyydestä. Meiltä puuttui kaikki tämä, ja jouduimme todella kiirehtimään. Jotkut kuitenkin pääsivät erityisesti saavutettavuuden osalta etulyöntiasemaan.

Huomasin, että siitä tuli vaatimus ja meidän oli ratkaistava asia nopeasti. Ne toimistot, jotka auttoivat asiakkaitaan rakentamaan saavutettavia verkkoratkaisuja ja digitaalisessa maailmassa saavutettavia kokemuksia, pääsivät eteenpäin. Se oli kuitenkin melkoinen kaaos, koska tarkastelimme asiaa juuri päinvastoin kuin mainitsit.

Ajattelimme: kokeillaan vain kaikkia työkaluja ja edetään nopeasti. Mitä väliä? Tämä on digitaalista teknologiaa. Meitä eivät sido kaikki nämä säännöt. Sitten saimme yhtäkkiä esimakua seurauksista. Ajattelimme: okei.

Lauren Wallace: Arvaa mitä? Sääntöjä. Niin paljon sääntöjä, jotka on suunniteltu ilmaisemaan toisiaan täydentäviä periaatteita.

Niitä voidaan kuitenkin soveltaa hyvin eri tavoin. GDPR ja CCPA, jota seurasi Kalifornian CPRA, ovat lähtöisin samasta hyvästä ajatuksesta, mutta ne pannaan täytäntöön hyvin eri tavalla. Miten digitaalisen projektipäällikön tavoin voit siis varmistaa – ja kerron, että monet asiakkaistani tekevät juuri näin – että löydät korkeimman yhteisen tason?

Yritä löytää se, mikä on johdonmukaista eri sääntely-ympäristöissä, joissa toimit, ja kohdella kaikkia ikään kuin heitä koskisi sama korkean tason periaatteellinen lähestymistapa. Se, että pyrit kulkemaan alarajaa pitkin ja tekemään jokaisessa tapauksessa vain vähimmäisvaatimukset, saattaa vaikuttaa siltä, että säästät sääntelyyn liittyvää altistumista, mutta se maksaa paljon enemmän toteutuksessa ja henkisenä kuormana, kun yrität tehdä kiinnostavia asioita.

Valitse siis paras mahdollinen tapa toimia ja toimi sen mukaan. Mainitsit saavutettavuuden. Se on aihe, joka on minulle hyvin tärkeä, ja työskentelen sen parissa muiden ryhmien kanssa. Haluaisin mielelläni palata keskustelemaan kanssasi tekoälyn saavutettavuudesta, koska mielestäni oletamme paljon sen suhteen, että WCAG:n kaltaiset ohjeet, joissa verkkosivuston ominaisuuksia vain tarkastetaan luettelosta, sopivat tilanteisiin, joissa ihmiset käyttävät tai eivät käytä aivan toisenlaista kognitiivista kuormaa tai joilla ei välttämättä ole siihen pääsyä.

Kun ihmiset käyttävät tekoälyä suorassa vuorovaikutuksessa, kuten kuluttajille suunnatussa työkalussa, tai ollessaan vuorovaikutuksessa tekoälyn kanssa fyysisessä maailmassa. Kun tarkastelemme ihmisiä, joilla on toimintarajoitteita ja joita esimerkiksi Alexa ja HomeKit ovat voimaannuttaneet järjestämään kotinsa tai ympäristönsä paljon paremmiksi, kätevämmiksi ja helpommin käytettäviksi.

Tekoäly kuitenkin säätelee näitä asioita taustalla. Et näe sitä etkä kerro sille, mitä tehdä, mutta joku toinen on jälleen kerran tehnyt oletukset toimintaympäristöstäsi puolestasi. Tämä on uskomattoman voimakasta, ja ihmiset ansaitsevat paljon enemmän. Olen innoissani siitä, että voimme käydä kanssasi erillisen keskustelun saavutettavuudesta.

Galen Low: Haluaisin sitä. Oikeudenmukaisuus ja yhdenvertainen pääsy ovat nousseet näissä keskusteluissa esiin paljon, ja olet mielestäni oikeassa korkeimman yhteisen tason suhteen. Olen itsekin työskennellyt saavutettavuus- ja verkkosaavutettavuusprojekteissa WCAG:n parissa, ja se oli ehdottomasti ruudun rastittamista. Usein asiaan tartuttiin pari viikkoa ennen rangaistusta.

Se oli alarajaa pitkin kulkemista, mutta se lisäsi itse asiassa riskiä, koska monista se saattaa kuulostaa siltä, että ylitekemme asioita. Jos suunnittelemme korkeimman sääntelytason mukaan, eikö se ole liikaa?

Olen kuitenkin nähnyt, että pohjalle raapiminen ja vain vähimmäisen tekeminen on monella tavalla kalliimpaa. Asiaan palataan myöhemmin, ja silloin käynnistetään kaikki nämä muut aloitteet sen parantamiseksi. Se vain lykkää väistämätöntä.

Lauren Wallace: Aivan. Myöhemmin ei pitäisi joutua tekemään yksittäisiä korjauksia.

Uskon myös, että korkeimman yhteisen tason valitseminen sääntelyn näkökulmasta kannustaa eettiseen lähestymistapaan. Vaikka sääntelyvelvoitteita ei olisi kirjattu mihinkään niin, että voisit osoittaa tiettyä kohtaa, voit silti sanoa: mielestämme tämä on paras tapa toimia.

Se on tärkeää, koska haluamme olla hyviä yrityskansalaisia ja pystyä kertomaan lapsillemme, ettemme tehneet työssämme kauheita asioita. Emme myöskään tiedä etukäteen tarkalleen, mistä haasteet voivat tulla. Ne eivät ehkä tule osavaltion, liittovaltion tai eurooppalaiselta sääntelyviranomaiselta.

Ne voivat tulla ryhmäkanteesta tai jostakin yrittäjähenkisestä lakitiimistä, joka on jossain päättänyt, että tässä on mahdollisuus. Ne voivat tulla kilpailijoilta. Se, että voit osoittaa täyttäneesi jonkin ilmoitusvelvoitteen tai jossakin annetun sääntelyn vaatimukset, ei yksin riitä.

Sinun on osoitettava, että organisaatio toimii omaksumiensa eettisten ohjeiden mukaisesti. Ja tiedän, että yksi tämän päivän aiheista on sitoutumisen saavuttaminen. Projektipäällikkönä se on sinun arkeasi, eikö niin? Saat ihmiset samalle sivulle, mutta kuinka viestit kyseisestä sivusta?

Millä sanoilla ja työkaluilla saat ihmiset mukaan?

Galen Low: Pidän tuosta. Voisimmeko perehtyä siihen? Muistiinpanoni tässä kohdassa oli, että olen kuullut sinun puhuvan yksityisyys etusijalla olevan tekoälymuutosstrategian kehittämisestä. Se, mitä sanoit eettisyydestä ja sen viestimisestä niin, että kaikki ovat samalla sivulla, puhuttelee myös minua.

Voisitko ehkä eritellä kuulijoilleni keskeiset osat siitä, miltä yksityisyys etusijalla oleva lähestymistapa tekoälymuutokseen näyttää? Ehkä myös joitakin hyötyjä. Voimme puhua yksityisyyttä laajemmin, koska mielestäni yksityisyys on osa eettistä lähestymistapaa.

Se on edelleen osa kokonaisuutta. Jos haluat ottaa hieman etäisyyttä, se sopii minullekin.

Lauren Wallace: Otan ensin lähikuvan ja menen hieman henkilökohtaiselle ja ehkä kiistanalaiselle alueelle. Yksityisyys on minulle perustavanlaatuinen ihmisoikeus. Se on perustason odotus, jonka ansiosta voimme elää elämäämme itse määrittelemällämme tavalla.

Organisaatioiden ja valtioiden pitäisi puuttua siihen varovasti. Vai pitäisikö? Eihän niiden pitäisi, eikö niin? Jos ne kuitenkin tekevät niin, niiden pitäisi toimia varovasti. Kiistanalaiseksi muuttuu se, kun tarkastelemme yksityisyyden maailmanlaajuista tilannetta. EU on suunnannäyttäjä siinä, että yksityisyyttä kohdellaan perustavanlaatuisena ihmisoikeutena ja että GDPR:ssä ja sen jatkona EU:n tekoälysäädöksessä ilmaistaan hyvin tarkasti, mitä tämä tarkoittaa.

EU:n DNA:ssa yksityisyys on perustavanlaatuinen ihmisoikeus, ja päätösvalta henkilötietojen käytöstä kuuluu rekisteröidylle eli ihmiselle. Yhdysvalloissa henkilötietojen arvoa on historiallisesti pidetty niiden keränneen yrityksen omaisuutena, koska yritys käyttää niitä ja tuottaa niistä arvoa. Jos yritys kerran tuotti arvon, sen täytyy kai kuulua yritykselle.

Kiistanalaisempaa on sanoa, että joillakin muilla lainkäyttöalueilla henkilötietojen arvo, jopa niiden täsmällinen sisältö, katsotaan valtion omaisuudeksi, koska valtio käyttää niitä rekisteröidyn edun mukaisesti.

Näin meillä on kolme hyvin erilaista lähtökohtaa sille, kuka omistaa henkilötiedot ja kenen pitäisi saada niistä arvo. Tästä lähtien tarkastelisin yrityksesi eettisiä ohjeita ja kysyisin: mihin kohtaan tässä kokonaisuudessa sijoitumme? Tästä aloitetaan. Ei luettelemalla periaatteita, kuten oikeudenmukaisuutta, vastuullisuutta ja vinoumien vähentämistä.

Ne ovat hyviä ja hienoja sanoja, ja niiden avulla voi rakentaa mallin, jonka kaikki täyttävät yhdessä ja jakavat yrityksessä sanoen: nämä edustavat arvojamme. Mutta pohjimmiltaan kysymys kuuluu: uskommeko organisaationa palvelevamme asiakkaita ottamalla arvoa henkilötiedoista?

Vai uskommeko palvelevamme asiakkaita auttamalla heitä käyttämään henkilötietoja rekisteröidyn hyväksi? Yhdysvalloissa voit valita näiden välillä. Haluan auttaa yrityksiä, jotka haluavat palvella rekisteröidyn etua.

Galen Low: Aivan. Mainitsit eurooppalaisen mallin yksilön yksityisyyden oikeutena toimivaksi suunnannäyttäjäksi.

On hauskaa, kun sanot tuon pohjoisamerikkalaisesta näkökulmasta. Olen tavallaan hyväksynyt sen, että tietoni ovat kuin valuuttaa. Ne ovat kaupankäynnin väline. Kun sanoit, että koska yritys on tuottanut arvon, se omistaa tiedot, ajattelin, että se kuulostaa järkevältä. En maksanut rahaa.

Kuluttaja minussa ajattelee, että jos minun ei tarvitse antaa rahaa ja tuote on niin sanotusti ilmainen, se on ihan hyvä. Ehkä juuri siitä loppukäyttäjän suhde alkaa: organisaation sallitaan olla vähemmän varovainen tietojeni kanssa, koska ajattelen, että sähköpostiosoitteeni voi ottaa ja tietoja rikastaa.

Työskentelen mediassa ja olen nähnyt osan järjestelmien taustasta. Jotkin näistä tiedoista ovat arvokkaampia kuin raha. Mutta omistajuus sai minut ajattelemaan: vau. GDPR:ssä minuun teki vaikutuksen ihmisten mahdollisuus hallita omia henkilötietojaan ja käyttää niihin liittyvää päätösvaltaa.

Mutta kuka ehtii? Minulla on tuskin aikaa poistaa kuvia puhelimestani, saati selvittää, missä tietoni sijaitsevat, ja kirjoittaa pyyntöjä siitä, voisiko joku poistaa tiedot pysyvästi palvelimeltaan. Jotkut tekevät niin, mutta minä en. Tavallaan sallimme tämän.

Lauren Wallace: Kunnia järjestöille, kuten NOYB:lle, jonka nimi tarkoittaa None Of Your Business ja joka on Max Schremsin järjestö. Tiesitkö sen? NOYB, None Of Your Business. Ne voivat käyttää tätä oikeutta laajassa mittakaavassa. Meille yksilöille sen käyttäminen henkilökohtaisesti on tuskallisen vaikeaa.

Monissa osavaltioissa – ja tämä on mielestäni yksi tekoälysääntelyn etenemisen piirteistä, joka on puuttunut yksityisyyssääntelystä – on velvollisuus hankkia suostumus, antaa tietoa ja vaatia suostumus, jonka on oltava tietoon perustuva. Yksityisyyden maailmassa suostumus on ollut niin monissa liiketoimissa oletettua.

Kun napsautat evästebanneria tai käyttämäsi tuotteen lomaketta, on hyvä muistaa yksityisyyden perusperiaate, jonka olet varmasti kuullut miljoona kertaa: jos tuote on ilmainen, sinä olet tuote.

Galen Low: Kyllä.

Lauren Wallace: On kuitenkin helppoa lumoutua sinulle luvatuista toiminnoista.

Ajattelet ehkä, että kyse on vain minusta, Portlandissa Oregonissa istuvasta henkilöstä. Kuinka paljon tietoni voisivat henkilökohtaisesti olla arvoltaan? Kun tiedot kuitenkin yhdistetään ja rikastetaan, kuten kuvasit, kyseessä on yksi tekoälyn uusista yksityisyysriskeistä: tekoäly pystyy rikastamaan tietoja.

Rikastetuista tiedoista voidaan myös tehdä päätelmiä. Yhdelle toimittajalle antamasi tiedot yhtä ostosta varten eivät ehkä yksinään ole kovin arvokkaita – jollekulle ehkä vain senttejä. Kun ne yhdistetään, rikastetaan ja myydään kolmansille osapuolille muihin tarkoituksiin, tietoprofiilisi arvo on paljon suurempi.

Miten rekisteröity voisi käydä tämän läpi jokaisen toimijan osalta? Ei mitenkään. Se ei ole mahdollista. Et voi korjata tilannetta. Siksi tunnen myötätuntoa organisaatioita kohtaan, jotka haluavat alun perin toimia eettisesti ja ymmärtää syvällisesti hallussaan olevat tiedot, niiden alkuperän ja sen, oliko niiden käyttöön alun perin suostumus.

Käytetäänkö tietoja tavalla, joka ylittää alkuperäisen suostumuksen laajuuden? Pystyisivätkö he puolustamaan sitä? Onko laajennettu käyttö yhdenmukaista alkuperäisen tarkoituksen kanssa? Ilmoitettiinko rekisteröidylle tietojen luovuttamisen yhteydessä, mihin hänen suostumustaan käytettäisiin? Näihin asioihin ei pitäisi joutua palaamaan vanhan tietoaineiston osalta.

Jos ostat yrityksen sen tietojen vuoksi, et osta sitä minkään muun takia. Ajattelin tätä eräänä päivänä. Uutisissa oli hiljattain suuri juttu. En mainitse nimiä, mutta suuri pankki oli ostanut startup-yrityksen. Startup tarjosi palveluita taloudellista tukea hakeville opiskelijoille, ja pankki osti sen, koska yritys kertoi, että sillä oli neljä miljoonaa nimeä ihmisistä, jotka olivat ostaneet opintolainapalveluita.

Pankki näki tämän tietenkin tietolähteenä, jonka avulla se voisi kohdentaa tarjouksia näille ihmisille potentiaalisina pankkiasiakkaina. Pankin asiakashankinnan kustannus on onnistunutta asiakashankintaa kohden noin 150 dollaria – riippuen tapauksesta – kun henkilö avaa esimerkiksi käyttötilin.

Se oli valmis maksamaan 175 miljoonaa dollaria näistä neljästä miljoonasta nimestä. Se on noin 40–45 dollaria nimeä kohti. He siis arvioivat, että listan ostaminen ja potentiaalisten pankkiasiakkaiden tietojen hankkiminen oli noin sadan dollarin arvoista henkilöä kohden.

Sitten selvisi, että neljä miljoonaa nimeä olivat väärennettyjä. Ne oli luotu synteettisesti jonkinlaisella tekoälyohjelmalla. Kun nimet testattiin, kaikki osoittautuivat umpikujiksi. Hankkeeseen oli käytetty 175 miljoonaa dollaria.

Pankki haastoi yrityksen oikeuteen ja vetäytyi kaupasta. Ehkä se sai rahansa takaisin, en tiedä. Minusta oli kiinnostavaa, että startup ostettiin ei teknologian eikä henkilöstön vuoksi, vaan yksinomaan luettelossa olevien nimien takia. Hankintaa ja oikeusjuttua koskevien julkisten tietojen perusteella näimme selvästi, mikä kunkin nimen arvo oli.

Yritys ei ollut minkään arvoinen, jos nämä neljä miljoonaa nimeä eivät olleet oikeita. Mieti sitä omassa elämässäsi. Entä jos sinä tai joku lapsistasi olisi ollut tässä tietojen arvoketjussa pienestä pitäen ja olisi nyt siinä iässä, että avaa pankkitilin tai hakee asuntolainaa tältä pankilta?

Kun ajattelet: napsautan vain ostaakseni jotakin ja annan tietoni, niiden arvo ei juuri nyt tunnu suurelta. Jos kuitenkin tarkastelet elinikäistä arvoasi, tämä suuri pankki ajatteli sinun olevan vähintään sadan dollarin arvoinen. Tekisitkö tällä sadalla dollarilla jotakin eri tavalla kuin sen päätöksen, jonka juuri teit?

Galen Low: Tässä on niin paljon käsiteltävää, koska tämä vastaa sitä, mitä sanoit aiemmin. Monet ajattelevat tekoälyä ja työpaikan tekoälymuutosta käyttöliittymänä ja työn tekemiseen tarvittavana taitona. Usein ei ole ilmeistä, mitä tapahtuu sen mustan laatikon sisällä.

Yleensä ajattelemme, ettemme tiedä, kuinka jotkin mallit toimivat. Koneoppiminen korjaa omaa koodiaan, emmekä pohjimmiltaan tiedä, miksi jokin tekoäly toimii. Mutta tässä ei tarkoiteta sitä mustaa laatikkoa. Tässä tarkoitetaan sitä, mitä et näe lähetyksen tai kehotteen lähettämisen jälkeen. Mihin kaikki päätyy?

Miten tietoja yhdistetään? Siirtyvätkö ne kädestä toiseen? Palatakseni malliin, jossa päätät, että emme ole eurooppalainen malli ja että saamme ehdottomasti arvoa asiakkaidemme tiedoista: paljon on vielä tehtävä, jotta ymmärrämme, minne kaikki nämä tiedot päätyvät, mistä olemme vastuussa ja mistä olemme eettisesti vastuussa organisaationa.

Se on kiinnostava kysymys. En tiedä, tarvitseeko siihen vastata tänään, mutta voisimme yrittää.

Lauren Wallace: Se on melko suuri kysymys. Kun astumme tähän maailmaan kansalaisina, vanhempina, kuluttajina ja yrityskansalaisina, edessämme on niin paljon suuria kysymyksiä. Mielestäni kyseessä on valtava valtameri, jota yritetään keittää, ja minä seison sen reunalla suuri sytytin kädessäni. Se on liikaa.

Siksi haluan aloittaa käyttötapauksesta. Mitä todellista asiaa yrität saavuttaa tällä yhdellä sovelluksella ja yhdellä tietoaineistolla, jonka syötät siihen? Mitä sijoitetun pääoman tuottoa todella tavoittelet? Säästätkö rahaa? Teetkö rahaa? Pystytkö hankkimaan asiakkaita? Ala purkaa asiaa siitä.

Vaatimustenmukaisuuden piirissä puhumme paljon johdon esimerkistä. Se on mielestäni erittäin hyödyllinen rakenne: kuinka johtajat ja hallitus puhuvat arvoistaan ja kuinka he välittävät ne organisaatiolle. Se vie kuitenkin vain tiettyyn pisteeseen, kun toimimme projektitasolla.

Asia on purettava uudelleen: mitä yritämme saavuttaa? Mikä käyttötapaus meitä kiinnostaa? Mikä on todellinen sijoitetun pääoman tuotto? Kuinka johdon eettiset periaatteet tai meitä koskeva sääntely liittyvät siihen, mitä todella aiomme tehdä?

Jos emme tiedä, koska kyseessä on musta laatikko, onko turvallista edetä? Olen sanonut ei. Toimiessani RadarFirstin lakiasiainjohtajana kerron, mitä tarkoitan. Tarkastelimme vuoden aikana satoja toimittajia. Tein siitä jopa pienen yhteenvedon. Kieltäytyneiden osuus oli melko suuri.

Sanoimme, ettemme saa tarpeeksi tietoa, toimittaja ei ollut julkaissut luottamuskeskusta, josta olisimme voineet kaivaa tarvittavat tiedot, tai se käytti taustalla olevia malleja, joita se ei paljastanut meille. Teimme tutkimusta ja huomasin ehkä, että toimittaja oli mukana myös jossakin toisessa kokonaisuudessa. Emme olleet arvioineet kyseistä työkalua. On siis aivan hyväksyttävää tuntea olonsa varmaksi ja sanoa ei.

Eettinen viitekehys auttaa tässä. Voit sanoa, että yksi eettisistä periaatteistamme on vastuullisuus. Jos en tiedä vastausta johonkin tämän suoraviivaisen analyysin kysymykseen – mitä tuotteen pitäisi meille tehdä ja kuka on siitä vastuussa – en voi vain kääntyä toimittajan puoleen ja sanoa, etten oikein ymmärtänyt, mitä he tekivät, kun ostin tuotteen.

Vastuullisuus on haastava periaate. Se on kunnianhimoinen tavoite, mutta hyvä sellainen. Kuka oikeastaan on vastuussa? Hallitusko? Ylin johto? Tiimin yksittäiset jäsenet henkilökohtaisesti?

Projektin näkökulmasta voi jälleen ajatella käyttötapaus- ja sijoitetun pääoman tuotto -lähtöisesti. On muodostettava tiimejä, jotka ovat vastuussa toisilleen. Kun kokoat tiimin tekoälyä käyttävää projektia varten, koko yhteisö on mielestäni tärkeää ottaa mukaan.

Tuote on pöydässä. Tekniikka on pöydässä. Tietoturva saattaa olla pöydässä, mutta myös asiakaspalvelun on oltava mukana. Onko asiakaspalvelulla käsikirjoituksia, joiden avulla se voi vastata asiakkaiden kysymyksiin tästä toiminnosta? Ymmärtävätkö he toiminnon niin hyvin, että voisivat ilman käsikirjoitusta ainakin käyttää oikeita termejä ja välittää kysymyksen eteenpäin?

Tuotemarkkinointi: onko teillä dokumentaatiota, joka selittää perusteellisesti ja osoittaa, että ymmärrätte, mitä tuote tekee? Markkinointi: kun menette puhumaan yhteisöllenne, tiedättekö, kuuluuko asiakasyhteisönne tekoälyä vieroksuvien vai uusia asioita innokkaasti kokeilevien joukkoon?

Kuinka muotoilette viestinne niin, että tekoälyä hyödyntävistä uusista ominaisuuksista puhuttaessa kohtaatte asiakkaat heidän lähtökohdistaan? Lakiosasto on tietenkin mukana. Se on sanottava. Asiakasportfolioon voi kuulua asiakkaita, jotka kieltävät tekoälyn käytön ostamissaan tuotteissa.

Kielto voi olla piilotettuna jonnekin sopimukseen. Siinä ei ehkä puhuta tekoälystä, vaan algoritmisesta päätöksenteosta tai mallien käytöstä. Teillä voi olla kymmenen vuotta vanha sopimus, joka kieltää tämän käytön. Lakiosaston on siis oltava mukana. Samalla asiaa tarkastellaan sääntelyn näkökulmasta. Nyt olette kaikki saman pöydän ääressä.

Silloin kehitätte vastuullisuuden toisianne kohtaan ja voitte sanoa: kysyin sinulta tästä, enkä saanut vastausta.

Galen Low: Olen iloinen, että päädyit tähän, koska ajattelin vastuullisuutta koskevaa monimutkaista kysymystä: kuka on vastuussa? Ajattelin, että pidämme toisiamme sisäisesti vastuullisina, koska olemme tiimi.

Kysymys, jonka olin itse kirjannut, oli se, että yksityisyys on monissa tapauksissa vain yhtä vahva kuin sen heikoin lenkki. Kokoatte tiimin, ja jos yksi henkilö ajattelee, ettei sillä ole väliä, ja aikoo ladata tietoaineiston julkiseen laajaan kielimalliin tai kiertää säännön, koska määräaika on perjantaina, asia vain tehdään ja siihen palataan myöhemmin.

Toisten pitäminen vastuullisina tästä arvosta on mielestäni erittäin vahva toimintatapa.

Lauren Wallace: Tässä on asia, josta pidän yksityisyydessä ohjaavana periaatteena: sitä voidaan soveltaa monella eri tavalla.

Toisin kuin monet muut kehityksessä tai tuotesuunnittelussa huomioitavat näkökohdat, yksityisyys on henkilökohtaista. Tee joskus organisaatiossasi nopea kysely. Kysy kaikilta, ovatko he tai joku heille tärkeä henkilö joutuneet henkilötietojen tietoturvaloukkauksen uhriksi.

Toisaalta saamme kaikki jatkuvasti kirjeitä palveluntarjoajilta, joissa sanotaan, että sinun pitäisi ottaa käyttöön Experianin luottotietojen seuranta. Jos tietojasi on joskus käytetty väärin jonkun muun hyödyksi, kyseessä on todellinen painajainen. Olen kokenut sen itse.

Se ei ollut syy, miksi minusta tuli yksityisyysjuristi, mutta se ei myöskään ollut syy, miksi minusta tuli yksityisyyden parissa työskentelevä lakimies.

Galen Low: Selvä. Ymmärrän.

Lauren Wallace: Puhuin hiljattain henkilön kanssa, joka oli juuri käynyt läpi prosessin yrittäessään rakentaa elämänsä uudelleen sen jälkeen, kun hänen pankkitilinsä oli mielestäni hakkeroitu.

Sen seurauksena tapahtui kaikenlaista pahaa. Kun yrität edistää vastuullisuutta ja toisista välittämistä projektin yhteydessä, yksityisyyden voi tuoda mukaan ja osoittaa, kuinka henkilökohtainen asia se todella on. Haluavatko ihmiset lastensa tietojen olevan kenen tahansa saatavilla pelkän salasanan avulla? Kun ajattelemme pankkiesimerkin yhteydessä tarkastelemaamme elinkaarta, on katsottava eteenpäin: tämä tieto koskee lastani tai kotiani, ja se voi olla jollekin arvokasta viiden tai kymmenen vuoden kuluttua. Voinko estää sen nyt?

Galen Low: Voisimmeko tarkastella tätä kokonaisuutta projektin tai tuotteen näkökulmasta? Mainitsit johdon esimerkin. Se on tärkeää, mutta se ei yksin ratkaise kaikkea.

Jos aloitamme sen alapuolelta ja kehitämme tuotetta, joka käyttää tekoälyä tai algoritmista käsittelyä, mukana on muutama osa. Mainitsit koulutuksen, sanaston ja jopa empatian: kyvyn ajatella, että kyse ei ole vain asiakkaan tiedoista vaan että kyseessä voisi olla lasteni tiedot.

Sitten on kaikkien tuominen saman pöydän ääreen. Jotkut kuulijoista ajattelevat, ettei kaikkia voida ottaa mukaan kaikkeen, koska se olisi liian kallista. Se saattaa toimia rahoituspalveluissa, mutta me olemme pieniä ja ketteriä. Jos joku tiimissä rikkoo tuon arvon, miltä sen korjaaminen näyttää?

Nämä olivat kolme kohtaa, joita halusin tarkastella.

Lauren Wallace: Tarkastelen asiaa hieman eri tavalla. Henkilötietojen tahallinen väärinkäyttö on kauhea asia ja joissakin paikoissa rikos, mutta aina on olemassa myös henkilötietojen tahatonta ja tarkoituksetonta käyttöä. Siinä voimme mielestäni olla vastuullisia ja puolustautua ennakolta.

Useimmissa käyttämissämme työkaluissa on asetuksia, jotka voidaan ottaa käyttöön. Niillä henkilötiedot tai yrityksen luottamukselliset tiedot voidaan niputtaa yhteen tätä tarkoitusta varten ja suojata. Voit tehdä ennakoivia asioita jo lähtökohtaisesti tietoturvakerroksessa ja myös näiden tuotteiden avulla, kun otat ne käyttöön.

Varmistetaan ensin, että nämä asiat tehdään. Vältetään tahaton väärinkäyttö. Kun se on hoidettu, pääsemme puhumaan varsinaisesta ongelmasta: tahallisesta, huolimattomasta tai piittaamattomasta henkilötietojen käytöstä.

Galen Low: Aivan.

Lauren Wallace: Ihmisten henkilötietojen käyttämisestä, koska määräajat painavat ja jotakin on julkaistava perjantaihin mennessä.

Galen Low: Älä vain tee sitä. Olen oikeastaan iloinen, että sanoit tuon, koska mainitsit joutuneesi sanomaan ei ja tehneesi niin historiassa usein. Vaimoni työskentelee vakuutusalalla. Se on erityisen tiukasti säänneltyä täällä Kanadassa.

Riskit ja vaatimustenmukaisuus ovat erittäin vakavia, ja liiketoiminta voidaan hylätä riskin vuoksi. Monilla muilla toimialoilla ajatellaan helposti, että rahaa jää pöydälle, jos jotakin ei tehdä. Vastakkain ovat kysymykset siitä, kuinka suuri riski on ottaa rahat vastaan, jos huolellisuutta ei ole tehty infrastruktuurin tai hyökkäyspinta-alan osalta.

Olen iloinen, että sanoit: älä tee sitä. Se on taito, joka on vaikea, vaikka se kuuluisi omaan työhön. On vaikeaa olla se henkilö, joka sanoo, ettei liiketoimintaa voida kirjoittaa tai tuotetta toimittaa. Ehkä ei tarvitse edes pyytää anteeksi. Miten tätä lippua heilutetaan, erityisesti silloin, kun se ei varsinaisesti kuulu omaan työhön?

Lauren Wallace: Siinä ei ole mitään miellyttävää. Kyse ei ole kostosta. Organisaation kanssa voi kuitenkin palata yhteiseen sanastoon ja käytettävissä oleviin työkaluihin.

Vanhin tapa käsitellä tätä on riskimatriisi, jossa todennäköisyys kulkee yhtä akselia pitkin ja vakavuus toista. Voitte käydä avoimen keskustelun siitä, mihin kohtaan riskinne sijoittuu, ja sopia organisaationa, että rajamme on kyseisen pisteen alapuolella ja vasemmalla puolella. Silloin emme tee kyseistä asiaa.

Sen ei tarvitse olla yksilön henkilökohtainen päätös. Voitte sanoa, että organisaatiolla on riskienhallinnan lähestymistapa, johon hallitus, sijoittajat ja sääntelyviranomaiset luottavat. Jos emme noudata sitä päivittäin, emme halua joutua kahden tai kolmen vuoden kuluttua myöntämään, että tällä kertaa menimme rajojen ulkopuolelle.

Jos menimme rajojen ulkopuolelle, koska emme ymmärtäneet, mitä ostimme tai mitä mustissa laatikoissa tapahtuu, tietämättömyys ei vapauta vastuusta lain edessä. Ei ole koskaan vapauttanut eikä tule vapauttamaan.

Johdon esimerkki, yhteiset arvot ja henkilökohtainen kiinnostuksemme omaan yksityisyyteemme sekä perheidemme ja läheistemme yksityisyyteen ovat aina hyvä lähtökohta.

Galen Low: Pidän siitä. Mietin, puhummeko tekoälyn eettisen käytön, yksityisyyden ja kaikkien näiden arvojen ympärille rakennettavasta osaamisesta. Pelkäsin, että pienelle startupille sanotaan: rakentakaa yritystason monihenkilöinen tiimi hallitsemaan riskejä, vaatimustenmukaisuutta ja lakiasioita. Silloin pitäisi palkata 20 ihmistä ja kirjoittaa kaikki alusta.

Mutta ymmärrän nyt, että johdon esimerkki on tärkeä, koska sillä asetetaan arvot. Tiimien kouluttaminen niin, että joku voi sanoa tämän vaikuttavan riskikynnyksemme väärältä puolelta, ja kysyä, voimmeko keskustella asiasta, on tämän osaamisen alku. Vaikka organisaatiolla ei olisi lakiasiainjohtajaa tai sama henkilö hoitaisi kolmea muuta tehtävää, tarvitaan silti sanasto, kulttuuri ja sävy, joilla keskustelu voidaan käydä.

Toinen kiinnostava asia oli se, että aluksi ajattelin kuulijoiden sanovan, ettei kaikkia voida kutsua joka kerta pöydän ääreen. Mutta tekoälyn kohdalla ehkä pitääkin, koska asia ei ole vielä tuttua, riski ei ole pieni eikä tiedetä, mitä ihmiset tekevät sen kanssa omin päin. Ihmisten tuominen mukaan auttaa käymään keskustelua eikä vain saamaan työtä tehdyksi. Se rakentaa kulttuuria.

Lauren Wallace: Kulttuurisesti en tunne organisaatiota, joka ei juuri nyt joko kävisi läpi tai pohtisi tekoälymuutosta. On kuitenkin muistettava, että monet organisaation ihmiset saattavat henkilökohtaisesti vastustaa tekoälyn leviämistä elämässään.

He katsovat ympärilleen ja ymmärtävät, että tekoäly koskettaa kaikkea, mitä he tekevät. He eivät ymmärrä sitä kovin hyvin. Eikä heidän tarvitsekaan ymmärtää kaikkea. Tekoäly ei ole heille helposti ymmärrettävissä.

Kun näiltä ihmisiltä, joilla voi olla henkilökohtaisia huolia tekoälyn vaikutuksista heidän turvallisuuteensa, perheisiinsä, työpaikkoihinsa tai henkilötietoihinsa, pyydetään vain sulkemaan huolet pois, koska organisaatio ajaa aggressiivisesti tekoälymuutosstrategiaa, aloitteet voivat kyllä lähteä liikkeelle. Uskon kuitenkin, että ne hiipuvat, jos ihmisillä ei ole mahdollisuutta kehittää ymmärrystä ja luottamusta.

Kerron yhden asian, jonka teimme RadarFirstillä noin puolitoista vuotta sitten. Käynnistimme kuukausittaisten eettistä tekoälyä käsittelevien lounas- ja oppimistilaisuuksien sarjan.

Se oli hyvin epämuodollista. Kaikki kutsuttiin mukaan, ja tarkoituksena oli avoin keskustelu. Jokaisessa tapaamisessa käsiteltiin yhtä aihetta. Kokoukset kestivät noin 60–90 minuuttia, ja puhuimme esimerkiksi ihmisen toimijuudesta ja valvonnasta, läpinäkyvyydestä sekä vastuullisuudesta. Käytin perustana EU:n tekoälyä koskevia ohjeita.

Se tapahtui ennen tekoälysäädöksen valmistumista, mutta meillä oli jo paljon materiaalia. Aineisto oli saatavilla. Opetimme, kuinka ohjeet oli kehitetty, mistä ne olivat peräisin ja millaiset ihmisoikeusperiaatteet olivat niiden taustalla. Rakensimme niistä yhteistä sanastoa.

Näytimme myös esimerkkejä. Se oli hauskinta, koska kaikki rakastavat tosielämän selviytymiskertomuksia. Kaivoin esiin esimerkkejä tekoälyonnettomuustietokannasta. Se on valtava verkkolähde. Hae vain nimellä AI incident database. Löydät järkyttäviä ja tuoreita tapauksia, joissa läpinäkyvyyden tai vinoumien torjunnan periaatteet olivat joutuneet koetukselle.

Keskustelimme jokaisesta tapauksesta. Mikä meni pieleen? Mitä olisi voitu tehdä alun perin tämän välttämiseksi? Kun asia on jo tapahtunut, mikä on organisaation vastuu sen korjaamisesta? Sen jälkeen järjestimme avoimen keskustelun.

Osallistujat olivat henkilökohtaisen tekoälymuutoksensa eri vaiheissa. Ehkä heidän asemansa ei ollut kokouksen jälkeen muuttunut. Se on täysin hyväksyttävää. Kun he kuitenkin palasivat työpöytänsä ääreen ja jatkoivat tekoälyä hyödyntävissä tai mahdollistavissa projekteissa, heillä oli viitekehys, jonka mukaan toimia, sekä sanasto, jolla huolenaiheista saattoi keskustella tiimin kanssa tai eskaloida ne lakiosastolle, vaatimustenmukaisuudesta vastaaville tai tuotetiimille.

Se oli hieno kokemus, ja suosittelen sitä kaikille. Se on myös todella hauskaa. Samalla se muistuttaa, että puhumme inhimillisistä hyveistä ja arvoista sekä vaikutuksista itseemme, perheisiimme ja planeettaamme tulevaisuudessa.

Galen Low: Kuka vetäisi tällaiset tapaamiset, jos heillä ei olisi Lauren Wallacea?

Lauren Wallace: Jos teillä ei ole Lauren Wallacea, tämä liittyy toiseen kysymykseen: kuka johtaa ohjausryhmäänne? Teillä ei ehkä ole sellaista, mutta olisi hyvä olla. Sen pitäisi olla hyvin monitoiminen ja tuoda mukaan ihmisiä organisaation eri tasoilta.

Tuoreimmat ajatukset tulevat usein ihmisiltä, jotka eivät ole olleet organisaatiossa pitkään tai eivät ole vielä edenneet urallaan kovin pitkälle. Kuka tällaista siis johtaisi? Se on hyvä kysymys. Sama kysymys koskee kaikkia näitä asioita.

Voisiko vetäjä olla tuotepuolelta, jossa ymmärretään hyvin, kuinka yritys käytännössä mahdollistaa asian? Vai olisiko hän talous- ja hallintopuolelta, joka näkee, miten yritys käyttää tai odottaa säästävänsä rahaa tekoälyn avulla? Johdon on osallistuttava. On hyvä, että joku johtaja toimii ainakin sponsorina, mutta tehtävän voisi jakaa kuukausittain eri ihmisille.

Silloin jokainen kuukausi toisi hieman erilaista arvoa.

Galen Low: Pidän siitä, että aloitit sanalla yhteisö. Nyt näen, kuinka se muodostuu. Kyse ei välttämättä ole perinteisestä käytäntöyhteisöstä, vaan yhdessä kokoontumisesta tiedon jakamiseksi, yhteisten näkemysten löytämiseksi ja keskustelua vaativien asioiden tunnistamiseksi. Samalla annetaan toisillemme sanasto, jolla keskustelua voidaan jatkaa arjessa.

Ajattelin itse ja ehkä jotkut kuulijoistani, että tarvitsemmeko tekoälyn, yksityisyyden ja tekoälyn eettisen toteutuksen asiantuntijan vetämään lounas- ja oppimistilaisuuksia. Nyt ymmärrän, että johdon esimerkki, johtotason sponsori, työtä tekevät ihmiset sekä heidän tekemänsä päätökset ja ajatukset voivat yhdessä synnyttää vuoropuhelun.

Tämä on nyt eri toimintojen välinen peli ja monitoiminen keskustelu, joka tarvitaan uusien asioiden käsittelemiseksi. Kaikki organisaatiot eivät aiemmin pohtineet tai toteuttaneet tekoälymuutosta, mutta nyt se on perusedellytys.

Lauren Wallace: Se tuli myös mukaan hyvin nopeasti.

Galen Low: Todellakin. Pidän erityisesti siitä, mitä sanoit aluksi: säänneltyjen toimialojen organisaatioilla ja laitoksilla oli joissakin tapauksissa valmiiksi osaamista riskien hallintaan ja riskistä keskustelemiseen.

Lauren Wallace: Ne olivat tehneet riskikynnystä koskevia päätöksiä aiemminkin.

Kyse ei ole uudesta keskustelusta. Puhumme organisaation sitoutumisesta ja valtuudesta sanoa ei asioille tilanteessa, jossa riskinäkökulmaa ei ole vielä integroitu yrityksen toimintaan. Se on vaikea ongelma ratkaistavaksi tapauskohtaisesti heti alussa.

Palaan kysymykseesi siitä, kuka näitä asioita johtaisi. Konsultin kutsumisessa auttamaan keskustelukehyksen luomisessa ei ole mitään väärää. Muuten keskustelette koko päivän ettekä saa mitään valmiiksi.

Galen Low: Reilua.

Lauren Wallace: Organisaation ihmiset ovat asiantuntijoita, joiden tulisi tuoda tähän viitekehykseen omat tietonsa ja auttaa päättämään, miten lopputuloksista päätetään.

Galen Low: Lopuksi haluan puhua hieman tulevaisuudesta. En aio käyttää kristallipalloa.

Olemme maininneet aiemmin syntyneitä sääntelyjä, kuten GDPR:n. Viimeisen vuosikymmenen ajan on keskusteltu siitä, että lainsäädäntö laahaa sosiaalisen median kaltaisten asioiden käytön perässä. Olemme puhuneet siitä, että säänneltyjen toimialojen organisaatioilla voi olla etulyöntiasema, koska ne ovat kehittäneet osaamista riskistä ja vaatimustenmukaisuudesta keskustelemiseen.

Niillä on ilmoitusjärjestelmät ja käsitys hyökkäyspinta-alasta. Mietin kuitenkin, ettei asioita pitäisi joutua tekemään uudelleen. Lainsäädäntö ei ole pysynyt tekoälyn mukana. Ovatko kaikki organisaatiot siis hieman harmaalla alueella?

Onko edessämme vuosikymmeniä, joiden aikana teemme oletuksia ja laki palaa muuttamaan kaiken? Vai onko tilanne päinvastainen? Vaikuttaako tämänhetkinen toiminta siihen, millaiseksi lainsäädäntö muodostuu?

Lauren Wallace: Se oli hieno kysymys, Galen.

Galen Low: Pieni kysymys lopuksi.

Lauren Wallace: Se on hieman ajatuksia räjäyttävä kysymys.

Ajatellaan hetki lakia. Laki on tapa kirjata yhteiset eettiset periaatteemme paikkaan, josta ihmiset voivat löytää ne ja tietää, mitä ne tarkoittavat. Et ehkä ole samaa mieltä kaikesta kirjatusta etkä jaa kyseistä eettistä periaatetta, mutta tiedät, mistä löydät yhteisön näkemyksen periaatteesta ja kuinka sitä pitäisi toteuttaa.

Oikeudenkäyntiprosessi on ensisijaisesti olemassa sellaisten ongelmien ratkaisemiseksi, jotka ovat uusia ja joita ei ole vielä käsitelty lainsäädäntösykleissä. Oikeuskäytännön tarkasteleminen on erittäin kiinnostavaa, koska se näyttää, mitä oikeudenkäynneissä todella tapahtuu.

Puhuimme hetki sitten ryhmäkanteista. Kyseessä on kuin myyrän lyömistä: suuret perustavanlaatuisten ja edistyneiden mallien tarjoajat voittavat ja häviävät vuorotellen. Näissä asioissa on paljon liikkumavaraa. Oikeudenkäyntien lopputulokset kuitenkin yleensä valuvat takaisin lainsäädäntöön.

Se vie paljon aikaa. Sanomme, että oikeuden rattaat jauhavat hitaasti mutta erittäin hienosti. Tuloksena on 180-sivuinen lainsäädäntö, jolla pyritään kattamaan kaikki mahdolliset tilanteet, jotta uudet lopputulokset eivät synnyttäisi uutta lainsäädäntötilannetta. Se on kallista, hidasta ja kaikille raskasta.

Osittain juuri siksi tämä vie niin kauan. En usko, että voimme odottaa lainsäätäjien toimivan nopeasti. Emme ehkä edes halua heidän toimivan nopeasti. Coloradossa nähtiin, että lainsäädäntöä valmisteltiin ripeästi. Tuloksena oli jotakin melko hyvää, mutta se jouduttiin vetämään pois, koska sen käytännön toteutusta ei osattu ratkaista.

Yritykset alkoivat rakentaa vaatimustenmukaisuusohjelmia ennakoivasti, ennen kuin sääntö julkaistiin. Sitten sääntö vedettiin pois. Ehkä se julkaistaan kesäkuussa, ehkä myöhemmin. Ennakoiva sääntelyn noudattaminen voi siis todella lyödä takaisin, jos asiaa tehdään kohta kohdalta.

Jos olet kehittänyt johdon esimerkin, tiedät, mitä eettinen organisaatio tarkoittaa, ja tiedät riskikynnyksesi, voit sijoittaa lainsäädäntö- tai oikeudenkäyntiriskin hyväksyttävälle puolelle ja sanoa, että olemme valmiita kohtaamaan sen tarvittaessa. Emme tiedä vielä kaikkea, mutta tiedämme, mitä pidämme oikeana ja mitä asiakkaidemme odotamme meiltä. Voimme toimia sen mukaisesti jo tänään.

Galen Low: Tuo oli loistava vastaus. Kiitos paljon. Haluatko esittää minulle kysymyksen?

Lauren Wallace: Haluan, Galen. Meillä on ollut erittäin kiinnostava keskustelu. Olemme puhuneet todella vaikeasta ja kiinnostavasta työstä viimeiset 45 minuuttia ja käsitelleet arkemme monimutkaisuutta. Haluan kysyä voinnistasi ja siitä, milloin pidit viimeksi lomaa. Jos lähdit jonnekin, minne menit?

Galen Low: Se oli vuosi sitten. Menimme Meksikoon vaimoni perheen kanssa. Mukana olivat koko perhe, hänen sisarensa ja lapseni. Ei koiraa. Koira jäi kotiin. Oli ihanaa vain istua ja viettää aikaa yhdessä. Sää oli hieno, ja matka oli todellinen latautuminen ja pohdinta perheestä.

Hyvässä ja pahassa. Elämä kulkee nopeasti, emmekä aina voi valita, mihin suuntaan terveys, ura tai muut asiat vievät. Se oli viimeisin loma, joten olemme loman tarpeessa.

Tekoälymuutoksesta keskustellessamme tunnen, että olet oikeassa siinä, ettei juuri mikään organisaatio jätä asiaa tällä hetkellä huomiotta. Jotkut kokevat painetta, toiset ovat innoissaan, mutta tämä lisää uuden asian jo ennestään nopeatempoisen maailman pohdittavaksi.

Paljon tapahtuu. Ajan järjestäminen ja tasapainon löytäminen on vaikeaa. Uskon, että monille ihmisille se on tällä hetkellä vaikeaa, ehkä salakavalasti ja ilman, että he edes tiedostavat sitä.

Meidän pitäisi keskustella enemmän siitä, miltä elämämme näyttää nyt, kun meitä pyydetään juomaan paloletkusta monien asioiden osalta.

Lauren Wallace: Kognitiivinen kuormamme on tällä hetkellä mahdoton arvioida. Joskus voi vain tehdä kuten sinä: ottaa ihmiset mukaan, lähteä jonnekin lämpimään ja arvostaa sitä. Olen iloinen, että teit niin.

Galen Low: Ja tilapäisesti. Paeta hetkeksi.

Lauren Wallace: Hienoa.

Galen Low: Lauren, kiitos paljon, että olit täällä kanssani tänään. Nautin keskustelustamme todella paljon. Jos kuulijamme haluavat oppia sinusta lisää, mistä he löytävät sinut?

Lauren Wallace: Ota minuun yhteyttä LinkedInissä, niin jatketaan siitä.

Galen Low: Hienoa. Lisään Laurenin profiilin linkin ohjelman muistiinpanoihin sekä joidenkin mainitsemiemme lakien ja NOYB:n linkit. Tutustukaa niihin. Siinä kaikki.

Lauren Wallace: Kiitos, Galen.

Galen Low: Tässä oli tämänpäiväinen The Digital Project Manager -podcastin jakso. Jos pidit keskustelusta, tilaa ohjelma käyttämässäsi palvelussa. Jos haluat vielä enemmän käytännön näkemyksiä, tapaustutkimuksia ja toimintamalleja, siirry osoitteeseen thedigitalprojectmanager.com.

Ensi kertaan. Kiitos kuuntelusta.