Luotettavan tekoälyn neljä pilaria – ja kuka niistä vastaa

Galen Low: Mitä luottamus tarkoittaa suunnittelussa, ja miten se johtaa turvallisiin tekoälyratkaisuihin ja -kokemuksiin?

Cal Al-Dhubaib: Se on yhteinen viestintätyökalupakki, jonka avulla tekoälyratkaisujen suunnittelun ja käyttöönoton parissa työskentelevät erilaiset henkilöt voivat keskustella luottamuksen säilyttämisestä rakentavammin.

Galen Low: Miten projektiryhmä voi jakaa vastuun luottamuksen rakentamisesta ratkaisuihinsa ja välttää syyttelyn?

Cal Al-Dhubaib: Vastuuvelvollisuudessa on kiinnostavaa se, että jos asia kuuluu kaikille, kukaan ei lopulta omista sitä. Siksi tarvitaan henkilö, joka ottaa tästä osa-alueesta vastuun. Meillä on itse asiassa tällainen henkilö nimettynä jokaiseen tekoälyprojektiin, jotta voimme varmistaa oikeiden kysymysten esittämisen.

Galen Low: Kuinka kauan luulet kestävän, että tekoäly ymmärtää ihmisten luottamuskäsitteen paremmin kuin ihmiset itse?

Cal Al-Dhubaib: Mielestäni tekoälyn määritelmä on hyvin kehämäinen. Miten tekoäly voisi ymmärtää luottamusta paremmin kuin ihmiset? En tiedä, mutta myös—

Galen Low: Tervetuloa The Digital Project Manager -podcastiin – ohjelmaan, joka auttaa toimitusjohtajia työskentelemään fiksummin, toimittamaan sujuvammin ja johtamaan tiimejään luottavaisesti tekoälyn aikakaudella. Olen Galen, ja joka viikko perehdymme tosielämän strategioihin, uusiin suuntauksiin, toimiviksi osoittautuneisiin viitekehyksiin ja toisinaan myös projektirintaman opetuksiin. Olitpa ohjaamassa valtavia muutoshankkeita, hallinnoimassa tekoälyn työnkulkuja tai vain yrittämässä pitää kaaoksen hallinnassa, olet oikeassa paikassa. Aloitetaan.

Tänään puhumme siitä, miten luottamus voidaan suunnitella osaksi tekoälypohjaisia kokemuksia, miksi se on niin tärkeää tekoälyratkaisuja käyttöön ottaville organisaatioille ja säännellyille toimialoille sekä siitä, mikä rooli projektiryhmällä ja erityisesti projektipäälliköllä on tämän luottamuksen rakentamisessa.

Seurassani on Cal Al-Dhubaib, Further-yrityksen tekoälystä ja datatieteestä vastaava johtaja. Further auttaa muuttamaan asiakaskokemuksia datan ja tekoälyn avulla. Cal on tekoälyn ja datatieteen asiantuntija, yrittäjä, aktiivinen julkinen puhuja ja Open Data Science -podcastin uusi juontaja. Hän hyödyntää syvällistä kokemustaan datatieteestä auttaakseen organisaatioita kuromaan umpeen tekoälyinnovaatioiden ja eettisen vastuun välistä kuilua, jotta tekoälyn käyttöönotto vastaa niiden arvoja ja tavoitteita.

Hänen työnsä Clevelandin teknologia-alalla on myös tuonut hänelle tunnustusta: hänet on valittu Crane Clevelandin kaksikymppisten parhaimmistoon, merkittäväksi maahanmuuttajataustaiseksi johtajaksi ja huomionarvoiseksi teknologiajohtajaksi. Lisäksi hän on voittanut Cleveland Smart 50 -palkinnon neljä kertaa.

Cal, kiitos paljon, että liityit seuraani tänään.

Cal Al-Dhubaib: Galen, kiitos kutsusta. Odotan innolla tätä keskustelua.

Galen Low: Niin minäkin. Keskustelumme ennen tätä jaksoa ovat olleet todella kiinnostavia. Tiedät ehdottomasti mistä puhut. Olet kiertänyt alan tapahtumia, ja onnittelut Open Data Science -podcastin juontajan tehtävästä. Sinulla on paljon hienoja asioita meneillään.

Tiedän, että olet syvällä tässä aiheessa ja suhtaudut siihen intohimoisesti. Toivon, että keskustelu vie meidät myös odottamattomiin suuntiin. Mutta varmuuden vuoksi tässä on tämän päivän suunnitelma. Aloitetaan suurella, mehukkaalla kysymyksellä, johon kuulijani haluavat vastauksen.

Sen jälkeen haluan käsitellä kolmea asiaa. Ensinnäkin puhumme siitä, mitä luottamuksen suunnittelu osaksi tekoälyratkaisua tarkoittaa ja mikä projektiryhmän vastuu on luottamuksen ylläpitämisestä suunnittelemissaan ratkaisuissa. Sitten tarkastelemme tapoja, joilla luottamusta voidaan mitata ja auditoida erityisesti säänneltyjen toimialojen yhteydessä, mutta myös vaatimustenmukaisuuden ulkopuolella.

Lopuksi haluan kuulla näkemyksesi tulevaisuudesta ja siitä, miten käsityksemme luottamuksesta saattaa kehittyä seuraavien vuosien aikana, kun opimme yhdessä paremmin, miten dataamme käsitellään ja mihin sitä voidaan käyttää tekoälyn aikakaudella. Siinä oli paljon asiaa. Miltä tämä kuulostaa?

Cal Al-Dhubaib: Kyllä. Käymme läpi valtavan määrän asioita. Suunnitelma on kunnianhimoinen, ja olen mukana.

Galen Low: Hienoa. Sukelletaan aiheeseen. Haluan aloittaa yhdellä suurella ja vaikealla kysymyksellä. Yksi keskeisistä aiheista, joista puhut, on luottamuksen suunnittelu osaksi tekoälyratkaisuja ja -kokemuksia, koska käyttäjät, yritykset ja sääntelyorganisaatiot eivät ota tekoälyä täysimääräisesti käyttöön, jos ne eivät voi luottaa siihen, mitä se tekee.

Kysymykseni on tämä: kun tekoälyratkaisuja rakennetaan ja otetaan käyttöön, kuka omistaa luottamuksen ratkaisun vaatimuksena, ja mitä tapahtuu, kun luottamus puuttuu tekoälypohjaisesta kokemuksesta?

Cal Al-Dhubaib: Helppo vastaus on, että oletusarvoisesti kukaan ei omista sitä, ja juuri tämä on suuri ongelma. Yritän ratkaista tätä rakentaessani kurssia luottamuksen suunnittelusta.

Se muistuttaa minua datatieteen alkuajoista. Joku analytiikan parissa työskentelevä saattoi omistaa asian, joku tietohallinnossa tai joku taloushallinnossa. Sillä ei ollut niinkään väliä, missä asia sijaitsi, kunhan oli selvää, kuka siitä oli vastuussa ja vastuuvelvollinen.

Sama pätee luottamuksen suunnitteluun tekoälyratkaisuihin. Jos luottamus ei ole osa suunnitteluprosessia, ratkaisu johtaa lopulta tahattomiin seurauksiin. Tekoälyn tapauksiin liittyvien häiriöiden tietokanta on yksi lähteistä, joihin viittaan usein. Viimeisimpien lukujen perusteella tapausten määrä on jatkanut tasaista kasvuaan vuodesta toiseen.

Galen Low: Mielenkiintoista. Voisitko kertoa lisää siitä, miten tietokanta lähestyy tapausten määrittelyä?

Cal Al-Dhubaib: Pidän siitä, koska siinä käydään läpi uutislähteitä ja tarkastellaan tapauksia useiden eri näkökulmien kautta. Jos useat toisistaan riippumattomat uutislähteet ovat käsitelleet samaa tapahtumaa, kaikki käsittely kootaan yhdeksi tapaukseksi, ja käyttäjä voi tarkastella siihen liittyvää uutisointia.

Varhaisia esimerkkejä ovat esimerkiksi Applen luottokortti, joka aluksi myönsi naisia pienempiä luottorajoja kuin miehille muiden tekijöiden ollessa samoja.

Toinen esimerkki on ohjelmistoyrityksen koodausratkaisu, jossa käyttäjiä lukittiin satunnaisesti ulos palvelusta. Sen tekoälypohjainen keskustelubotti vastasi ironisesti keksityllä vastauksella, mikä vain sekoitti käyttäjiä lisää. He kokivat, että heidän kokemuksensa kyseenalaistettiin, ja lopulta he peruivat tilauksensa.

Vielä viime syksynä yksi neljästä suuresta konsultointiyrityksestä toimitti Australian hallitukselle raportin, jonka laatimisessa oli käytetty tekoälyä. Raportissa oli merkittäviä tarkkuusongelmia, jotka johtuivat tekoälyn tuottamista virheellisistä tiedoista.

Galen Low: Pidän näissä esimerkeissä siitä, että ne kattavat erilaisia tapauksia: ennakkoluulot, käyttäjien harhaanjohtamisen ja tarkkuusongelmat.

Cal Al-Dhubaib: Kyllä. Kaikissa tapauksissa on kyse luottamuksen suunnittelusta ja siitä, että tekoälyn ympärille rakennetaan oikeat prosessit, suojakaiteet ja ihmisten valvonta.

Galen Low: Puhut paljon säännellyistä toimialoista, kuten terveydenhuollosta, rahoituspalveluista ja puolustuksesta. Näillä aloilla arkaluonteisen datan eettinen ja vastuullinen käyttö ei ole vain oikein toimimista, vaan sääntöjen rikkomisella voi olla vakavia seurauksia.

Cal Al-Dhubaib: Näissä ympäristöissä virheen hinta on korkea. Tekoälyjärjestelmistä voi kuitenkin antaa yhden lupauksen: ne tekevät virheitä.

Siksi turvallisin tekoäly on joskus vähäisempi määrä tekoälyä. Esimerkiksi opiskelijoiden opintosuoritusten käsittelyssä saavutimme tekoälypohjaisella ratkaisulla 90 prosentin tarkkuuden. Tutkimme, milloin tekoäly todennäköisimmin erehtyi, ja ohjasimme tietynlaiset asiakirjat ihmisen tarkistettaviksi. Tekoäly käsitteli loput. Näin emme automatisoineet koko työnkulkua, mutta automatisoimme turvallisen osan ja säilytimme ihmisen mukana kohdissa, joissa virheen riski oli suurempi.

Tämä on yksi esimerkki luottamuksen suunnittelusta käytännössä.

Galen Low: Voisitko antaa meille määritelmän luottamuksen suunnittelulle ja kertoa, miten se johtaa turvallisiin tekoälyratkaisuihin ja -kokemuksiin?

Cal Al-Dhubaib: Se on yhteinen viestintätyökalupakki, jonka avulla tekoälyratkaisujen suunnitteluun ja käyttöönottoon osallistuvat eri roolit voivat keskustella luottamuksen säilyttämisestä rakentavammin.

Tekoälyinsinöörit tarkastelevat tilastollisia ongelmia ja haitallisia ennakkoluuloja. Riskienhallinnan ammattilaiset ja auditoijat tarkastelevat organisaation riskejä. Hallinnon asiantuntijat miettivät oletusten dokumentointia. Käyttökokemuksen suunnittelijat keskittyvät siihen, miten ihmiset ovat vuorovaikutuksessa järjestelmän kanssa, ja liiketoiminnan sidosryhmät määrittelevät vaatimukset ja liiketoimintaongelman.

Kaikille näille ihmisille tarvitaan yhteinen tapa puhua samasta asiasta, ymmärtää miten luottamusta voidaan loukata tekoälyn yhteydessä ja millä työkaluilla sitä voidaan suojata.

Galen Low: Mainitsit luottamuksen neljä pilaria: odotusten hallinnan, päätöksenteon suunnittelun, hallinnon ja luottamuksen infrastruktuurin hallinnan.

Cal Al-Dhubaib: Aivan. Luottamuksen suunnittelu tarkoittaa myös sitä, että käyttäjille annetaan sopiva määrä tietoa ja oikeat suojakaiteet, jotta he tietävät, miten järjestelmää käytetään hyvin.

Esimerkiksi Behrin maalien kanssa rakensimme generatiivisen kokemuksen tuotteiden valintaan. Sen täytyi kunnioittaa väriteoriaa, tyylioppaita ja todellisuudessa saatavilla olevia tuotteita. Jos käyttäjä alkoi kysyä maalin sekoittamisesta tai levittämisestä, järjestelmä ohjasi hänet nopeasti oikeaan neuvontakanavaan.

Lisäksi järjestelmä ei saanut suositella kilpailijoiden maaleja eikä joutua käyttäjän painostamaksi sanomaan asioita, joita yritys ei halunnut sen sanovan. Kaikki tämä dokumentoitiin käyttäjäystävälliseen järjestelmäkorttiin.

Galen Low: Kuulostaa siltä, että tässä on kyse yhteistyöstä. Tekoälyn ei tarvitse hoitaa kaikkea itse.

Cal Al-Dhubaib: Kaikki tuotantokäyttöön tarkoitetut ratkaisut, joita olen kohdannut, tarvitsevat runsaasti ihmisen osallistumista ja tasapainottamista. Tekoälyä ohjataan, mutta ihmiset päättävät, mitä sen ympärillä tapahtuu.

Galen Low: Miten projektiryhmä voi jakaa vastuun luottamuksen rakentamisesta ratkaisuihin?

Cal Al-Dhubaib: Jos asia on kaikkien vastuulla, kukaan ei omista sitä. Siksi tarvitaan henkilö, joka ottaa tästä osa-alueesta vastuun. Meillä on tekoälyn hallinnan ammattilainen nimettynä jokaiseen tekoälyprojektiin, jotta voimme varmistaa oikeiden kysymysten esittämisen.

Galen Low: Voidaanko luottamusta mitata? Voiko projektiryhmä tietää, onko se saavuttanut luotettavan kokemuksen?

Cal Al-Dhubaib: Yksi mittari voi olla tapausten määrä. Lisäksi voidaan analysoida käyttäjien toimintaa. Saavuttavatko käyttäjät tavoitteensa? Pääsevätkö he toimintakehotteeseen? Palaavatko he työkalun pariin? Jos ratkaisu ei ole hyödyllinen, sekin on luottamuskysymys.

Galen Low: Lopuksi: miten tekoälyn ymmärrys luottamuksesta voi kehittyä?

Cal Al-Dhubaib: Luottamus on hyvin subjektiivista. Se näyttää erilaiselta eri tilanteissa ja moraalisissa viitekehyksissä. Ei ole olemassa yhtä universaalia moraalista totuutta siitä, miltä luottamus näyttää.

Siksi meidän täytyy tunnistaa oletuksemme ja päättää, milloin tekoäly tekee päätöksen, milloin se ohjaa asian takaisin käyttäjälle ja milloin se tarvitsee ihmisen väliintuloa. Nämä ovat kaikki luottamuksen suunnitteluun kuuluvia suunnitteluratkaisuja.

Galen Low: Luottamuksen suunnittelu ei siis tapahdu tyhjiössä. Meidän täytyy keskustella siitä yhdessä.

Cal Al-Dhubaib: Ehdottomasti.

Galen Low: Cal, kiitos paljon osallistumisestasi. Mistä ihmiset voivat oppia lisää kurssistasi ja sinusta?

Cal Al-Dhubaib: Olen aktiivinen LinkedInissä, ja se on todennäköisesti paras kanavani. Löydät minut sieltä, ja ilmoitan lisätiedoista pian.

Galen Low: Hienoa. Lisäämme linkin profiiliisi sekä myöhemmin myös tekoälytapausten tietokantaan. Kiitos vielä hienosta keskustelusta.

Cal Al-Dhubaib: Kiitos kutsusta, Galen.

Galen Low: Siinä kaikki tämän päivän The Digital Project Manager -podcastin jaksossa. Jos pidit keskustelusta, tilaa podcast käyttämässäsi palvelussa. Jos haluat lisää käytännön näkemyksiä, tapaustutkimuksia ja toimintamalleja, vieraile osoitteessa thedigitalprojectmanager.com.

Kuulemisiin ja kiitos kuuntelusta.