Kuinka rakentaa luotettavaa tekoälyä: neljän pilarin viitekehys projektitiimeille
Tämä artikkeli on muokattu The Digital Project Manager -podcastin jaksosta, jossa juontaja Galen Low keskustelee Furtherin tekoälystä ja datatieteestä vastaavan johtajan Cal Al-Dhubaibin kanssa. Kuuntele jakso täällä.
Vastuu luottamuksesta: Yksilöllisen vastuun puute heikentää usein luottamusta tekoälyprojekteissa ja vaikeuttaa vastuun määrittämistä.
Luottamustekniikka: Luottamustekniikaksi kutsuttu viitekehys edistää yhteisen kielen syntymistä tekoälyn suunnitteluun osallistuvien eri sidosryhmien keskuudessa.
Neljä pilaria: Luotettava tekoäly perustuu neljään pilariin: odotusten hallintaan, päätöksenteon suunnitteluun, hallintoon ja luottamuksen infrastruktuuriin.
Projektia koskevat kysymykset: Tiimien tulisi pohtia kolmea keskeistä kysymystä varmistaakseen tekoälyratkaisujen tehokkaan hallinnon ja riskienhallinnan.
Luottamuksen mittaaminen: Käyttäjien toiminta on tärkeä luottamuksen ja tekoälyjärjestelmien vaikuttavuuden indikaattori.
Miksi luottamuksella täytyy olla vastuuhenkilö
Useimmat tekoälyprojektit törmäävät samaan ongelmaan jo ennen kuin ne pääsevät kunnolla alkuun: kukaan ei ole nimenomaisesti vastuussa siitä, voiko järjestelmään luottaa. Furtherin tekoälystä ja datatieteestä vastaava johtaja Cal Al-Dhubaib on nähnyt tämän toteutuvan eri toimialoilla, ja hän puhuu suoraan perimmäisestä syystä. ”Helppo vastaus on, että oletusarvoisesti kukaan ei omista sitä, ja juuri se on suuri ongelma”, hän sanoo.
Kukaan ei omista sitä [tekoälyn luottamusta], ja juuri se on suuri ongelma.
Ongelma ei ole huolen puute — vaan epäselvyys siitä, kenen tehtävä asia oikeastaan on. ”Vastuullisuudessa on kiinnostavaa se, että jos se on kaikkien vastuulla, kukaan ei omista sitä, joten viime kädessä tarvitaan yksittäinen henkilö, joka ottaa tämän osa-alueen vastuulleen”, Al-Dhubaib selittää. Furtherilla tämä periaate ei ole vain teoreettinen. ”Olemme nimenneet jokaiselle näistä tekoälyprojekteista oman vastuuhenkilön, jotta voimme varmistaa esittävämme oikeat kysymykset.”
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Mitä luottamustekniikka oikeastaan on
Al-Dhubaibin ratkaisu vastuuaukkoon on viitekehys, jota hän kutsuu luottamustekniikaksi — käytännössä yhteinen kieli monille tieteenaloille, jotka liittyvät tekoälyjärjestelmään. ”Se on yhteinen viestintätyökalupakki, jonka avulla tekoälyratkaisujen suunnittelun ja tekoälyratkaisujen käyttöönoton parissa työskentelevät erilaiset toimijat voivat keskustella luottamuksen säilyttämisestä rakentavammin”, hän sanoo.
Yhteisen työkalupakin tarve johtuu siitä, kuinka pirstaleista keskustelu yleensä on. Insinöörit, riskienhallinnan asiantuntijat, hallinnosta vastaavat johtajat, UX-suunnittelijat ja liiketoiminnan sidosryhmät tarkastelevat samaa järjestelmää eri näkökulmista. ”Tarvittiin jokin yhteinen tapa, jolla kaikki nämä ihmiset voivat puhua samasta asiasta ja muodostaa samanlaisen käsityksen siitä, millä tavoin luottamusta voidaan rikkoa tekoälyn avulla”, Al-Dhubaib sanoo, ”sekä työkalut, joilla tältä voidaan puolustautua.”
Tarvittiin jokin yhteinen tapa, jolla kaikki nämä ihmiset voivat puhua samasta asiasta ja muodostaa samanlaisen käsityksen siitä, millä tavoin luottamusta voidaan rikkoa tekoälyn avulla.
Luotettavan tekoälyn neljä pilaria
Luottamustekniikka jakautuu neljään käytännön pilariin — odotusten hallintaan, päätöksentekoon, hallintoon ja luottamuksen infrastruktuuriin. Jokainen niistä käsittelee eri kohtaa, jossa tekoälyjärjestelmät yleensä menettävät ihmisten luottamuksen.
Pilari 1: Odotusten hallinta
Ensimmäinen pilari koskee laajuutta. Generatiiviset tekoälyjärjestelmät ovat usein tarkoitukseensa nähden liian avoimia, ja tämä avoimuus voi kuormittaa juuri niitä käyttäjiä, joita niiden on tarkoitus auttaa. ”On hyvä, että sillä, mitä voin tällä työkalulla tehdä, on rajattu alue”, Al-Dhubaib huomauttaa.
Hän kertoo tosielämän esimerkin työstään Behr Paintin kanssa. Tavoitteena oli vähentää värin valintaan liittyvää päätösväsymystä. ”Mene Home Depotiin ja näet valtavan maalivärien esittelyn”, hän sanoo kuvaillessaan, kuinka asiakkaat — hän itse mukaan lukien — jäävät jumiin. ”Ja olo muuttuu hyvin hämmentyneeksi, jos sinun täytyy valita.” Ratkaisu ei ollut tekoälyn lisääminen, vaan tarkemmin ja tietoisemmin rajattu käyttökokemus.
Pilari 2: Päätöksenteon suunnittelu
Toinen pilari koskee suojakaiteita, jotka asetetaan niiden valintojen ympärille, joita tekoälyjärjestelmä saa tehdä. ”Miten käyttäjille annetaan oikea määrä tietoa ja oikea määrä suojakaiteita, jotta he osaavat käyttää järjestelmää hyvin?” Al-Dhubaib kysyy.
Behr Paint -projektissa tämä tarkoitti selkeän rajan vetämistä sen ympärille, millaista neuvontaa tekoäly pystyi turvallisesti antamaan. Värin valinta oli sallittua; kaikki maalin sekoittamiseen tai levittämiseen liittyvä edellytti asian siirtämistä ihmiselle. ”Jos keskustelu alkaa missä tahansa vaiheessa kääntyä siihen suuntaan, käyttäjälle annetaan nopeasti kehote, jossa sanotaan: tässä on neuvontapuhelimemme tätä tiettyä kysymystä varten”, Al-Dhubaib kertoo.
Jos keskustelu alkaa missä tahansa vaiheessa kääntyä siihen suuntaan, käyttäjälle annetaan nopeasti kehote, jossa sanotaan: tässä on neuvontapuhelimemme tätä tiettyä kysymystä varten.
Järjestelmä rakennettiin myös maineeseen liittyvät suojamekanismit huomioiden — ”sitä ei myöskään painosteta sanomaan asioita, joita et halua sen sanovan, jotta niistä otettaisiin kuvakaappaus ja levitettäisiin niitä ympäri internetiä.”
Pilari 3: Hallinto
Kolmas pilari käsittelee kysymystä, johon insinöörit eivät voi vastata yksin: mitä ”reiluus” tai ”oikeellisuus” edes tarkoittaa juuri tämän yrityksen kohdalla? Al-Dhubaib kuvailee projektia, jossa kehitettiin opiskelijavalintoihin tarkoitettua mallia ja asiakas halusi laadun varmistuvan eri demografioissa. ”Reiluuden laskemiseen on 22 erilaista tapaa”, hän sanoo. ”Ja suoraan sanottuna se on insinöörin työnkuvan ulkopuolella. Voin kertoa, mikä kaava on ja miten sen voi laskea monilla eri tavoilla. Tarvitsen teiltä vastauksen siihen, mikä teidän käytäntönne on, miten lähestytte tätä määritelmää ja mikä on teille oikein?”
Tämä hallintotyö ei rajoitu sisäisiin päätöksiin — siitä on viestittävä myös ulospäin. Kuten Al-Dhubaib asian ilmaisee, kaikki tämä dokumentoidaan ja jaetaan ”helppokäyttöisessä järjestelmäkortissa”.
Pilari 4: Luottamuksen infrastruktuuri
Viimeinen pilari kattaa työkalut ja prosessit, jotka pitävät tekoälyjärjestelmän rehellisenä sen käyttöönoton jälkeen. Hän havainnollistaa pilaria vertaamalla kahta tunnettua pikaruokaravintolaketjua. Toinen poisti tekoälypohjaisen puhelintilausjärjestelmänsä käytöstä, koska se ei pystynyt jatkuvasti tekemään tilauksia oikein.
Toinen lähestyi asiaa eri tavalla: ”Toisaalta Domino'silla 80 % puhelimitse tehdyistä tilauksista käsitellään nykyään tekoälyjärjestelmällä”, ja ihmisvalvojat seuraavat puheluita reaaliajassa ja puuttuvat tilanteeseen tarvittaessa. Lisäksi käytössä on ”asianmukaiset auditointitoimenpiteet sen varmistamiseksi, että tilaukset vastaavat edelleen sitä, mitä käyttäjä sanoi.” Al-Dhubaibin näkemyksen mukaan ero ei ollut taustalla olevassa teknologiassa. ”En usko, että kyse oli niinkään teknologian epäonnistumisesta kuin siitä, että teknologian ympärille ei rakennettu oikeita suojamekanismeja.”
En usko, että kyse oli niinkään teknologian epäonnistumisesta kuin siitä, että teknologian ympärille ei rakennettu oikeita suojamekanismeja.
Kolme kysymystä, jotka jokaisen projektiryhmän tulisi esittää
Neljän pilarin lisäksi Al-Dhubaib tarjoaa projektiryhmille yksinkertaisen keinon arvioida mitä tahansa tekoälyn hallintaa koskevaa keskustelua — kolme peräkkäin esitettävää kysymystä.
Ensimmäinen: ”Mitä olet tehnyt etukäteen testataksesi ja varmistaaksesi, että olet minimoinut tähän tekoälyratkaisuun liittyvät mahdolliset haitat tai mahdolliset riskit?” Toinen, kun järjestelmä on käytössä: ”Mistä tiedät, milloin se tekee virheen?” Ja kolmas — kysymys, joka hänen mukaansa jää useimmiten huomiotta — ”Mitä teet sitten? Miten saat asian hoidettua? Oletko todella testannut suunnitelmaa kuormitustilanteissa?”
Mistä tietää, toimiiko se
Luottamus ei ole vain suunnitteluperiaate, vaan sitä voidaan mitata. Al-Dhubaib pitää käyttäjien toimintaa yhtenä selkeimmistä tiimin käytettävissä olevista signaaleista. ”Saavuttaako käyttäjä tavoitteesi?” hän kysyy ja käyttää jälleen Behr-esimerkkiä — pääsevätkö ihmiset todella tutustumaan maalin ominaisuuksiin tarkemmin, saattamaan vuorovaikutuksen loppuun ja palaamaan työkalun pariin.
Lopulta hän yhdistää hyödyllisyyden suoraan itse luottamukseen: ”Emme yksinkertaisesti ole hyödyllisiä — koska sekin on osa luottamusta.”
Lopputulos
Luottamuksen suunnittelu ei ole tarkistuslista, joka liitetään projektiin jälkikäteen — se on sarja koko projektin aikana tehtäviä suunnittelupäätöksiä siitä, mitä järjestelmä tekee ja mitä se ei tee sekä siitä, kuka on vastuussa kustakin päätöksestä. Kuten Al-Dhubaib asian ilmaisee: ”On määriteltävä, mikä on oikein ja mitä oletuksia aiot esittää. Nämä ovat kaikki suunnittelupäätöksiä, joita voidaan tehdä osana luottamuksen suunnittelua.”
Haluatko lisää tällaisia näkemyksiä? Luo ilmainen DPM-tili, niin kuulet lisää tällaisilta asiantuntijoilta.
