Tekoälyn datanhallintaongelma, jota operatiiviset johtajat eivät voi sivuuttaa
Pyydä viittä ihmistä määrittelemään "datahallinto", ja saat viisi erilaista vastausta. Tim Fisher, DPM:n tekoälyjohtaja, ei ylläty tästä. "En tiedä, onko olemassa todella vakiintunutta määritelmää, jota kaikki yritykset [käyttävät]", hän sanoo. "Joillekin se tarkoittaa lakitiimiä kertomassa, mitä he saavat ja eivät saa tehdä, kun taas organisaation muissa osissa se tarkoittaa hyvin eri asioita."
Tässä artikkelissa käytämme termiä samalla tavalla kuin Fisher käyttää sitä, kun häneltä pyydetään täsmällistä määritelmää: kyse on siitä, kuka voi käyttää tietoja, millä suostumuksella ja minkä sääntöjen alaisena — ei siitä, ovatko itse tiedot paikkansapitäviä, ajantasaisia tai hyvin järjestettyjä. Tuo toinen kysymys on todellinen, ja kyseessä on eri toimintakenttä, jolla on erilaiset ratkaisut; käsittelemme sitä erikseen. Tämä artikkeli käsittelee politiikkaan liittyvää kysymystä ja sitä, miksi sen kanssa ei voi odottaa.
Missä termi todella sijoittuu: lain ja operaatioiden leikkauspiste
Kun Fisher rajaa määritelmän tarkemmaksi, hän päätyy organisaatiokaavion tiettyyn kohtaan. "Ajattelen datahallintoa ennen kaikkea käytäntöjen ja periaatteiden kautta", hän sanoo — ja suuremmassa yrityksessä hän sijoittaa sen tarkasti: "Venn-diagrammin kaltaiseen leikkauspisteeseen lain ja dataoperaatioiden välillä."
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Ajattelen datahallintoa ennen kaikkea käytäntöjen ja periaatteiden kautta. Venn-diagrammin kaltaiseen leikkauspisteeseen lain ja dataoperaatioiden välillä.
Tuo leikkauspiste ei ole abstrakti. Fisher nostaa esiin paljon vanhemman ja hyvin konkreettisen syyn, jonka vuoksi yritykset alun perin rakentavat näitä rakenteita: arvopaperilainsäädännön. "Yhdysvaltain arvopaperi- ja pörssikomissio asettaa erittäin tiukat säännöt sille, mitä saa ja ei saa sanoa tai jakaa hyvin ilmeisistä syistä, kuten sisäpiirikauppojen vuoksi", hän sanoo.
"Se on siis syy sille, että yrityksellä on datahallinto." Hän yhdistää tämän suoraan yrityksen kasvuvaiheeseen — siirtyminen yksityisestä yrityksestä julkiseksi on usein vaihe, jolloin datahallinto lakkaa olemasta vapaaehtoista, kun ulkopuolisia konsultteja otetaan mukaan nimenomaan rakentamaan rakenteita, jotka julkisella yrityksellä on lain mukaan oltava.
Tämä on se osa, jonka äärelle kannattaa pysähtyä ennen kaikkea muuta: datahallinto oli tiukka lakisääteinen vaatimus jo kauan ennen tekoälyn ilmaantumista. Muuttunut asia on riskin nopeus ja laajuus — ja juuri siksi tilanne on kiireellinen kaikille, jotka johtavat operaatioita nykyään.
Miksi tekoäly tekee tästä operaatiojohtajille kiireellisemmän huolenaiheen
Yrityksillä on aina ollut tietoja, joita niiden ei ole pitänyt jakaa huolimattomasti. Uutta on se, kuinka helppoa niiden jakaminen nyt on ilman, että kukaan päättää tehdä niin. Fisherin selkein esimerkki on asetus, jonka ohi useimmat työntekijät ovat kulkeneet huomaamatta: "Pieni valintakytkin, jota he eivät ole koskaan nähneet ja joka on haudattu viisi tasoa syvemmälle asetussivulle ja joka antaa OpenAI:lle tai Anthropicille pääsyn kaikkiin näihin tietoihin algoritmiensa kouluttamista varten", hän sanoo. Kenenkään ei tarvitse aikomuksella vuotaa mitään. Oletusasetuksen tarvitsee vain jäädä tarkistamatta.
Se on useimpien tekoälyaikakauden datahallinnon epäonnistumisten taustalla oleva mekanismi: tiimit "heittävät" omistusoikeudellisia tai henkilöstöhallinnon tietoja suurten kielimallien käsiteltäviksi "ymmärtämättä", mihin he ovat tosiasiassa antaneet suostumuksensa, koska kukaan ei rakentanut käytäntökerrosta, joka olisi ilmoittanut asiasta ennen kuin se tapahtui. Fisher sanoo suoraan, ettei kyse ole harvinaisesta virheestä — "olemme kaikki kuulleet kauhutarinoita lähdekoodin päätymisestä väärille ihmisille. Se voi tapahtua."
Jännite on rakenteellinen, ei varovaisuuden puutetta. "Olette tässä hankalassa tilanteessa, kun kasvatte", Fisher sanoo. "Koette tarvitsevänne joitakin sääntöjä, mutta ette halua kahlita tiimejänne liikaa." Jokainen operaatiojohtaja, joka tasapainoilee tekoälyn käyttöönoton ja tietoturvan välillä, elää juuri tässä kuilussa — eikä tekoäly luonut taustalla olevaa oikeudellista riskiä, se vain teki mahdolliseksi laukaista sen vahingossa, mittakaavassa ja sellaisen asetusvalikon kautta, jota kukaan ei lukenut.
Olette tässä hankalassa tilanteessa, kun kasvatte. Koette tarvitsevänne joitakin sääntöjä, mutta ette halua kahlita tiimejänne liikaa.
Missä operaatiojohtajat ovat todella alttiina riskeille
Operatiivisen toiminnan johtajien tärkeimmät huomioon otettavat alueet ovat:
- Työntekijöiden henkilötiedot. Henkilöstösuunnitelmat, HR-tiedot ja suorituskykytiedot voivat päätyä tekoälytyökalun konteksti-ikkunaan ilman, että kukaan on tosiasiassa antanut suostumustaan niiden päätymiseen sinne.
- Taloudelliset ja julkistamisherkät tiedot. Olennainen ei-julkinen tieto, tulostiedot ja kaikki sellainen, joka aiheuttaisi SEC:n julkistamiseen liittyviä huolenaiheita, jos se vuotaisi tai päätyisi väärälle henkilölle väärään aikaan.
- Luottamukselliset ja immateriaalioikeuksien kannalta arkaluonteiset tiedot, mukaan lukien lähdekoodi. Kyse on puhtaasti käyttöoikeuksien hallintaan ja luottamuksellisuuteen liittyvästä riskistä – erillään arvopaperisääntelystä – mutta taustalla on sama mekanismi kuin missä tahansa muussa valvomattomassa tekoälyn oletusasetuksessa.
- Asiakasprojektien tiedot. Tekoälytyökaluissa käsiteltävät luottamukselliset asiakastiedot aiheuttavat saman riskin ilman sopimuksiin tai suostumukseen liittyvää selkeyttä, vaikka erityistä tietoturvaloukkausta ei vielä olisi kirjattu.
Useimmilla yrityksillä ei ole mitään näistä
Panoksista huolimatta Fisher toteaa suoraan, että monet organisaatiot toimivat täysin ilman käytäntöjä. ”Monilla organisaatioilla ei ole minkäänlaista tiedonhallintaa”, hän sanoo.
Hän on seurannut tätä molemmista näkökulmista. Suuremmassa ja vakiintuneemmassa yrityksessä hän näki, että hallintamalliin ”suhtauduttiin erittäin vakavasti pitkän aikaa”, siinä määrin, että toiminnasta tuli yhä varovaisempaa – ja yhä vaikeammin purettavaa. Pienemmillä ja nopeammin kasvavilla yrityksillä on päinvastainen ongelma: varovaisuutta ei ole liikaa, vaan sitä ei ole lainkaan, vaikka niiden päällä on paine edetä nopeasti.
Johtopäätös toimituksista vastaaville johtajille
Ensimmäistä askelta varten ei tarvitse rakentaa täydellistä hallintakehystä. Aloita jostakin pienestä ja konkreettisesta: tarkista asetusvalikko. Fisherin mainitsema vaihtokytkin on todellinen ja löydettävissä – selvitä, onko organisaatiosi tekoälytyökalut oletusarvoisesti asetettu kouluttamaan malleja datallasi ja kuka on hyväksynyt tämän. Tästä voi keskustella jo tällä viikolla; kyse ei ole projektista.
Samalla on kuitenkin syytä pitää mielessä Fisherin esiin nostama todellinen jännite: portinvartijuus ei ole automaattisesti turvallinen valinta. ”Jopa organisaatioissa, joissa tiedot ovat helposti saatavilla, niitä pidetään usein edelleen luottamuksellisina, vaikka siihen ei olisi tarvetta”, hän sanoo – ja kaiken lukitseminen oletusarvoisesti voi huomaamatta maksaa yritykselle yhtä paljon kuin kaiken jättäminen täysin avoimeksi, vaikka kustannus näkyy vähemmän. ”Et pääse muuttamaan asioita eteenpäin, jos et muuta sitä, kenellä organisaatiossasi on pääsy tietoihisi.” Hyvä tiedonhallinta ei tarkoita vain sitä, että harvemmat ihmiset käsittelevät tietoja – vaan sitä, että oikeat ihmiset käsittelevät tarkoituksellisesti oikeita tietoja.
Jopa organisaatioissa, joissa tiedot ovat helposti saatavilla, niitä pidetään usein edelleen luottamuksellisina, vaikka siihen ei olisi tarvetta.
Käytännössä tämä tarkoittaa muutamaa konkreettista toimenpidettä, ei sääntökansiota:
- Aloita keskustelu nyt, ennen kuin jokin tapahtuma pakottaa siihen. Kysy, mitkä tiimit käyttävät jo tekoälytyökaluja ja miten – useimmat operatiivisen toiminnan johtajat ovat tässä jäljessä yksinkertaisesti siksi, ettei kukaan ole kysynyt.
- Tarkista ensin koko organisaation käytössä olevat työkalut. Vahvista kaikkien yrityksen hyväksymien tekoälyalustojen osalta, mikä on koulutusdatan oletusasetus ja kenellä on näkyvyys siihen, mitä niiden kautta kulkee.
- Älä sivuuta henkilökohtaista tai epävirallista työkalujen käyttöä. Suurempi riski on usein tekoälytyökalu, jota kukaan ei ole hyväksynyt – joku saattaa liittää asiakasmuistiinpanoja henkilökohtaiseen ChatGPT-tiliinsä, koska hyväksytty työkalu on hitaampi. Tämän tuominen esiin ei ole rankaisemista, vaan sen selvittämistä, missä todellinen altistumisesi on.
- Ota käyttöoikeuksien tarkistus mukaan samaan keskusteluun, älä erilliseksi aiheeksi. Kun tarkistat oletusasetuksia ja tekoälytyökalujen käyttöä, kysy, kuka toimii sellaisen tiedon portinvartijana, jota ei tarvitse rajata. Yhden oven tiukentaminen toisen jäädessä täysin avoimeksi ei ole hallintaa – se on näennäistoimintaa.
- Opeta ihmiset tunnistamaan arkaluonteiset tiedot, älä vain noudattamaan sääntöjä. Useimpia työntekijöitä ei ole koskaan pyydetty pohtimaan, mikä lasketaan arkaluonteiseksi – asiakastiedot, HR-tiedot ja taloudelliset tiedot – tai mikä voisi mennä pieleen, jos ne päätyvät sääntelemättömään työkaluun. Käytännöt, joissa ihmisille kerrotaan, mitä ei saa tehdä, ovat vähemmän tärkeitä kuin se, että ihmiset todella tunnistavat edessään olevan riskin.
Mikään tästä ei edellytä tiimien työn hidastamista, jotta asiat tehdään oikein. Tarvitaan tieto siitä, minne datasi kulkee, kuka siitä päätti ja onko vastaus edelleen kyllä.
Haluatko lisää tämänkaltaisia näkemyksiä? Luo ilmainen DPM-tili, niin saat kuulla lisää näiden kaltaisilta asiantuntijoilta.
