Fra autonomi til tilsyn: Menneskets rolle i KI-alderen

Selv om rammeverket for styring av kunstig intelligens i Singapore foreslår å tilpasse graden av menneskelig involvering i kunstig intelligens basert på en organisasjons risikovilje, med tre definerte tilnærminger, avdekket videre undersøkelser en fjerde. Dette førte til utviklingen av en omfattende modell delt inn i fire kvadranter. Denne modellen vurderer beslutninger tatt av kunstig intelligens ut fra sannsynligheten for og alvorlighetsgraden av mulig skade, og tilbyr en sofistikert strategi for å integrere kunstig intelligens på tvers av ulike sektorer.

Vi begynner med Kvadrant 3, mennesket ute av loopen: Denne kvadranten viser områder der generativ kunstig intelligens overgår menneskers evner og opererer autonomt uten tilsyn. 

Dette er ideelt for å utvide og forbedre prosesser gjennom automatisering eller prediktive algoritmer. Eksempler omfatter værvarsling, produktanbefalinger og personalisering som involverer komplekse parametere, algoritmer for sosiale medier og prognoser for forsyningskjeden.

Det er avgjørende å utforme, konfigurere og finjustere modellene for kunstig intelligens i denne kvadranten gjennom en gjennomtenkt prosess, med stor nøyaktighet og omfattende testing som er spesifikk for virksomhetens fagområde. 

Kvadrant 4, mennesket i loopen, krever kontinuerlig menneskelig overvåking, involvering og kontroll. I denne kvadranten gir modellen for kunstig intelligens anbefalinger eller forslag, men det er til syvende og sist den ansvarlige personen som må godta, avvise eller endre disse forslagene. Slike beslutninger krever aktiv menneskelig involvering og kan ikke gjennomføres uten den.

Et eksempel på denne dynamiske modellen er RAIDlog.com, som bruker generativ kunstig intelligens til å identifisere mulige prosjektrisikoer basert på tidligere innsamlede data. Det er prosjektlederen som avgjør om risikoen som er identifisert av modellen for kunstig intelligens, skal tas i bruk, justeres eller ses bort fra. 

Etter en beslutning om å akseptere eller endre en identifisert risiko foreslår RAIDlog.com intuitivt en risikoreduserende strategi, som igjen avventer prosjektlederens godkjenning eller ytterligere endringer.

Mennesket i loopen posisjonerer generativ kunstig intelligens som en allsidig assistent for alle, og bidrar betydelig til håndteringen av repetitive, kjedelige og tidkrevende oppgaver. Dette samarbeidet øker ikke bare produktiviteten, men bidrar også til bedre økonomiske resultater og høyere kvalitet på arbeidsproduktet.

Finn andre bruksområder for kunstig intelligens i prosjektledelse her.

Kvadrant 2, mennesket over loopen, fremhever situasjoner der kunstig intelligens opererer selvstendig, på samme måte som autopilot- eller cruisekontrollsystemer. Menneskelig overvåking og dømmekraft er fortsatt avgjørende, slik at personer er klare til å gripe inn ved feil i modellen for kunstig intelligens eller når det oppstår uventede eller negative resultater. 

Modellen i denne kvadranten utnytter modne prosesser og omfattende testing for å minimere risiko, men den potensielle alvorlighetsgraden av skade gjør at menneskelig inngripen er nødvendig under eksepsjonelle omstendigheter.

Applikasjoner i denne kvadranten omfatter autonome kjøretøy, prediktivt vedlikehold i bransjer som olje og gass (dette blir stadig mer tilgjengelig i verktøy for prosjektstyring av fasiliteter), kompleks ressursplanlegging, standardiserte salgsprosesser eller standardiserte malbaserte planer, eller standardiserte driftsprosedyrer som tilbakevendende jobbplaner, behandlingsplaner, korrigerende handlingsplaner, kommunikasjonsmaler, utkast til leveranser og annet.

Selv om AI kan overgå menneskelig kapasitet når det gjelder effektivitet og presisjon innenfor denne kvadranten, gjør den kritiske betydningen av mulige resultater menneskelig overvåking nødvendig. Dette tilsynet sikrer at korrigerende tiltak kan iverksettes raskt dersom det skulle bli nødvendig, slik at eventuelle negative konsekvenser begrenses effektivt.

Kvadrant 1, menneske i kontrollsløyfen: I denne kvadranten er sannsynligheten for skade høy, og det samme er alvorlighetsgraden. Derfor kreves mennesker øverst i kontrollsløyfen for å styre AI-modellen, med mulighet til å slå modellen helt av og håndtere avvik. 

Eksempler omfatter utvikling av en ny AI-modell, beslutninger innen helsevesenet, utplassering av våpen i krigssoner og vurdering av om AI-modellen er i samsvar med retningslinjer for styring og policy. 

Å innarbeide menneskelig dømmekraft og etiske hensyn blir avgjørende i disse høyrisikosituasjonene, slik at AI-modellene er i samsvar med menneskelige verdier, gjeldende lover og samfunnets normer.

At et menneske inngår i kontrollsløyfen, sikrer at AI-modeller opererer innenfor etiske, trygge og kontrollerte rammer, med mulighet for menneskelig inngripen for å overstyre eller deaktivere AI-modellen fullstendig ved behov.

Konklusjon 

Oppsummert sikrer menneskelig involvering i AI-styring etisk, trygg og kontrollert bruk av AI, i samsvar med samfunnets normer og verdier. 

Etter hvert som vi går videre inn i AI-epoken, blir balansen mellom teknologisk autonomi og menneskelig tilsyn stadig viktigere. De fire kvadrantene for AI-styring som er beskrevet her, gir et veikart for å navigere i dette komplekse landskapet og fremhever den uunnværlige rollen menneskelig dømmekraft spiller for å sikre etisk, trygg og effektiv bruk av AI. 

Ved å forstå og implementere disse rammeverkene kan vi utnytte kraften i AI samtidig som vi beskytter samfunnsverdiene og menneskelig velferd, og styre mot en fremtid der teknologi og menneskeheten utvikler seg i harmoni.

Hvis du er interessert i å diskutere dette videre med andre eksperter innen prosjektstyring, kan du bli medlem av DPM og få tilgang til samtalen i Slack sammen med hundrevis av andre digitale prosjektledere.