Fra autonomi til tilsyn: Menneskets rolle i AI-alderen

Selvom Singapores rammeværk for AI-styring foreslår at tilpasse graden af menneskelig involvering i AI baseret på en organisations risikovillighed med tre definerede tilgange, afdækkede yderligere undersøgelser en fjerde tilgang. Det førte til udviklingen af en omfattende model opdelt i fire kvadranter. Denne model, som vurderer AI-beslutninger ud fra sandsynligheden for og alvoren af potentiel skade, tilbyder en avanceret strategi til integration af AI på tværs af forskellige sektorer.

Lad os begynde med Kvadrant 3, mennesket uden for loopet: Denne kvadrant fremhæver situationer, hvor generativ AI overgår menneskers evner og arbejder autonomt uden tilsyn. 

Det er ideelt til at udvide og forbedre processer gennem automatisering eller prædiktive algoritmer. Eksempler omfatter vejrprognoser, produktanbefalinger og personalisering, der involverer komplekse parametre, algoritmer på sociale medier samt prognoser for forsyningskæden.

Det er afgørende at designe, konfigurere og finjustere AI-modellerne i denne kvadrant gennem en velovervejet proces, omhyggelig præcision og omfattende test specifikt til virksomhedens område. 

Kvadrant 4, mennesket i loopet, kræver kontinuerligt menneskeligt tilsyn, engagement og kontrol. I denne kvadrant kommer AI-modellen med anbefalinger eller forslag, men det er i sidste ende det ansvarlige menneske, der skal acceptere, afvise eller ændre disse forslag. Sådanne beslutninger kræver aktiv menneskelig involvering og kan ikke træffes uden den.

Et eksempel på denne dynamiske model er RAIDlog.com, som anvender generativ AI til at identificere potentielle projektrisici ud fra tidligere indsamlede data. Beslutningen om at acceptere, justere eller se bort fra den risiko, som AI-modellen har identificeret, ligger hos projektlederen. 

Efter en beslutning om at acceptere eller ændre en identificeret risiko foreslår RAIDlog.com intuitivt en risikobegrænsningsstrategi, som igen afventer projektlederens godkendelse eller yderligere ændringer.

Mennesket i loopet positionerer generativ AI som en alsidig assistent for alle og yder betydelig hjælp til håndtering af gentagne, kedelige og tidskrævende opgaver. Dette samarbejde forbedrer ikke kun produktiviteten, men bidrager også til bundlinjen og løfter kvaliteten af arbejdsresultatet.

Find andre anvendelsesområder for AI i projektledelse her.

Kvadrant 2, mennesket over loopet, fremhæver situationer, hvor AI arbejder selvstændigt på samme måde som autopilot- eller fartpilotsystemer. Menneskeligt tilsyn og dømmekraft er fortsat afgørende for at sikre, at mennesker er klar til at gribe ind, hvis AI-modeller svigter, eller når de står over for uventede eller negative resultater. 

Modellen i denne kvadrant udnytter processernes modenhed og omfattende test for at minimere risikoen, men den potentielle alvor af skaden nødvendiggør menneskelig indgriben under ekstraordinære omstændigheder.

Anvendelser i denne kvadrant omfatter autonome køretøjer, forudsigende vedligeholdelse i industrier som olie & gas (dette bliver i stigende grad tilgængeligt i softwareværktøjer til facilitetsprojektstyring), kompleks ressourceplanlægning, standardiserede salgsprocesser eller standardiserede skabelonplaner eller standardiserede driftsprocedurer såsom tilbagevendende arbejdsplaner, behandlingsplaner, korrigerende handlingsplaner, kommunikationsskabeloner, udkast til leverancer og andre.

Selvom AI kan overgå menneskelige evner med hensyn til effektivitet og præcision i denne kvadrant, kræver de potentielle konsekvensers kritiske karakter menneskelig overvågning. Dette tilsyn sikrer, at korrigerende foranstaltninger hurtigt kan implementeres, hvis behovet opstår, så eventuelle negative konsekvenser effektivt kan begrænses.

Kvadrant 1, menneske i kontrolsløjfen: I denne kvadrant er sandsynligheden for skade høj, ligesom alvorlighedsgraden er det. Derfor kræves mennesker øverst i kontrolsløjfen til at styre AI-modellen med mulighed for helt at slukke modellen og håndtere efter undtagelser. 

Eksempler omfatter opbygning af en ny AI-model, beslutninger inden for sundhedspleje, indsættelse af våben i krigszoner og vurdering af, om AI-modellen er i overensstemmelse med retningslinjer for styring og politik. 

Inddragelse af menneskelig dømmekraft og etiske overvejelser bliver afgørende i disse højrisikosituationer, så det sikres, at AI-modeller er i overensstemmelse med menneskelige værdier, gældende lovgivning og samfundets normer.

Inddragelsen af et menneske i kontrolsløjfen sikrer, at AI-modeller fungerer inden for etiske, sikre og kontrollerede rammer, med mulighed for menneskelig indgriben til at tilsidesætte eller helt deaktivere AI-modellen, hvis det er nødvendigt.

Konklusion 

Sammenfattende sikrer menneskelig involvering i AI-styring etisk, sikker og kontrolleret anvendelse af AI i overensstemmelse med samfundets normer og værdier. 

Efterhånden som vi bevæger os længere ind i AI-æraen, bliver balancen mellem teknologisk autonomi og menneskeligt tilsyn stadig vigtigere. De fire kvadranter for AI-styring, der er beskrevet her, giver en køreplan for at navigere i dette komplekse landskab og fremhæver den uundværlige rolle, som menneskelig dømmekraft spiller for at sikre etisk, sikker og effektiv brug af AI. 

Ved at forstå og implementere disse rammer kan vi udnytte AI's kraft, samtidig med at vi beskytter vores samfundsmæssige værdier og menneskers velfærd og bevæger os mod en fremtid, hvor teknologi og menneskehed udvikler sig i harmoni.

Hvis du er interesseret i at drøfte dette yderligere med andre eksperter inden for projektstyring, kan du blive medlem af DPM og få adgang til samtalen i Slack sammen med hundredvis af andre digitale projektledere.