Från autonomi till tillsyn: människans roll i AI-eran

Även om Singapores ramverk för AI-styrning föreslår att nivån av mänsklig medverkan i AI anpassas efter en organisations riskaptit, med tre definierade angreppssätt, visade en vidare undersökning att det finns ett fjärde. Detta ledde till utvecklingen av en omfattande modell indelad i fyra kvadranter. Modellen bedömer AI-beslut utifrån sannolikheten för och allvarlighetsgraden av potentiell skada och erbjuder en sofistikerad strategi för att integrera AI inom olika sektorer.

Vi börjar med Kvadrant 3, människa utanför loopen: Den här kvadranten visar var generativ AI överträffar människors förmågor och arbetar autonomt utan tillsyn. 

Detta lämpar sig väl för att utöka och förbättra processer genom automatisering eller prediktiva algoritmer. Några exempel är väderprognoser, produktrekommendationer och personalisering som involverar komplexa parametrar, algoritmer för sociala medier samt prognoser för leveranskedjan.

Det är avgörande att utforma, konfigurera och finjustera AI-modellerna i denna kvadrant genom en väl genomtänkt process, noggrann precision och omfattande tester som är specifika för verksamhetsområdet. 

Kvadrant 4, människa i loopen, kräver kontinuerlig mänsklig tillsyn, medverkan och kontroll. I denna kvadrant ger AI-modellen rekommendationer eller förslag, men det är ytterst den ansvariga människan som avgör om dessa förslag ska godkännas, avslås eller ändras. Sådana beslut kräver ett aktivt mänskligt engagemang och kan inte genomföras utan det.

Ett exempel på denna dynamiska modell är RAIDlog.com, som använder generativ AI för att identifiera potentiella projektrisker utifrån tidigare insamlade data. Beslutet att godkänna, justera eller bortse från den risk som AI-modellen identifierat ligger hos projektledaren. 

Efter ett beslut att acceptera eller ändra en identifierad risk föreslår RAIDlog.com intuitivt en riskhanteringsstrategi, som återigen inväntar projektledarens godkännande eller ytterligare ändringar.

Människa i loopen positionerar generativ AI som en mångsidig assistent för alla och ger betydande stöd i hanteringen av repetitiva, tråkiga och tidskrävande uppgifter. Detta samarbete förbättrar inte bara produktiviteten utan bidrar också till resultatet och höjer kvaliteten på arbetsprodukten.

Hitta fler användningsområden för AI inom projektledning här.

Kvadrant 2, människa över loopen, belyser situationer där AI arbetar självständigt, ungefär som autopilot- eller farthållarsystem. Mänsklig tillsyn och bedömning är fortfarande avgörande för att säkerställa att människor är redo att ingripa vid fel i AI-modellen eller när oväntade eller negativa resultat uppstår. 

Modellen i denna kvadrant drar nytta av processernas mognad och omfattande tester för att minimera risken, men den potentiella allvarlighetsgraden av skadan kräver mänskligt ingripande under exceptionella omständigheter.

Applikationer i denna kvadrant omfattar autonoma fordon, prediktivt underhåll i branscher som olja och gas (detta blir alltmer tillgängligt i programvaruverktyg för fastighetsprojektledning), komplex resursplanering, standardiserade säljprocesser eller standardiserade mallplaner, eller standardiserade arbetsrutiner som återkommande arbetsscheman, behandlingsplaner, planer för korrigerande åtgärder, kommunikationsmallar, utkast till leverabler och annat. 

Även om AI kan överträffa människans förmåga vad gäller effektivitet och precision inom denna kvadrant, kräver den potentiella utfallens kritiska natur mänsklig övervakning. Denna tillsyn säkerställer att korrigerande åtgärder snabbt kan genomföras vid behov för att effektivt begränsa eventuella negativa effekter.

Kvadrant 1, människa i kontrollslingan: I denna kvadrant är sannolikheten för skada hög, liksom allvarlighetsgraden, och därför krävs människor i (toppen av) kontrollslingan för att hantera AI-modellen, med möjlighet att helt stänga av modellen och hantera genom undantag. 

Exempel omfattar att bygga en ny AI-modell, beslut inom hälso- och sjukvården, användning av vapen i krigszoner och att avgöra om AI-modellen överensstämmer med riktlinjer för styrning och policy. 

Att införliva mänskligt omdöme och etiska överväganden blir avgörande i dessa högriskscenarier, vilket säkerställer att AI-modeller överensstämmer med mänskliga värderingar, gällande lagar och samhällsnormer.

En människas medverkan i kontrollslingan säkerställer att AI-modeller fungerar inom etiska, säkra och kontrollerade ramar, med möjlighet för mänskligt ingripande för att åsidosätta eller helt inaktivera AI-modellen om det behövs.

Slutsats 

Sammanfattningsvis säkerställer mänsklig medverkan i AI-styrning att AI-verksamheten är etisk, säker och kontrollerad samt överensstämmer med samhällsnormer och värderingar. 

När vi går vidare in i AI-eran blir balansen mellan teknisk autonomi och mänsklig tillsyn allt viktigare. De fyra kvadranterna för AI-hantering som beskrivs här ger en färdplan för att navigera i detta komplexa landskap och betonar den oumbärliga roll som mänskligt omdöme spelar för att säkerställa en etisk, säker och effektiv användning av AI. 

Genom att förstå och implementera dessa ramverk kan vi utnyttja AI:s kraft samtidigt som vi skyddar våra samhällsvärderingar och människors välbefinnande, och styr mot en framtid där teknik och mänsklighet utvecklas i harmoni.

Om du är intresserad av att diskutera detta vidare med andra experter inom projektledningsområdet kan du gå med i DPM-medlemskapet och få tillgång till diskussionen i Slack tillsammans med hundratals andra digitala projektledare.