Van autonomie naar toezicht: de rol van de mens in het tijdperk van AI

Hoewel het Singaporese AI-governancekader aanbeveelt om het niveau van menselijke betrokkenheid bij AI af te stemmen op de risicobereidheid van een organisatie, met drie vastgestelde benaderingen, bracht verder onderzoek een vierde benadering aan het licht. Dit leidde tot de ontwikkeling van een uitgebreid model dat in vier kwadranten is onderverdeeld. Dit model, dat AI-beslissingen beoordeelt op basis van de waarschijnlijkheid en ernst van mogelijke schade, biedt een geavanceerde strategie voor de integratie van AI in verschillende sectoren.

We beginnen met Kwadrant 3, de mens buiten de regelkring: dit kwadrant laat zien waar Generatieve AI menselijke capaciteiten overtreft en autonoom werkt zonder toezicht. 

Dit is ideaal voor het uitbreiden en verbeteren van processen door middel van automatisering of voorspellende algoritmen. Voorbeelden zijn weersvoorspellingen, productaanbevelingen en personalisatie met complexe parameters, algoritmen voor sociale media en prognoses voor toeleveringsketens.

Het is cruciaal om de AI-modellen in dit kwadrant te ontwerpen, configureren en verfijnen met een goed doordacht proces, grote nauwkeurigheid en uitgebreide tests die specifiek zijn afgestemd op het bedrijfsdomein. 

Kwadrant 4, de mens in de regelkring, vereist voortdurend menselijk toezicht, betrokkenheid en controle. In dit kwadrant doet het AI-model aanbevelingen of suggesties, maar het is uiteindelijk de verantwoordelijkheid van de toezichthoudende persoon om deze voorstellen te accepteren, af te wijzen of aan te passen. Voor dergelijke beslissingen is actieve menselijke betrokkenheid vereist; zonder die betrokkenheid kunnen ze niet worden uitgevoerd.

Een voorbeeld van dit dynamische model is RAIDlog.com, dat Generatieve AI gebruikt om mogelijke projectrisico's te identificeren op basis van eerder verzamelde gegevens. De beslissing om het door het AI-model geïdentificeerde risico over te nemen, aan te passen of te negeren, ligt bij de projectmanager. 

Na de beslissing om een geïdentificeerd risico te accepteren of aan te passen, stelt RAIDlog.com intuïtief een risicobeperkingsstrategie voor, die opnieuw wacht op goedkeuring of verdere aanpassing door de projectmanager.

De mens in de regelkring positioneert Generatieve AI als een veelzijdige assistent voor iedereen, die aanzienlijk helpt bij het beheren van repetitieve, vervelende en tijdrovende taken. Deze samenwerking verhoogt niet alleen de productiviteit, maar draagt ook bij aan het bedrijfsresultaat en verbetert de kwaliteit van het geleverde werk.

Bekijk hier andere toepassingen van AI in projectmanagement.

Kwadrant 2, de mens boven de regelkring, belicht situaties waarin AI zelfstandig werkt, vergelijkbaar met systemen voor automatische piloot of cruisecontrol. Menselijk toezicht en beoordelingsvermogen blijven essentieel om ervoor te zorgen dat mensen kunnen ingrijpen wanneer AI-modellen falen of wanneer zich onverwachte of nadelige uitkomsten voordoen. 

Het model in dit kwadrant benut de volwassenheid van processen en uitgebreide tests om risico's te minimaliseren. Toch vereist de mogelijke ernst van schade menselijke tussenkomst in uitzonderlijke omstandigheden.

Toepassingen in dit kwadrant omvatten autonome voertuigen, voorspellend onderhoud in sectoren zoals olie & gas (dit wordt steeds vaker beschikbaar in softwaretools voor facilitair projectmanagement), complexe resourceplanning, gestandaardiseerde verkoopprocessen of standaardplannen met sjablonen, of standaardwerkprocedures zoals terugkerende werkschema's, behandelplannen, corrigerende actieplannen, communicatiesjablonen, conceptopleveringen en andere. 

Hoewel AI binnen dit kwadrant de menselijke capaciteiten op het gebied van efficiëntie en precisie kan overtreffen, vereist de kritieke aard van mogelijke uitkomsten menselijk toezicht. Dit toezicht zorgt ervoor dat, mocht dat nodig zijn, corrigerende maatregelen snel kunnen worden genomen om eventuele negatieve gevolgen effectief te beperken.

Kwadrant 1, menselijk toezicht: In dit kwadrant is zowel de kans op schade als de ernst ervan hoog. Daarom is menselijke controle aan de (bovenkant van de) regel vereist om het AI-model te beheren, met de mogelijkheid om het model volledig uit te schakelen en uitzonderingsgevallen te beheren. 

Voorbeelden zijn het bouwen van een nieuw AI-model, beslissingen in de gezondheidszorg, de inzet van wapens in oorlogsgebieden en bepalen of het AI-model voldoet aan richtlijnen voor governance en beleid. 

Het meenemen van menselijk oordeel en ethische overwegingen wordt cruciaal in deze scenario's met een hoog risico, zodat AI-modellen aansluiten bij menselijke waarden, geldende wetgeving en maatschappelijke normen.

De betrokkenheid van een mens bij het toezicht zorgt ervoor dat AI-modellen binnen ethische, veilige en gecontroleerde grenzen functioneren, met de mogelijkheid voor menselijk ingrijpen om het AI-model indien nodig te overrulen of volledig te deactiveren.

Conclusie 

Samengevat zorgt menselijke betrokkenheid bij AI-governance voor ethische, veilige en gecontroleerde AI-operaties die aansluiten bij maatschappelijke normen en waarden. 

Naarmate we verder het tijdperk van AI binnengaan, wordt de balans tussen technologische autonomie en menselijk toezicht steeds kritieker. De vier kwadranten van AI-beheer die hier worden beschreven, bieden een routekaart voor het navigeren door dit complexe landschap en benadrukken de onmisbare rol van menselijk oordeel bij het waarborgen van ethisch, veilig en effectief AI-gebruik. 

Door deze kaders te begrijpen en toe te passen, kunnen we de kracht van AI benutten en tegelijkertijd onze maatschappelijke waarden en het menselijk welzijn beschermen, op weg naar een toekomst waarin technologie en de mensheid zich in harmonie ontwikkelen.

Als je dit verder wilt bespreken met andere experts op het gebied van projectmanagement, word dan lid van DPM en krijg toegang tot het gesprek in Slack met honderden andere digitale projectmanagers.