Dall’autonomia al controllo: il ruolo umano nell’era dell’IA

Se da un lato il Singapore AI Governance Framework suggerisce di adattare il livello di coinvolgimento umano nell’AI sulla base della propensione al rischio di ciascuna organizzazione, con tre approcci definiti, ulteriori indagini hanno rilevato un quarto approccio, che ha portato allo sviluppo di un modello esaustivo segmentato in quattro quadranti. Questo modello valuta le decisioni AI in base alla probabilità e alla gravità dei potenziali danni, offrendo una strategia sofisticata per integrare l’AI in diversi settori.

Iniziamo con il Quadrante 3, Human out of the Loop: Questo quadrante evidenzia i casi in cui l’AI Generativa supera le capacità umane, operando autonomamente senza nessun controllo esterno.

Ideale per ampliare e migliorare i processi attraverso l’automazione o algoritmi predittivi, alcuni esempi includono le previsioni meteorologiche, i suggerimenti di prodotti e la personalizzazione che implica parametri complessi, gli algoritmi dei social media e la previsione della catena di fornitura.

È fondamentale progettare, configurare e perfezionare i modelli AI di questo quadrante con un processo ben ragionato, massima precisione e test approfonditi specifici per il settore di business.

Quadrante 4, Human in the Loop, richiede un controllo, coinvolgimento e supervisione umani continui. In questo quadrante il modello AI offre raccomandazioni o suggerimenti, ma è responsabilità dell’umano valutare se accettare, rifiutare o modificare tali proposte. Tali decisioni richiedono l’intervento attivo umano e non possono avanzare senza di esso.

Un esempio di questo modello dinamico è RAIDlog.com, che utilizza AI Generativa per identificare potenziali rischi di progetto da dati precedentemente raccolti. La decisione di adottare, modificare o ignorare il rischio identificato dal modello AI spetta al project manager.

A seguito della decisione di accettare o cambiare un rischio individuato, RAIDlog.com suggerisce intuitivamente una strategia di mitigazione del rischio, che attende nuovamente l’approvazione o l’ulteriore modifica da parte del project manager.

Human in the Loop pone l’AI Generativa come un assistente versatile per tutti, offrendo un prezioso supporto nella gestione di attività ripetitive, noiose e che richiedono molto tempo. Questa collaborazione non solo incrementa la produttività, ma contribuisce anche al risultato economico e migliora la qualità del prodotto finale.

Trova altri casi d’uso per l’AI nel project management qui.

Quadrante 2, Human Over the Loop, evidenzia gli scenari in cui l’AI opera in modo indipendente, similmente ai sistemi di pilota automatico o controllo automatico della velocità. La supervisione e il giudizio umano restano fondamentali, garantendo la prontezza di intervenire in caso di errori del modello AI o di eventi imprevisti o con esiti negativi.

Il modello in questo quadrante sfrutta la maturità dei processi e test approfonditi per ridurre al minimo il rischio, ma la potenziale gravità dei danni richiede comunque l’intervento umano in circostanze eccezionali.

Le applicazioni in questo quadrante includono veicoli autonomi, manutenzione predittiva in settori come il petrolio e il gas (questo è sempre più disponibile nei software di gestione progetti per impianti), complessa pianificazione delle risorse, processi di vendita standardizzati o piani standard a modello fisso, o procedure operative standard come pianificazioni di lavori ricorrenti, piani di trattamento, piani di azione correttiva, modelli di comunicazione, bozze di deliverable e altri ancora. 

Sebbene l’IA possa superare le capacità umane in termini di efficienza e precisione in questo quadrante, la natura critica degli esiti potenziali impone una supervisione umana. Questa supervisione garantisce che, se necessario, possano essere attuate tempestivamente misure correttive per mitigare efficacemente eventuali impatti negativi.

Quadrante 1, Umano nel Ciclo: In questo quadrante la probabilità di danno è elevata così come la gravità, pertanto richiede la presenza di umani (al vertice) nel ciclo per gestire il modello di IA con la possibilità di spegnere completamente il modello e gestire per eccezione. 

Esempi includono la costruzione di un nuovo modello di IA, decisioni sanitarie, impiego di armi in zone di guerra e la verifica che il modello di IA sia conforme a linee guida di governance e politiche. 

Incorporare il giudizio umano e le considerazioni etiche diventa fondamentale in questi scenari ad alto rischio, assicurando che i modelli di IA siano allineati con i valori umani, le leggi vigenti e le norme sociali.

L’inclusione di un umano nel ciclo garantisce che i modelli di IA operino all’interno di confini etici, sicuri e controllati, con la possibilità di intervento umano per sovrascrivere o disattivare completamente il modello di IA se necessario.

Conclusione 

In sintesi, il coinvolgimento umano nella governance dell’IA garantisce operazioni etiche, sicure e controllate, allineate alle norme e ai valori della società. 

Man mano che ci addentriamo nell’era dell’IA, l’equilibrio tra autonomia tecnologica e supervisione umana diventa sempre più cruciale. I quattro quadranti della gestione dell’IA illustrati qui forniscono una mappa per navigare in questo contesto complesso, sottolineando il ruolo imprescindibile del giudizio umano per garantire un utilizzo etico, sicuro ed efficace dell’intelligenza artificiale. 

Comprendendo e implementando questi framework, possiamo sfruttare il potere dell’IA salvaguardando i nostri valori sociali e il benessere umano, orientandoci verso un futuro in cui tecnologia e umanità avanzano in armonia.

Se vuoi approfondire l’argomento insieme ad altri esperti nel campo del project management, unisciti alla membership DPM e partecipa alla conversazione su Slack con centinaia di altri digital project manager.