Od autonomii do nadzoru: rola człowieka w epoce AI

Chociaż Singapurskie ramy zarządzania sztuczną inteligencją sugerują dostosowanie poziomu zaangażowania człowieka w działania związane ze sztuczną inteligencją do skłonności organizacji do podejmowania ryzyka, wskazując trzy określone podejścia, dalsze badania ujawniły czwarte podejście, co doprowadziło do opracowania kompleksowego modelu podzielonego na cztery ćwiartki. Model ten, oceniający decyzje sztucznej inteligencji na podstawie prawdopodobieństwa i dotkliwości potencjalnych szkód, oferuje zaawansowaną strategię wdrażania sztucznej inteligencji w różnych sektorach.

Zacznijmy od ćwiartki 3, człowiek poza pętlą: ta ćwiartka przedstawia sytuacje, w których generatywna sztuczna inteligencja przewyższa możliwości człowieka i działa autonomicznie, bez nadzoru. 

Rozwiązanie to idealnie nadaje się do rozszerzania i usprawniania procesów za pomocą automatyzacji lub algorytmów predykcyjnych. Przykłady obejmują prognozowanie pogody, rekomendacje produktów i personalizację z wykorzystaniem złożonych parametrów, algorytmy mediów społecznościowych oraz prognozowanie w łańcuchu dostaw.

Kluczowe jest projektowanie, konfigurowanie i dostrajanie modeli sztucznej inteligencji w tej ćwiartce w oparciu o dobrze przemyślany proces, staranną precyzję i szeroko zakrojone testy dostosowane do konkretnej dziedziny biznesowej. 

Ćwiartka 4, człowiek w pętli, wymaga ciągłego nadzoru, zaangażowania i kontroli człowieka. W tej ćwiartce model sztucznej inteligencji przedstawia rekomendacje lub sugestie, jednak ostateczna odpowiedzialność za zaakceptowanie, odrzucenie lub zmodyfikowanie tych propozycji spoczywa na nadzorującym człowieku. Takie decyzje wymagają aktywnego zaangażowania człowieka i nie mogą zostać podjęte bez niego.

Przykładem tego dynamicznego modelu jest RAIDlog.com, który wykorzystuje generatywną sztuczną inteligencję do identyfikowania potencjalnych zagrożeń dla projektu na podstawie wcześniej zebranych danych. Decyzja o przyjęciu, dostosowaniu lub zignorowaniu ryzyka zidentyfikowanego przez model sztucznej inteligencji należy do kierownika projektu. 

Po podjęciu decyzji o zaakceptowaniu lub zmianie zidentyfikowanego ryzyka RAIDlog.com intuicyjnie proponuje strategię ograniczania ryzyka, która ponownie oczekuje na zatwierdzenie przez kierownika projektu lub dalszą modyfikację.

Model człowieka w pętli przedstawia generatywną sztuczną inteligencję jako wszechstronnego asystenta dla każdego, znacząco pomagającego w zarządzaniu powtarzalnymi, nużącymi i czasochłonnymi zadaniami. Ta współpraca nie tylko zwiększa produktywność, lecz także pozytywnie wpływa na wyniki finansowe i podnosi jakość rezultatów pracy.

Tutaj znajdziesz inne zastosowania sztucznej inteligencji w zarządzaniu projektami.

Ćwiartka 2, człowiek nad pętlą, przedstawia sytuacje, w których sztuczna inteligencja działa niezależnie, podobnie jak systemy autopilota lub tempomatu. Nadzór i osąd człowieka nadal mają kluczowe znaczenie, ponieważ zapewniają gotowość do interwencji w przypadku awarii modelu sztucznej inteligencji lub wystąpienia nieoczekiwanych bądź niekorzystnych rezultatów. 

Model w tej ćwiartce wykorzystuje dojrzałość procesów i szeroko zakrojone testy w celu minimalizacji ryzyka, jednak potencjalna dotkliwość szkód wymaga interwencji człowieka w wyjątkowych okolicznościach.

Zastosowania w tym kwadrancie obejmują pojazdy autonomiczne, konserwację predykcyjną w branżach takich jak ropa naftowa i gaz (staje się ona coraz powszechniej dostępna w narzędziach do zarządzania projektami dotyczącymi obiektów), złożone planowanie zasobów, ustandaryzowane procesy sprzedaży lub standardowe szablonowe plany, a także standardowe procedury operacyjne, takie jak harmonogramy cyklicznych zadań, plany leczenia, plany działań korygujących, szablony komunikacji, wersje robocze rezultatów i inne.

Chociaż w tym kwadrancie sztuczna inteligencja może przewyższać ludzkie możliwości pod względem wydajności i precyzji, krytyczny charakter potencjalnych rezultatów wymaga monitorowania przez człowieka. Nadzór ten gwarantuje, że w razie potrzeby można szybko wdrożyć działania korygujące, aby skutecznie ograniczyć wszelkie negatywne skutki.

Kwadrant 1, człowiek w pętli: W tym kwadrancie zarówno prawdopodobieństwo wystąpienia szkody, jak i jej dotkliwość są wysokie, dlatego wymaga on obecności człowieka w pętli (na jej szczycie) w celu zarządzania modelem AI, z możliwością całkowitego wyłączenia modelu i zarządzania przez wyjątki. 

Przykłady obejmują tworzenie nowego modelu AI, decyzje dotyczące opieki zdrowotnej, rozmieszczanie broni w strefach wojennych oraz rozstrzyganie, czy model AI jest zgodny z wytycznymi dotyczącymi zarządzania i polityki. 

Uwzględnienie ludzkiego osądu i względów etycznych staje się kluczowe w tych scenariuszach wysokiego ryzyka, zapewniając zgodność modeli AI z ludzkimi wartościami, obowiązującymi przepisami i normami społecznymi.

Zaangażowanie człowieka w pętlę gwarantuje, że modele AI działają w ramach etycznych, bezpiecznych i kontrolowanych granic, z możliwością podjęcia przez człowieka interwencji w celu zastąpienia działania modelu AI lub jego całkowitej dezaktywacji, jeśli zajdzie taka potrzeba.

Podsumowanie 

Podsumowując, zaangażowanie człowieka w zarządzanie AI zapewnia etyczne, bezpieczne i kontrolowane działanie AI, zgodne z normami i wartościami społecznymi. 

Wkraczając coraz głębiej w erę AI, równowaga między autonomią technologiczną a nadzorem człowieka staje się coraz bardziej kluczowa. Przedstawione tutaj cztery kwadranty zarządzania AI stanowią mapę drogową pomagającą poruszać się po tym złożonym krajobrazie, podkreślając niezastąpioną rolę ludzkiego osądu w zapewnianiu etycznego, bezpiecznego i skutecznego wykorzystania AI. 

Rozumiejąc te ramy i wdrażając je, możemy wykorzystać potencjał AI, jednocześnie chroniąc nasze wartości społeczne i dobrostan ludzi, zmierzając ku przyszłości, w której technologia i ludzkość rozwijają się w harmonii.

Jeśli chcesz omówić ten temat szerzej z innymi ekspertami w dziedzinie zarządzania projektami, dołącz do członkostwa DPM i uzyskaj dostęp do rozmowy na Slacku z setkami innych menedżerów projektów cyfrowych.