Strategia sztucznej inteligencji stawiająca prywatność na pierwszym miejscu: jak wygląda i dlaczego ma znaczenie

Lauren Wallace: Prywatność jest podstawowym prawem człowieka. To fundamentalne oczekiwanie, które pozwala nam żyć w sposób zgodny z własną wolą. W Stanach Zjednoczonych historycznie traktowaliśmy wartość tych danych osobowych jako należącą do firmy, która je zebrała. W Unii Europejskiej prywatność jest podstawowym prawem człowieka, a prawo do decydowania o wykorzystywaniu własnych danych osobowych należy do osoby, której dane dotyczą — człowieka.

Galen Low: Czy regulacje są biurokracją, która spowolni transformację sztucznej inteligencji w branżach regulowanych?

Lauren Wallace: Uważam, że przedsiębiorstwa działające w silnie regulowanych sektorach mają w rzeczywistości przewagę przy projektowaniu i wdrażaniu zgodnych z przepisami programów AI. Są już osadzone w istniejących ramach regulacyjnych. Około półtora roku temu uruchomiliśmy cykl comiesięcznych spotkań poświęconych etycznej sztucznej inteligencji. Rozmawialiśmy o przejrzystości i odpowiedzialności. To jest najciekawsze. Wszyscy uwielbiają historie z pierwszej linii, prawda? Wyciągnęłam przykłady — szokujące, świeżo ujawnione przypadki, które dotyczyły zasad przejrzystości lub ograniczania stronniczości.

Galen Low: Witajcie w podcaście The Digital Project Manager — programie, który pomaga liderom odpowiedzialnym za realizację projektów pracować mądrzej, dostarczać szybciej i lepiej przewodzić w erze sztucznej inteligencji. Mam na imię Galen i co tydzień zagłębiamy się w rzeczywiste strategie, nowe narzędzia, sprawdzone metody oraz okazjonalne historie z pierwszej linii projektów. Niezależnie od tego, czy kierujesz ogromnymi projektami transformacyjnymi, porządkujesz przepływy pracy związane z AI, czy po prostu próbujesz utrzymać chaos pod kontrolą — jesteś we właściwym miejscu. Zaczynajmy.

Dziś przyglądamy się transformacji AI w branżach regulowanych oraz temu, jak podejście do sztucznej inteligencji stawiające prywatność na pierwszym miejscu może przyspieszyć innowacje, wspierać współpracę międzydziałową i utorować płynną drogę do trwałych rezultatów. Towarzyszy mi dziś Lauren Wallace, doradczyni strategiczna i była dyrektor ds. prawnych w RadarFirst.

Lauren ma bogate doświadczenie obejmujące prawo, rozwój biznesu i stanowiska kierownicze w firmach takich jak Apple, Microsoft i Nike, a także w startupach wspieranych przez kapitał wysokiego ryzyka i fundusze private equity. Jest znana z praktycznych i przystępnych wskazówek dla zespołów prawnych, produktowych, marketingowych i deweloperskich dotyczących odpowiedzialnego wykorzystywania AI. To prawdziwa siła natury, jeśli chodzi o poruszanie się po kwestiach zgodności w regulowanych środowiskach.

Lauren, bardzo dziękuję, że jesteś dziś ze mną!

Lauren Wallace: Dziękuję za zaproszenie. Cieszę się, że tu jestem.

Galen Low: Ja również bardzo się cieszę. Przed chwilą rozmawialiśmy w pokoju przygotowawczym. Szkoda, że tego nie nagrałem. Jestem tym bardzo podekscytowany.

Mamy dobrą energię. W pewnych kwestiach patrzymy na sprawy tak samo, a w innych być może nie. Bardzo interesuje mnie Twoje doświadczenie, bo łączysz kulturę szybko rozwijających się startupów z — niewątpliwie wolniejszym — tempem regulowanych branż, takich jak na przykład usługi finansowe. Myślę, że możemy dziś trochę zmieniać kierunek, ale oto plan, który dla nas przygotowałem.

Na początek chciałem zadać jedno z tych wielkich, palących pytań — pilne, ale w jakiś sposób paradoksalne pytanie, na które wszyscy chcą znać odpowiedź. Później chciałbym oddalić perspektywę i porozmawiać o trzech kwestiach. Po pierwsze, chciałbym omówić, jak w praktyce wygląda strategia AI stawiająca prywatność na pierwszym miejscu na poziomie poszczególnych elementów oraz co kadra kierownicza w regulowanych branżach musi wdrożyć, aby ją zrealizować, a także jakie mogą być z tego korzyści.

Następnie chciałbym przeanalizować przykłady podejścia privacy by design w praktyce i zastanowić się, jak liderzy wyższych szczebli, którzy przekładają wizję AI swojej firmy na rzeczywistość, mogą przygotować się tak, aby uniknąć bolesnych problemów w przyszłości. Na koniec chciałbym omówić, jak będzie wyglądać sytuacja konkurencyjna po pięciu latach, gdy organizacje różnej wielkości nabiorą rozpędu w realizacji swoich strategii AI. To było bardzo długie pytanie. Co o tym sądzisz?

Lauren Wallace: Cóż, pomijając perspektywę pięciu lat, Galen, myślę, że możemy omówić tu bardzo wiele.

Galen Low: W porządku. Wyciągniemy nasze kryształowe kule i możemy spojrzeć na trzy, pięć, dziesięć lat. Zobaczymy.

Pomyślałem, że zacznę od jednego wielkiego, trudnego pytania, ale najpierw je wprowadzę. Kiedy myślimy o silnie regulowanych branżach, takich jak usługi finansowe, opieka zdrowotna, energetyka czy telekomunikacja, większość z nas myśli o ograniczeniach, które zmuszają organizacje do powolnego działania.

A kolejną myślą jest to, że transformacja AI w regulowanych branżach również będzie przebiegać powoli, pozostawiając te sektory w mrokach przeszłości, podczas gdy reszta świata przyspieszy realizację swoich strategii AI. Moje wielkie, trudne pytanie brzmi: czy regulacje są biurokracją, która powstrzyma regulowane branże przed transformacją AI?

Czy może stanowią fundament, który ostatecznie przyniesie korzyści wszystkim — albo chodzi o coś zupełnie innego?

Lauren Wallace: Tak. Wybiorę coś zupełnie innego. Zacznę gdzieś pośrodku spośród przedstawionych przez Ciebie możliwości. Ujęłabym to w ten sposób: uważam, że silnie regulowane przedsiębiorstwa mają w rzeczywistości przewagę przy projektowaniu i wdrażaniu zgodnych z przepisami programów AI.

Dzieje się tak dlatego, że zasady leżące u podstaw zarządzania AI — takie jak przejrzystość, odpowiedzialność, monitorowanie stronniczości i jej zapobieganie — są niezbędnymi elementami programu zarządzania sztuczną inteligencją. Są już wpisane w istniejące ramy regulacyjne. A zakres tych ram jest, moim zdaniem, większy, niż niektórzy mogą sądzić.

Obejmuje on na przykład RODO, z którym prawdopodobnie większość osób zna się dość dobrze, niezależnie od branży. Jeśli jednak działasz w sektorze bankowym, podlegasz przepisom dotyczącym uczciwego udzielania kredytów. Jeśli zatrudniasz ludzi, podlegasz przepisom dotyczącym równych szans. Istnieje wiele innych ram praw obywatelskich i ochrony konsumentów, które mogą zawierać zakazy lub ograniczenia dotyczące algorytmicznego podejmowania decyzji.

Te zasady, podobnie jak reguły zarządzania modelami wykorzystywane przez banki od lat, obowiązują od dawna. Nazywa się to algorytmicznym podejmowaniem decyzji i łatwo przekłada się na to, z czym mamy do czynienia w przypadku wszystkich tych narzędzi AI. Te duże, silnie regulowane instytucje w niektórych opisanych przez Ciebie sektorach mają już solidne programy zgodności z tymi ramami.

Mają zasoby przeznaczone na zarządzanie tymi ramami. Mają również mechanizmy kontrolne i narzędzia zaprojektowane tak, aby zapewnić zgodność z tymi ramami. Nie twierdzę, że dołączenie zarządzania AI jest łatwe, ale przynajmniej zaczynasz z pewnego poziomu, gdy chcesz dodać zgodność z przepisami dotyczącymi sztucznej inteligencji.

Współpracowałam z wieloma dużymi, silnie regulowanymi instytucjami przy ich programach zgodności z AI i zakres ich dojrzałości jest bardzo różny. Niektóre dopiero zaczynają albo mają instytucjonalną alergię na AI i trzeba to jakoś obejść. Jest jednak wiele takich, które są bardzo zaawansowane.

Mają istniejące programy i zastanawiają się tylko, jak je rozszerzyć. Jak pozyskać potrzebne talenty i wiedzę? Jak włączyć społeczność w nowy sposób, aby mogła uczestniczyć w zapewnianiu zgodności AI na większą skalę? Podlegały też — i wiem o tym bardzo dużo — złożonej mozaice wymogów dotyczących powiadamiania o incydentach bezpieczeństwa.

A teraz zwracam się do mojej społeczności, do ludzi związanych z RadarFirst: widzę Was. Cieszę się, że korzystacie z RadarFirst. Mamy produkt, którego jestem ogromną fanką. Obejmuje on około 500 globalnych zasad dotyczących powiadamiania o incydentach związanych z prywatnością i bezpieczeństwem, z którymi można porównać swoje incydenty. Ludzie muszą zrozumieć, że nie ma znaczenia, gdzie powstał incydent — czy wynikał z błędnie skierowanego faksu, czy ze sztucznej inteligencji, której umożliwiono wykorzystywanie danych osobowych.

Incydent to incydent. Jeśli dotyczą go dane osobowe, podlegasz tym zasadom powiadamiania o incydentach. Trzeba to wiedzieć i nie zakładać, że incydenty związane z AI można odłożyć na bok. Z pewnością nie można po prostu zrzucić winy na sztuczną inteligencję. Widzieliśmy takie sytuacje. Zwykle nie kończą się dobrze.

Potrzebujesz więc procesu zarządzania incydentami, ale teraz musisz go rozszerzyć. Nie zaczynasz od zera. Z mojego punktu widzenia — i była to bardzo długa odpowiedź na krótkie pytanie — większym wyzwaniem są firmy średniej wielkości. Być może po raz pierwszy zetkną się z presją regulacyjną, gdy wdrożą AI do swoich przepływów pracy. Od czego więc zacząć?

Mogły nigdy nie mieć narzędzi umożliwiających analizowanie danych na dużą skalę, co nowe, stosunkowo niedrogie i dość dostępne produkty AI mogą im umożliwić. Nagle wykonują jednak procesy i wykorzystują informacje w sposób, którego wcześniej nie stosowały, narażając te informacje na wiele nowych zagrożeń.

Jeśli więc zaczynasz proces zarządzania od zera, czeka Cię dużo pracy. To była moja długa odpowiedź na krótkie pytanie.

Galen Low: Czekałem na tę pełną nadziei część. Czeka Cię dużo pracy, ale…

Lauren Wallace: Przejdźmy więc do pełnej nadziei części. Myślę, że zawsze można zacząć od podstawowych zasad privacy by design, a następnie rozszerzyć je tak, aby obejmowały nie tylko ochronę danych osobowych, lecz także ochronę zastrzeżonych informacji firmy.

Bo kiedy umieszczasz informacje firmowe w ChatGPT czy innym podobnym narzędziu, pojawia się wiele nowych zagrożeń. Trzeba ocenić i wzmocnić poziom bezpieczeństwa. W przypadku AI mamy do czynienia z ogromną, nową powierzchnią ataku. Musisz więc zadbać o odpowiedni poziom bezpieczeństwa. A przede wszystkim — i mam nadzieję, że o tym będziemy dziś najwięcej rozmawiać — trzeba rozpocząć wewnętrzną rozmowę, aby naprawdę zrozumieć, co chcesz robić z AI, co możesz z nią robić i jaki rzeczywisty zwrot z inwestycji chcesz osiągnąć, gdy zaczynasz tę rozmowę w swoich społecznościach.

Lubię dzielić to na dwa kierunki. Pierwszy to wewnętrzne wykorzystanie AI do zwiększania produktywności, zastępowania obecnie używanych narzędzi i usprawnień funkcjonalnych. Drugi to przypadki użycia związane z rozwojem produktu.

Galen Low: Mhm.

Lauren Wallace: Każdy z tych obszarów wiąże się z zupełnie innymi kwestiami.

Galen Low: Zdecydowanie chcę to omówić. Cieszę się, że wspomniałaś o budowaniu kompetencji i o RODO, bo pochodzę ze świata cyfrowego. W mojej branży były dwa obszary, w których ciągle próbowaliśmy nadążyć za regulacjami. Pierwszym było RODO, a wcześniejszym — dostępność, prawda? W związku z ustawą ADA biegaliśmy jak kurczaki bez głowy, bo nagle uświadomiliśmy sobie: chwila.

To brzmi bardzo prawniczo. Nie mamy na to procesu. Nie wiemy nawet, od czego zacząć. Nie mieliśmy nawet początku rozmowy o regulacjach, karach, zgłaszaniu incydentów, a nawet o widoczności danych. Brakowało nam wszystkich tych elementów i naprawdę musieliśmy działać w pośpiechu. Niektóre firmy wyszły na tym szczególnie dobrze, zwłaszcza w obszarze dostępności.

Kiedy dostępność stała się wymogiem, musieliśmy szybko się tego nauczyć. Agencje, które pomogły klientom budować dostępne rozwiązania internetowe i dostępne doświadczenia cyfrowe, zyskały przewagę. Wszystko odbywało się jednak w ogromnym pośpiechu, ponieważ wcześniej patrzyliśmy na to z drugiej strony, o której wspomniałaś.

Czyli: wypróbujmy wszystkie narzędzia, działajmy szybko, kogo to obchodzi? To technologia cyfrowa, nie obowiązują nas wszystkie te zasady. Nagle jednak odczuliśmy konsekwencje i powiedzieliśmy: dobrze, rozumiemy.

Lauren Wallace: Zgadnij co? Zasady. Mnóstwo zasad i mnóstwo zasad zaprojektowanych tak, aby wyrażały uzupełniające się wartości.

Mogą być jednak stosowane na bardzo różne sposoby. RODO i kalifornijska ustawa CCPA, a następnie CPRA, mają wspólne dobre podstawy, ale są wdrażane w odmienny sposób. Jak więc menedżer projektu cyfrowego może zadbać o to — i wielu moich klientów właśnie tak postępuje — aby znaleźć najwyższy wspólny standard?

Spróbuj znaleźć to, co jest spójne we wszystkich środowiskach regulacyjnych, w których działasz, i traktuj wszystkich tak, jakby podlegali temu samemu, wysokiemu standardowi. Próba działania po najniższej linii i robienia w każdym przypadku absolutnego minimum może wydawać się sposobem na ograniczenie ryzyka regulacyjnego, ale będzie kosztować znacznie więcej — zarówno pod względem wdrożenia, jak i energii mentalnej potrzebnej do realizowania ciekawych inicjatyw.

Wybierz więc najlepszy sposób, jaki możesz zastosować, i po prostu go zastosuj. Wspomniałeś o dostępności. To temat bardzo mi bliski. Współpracuję nad nim z kilkoma grupami i chętnie wróciłabym do rozmowy o dostępności w AI, ponieważ uważam, że przyjmujemy wiele założeń dotyczących tego, iż wytyczne takie jak WCAG — w których po prostu odhacza się kolejne atrybuty strony internetowej — są odpowiednie, gdy mamy do czynienia z zupełnie innym rodzajem obciążenia poznawczego.

Chodzi o to, z czego ludzie korzystają, z czego nie korzystają albo do czego mogą nie mieć dostępu, gdy używają AI w bezpośredniej interakcji, na przykład w narzędziu skierowanym do konsumentów, takim jak Copilot, albo gdy wchodzą w interakcję ze sztuczną inteligencją w świecie fizycznym.

Kiedy patrzymy na osoby z niepełnosprawnościami, które dzięki takim rozwiązaniom jak Alexa i HomeKit zyskały większą niezależność w organizowaniu swoich domów i otoczenia, widzimy, że ich życie stało się znacznie wygodniejsze i łatwiejsze. Te rozwiązania są jednak w tle moderowane przez AI. Nie widzisz tego i nie mówisz systemowi, co ma robić, ale założenia dotyczące środowiska działania zostały przyjęte za Ciebie przez kogoś innego. To niezwykle potężna technologia, a ludzie zasługują na znacznie więcej.

Chętnie odbyłabym z Tobą osobną rozmowę o dostępności.

Galen Low: Z przyjemnością. W tych rozmowach często pojawia się kwestia równości i równego dostępu. Masz rację w sprawie najwyższego wspólnego standardu. Pracowałem także przy projektach dotyczących dostępności stron internetowych i WCAG, gdzie zdecydowanie chodziło o odhaczanie pól i zdecydowanie wdrażano rozwiązania na kilka tygodni przed przewidywaną karą.

Zdecydowanie poruszaliśmy się wzdłuż dolnej granicy, ale to w rzeczywistości zwiększało ryzyko. Dla wielu osób może to brzmieć tak: Lauren, czy nie przesadzamy z inżynierią? Czy naprawdę musimy projektować zgodnie z najwyższym poziomem regulacji?

Widziałem jednak, że skrobanie dna i robienie absolutnego minimum jest często droższe. Później trzeba wracać do tematu i uruchamiać kolejne inicjatywy, aby wszystko poprawić. To tylko odkładanie nieuniknionego.

Lauren Wallace: Tak. Nie chcesz później wracać i naprawiać pojedynczych punktów.

Myślę też, że wybór najwyższego standardu z perspektywy regulacyjnej zachęca do etycznego podejścia do pracy. Nawet tam, gdzie nie masz wyraźnie zapisanych obowiązków regulacyjnych, na które możesz wskazać, możesz powiedzieć: uważamy, że to wciąż najlepszy sposób działania.

Jest to ważne, ponieważ chcemy być dobrymi obywatelami biznesowymi i móc powiedzieć naszym dzieciom, że nie robiliśmy w pracy strasznych rzeczy. Nie wiesz także dokładnie, skąd mogą nadejść problemy. Mogą pochodzić od regulatora stanowego, federalnego lub europejskiego.

Mogą wynikać z pozwu zbiorowego albo pojawić się ze strony przedsiębiorczego zespołu prawnego, który uznał, że istnieje tu możliwość działania. Mogą też pochodzić od konkurencji. Samo wskazanie, że spełniło się jakiś obowiązek informacyjny wynikający z jednej regulacji, nie wystarczy.

Musisz pokazać, że jako organizacja działasz zgodnie z wytycznymi etycznymi przyjętymi w firmie. Wiem, że to jedna z kwestii, o których chcemy dziś rozmawiać: uzyskanie poparcia. Jako menedżer projektu zajmujesz się tym na co dzień — doprowadzasz ludzi do wspólnego stanowiska. Jak jednak komunikować to stanowisko? Jakich narzędzi, słów i pojęć możesz użyć?

Galen Low: Bardzo mi się to podoba. Czy możemy się nad tym zatrzymać? Widziałem, jak wypowiadasz się o opracowywaniu strategii transformacji AI stawiającej prywatność na pierwszym miejscu. To, co mówisz o etycznym podejściu i komunikowaniu go tak, aby wszyscy byli zgodni, również do mnie przemawia. Czy mogłabyś rozłożyć na części pierwsze podstawowe elementy podejścia do transformacji AI, które stawia prywatność na pierwszym miejscu? Może także opowiedzieć o niektórych korzyściach? A nawet wyjść poza samą prywatność, bo uważam, że prywatność jest częścią etycznego podejścia.

Nadal jest elementem całej struktury. Jeśli chcesz nieco poszerzyć perspektywę, z przyjemnością tego posłucham.

Lauren Wallace: Najpierw zawężę temat, a potem odniosę się do kwestii osobistej i być może kontrowersyjnej. Dla mnie prywatność jest podstawowym prawem człowieka. To fundamentalne oczekiwanie, które pozwala nam żyć w sposób zgodny z własną wolą.

Organizacje i państwa powinny bardzo ostrożnie ingerować w to prawo. A może nie powinny? Nie powinny, prawda? Jeśli jednak będą to robić, powinny zachować ostrożność. Kontrowersyjna staje się dla mnie kwestia globalnego podejścia do prywatności. Unia Europejska jest wyznacznikiem traktowania prywatności jako podstawowego prawa człowieka i bardzo konkretnie wyjaśnia, co to oznacza w RODO, a następnie w akcie o sztucznej inteligencji UE, który w dużej mierze opiera się na RODO i mówi: zacznijmy od prywatności, a potem idźmy dalej.

To jest DNA Unii Europejskiej. Prywatność jest podstawowym prawem człowieka, a prawo do decydowania o wykorzystywaniu własnych danych osobowych należy do osoby, której dane dotyczą — człowieka. W Stanach Zjednoczonych historycznie traktowaliśmy wartość tych danych osobowych jako należącą do firmy, która je zebrała, i do firmy, która je wykorzystuje, ponieważ czerpie z nich wartość. Skoro firma wydobyła tę wartość, to logicznie rzecz biorąc, powinna do niej należeć.

W innych jurysdykcjach na świecie wartość danych osobowych, a nawet ich konkretna treść, może być uznawana za własność państwa, ponieważ państwo wykorzystuje je w najlepszym interesie osoby, której dane dotyczą.

Mamy więc trzy bardzo różne podstawowe teorie dotyczące tego, kto jest właścicielem danych osobowych i kto powinien czerpać z nich wartość. Od tego właśnie bym zaczęła. Kiedy patrzysz na wytyczne etyczne swojej firmy, pytasz: gdzie plasujemy się w tym zestawieniu?

Nie zaczynasz od listy zasad, takich jak uczciwość, odpowiedzialność czy ograniczanie stronniczości. To dobre i przydatne słowa. Pomagają stworzyć szablon, który wspólnie wypełnicie i udostępnicie w firmie, mówiąc: to są nasze wartości. W centrum pozostaje jednak pytanie: czy jako organizacja wierzymy, że służymy ludziom, wydobywając wartość z danych osobowych?

Czy wierzymy, że służymy ludziom, pomagając naszym klientom wykorzystywać dane osobowe dla dobra osoby, której dane dotyczą? W Stanach Zjednoczonych wolno wybrać jedną z tych dróg. Chcę pomagać firmom, które chcą działać w interesie osoby, której dane dotyczą.

Galen Low: Wspomniałaś, że europejski model jest wyznacznikiem traktowania prywatności jednostki jako prawa.

Kiedy mówisz o Ameryce Północnej, przypomina mi się, że zaakceptowałem fakt, iż moje dane są jak waluta. Są przedmiotem transakcji. Kiedy powiedziałaś, że skoro firma wydobyła z nich wartość, to je posiada, pomyślałem: tak, to ma sens. Nie zapłaciłem przecież pieniędzmi.

Jako konsument myślę czasem: skoro nie muszę Ci płacić, a usługa jest rzekomo bezpłatna, to wszystko jest w porządku. Być może właśnie w tym miejscu użytkownik końcowy zaczyna pozwalać organizacji na mniejszą ostrożność wobec swoich danych. Mówię: jasne, weź mój adres e-mail i wzbogacaj dane.

Pracuję w mediach, więc widziałem fragment zaplecza niektórych takich systemów. Część tych danych ma większą wartość niż pieniądze. Kwestia własności bardzo mnie jednak zaskoczyła. RODO zawsze kojarzyło mi się z przejęciem kontroli nad własnymi danymi osobowymi i uzyskaniem wpływu na to, co się z nimi dzieje.

Pozostaje jednak luka: kto ma na to czas? Ledwo mam czas usuwać zdjęcia z telefonu, a co dopiero sprawdzać, gdzie są przechowywane moje dane, i pisać wnioski o ich trwałe usunięcie z serwera. Ludzie to robią, ale ja do nich nie należę. W pewnym sensie na to pozwalamy.

Lauren Wallace: Wyrazy uznania dla organizacji takich jak NOYB, czyli None Of Your Business, organizacji Maxa Schremsa. Znasz ją? NOYB, „to nie twój interes”. Dzięki takim organizacjom można egzekwować te prawa na dużą skalę. Dla nas, jednostek, indywidualne korzystanie z tego prawa jest niezwykle trudne.

Wiele stanów rozwija obecnie regulacje dotyczące AI. W zakresie ochrony prywatności brakowało często obowiązku uzyskania zgody, poinformowania, a następnie uzyskania świadomej zgody. W świecie prywatności zgoda w bardzo wielu transakcjach była domniemana.

Kiedy klikasz baner dotyczący plików cookie albo dowolny formularz w używanym produkcie, pamiętaj o podstawowej zasadzie prywatności: jeśli produkt jest bezpłatny, produktem jesteś Ty.

Galen Low: Tak.

Lauren Wallace: Bardzo łatwo jednak dać się uwieść obiecywanym funkcjom.

Możesz pomyśleć: jestem tylko ja, siedzę w swoim domu w Portland w stanie Oregon. Ile mogą być warte moje dane? W ujęciu zbiorczym i po wzbogaceniu danych, o którym wspomniałeś, sytuacja wygląda inaczej. To jedno z nowych zagrożeń związanych z AI — zagrożenie dla prywatności wynikające z możliwości wzbogacania danych i wyciągania wniosków na ich podstawie.

Informacje przekazane jednemu dostawcy w jednej sytuacji, aby kupić jedną rzecz, mogą samodzielnie mieć niewielką wartość — może kilka groszy. Po agregacji, wzbogaceniu i odsprzedaży podmiotom trzecim, które wykorzystują je do innych celów, wartość profilu danych staje się znacznie większa.

Jak osoba, której dane dotyczą, miałaby dotrzeć do każdego z tych podmiotów? Nie może. Nie jest to dla niej dostępne. Nie może tego naprawić. Dlatego współczuję organizacjom, które od początku chcą działać etycznie i dokładnie wiedzą, jakie dane posiadają, skąd je pozyskały i czy od początku miały zgodę na ich wykorzystywanie.

Czy wykorzystują je w sposób wykraczający poza zakres pierwotnej zgody? Czy potrafiłyby to obronić? Czy rozszerzone wykorzystanie jest zgodne z pierwotnym zamiarem? Czy osoba, której dane dotyczą, została w chwili ich przekazywania poinformowana o tym, do czego zgoda będzie wykorzystywana? Nie są to kwestie, do których chcesz wracać w odniesieniu do starszych zbiorów danych.

Kiedy kupujesz firmę dla jej danych, a nie dla technologii czy ludzi, musisz się nad tym zastanowić. Niedawno w wiadomościach pojawiła się historia dużego banku, który kupił startup. Startup świadczył usługi osobom ubiegającym się o pomoc finansową, w tym studentom starającym się o pomoc finansową. Bank kupił go, ponieważ startup twierdził, że posiada cztery miliony nazwisk osób, które kupiły jego usługi związane z kredytami studenckimi.

Bank uznał, że jest to źródło informacji o osobach, które można wykorzystać do kierowania do nich ofert jako potencjalnych klientów. Koszt pozyskania klienta wynosił dla banku około 150 dolarów za skutecznie pozyskanego klienta, czyli osobę, która otworzy rachunek bieżący. Bank był więc gotów zapłacić 175 milionów dolarów za cztery miliony nazwisk — około 40–45 dolarów za osobę.

Widać, dlaczego uznano, że różnica między 40 a 150 dolarami oznacza wartość około 100 dolarów za osobę, aby kupić zweryfikowaną listę potencjalnych klientów usług bankowych.

Później okazało się, że wszystkie cztery miliony nazwisk były fałszywe. Zostały syntetycznie wygenerowane przy użyciu programu AI. Gdy bank sprawdził te nazwiska, odkrył, że prowadzą donikąd. W projekcie wydano 175 milionów dolarów.

Bank pozwał firmę i wycofał się z przejęcia. Być może odzyskał pieniądze — nie wiem. Uznałam to za niezwykle interesujące. Bank kupił startup nie ze względu na technologię ani pracowników, lecz wyłącznie ze względu na nazwiska na liście. Na podstawie publicznych informacji o przejęciu i pozwie mogliśmy dokładnie zobaczyć przypisaną wartość każdego nazwiska.

Firma nie była warta nic, jeśli te cztery miliony nazwisk nie były prawdziwe. Odnieś to do własnego życia. Pomyśl: co by było, gdybym ja albo jedno z moich dzieci znajdowało się w takim łańcuchu wartości danych od bardzo młodego wieku, aż do momentu otwarcia rachunku lub zaciągnięcia kredytu hipotecznego w tym banku?

Wartość transakcyjna, którą widzisz, kiedy klikasz „kup”, może wydawać się niewielka. W tym momencie Twoje dane nie wydają się wiele warte. Jeśli jednak spojrzysz na wartość w całym okresie życia, okazuje się, że ten duży bank uznał, iż jesteś wart co najmniej sto dolarów. Czy zrobiłbyś coś innego z tymi stu dolarami niż z decyzją, którą właśnie podjąłeś?

Galen Low: Jest tu bardzo wiele wątków, bo to świetnie odpowiada temu, co mówiłaś wcześniej: wiele osób myśli o AI i transformacji AI w miejscu pracy jako o narzędziu, z którym wchodzą w interakcję, oraz o umiejętności potrzebnej do wykonywania pracy. Nie zawsze widać jednak to, co opisałaś — co znajduje się w czarnej skrzynce i co dzieje się później.

Zwykle myślimy: nie wiemy, jak działają niektóre modele uczenia maszynowego; systemy poprawiają własny kod i zasadniczo nie wiemy, dlaczego pewne rozwiązania AI działają. To jednak nie jest ta czarna skrzynka. Chodzi o to, czego nie widać po kliknięciu przycisku przesłania, po wysłaniu polecenia i o to, dokąd wszystko trafia.

Jak dane są agregowane? Czy przechodzą z rąk do rąk? Wracając do modelu, o którym mówiłaś: siadasz i decydujesz, że nie jesteście modelem europejskim, że zdecydowanie uważacie, iż czerpiecie wartość z danych klientów. To dopiero początek. Nadal pozostaje ogrom pracy, aby zrozumieć, dokąd trafiają dane, za co odpowiadacie i za co etycznie odpowiada organizacja.

Lauren Wallace: To dość duże pytanie. Kiedy wchodzimy w ten obszar jako obywatele, rodzice, konsumenci i obywatele korporacyjni, pojawia się wiele wielkich pytań. To ogromny ocean do zagotowania, a ja stoję na jego brzegu z wielką zapalniczką i próbuję go zagotować. To za dużo.

Lubię więc zaczynać od przypadku użycia. Co dokładnie próbujesz osiągnąć za pomocą konkretnej aplikacji i konkretnego zbioru danych, który może do niej trafić? Jaki zwrot z inwestycji naprawdę chcesz osiągnąć? Oszczędzasz pieniądze? Zarabiasz? Możesz pozyskać klientów? Następnie trzeba rozłożyć to na części.

W obszarze zgodności dużo mówimy o tonie nadawanym z góry. To bardzo cenna koncepcja: jak kierownictwo i zarząd mówią o swoich wartościach i jak przekazują je całej organizacji. To jednak nie wystarcza, gdy działamy na poziomie projektu.

Trzeba ponownie rozłożyć temat na elementy i zapytać: co próbujemy osiągnąć? Jaki przypadek użycia analizujemy? Jaki jest rzeczywisty zwrot z inwestycji? Jak zasady etyczne kierownictwa i regulacje, którym podlegamy, odnoszą się do tego, co faktycznie zamierzamy zrobić?

Jeśli nie znamy odpowiedzi, ponieważ mamy do czynienia z czarną skrzynką, czy bezpiecznie jest działać? Czasami odpowiadałam: nie. Jako dyrektorka ds. prawnych w RadarFirst wielokrotnie musiałam odmawiać. W ciągu roku analizowaliśmy setki dostawców. Przygotowałam nawet krótkie podsumowanie. Odsetek odrzuconych dostawców był dość wysoki.

Mówiliśmy: nie mamy wystarczających informacji; nie opublikowaliście centrum zaufania, które możemy dokładnie przeanalizować; wykorzystujecie modele bazowe, których nam nie ujawniacie. Prowadziliśmy dodatkowe badania i odkrywaliśmy, że dostawca może być powiązany z innymi systemami, których nie zweryfikowaliśmy. W takich przypadkach można spokojnie powiedzieć „nie”.

Pomaga wtedy struktura etyczna. Możesz powiedzieć: jedną z naszych zasad etycznych jest odpowiedzialność. Jeśli nie znam odpowiedzi na jedno z pytań w prostej analizie tego, co produkt ma dla nas robić, to kto będzie za niego odpowiadał?

Nie mogę zwrócić się do dostawcy i powiedzieć: nie rozumiałam, co robicie, kiedy kupowałam od Was produkt. Odpowiedzialność jest trudną zasadą. Jest aspiracyjna, ale to dobra aspiracja. Kogo jednak mamy na myśli, gdy mówimy „odpowiedzialny”? Zarząd? Kierownictwo? Poszczególnych członków zespołu?

Myślę, że z perspektywy projektu można zacząć od podejścia zorientowanego na przypadek użycia i zwrot z inwestycji, tworząc zespoły, które odpowiadają przed sobą nawzajem. Gdy tworzysz zespół do projektu wykorzystującego AI, bardzo ważne jest włączenie całej społeczności.

Przy stole musi być oczywiście zespół produktowy i inżynieryjny. Być może także bezpieczeństwo. Powinien jednak pojawić się również zespół obsługi klienta. Czy ma skrypty pozwalające odpowiadać na pytania klientów dotyczące tej funkcji? Czy rozumie ją na tyle dobrze, aby bez skryptu umieć sformułować pytanie i przekazać je odpowiedniej osobie?

A marketing produktu? Czy ma dokumentację, która dokładnie wyjaśnia i pokazuje, co produkt będzie dla Was robił? Czy zespół marketingu, komunikując się ze społecznością, wie, czy klienci należą do osób niechętnych AI, czy też do grupy bardzo chętnej do wypróbowywania nowości? Jak dostosujecie komunikację, aby przy wprowadzaniu funkcji opartych na AI spotkać klientów tam, gdzie się znajdują?

Oczywiście przy stole powinien być także dział prawny. Co ważne, wracając do klientów, w portfelu mogą znajdować się klienci, którzy zabraniają wykorzystywania AI w produktach kupowanych od Was. Taki zakaz może być ukryty w umowie i nie musi używać słowa „AI”. Może mówić o algorytmicznym podejmowaniu decyzji albo wykorzystywaniu modeli. Możecie mieć dziesięcioletnią umowę, która zabrania takiego wykorzystania. Dlatego zespół prawny również musi być zaangażowany, podobnie jak osoby analizujące kwestie regulacyjne.

Wtedy wszyscy siedzą przy jednym stole i mogą wspólnie budować odpowiedzialność, mówiąc: pytałem o to i nie otrzymałem odpowiedzi.

Galen Low: Cieszę się, że o tym wspomniałaś. Myśląc o odpowiedzialności, zastanawiałem się: kto? Doszedłem do wniosku, że wewnętrznie odpowiadamy przed sobą nawzajem, ponieważ jesteśmy zespołem.

Prywatność w wielu przypadkach jest tak silna, jak jej najsłabsze ogniwo. Zbierasz zespół, a jedna osoba mówi: to nie ma znaczenia, wrzucę ten zbiór danych do publicznego dużego modelu językowego albo obejdziemy zasady, bo zdążymy do piątku. Potem wrócimy do tematu.

Kultura wzajemnej odpowiedzialności za tę wartość jest moim zdaniem bardzo silna.

Lauren Wallace: Właśnie dlatego lubię prywatność jako zasadę przewodnią — może przejawiać się na wiele różnych sposobów.

W odróżnieniu od wielu innych kwestii, które bierzemy pod uwagę przy projektowaniu rozwiązań lub produktów, prywatność jest osobista. Przeprowadź kiedyś krótką ankietę w organizacji. Zapytaj wszystkich, czy oni albo ktoś, na kim im zależy, padł ofiarą naruszenia danych osobowych.

Z jednej strony wszyscy regularnie dostajemy listy od różnych usługodawców: „przy okazji, warto włączyć monitorowanie raportu kredytowego”. Jeśli jednak Twoje dane zostały niewłaściwie wykorzystane najwyraźniej dla korzyści kogoś innego, jest to prawdziwy koszmar. Sama przez to przeszłam.

Nie dlatego zostałam prawniczką zajmującą się prywatnością, ale z pewnością miało to znaczenie.

Galen Low: Rozumiem. Słyszę Cię.

Lauren Wallace: Niedawno rozmawiałam z osobą, która przechodziła przez proces odbudowy swojego życia po włamaniu na konto bankowe.

Potem wydarzyło się wiele innych złych rzeczy. Kiedy próbujesz zachęcać do odpowiedzialności i wzajemnej troski w kontekście projektu, możesz pokazać, jak bardzo osobista jest prywatność. Czy ludzie naprawdę chcą, aby informacje o ich dzieciach były dostępne dla każdego, kto zna kod dostępu? Warto spojrzeć na cały cykl życia danych, o którym mówiliśmy przy przykładzie bankowym, i pomyśleć: te informacje dotyczą mojego dziecka, domu albo czegoś innego. Za pięć czy dziesięć lat mogą być dla kogoś bardzo cenne. Czy mogę zatrzymać to już teraz?

Galen Low: Czy możemy spojrzeć na to przez pryzmat projektu lub produktu? Wspomniałaś o tonie nadawanym z góry — jest ważny, ale nie rozwiązuje wszystkiego.

Jeśli zejdziemy poziom niżej i rozwijamy produkt, który będzie wykorzystywał AI lub przetwarzanie algorytmiczne, pojawia się kilka elementów. Myślę o edukacji, o słownictwie i empatii, dzięki którym można spojrzeć na dane klientów i pomyśleć: to mogły być dane moich dzieci.

Myślę też o zaproszeniu wszystkich do stołu. Niektórzy słuchacze powiedzą: nie możemy zapraszać wszystkich do wszystkiego, Lauren, to będzie zbyt drogie. Może działa to w usługach finansowych, ale my jesteśmy oszczędni. Co jednak dzieje się, gdy ktoś w zespole naruszy tę wartość? Jak zespół może ją odbudować?

Lauren Wallace: Ujęłabym to trochę inaczej. Istnieje celowe niewłaściwe wykorzystywanie danych osobowych, które jest czymś strasznym i w niektórych miejscach stanowi przestępstwo. Zawsze jednak może dojść do przypadkowego, niezamierzonego wykorzystania danych osobowych. W tym obszarze możemy być bardzo odpowiedzialni i działać defensywnie.

Większość używanych narzędzi ma konfiguracje, które można włączyć. Dzięki nim dane osobowe albo poufne informacje firmowe mogą być chronione. Najpierw należy wdrożyć zabezpieczenia na podstawowym poziomie bezpieczeństwa, a następnie skonfigurować same produkty, gdy wprowadzamy je do organizacji i zaczynamy z nich korzystać.

Najpierw zadbajmy o te elementy i unikajmy przypadkowego niewłaściwego wykorzystania danych. Wtedy możemy przejść do sedna, czyli celowego, nieostrożnego lub lekkomyślnego wykorzystywania danych osobowych, ponieważ mamy termin i musimy coś dostarczyć do piątku.

Galen Low: Właśnie.

Lauren Wallace: Wykorzystywanie danych osobowych ludzi, ponieważ mamy termin, jest niedopuszczalne.

Galen Low: Nie róbmy tego. Cieszę się, że powiedziałaś, iż czasami trzeba odmówić. Patrząc wstecz, wielokrotnie odmawiałaś. Moja żona pracuje w ubezpieczeniach, które są szczególnie silnie regulowane, zwłaszcza tutaj, w Kanadzie.

Ryzyko i zgodność są traktowane bardzo poważnie, a działalność bywa wstrzymywana z powodu ryzyka. W innych branżach często słyszy się: zostawiamy pieniądze na stole, jeśli tego nie wdrożymy. Tymczasem trzeba zapytać: jakie jest ryzyko przyjęcia tych pieniędzy, jeśli nie przeprowadziliśmy należytej analizy infrastruktury, powierzchni ataku i wszystkich pozostałych kwestii?

Dobrze, że powiedziałaś: po prostu tego nie rób. To umiejętność, której trudno się nauczyć. Nawet jeśli jest to Twoja praca, wyobrażam sobie, że trudno być osobą, która mówi: nie możemy tego biznesu napisać, przepraszam; nie możecie dostarczyć tego produktu. Jak podnosi się taką flagę, zwłaszcza gdy nie jest to formalnie „Twoja praca”?

Lauren Wallace: Nie ma w tym przyjemności. To nie jest mściwe działanie. Możemy jednak odwołać się do wspólnego słownictwa i narzędzi, które posiadamy, aby rozmawiać o tym w organizacji w bardziej produktywny sposób.

Najbardziej klasycznym narzędziem jest macierz ryzyka, w której prawdopodobieństwo znajduje się na jednej osi, a dotkliwość na drugiej. Możesz prowadzić szczerą rozmowę o tym, gdzie w tej macierzy znajduje się dana sytuacja, i wspólnie uzgodnić, że granica organizacji przebiega przed konkretnym punktem. Wtedy nie realizujecie danego działania.

Nie musi to być decyzja jednej osoby. Organizacja może powiedzieć: mamy podejście do ryzyka, w które wierzy zarząd, inwestorzy i regulatorzy. Jeśli nie będziemy go przestrzegać na co dzień, za dwa albo trzy lata będziemy musieli przyznać, że tym razem przekroczyliśmy granicę.

Jeśli przekroczyliśmy ją dlatego, że nie rozumieliśmy, co kupujemy albo co robimy w tych czarnych skrzynkach, nie będzie to obroną prawną. Niewiedza nie jest obroną przed prawem. Nigdy nią nie była i nigdy nie będzie.

Dlatego ton nadawany z góry, wspólne wartości oraz osobiste zaangażowanie w ochronę własnej prywatności i prywatności naszych rodzin oraz bliskich są zawsze dobrym punktem wyjścia.

Galen Low: Bardzo mi się to podoba. Zastanawiałem się, czy będziemy rozmawiać o budowaniu kompetencji w zakresie etycznego wykorzystywania AI, prywatności i wszystkich tych wartości. Myślałem, że powiesz: mały startup powinien zbudować strukturę na poziomie przedsiębiorstwa, zatrudnić zespół zajmujący się ryzykiem, zgodnością i prawem, a następnie wszystko opracować od podstaw.

Tymczasem ton nadawany z góry jest ważny, ponieważ wyznacza wartości. Następnie zespoły muszą mieć wystarczającą wiedzę, aby powiedzieć: to może znajdować się po niewłaściwej stronie naszego progu ryzyka; porozmawiajmy o tym. To początek budowania kompetencji, nawet jeśli nie macie dyrektora ds. prawnych albo jedna osoba pełni trzy inne funkcje. Nadal chodzi o posiadanie słownictwa i kultury umożliwiających tę rozmowę.

Zainteresowało mnie także to, że być może przy AI rzeczywiście trzeba obecnie zapraszać wszystkich do stołu. To nie jest jeszcze obszar dobrze poznany. Ryzyko nie jest niskie i nie wiemy, co ludzie zrobią z tą technologią pozostawieni sami sobie. Zapraszanie ludzi do rozmowy pomaga budować kulturę, a nie tylko realizować pracę.

Lauren Wallace: Z perspektywy kultury nie znam organizacji, która nie przechodziłaby obecnie transformacji AI albo przynajmniej jej nie rozważała. Nie można ignorować faktu, że wiele osób w organizacji może osobiście nie akceptować rozpowszechniania się AI w ich życiu.

Rozglądają się i widzą, że każda wykonywana przez nich czynność jest dotykana przez AI. Nie rozumieją dobrze tej technologii. Jak mogliby ją rozumieć? Nie jest ona dla nich dostępna w sposób pozwalający ją pojąć. Proszenie tych osób — ludzi, którzy mogą osobiście obawiać się AI ze względu na bezpieczeństwo własne, rodziny, pracę i dane osobowe — aby wyłączyli te obawy, ponieważ agresywnie realizujemy strategię transformacji AI, jest problematyczne.

Możesz uruchomić inicjatywy, ale wygasną, jeśli ludzie nie będą mieli okazji rozwinąć biegłości i pewności siebie. W RadarFirst około półtora roku temu uruchomiliśmy cykl comiesięcznych spotkań poświęconych etycznej sztucznej inteligencji.

Były bardzo nieformalne. Zaproszeni byli wszyscy, a spotkania miały formę otwartego forum. Każde koncentrowało się na jednym temacie. Przeznaczaliśmy na nie od 60 do 90 minut. Rozmawialiśmy o ludzkiej sprawczości i nadzorze, przejrzystości oraz odpowiedzialności. Wykorzystałam podstawowe wytyczne unijne dotyczące sztucznej inteligencji.

Odbywało się to jeszcze przed przyjęciem aktu o AI, ale już wtedy mieliśmy dużo materiałów. Te informacje były dostępne. Wyjaśnialiśmy, jak opracowano wytyczne, skąd pochodziły i jakie podstawowe zasady praw człowieka leżały u ich podstaw. Rozwijaliśmy wspólne słownictwo.

Pokazywaliśmy przykłady. To była najciekawsza część, bo wszyscy lubią historie z pierwszej linii. Przywoływałam przykłady z bazy incydentów AI. To ogromne źródło informacji dostępne w internecie. Wystarczy wyszukać „AI Incident Database”. Można tam znaleźć szokujące, świeżo ujawnione przypadki dotyczące przejrzystości i ograniczania stronniczości.

Omawialiśmy każdy przypadek: co poszło nie tak? Co można było zrobić wcześniej, aby temu zapobiec? A skoro już do tego doszło, jaka jest odpowiedzialność organizacji za ograniczenie skutków? Następnie otwieraliśmy dyskusję, a uczestnicy znajdowali się na różnych etapach osobistej drogi związanej z transformacją AI.

Może po wyjściu ze spotkania ich ocena sytuacji się nie zmieniła. To w porządku. Kiedy jednak wracali do biurek i pracowali przy projektach wykorzystujących lub umożliwiających wykorzystanie AI, mieli ramy działania i słownictwo pozwalające omawiać obawy z zespołem, eskalować je do działu prawnego, zgodności lub zespołu produktowego.

To było wspaniałe doświadczenie. Polecam je wszystkim. Organizowanie takich spotkań jest naprawdę przyjemne. Wzmacnia też przekonanie, że rozmawiamy tu o ludzkich cnotach, ludzkich wartościach oraz wpływie na nas, nasze rodziny i przyszłość naszej planety.

Galen Low: Kto prowadziłby takie spotkania, gdyby nie mieli Lauren Wallace?

Lauren Wallace: Jeśli nie macie Lauren Wallace, to trudne pytanie. Wraca ono do innej kwestii: kto kieruje komitetem sterującym? Możecie go nie mieć, ale dobrze jest go utworzyć. Powinien być wielofunkcyjny i obejmować osoby z różnych szczebli starszeństwa w organizacji.

Najświeższe pomysły często pochodzą od osób, które nie pracują jeszcze długo w firmie albo nie zdążyły rozwinąć kariery. Kto powinien prowadzić takie spotkania? To świetne pytanie. Tak samo jest w przypadku każdego z tych obszarów. Czy powinna to być osoba z zespołu produktowego, która dobrze rozumie, jak firma chce umożliwić wykorzystanie AI?

Czy może ktoś z działu finansów i administracji, kto wie, jak firma wydaje pieniądze na AI albo spodziewa się dzięki niej oszczędności? Ton nadawany z góry musi mieć w tym swój udział. Potrzebny jest więc przynajmniej sponsor wykonawczy. Można jednak także co miesiąc przekazywać tę funkcję innej osobie, uzyskując za każdym razem nieco inną wartość.

Galen Low: Bardzo mi się to podoba. Zaczęłaś od słowa „społeczność”, a teraz widzę, jak to się rozwija. Nie chodzi koniecznie o tradycyjną społeczność praktyków, ale o spotykanie się w celu wymiany informacji, ustalenia, gdzie istnieje zgodność, a gdzie potrzebna jest dyskusja, oraz wyposażenia się nawzajem w słownictwo do kontynuowania tych rozmów na co dzień.

W mojej głowie i zapewne w głowach części słuchaczy pojawia się pytanie: czy musimy zatrudnić eksperta od AI, prywatności i etycznego wdrażania AI, aby prowadził takie spotkania? Tymczasem potrzebujemy tonu nadawanego z góry, sponsora wykonawczego oraz osób wykonujących pracę i podejmujących decyzje. To pozwala prowadzić dialog.

To obecnie gra międzyfunkcyjna. Jest to wielofunkcyjna rozmowa, która musi się odbyć, aby ustanowić nowe zasady. Wcześniej nie każda organizacja rozważała lub realizowała transformację AI, a teraz stała się ona podstawą działania.

Lauren Wallace: To pojawiło się bardzo szybko.

Galen Low: Zdecydowanie. Właśnie dlatego podoba mi się to, co powiedziałaś na początku: organizacje i instytucje w regulowanych branżach miały już w niektórych przypadkach kompetencje potrzebne do zarządzania ryzykiem i prowadzenia dialogu na jego temat.

Lauren Wallace: Wcześniej podejmowały już decyzje dotyczące progów ryzyka.

To nie jest nowa rozmowa. Mówimy o uzyskaniu poparcia instytucjonalnego i upoważnienia do odmawiania w sytuacjach, w których perspektywa ryzyka nie została jeszcze zintegrowana z działalnością firmy. Rozwiązanie tego problemu przypadek po przypadku będzie trudne.

Jeśli chodzi o to, kto powinien prowadzić takie spotkania, nie widzę nic złego w zatrudnieniu konsultanta, który pomoże ustanowić ramy rozmowy. W przeciwnym razie będziecie rozmawiać cały dzień i nigdy nie skończycie pracy.

Galen Low: To uczciwe.

Lauren Wallace: Osoby w organizacji są jednak ekspertami, którzy powinni dostarczać danych do tych ram i pomagać zdecydować, jak podejmować decyzje dotyczące rezultatów.

Galen Low: Na zakończenie chciałbym porozmawiać trochę o przyszłości. Nie będę chyba udawał, że potrafię przewidywać przyszłość.

Wspominaliśmy o regulacjach, które pojawiły się w przeszłości, takich jak RODO. Od dekady lub dłużej mówi się o tym, że przepisy nie nadążają za wykorzystywaniem rozwiązań takich jak media społecznościowe. Rozmawialiśmy o tym, że regulowane branże mogą mieć przewagę, bo wypracowały kompetencje prowadzenia rozmów o ryzyku i zgodności.

Mają systemy powiadamiania i rozumieją powierzchnię ataku. Myślę jednak: nie chcemy później przebudowywać wszystkiego, jeśli da się tego uniknąć. Przepisy również nie nadążają za AI. Czy wszystkie organizacje wchodzą więc częściowo w szarą strefę?

Czy czekają nas dekady przyjmowania założeń, a następnie zmiany wszystkiego, gdy prawo wróci i zmieni zasady? A może będzie odwrotnie? Czy obecne zachowania wpłyną na kształt przyszłych regulacji?

Lauren Wallace: To było świetne pytanie, Galen.

Galen Low: Małe pytanie na zakończenie.

Lauren Wallace: To dość oszałamiające pytanie.

Pomyślmy przez chwilę o prawie. Prawo jest sposobem zapisania naszych wspólnych zasad etycznych i umieszczenia ich w miejscu, w którym ludzie mogą je znaleźć. Nie musisz zgadzać się ze wszystkim, co zostało zapisane, ani podzielać danej zasady etycznej, ale wiesz, gdzie znaleźć informacje o tym, co społeczność sądzi na jej temat i jak należy ją realizować.

Proces sądowy służy przede wszystkim rozwiązywaniu problemów, gdy są one nowe, nieznane i nie było czasu, aby przeprowadzić je przez cykle legislacyjne. Analizowanie orzecznictwa jest bardzo ciekawe, ponieważ pokazuje, co faktycznie wynika z procesów sądowych.

Rozmawialiśmy chwilę temu o pozwach zbiorowych. To trochę gra w uderzanie w krecika, w której dostawcy wielkich podstawowych i przełomowych modeli czasami wygrywają, a czasami przegrywają. W sposobie rozwoju tych spraw jest dużo przestrzeni. Wyniki postępowań sądowych mają jednak tendencję do powracania do procesu legislacyjnego.

Trwa to długo. Mówimy, że młyny sprawiedliwości mielą powoli, ale bardzo dokładnie. W rezultacie powstają akty prawne liczące 180 stron, które mają objąć każdy możliwy scenariusz, aby nowe przypadki nie prowadziły do sytuacji wymagających zmian legislacyjnych. Jest to bardzo kosztowne, czasochłonne i trudne dla wszystkich.

To jeden z powodów, dla których proces trwa tak długo. Nie sądzę, abyśmy mogli oczekiwać od ustawodawców szybkiego działania w tej sprawie. I nie jestem pewna, czy tego chcemy. W Kolorado, gdy przyjęto tam regulacje dotyczące AI, działania przebiegły dość szybko. Powstały całkiem dobre przepisy, ale trzeba było je wycofać, ponieważ nie udało się ustalić, jak je wdrożyć.

Firmy zaczęły więc wcześniej tworzyć programy zgodności, zanim przepisy weszły w życie, a następnie je wycofano. Być może pojawią się ponownie w czerwcu, a być może jeszcze później. Proaktywna zgodność regulacyjna może więc prowadzić do nieprzyjemnych niespodzianek.

Jeśli próbujesz działać punkt po punkcie, jest to trudne. Jeśli jednak ustanowiłeś ton nadawany z góry, wiesz, co znaczy być etyczną organizacją, i znasz swój próg ryzyka, możesz umieścić ryzyko legislacyjne i procesowe po właściwej stronie kategorii i powiedzieć: jesteśmy gotowi ponieść takie ryzyko, jeśli do tego dojdzie. Nie wiemy wszystkiego, ale wiemy, co uważamy za właściwe i czego oczekują od nas klienci. Możemy działać na tej podstawie już dziś.

Galen Low: To była świetna odpowiedź. Naprawdę niesamowita. Dziękuję Ci za tę rozmowę. Dla zabawy: czy masz pytanie, które chciałabyś zadać mnie?

Lauren Wallace: Mam, Galen. Od około 45 minut rozmawiamy o bardzo trudnej i interesującej pracy oraz o tym, jak złożona jest nasza codzienność. Chcę więc zapytać o Twoje samopoczucie: kiedy ostatni raz wyjechałeś na wakacje? Dokąd pojechałeś?

Galen Low: Rok temu pojechałem do Meksyku. Było to duże rodzinne spotkanie z rodziną mojej żony — cała rodzina, jej siostra i moje dziecko. Bez psa. Pies został w domu. Było jednak wspaniale: siedzieliśmy, spędzaliśmy razem czas i mieliśmy świetną pogodę. To był prawdziwy reset i okazja do refleksji nad rodziną.

Dobrych i trudnych rzeczach. Życie szybko się zmienia i nie zawsze sami wybieramy kierunek, w którym podążają sprawy związane ze zdrowiem, karierą i wszystkim innym. To były moje ostatnie wakacje. Przydałyby nam się kolejne.

Podczas tych rozmów o transformacji AI czuję, że masz rację: niewiele organizacji nie myśli obecnie o AI. Niektóre czują się do tego zmuszone, inne są podekscytowane, ale jest to kolejny element na naszej liście rzeczy do przemyślenia w już bardzo szybkim świecie.

Dużo się dzieje. Trudno planować czas i znaleźć go na różne sprawy, trudno też zachować równowagę. Myślę, że dla wielu ludzi jest to obecnie trudne — być może w sposób podstępny i niezauważalny.

Uważam, że w naszym obecnym sposobie życia istnieje wpływ, o którym powinniśmy więcej rozmawiać. Jesteśmy proszeni o picie z hydrantu w wielu obszarach jednocześnie.

Lauren Wallace: Nasze obciążenie poznawcze jest obecnie nie do oszacowania. Czasami można tylko zrobić to, co Ty: zabrać bliskich w ciepłe miejsce i docenić tę chwilę. Cieszę się, że to zrobiłeś.

Galen Low: Tymczasowo. Tak, trzeba tymczasowo uciec.

Lauren Wallace: To wspaniale.

Galen Low: Lauren, bardzo dziękuję, że byłaś dziś ze mną. Bardzo podobała mi się nasza rozmowa. Słuchacze, którym również się podobała, mogą dowiedzieć się więcej o Tobie gdzie?

Lauren Wallace: Napiszcie do mnie na LinkedIn i zobaczymy, co dalej.

Galen Low: Świetnie. Zamieszczę link do profilu Lauren w notatkach do odcinka, a także informacje o niektórych wspomnianych przez nas regulacjach i organizacji NOYB. Zajrzyjcie tam. Myślę, że to wszystko.

Lauren Wallace: Dziękuję, Galen.

Galen Low: To wszystko w dzisiejszym odcinku podcastu The Digital Project Manager. Jeśli podobała Ci się ta rozmowa, zasubskrybuj podcast w aplikacji, z której słuchasz. Jeśli chcesz poznać jeszcze więcej praktycznych wskazówek, studiów przypadków i gotowych schematów działania, odwiedź stronę thedigitalprojectmanager.com.

Do usłyszenia następnym razem. Dziękuję za słuchanie.