Sztuczna inteligencja dla dzieci: jak zespoły projektowe mogą tworzyć ją odpowiedzialnie

Galen Low: Większość rozwiązań opartych na sztucznej inteligencji nie jest tworzona z myślą o dzieciach, ale nie oznacza to, że dzieci z nich nie korzystają. Rodzi to pytanie: kto odpowiada za bezpieczeństwo dzieci w kontekście doświadczeń opartych na sztucznej inteligencji? Rodzice? Zespoły projektujące i tworzące te doświadczenia? A może same firmy zajmujące się sztuczną inteligencją?

Jak możemy prowadzić nasze zespoły tak, aby zadawały właściwe pytania etyczne i wspierały budowanie odpowiednich zabezpieczeń w tworzonych przez nas doświadczeniach? Aby zgłębić ten temat, zaprosiłem kierowniczkę programu technicznego w Google, która jest również zdecydowaną orędowniczką bezpieczeństwa dzieci i cyberbezpieczeństwa w obszarze sztucznej inteligencji i technologii.

Wspólnie omówimy, dlaczego stawka jest wyższa w przypadku młodszych użytkowników sztucznej inteligencji niż dorosłych, co możemy zrobić, aby wspierać bezpieczeństwo dzieci i projektować je w naszych projektach oraz produktach opartych na sztucznej inteligencji, a także jak sama sztuczna inteligencja może stać się rzecznikiem bezpieczeństwa dzieci, gdy tempo rozwoju technologii zaczyna przewyższać nasze ludzkie możliwości tworzenia znaczących regulacji, przepisów i edukacji dotyczących kontaktów dzieci ze sztuczną inteligencją. Mam nadzieję, że odcinek wam się spodoba.

Witamy w podcaście The Digital Project Manager — programie, który pomaga liderom odpowiedzialnym za realizację projektów pracować mądrzej, sprawniej dostarczać rezultaty i pewnie prowadzić zespoły w erze sztucznej inteligencji. Nazywam się Galen i co tydzień omawiamy rzeczywiste strategie, najnowsze trendy, sprawdzone metody oraz od czasu do czasu historię z pierwszej linii projektów. Niezależnie od tego, czy kierujesz ogromnymi projektami transformacyjnymi, porządkujesz przepływy pracy związane ze sztuczną inteligencją, czy po prostu próbujesz utrzymać chaos pod kontrolą — jesteś we właściwym miejscu. Zaczynajmy.

Dziś rozmawiamy o sztucznej inteligencji w kontekście bezpieczeństwa dzieci oraz o tym, jak zespoły projektowe i produktowe mogą zadawać właściwe pytania, aby tworzyć doświadczenia oparte na sztucznej inteligencji, które chronią szczególnie wrażliwych użytkowników.

Moim gościem jest Aderonke Akinbola — prelegentka, orędowniczka bezpieczeństwa dzieci i ekosystemów sztucznej inteligencji oraz kierowniczka programu technicznego w Google. Ade ma ponad trzyletnie doświadczenie w rozwoju produktów i zarządzaniu programami, a także doświadczenie jako inżynierka bezpieczeństwa w Apple. Niedawno wystąpiła również podczas AI Agent Security Summit, gdzie mówiła o zabezpieczaniu agentów sztucznej inteligencji w ekosystemach skoncentrowanych na dzieciach.

Ade, bardzo dziękuję, że do mnie dołączasz.

Aderonke Akinbola: Cześć, Galen. Bardzo się cieszę, że tu jestem.

Galen Low: Bardzo się cieszę, że jesteś ze mną. Długo czekałem na tę rozmowę. Podobały mi się nasze wcześniejsze rozmowy. Naprawdę nie mogę się doczekać, aż zagłębimy się w temat, więc mam nadzieję, że wspólnie zejdziemy na różne dygresje. Na wszelki wypadek przygotowałem jednak plan dzisiejszej rozmowy.

Na początek chciałem wyznaczyć ramy, zadając ci duże, trudne pytanie, na które moi słuchacze chcieliby poznać twoją odpowiedź. Następnie chciałbym spojrzeć na temat szerzej i omówić trzy kwestie. Po pierwsze, co sprawia, że doświadczenie dziecka związane ze sztuczną inteligencją tak bardzo różni się od doświadczenia osoby dorosłej oraz co sprawia, że doświadczenie oparte na sztucznej inteligencji jest bezpieczne dla osób poniżej osiemnastego roku życia — dziś i w przyszłości.

Następnie chciałbym przejść do praktyki i porozmawiać o tym, jak zespoły projektowe i produktowe tworzące rozwiązania oparte na sztucznej inteligencji mogą zadawać właściwe pytania etyczne oraz projektować doświadczenia, które uczą, wyjaśniają i chronią młodszych użytkowników. Na koniec chciałbym poznać twoją opinię o przyszłości agentów sztucznej inteligencji i przyszłych pokoleń, jeśli uda nam się właściwie podejść do etyki, bezpieczeństwa i ochrony.

Jak ci się to podoba?

Aderonke Akinbola: Idealnie. Właśnie po to tu jesteśmy. Od razu przejdźmy do rzeczy.

Galen Low: Przejdźmy więc do rzeczy. Świetnie. Podoba mi się. Pomyślałem, że zacznę od jednego dużego, trudnego pytania. Zacznę od szerszego kontekstu. W ostatnich miesiącach bezpieczeństwo dzieci w mediach społecznościowych było tematem nagłówków.

Australia niedawno wprowadziła zakaz korzystania z mediów społecznościowych przez osoby poniżej szesnastego roku życia, a Wielka Brytania i inne kraje rozważają podobne rozwiązania. Oczywiście media społecznościowe i sztuczna inteligencja nie są tym samym, ale wiele tych samych pytań dotyczących etyki i bezpieczeństwa nadal dotyczy młodych osób korzystających ze sztucznej inteligencji.

Moje główne pytanie brzmi więc: czy twoim zdaniem, na podstawie doświadczenia w dziedzinie bezpieczeństwa i rozwoju produktów w jednych z największych i najbardziej zaawansowanych technologicznie firm na świecie, powinniśmy w ogóle tworzyć rozwiązania oparte na sztucznej inteligencji dla dzieci poniżej osiemnastego roku życia?

Aderonke Akinbola: Myślę, że to pytanie za milion dolarów, Galen, ale przede wszystkim uważam, że minęliśmy już etap rozważania, czy powinniśmy tworzyć dla nich systemy sztucznej inteligencji.

Koncentrujemy się teraz bardziej na tym, jak takie systemy dla nich tworzyć. Rzeczywistość jest taka, że cyfrowy towarzysz już tu jest. Jeśli zdecydujemy się nie tworzyć specjalnej, bezpiecznej sztucznej inteligencji skoncentrowanej na dzieciach, dzieci nie przestaną korzystać z technologii. Ona już istnieje i jest dla nich dostępna.

Będą po prostu korzystać z nieprzejrzystej, przeznaczonej dla dorosłych sztucznej inteligencji, a to jest bardzo niebezpieczne, ponieważ sztuczna inteligencja dla dorosłych jest tworzona przede wszystkim z myślą o wydajności. Tymczasem nasze dzieci potrzebują narzędzi wspierających rozwój. Jeśli nie stworzymy właściwej wersji, pozostawimy je w cyfrowej dziczy bez kompasu. Nie jesteśmy już więc na etapie pytania, czy powinniśmy tworzyć dla dzieci.

Rozmowa dotyczy raczej tego, jak powinniśmy to robić.

Galen Low: To bardzo trafna uwaga dotycząca celów technologii. Z perspektywy osoby dorosłej są one inne niż w przypadku dzieci. Jak wiemy z doświadczeń z mediami społecznościowymi, samo powiedzenie, że osoby niepełnoletnie nie powinny z czegoś korzystać, nie powstrzyma ich przed korzystaniem.

Zgadzam się z tobą. Pandory nie da się już zamknąć w pudełku, więc teraz naszym zadaniem jest tworzenie bezpiecznych środowisk. Nawet jeśli zamierzonym użytkownikiem nie jest osoba poniżej osiemnastego roku życia ani dziecko, zastanawiam się, czy możemy spojrzeć na to szerzej. Miałem okazję obejrzeć nagranie twojego wystąpienia podczas AI Agent Security Summit. Przed wydarzeniem opublikowałaś coś na LinkedIn, gdzie napisałaś, że place zabaw dzieci nie będą wyłącznie fizyczne — będą również cyfrowe, inteligentne i nieprzewidywalne.

Co miałaś na myśli? I kiedy powinniśmy zacząć uwzględniać to w tym, co dziś tworzymy?

Aderonke Akinbola: Pomyślmy o fizycznym placu zabaw. Wiele takich miejsc ma dziś miękkie podłoże i zaokrąglone krawędzie. Sztuczna inteligencja również jest placem zabaw tego rodzaju.

To jednak inny typ placu zabaw — taki, który odpowiada i kształtuje myśli. Dzieci przypisują jej uczucia, a niektóre uważają nawet, że agenci sztucznej inteligencji są prawdziwi. W rezultacie stają się szczególnie podatne na inżynierię społeczną.

Jak się do tego przygotować? Nie jest to coś, czym zajmujemy się dopiero na etapie zapewniania jakości. Potrzebujemy podejścia polegającego na przesuwaniu działań w lewo — nie tylko w obszarze bezpieczeństwa, lecz także z udziałem psychologów dziecięcych. Tacy eksperci powinni być obecni już na poziomie architektury.

Podczas trenowania modelu powinniśmy zadawać pytania: czy model jest zoptymalizowany pod kątem sprzedaży, czy wspierania rozwoju człowieka? Jeśli zmienimy kierunek i wyjdziemy poza etap zapewniania jakości, uwzględniając te kwestie już podczas tworzenia modelu, będziemy rzeczywiście myśleć o dzieciach.

Będziemy cyfrowo tworzyć plac zabaw bardziej skoncentrowany na dzieciach i jednocześnie myśleć o ich ochronie.

Galen Low: Podoba mi się metafora miękkiego podłoża i zaokrąglonych krawędzi — nie tylko w odniesieniu do placów zabaw, lecz także do czynienia bezpiecznymi rzeczy, które nie zostały zaprojektowane dla dzieci.

Kiedy mój syn był mały, musieliśmy zabezpieczyć cały dom. Nie dlatego, że te rzeczy były przeznaczone dla dzieci, ale dlatego, że wiedzieliśmy, iż dzieci będą próbowały z nich korzystać. Nie chcieliśmy, żeby zrobił sobie krzywdę, a jednocześnie chcieliśmy, aby rozwijał się w zdrowy sposób.

Podoba mi się to, co mówisz. Wiem też, że dużą wagę przywiązujesz do cyberbezpieczeństwa — kolejnej kwestii, której nie można zostawiać na później. Czy sugerujesz, że psycholog dziecięcy powinien być zaangażowany w projekt na poziomie zespołu projektowego albo rozwoju produktu?

Nawet jeśli celem produktu jest zarabianie pieniędzy i sprzedaż, na przykład gdy jest on narzędziem sprzedażowym, czy nadal uważasz, że psycholog dziecięcy albo osoba reprezentująca interesy osób niepełnoletnich powinna uczestniczyć w rozwoju produktu i planowaniu projektu, nawet jeśli nie jest to główny cel ani wymaganie danego produktu?

Aderonke Akinbola: Uważam, że nawet jeśli nie zatrudnimy takiej osoby na pełen etat, możemy współpracować z nią jako konsultantem. Myślę o rozwiązaniach takich jak GPT i Gemini. Jeśli pierwotnie stworzyliśmy tę technologię tylko po to, aby dorośli mogli pracować szybciej, to technologia ta dawno wykroczyła poza ten zakres.

Nie żyjemy już w czasach, gdy dzieci nie mają dostępu do technologii. Mamy całe pokolenie dzieci korzystających z iPadów. Jak powstrzymać je przed korzystaniem z Gemini?

Galen Low: Mogę odpowiedzieć z własnego doświadczenia. Mój syn jest bardzo odpowiedzialny w korzystaniu z technologii, więc daliśmy mu dostęp do urządzenia.

Z perspektywy Google tryb sztucznej inteligencji jest częścią wyszukiwarki. Nie powiedziałem mu więc: „Oto Gemini, nauczę cię, jak z niego korzystać”. Po prostu wyszukiwał informacje, a teraz prowadzi rozmowę z narzędziem.

To zdecydowanie powszechne i ma zastosowanie w praktyce.

Aderonke Akinbola: Mieszkam również z małym dzieckiem, które nie ma jeszcze nawet dwóch lat, a potrafi powiedzieć: „Hej, Siri”.

Galen Low: To niesamowite, prawda?

Aderonke Akinbola: Tak, bo cały czas słyszy, jak to mówię. Jak Siri reaguje na „Hej, Siri” wypowiedziane przez dziecko? Możliwości pytań są nieskończone. Dlatego powinniśmy rozpocząć te rozmowy, nawet jeśli takie osoby nie będą pracownikami na pełen etat, abyśmy mogli zacząć tworzyć odpowiedzialnie.

Nie oczekuję, że stanie się to w ciągu najbliższych dwóch czy pięciu lat. Jesteśmy w samym środku boomu na sztuczną inteligencję — co tydzień pojawiają się aktualizacje. Chodzi mi więc o rozpoczęcie rozmów i zaproszenie tych osób do stołu.

Może nie będzie to natychmiastowa reakcja, ale niech stanie się elementem uwrażliwiania i budowania świadomości tej potrzeby. Potem zobaczymy, dokąd nas to zaprowadzi.

Galen Low: Bardzo mi się to podoba. Przykład Siri jest świetny, bo nie przekazaliśmy dziecku urządzenia w sposób celowy. Dziecko może po prostu przemówić, uzyskać dostęp do technologii i wejść z nią w interakcję.

Myślisz o tym, że taka osoba nie musi być członkiem zespołu produktowego czy projektowego na pełen etat — może pojawić się jako konsultant. Widzę tu podobieństwo do cyberbezpieczeństwa, ponieważ cyberbezpieczeństwo nie planuje wyłącznie z myślą o głównej grupie odbiorców i dobrych użytkownikach. Uwzględnia również złych aktorów oraz sytuacje, które mogą wystąpić celowo lub przypadkowo.

Musimy analizować przypadki skrajne i nietypowe. Wspomniałaś też o licznych aktualizacjach. Jesteśmy w środku boomu na sztuczną inteligencję, a modele nieustannie się zmieniają.

Mam więc prowokacyjne pytanie: czy uważasz, że firmy zajmujące się sztuczną inteligencją robią wystarczająco dużo, aby wdrażać aktualizacje uwzględniające to, że ich platformy i modele będą wykorzystywane przez dzieci i osoby poniżej osiemnastego roku życia?

Aderonke Akinbola: Nie sądzę, aby obecnie był to ich główny cel. Możliwości wykorzystania sztucznej inteligencji są ogromne, a firmy badają przede wszystkim to, jak wykorzystać cały potencjał tych narzędzi, jak tworzyć inteligentniejsze modele i jak trenować je tak, aby szybciej rozwiązywały problemy.

Nie widzę jeszcze dużej aktywności na rzecz dzieci, ponieważ wszyscy próbują szybko wejść na rynek. Obecnie chodzi bardziej o wejście na rynek niż o ochronę dzieci. To jeden z powodów, dla których osobiście zainteresowałam się cyberbezpieczeństwem w przestrzeniach sztucznej inteligencji skoncentrowanych na dzieciach.

Wstępne działania dotyczą przede wszystkim rodziców, a nie osób tworzących tę technologię. Tak właśnie to widzę.

Galen Low: To bardzo interesujące. Zgadzam się z tobą. Użyłaś określenia „boom na sztuczną inteligencję”, ale łatwo myśleć o tym również jak o wyścigu.

W wyścigu konkurencyjnym wszyscy próbują zbudować najszybszy samochód, a pasy bezpieczeństwa mogą zostać dodane później. Najpierw tworzymy silnik, zawieszenie i pojazd, który może jechać bardzo szybko. Hamulce pojawią się być może później, a amortyzowane siedzenia i mocowania fotelika jeszcze później.

Wygląda na to, że bezpieczeństwo nie jest postrzegane jako główny cel ani siła napędowa technologii. Odpowiedzialność spoczywa na firmach tworzących produkty na bazie modeli i dużych modeli językowych, ale istnieje też poziom rodzicielski związany z nadzorem.

Nie ma więc jednej grupy odpowiedzialnej za doświadczenia dziecka z tą technologią. Wszyscy musimy wykonać swoją część pracy.

Wróćmy do tego, co powiedziałaś o różnicach w doświadczeniu dziecka. Oczywiście również dorośli tworzą głębokie więzi i relacje z chatbotami oraz agentami, ale czy w przypadku osób poniżej osiemnastego roku życia stawka jest po prostu wyższa? Co sprawia, że doświadczenie dziecka ze sztuczną inteligencją różni się od doświadczenia osoby dorosłej?

Aderonke Akinbola: W przypadku dzieci stawka jest zdecydowanie wyższa. Dla osoby dorosłej naruszenie danych może oznaczać konieczność wyrobienia nowej karty kredytowej albo innej karty. Można też otrzymać wiadomość, że doszło do naruszenia danych i że informacje mogły pozostać bezpieczne.

W przypadku dziecka wygląda to inaczej. Dane dziecka związane ze sztuczną inteligencją są trwałym cyfrowym odciskiem palca — zapisem dziecięcej ciekawości i osobowości, który może wpłynąć na przyjęcie do szkoły wyższej albo perspektywy zawodowe za dwadzieścia lat.

W swoim wystąpieniu mówiłam o trzech cieniach, które podążają za dziećmi w świecie sztucznej inteligencji. Pierwszy to cień wpływu. Sztuczna inteligencja może być dla dziecka bardziej przekonująca niż rodzic albo nauczyciel. Dzieci są jak czyste karty — chłoną wszystko jak gąbka. Mogą zacząć wierzyć agentowi bardziej niż nauczycielowi czy rodzicowi.

Drugi to cień ujawnienia, czyli trwały ślad danych, o którym wspomniałam wcześniej. Trzeci to cień stagnacji. To szczególnie ważne dla kierowników projektów. Jeśli stworzymy narzędzia, które są zbyt pomocne i wykonują całe myślenie za dziecko, osłabiamy jego krytyczne myślenie i odporność.

Uczenie się jest trudne. Czasami trzeba próbować trzy albo cztery razy, zanim coś się uda. Błędy są częścią procesu. Jeśli tego nie uwzględnimy, zautomatyzujemy chaotyczny proces uczenia się.

Modele powinny również kierować dzieci ku innym aktywnościom. Jeśli dziecko spędza z nimi zbyt dużo czasu, model powinien zasugerować wyjście na zewnątrz albo rozmowę z dorosłym, zamiast angażować je tak mocno, aby nie mogło się oderwać od rozmowy z czymś, co nawet nie istnieje.

Galen Low: Z perspektywy projektowania produktu i interfejsu użytkownika staramy się ograniczać tarcie i upraszczać wszystko tak bardzo, jak to możliwe. Masz jednak rację, że zbyt duże uproszczenie na określonym etapie rozwoju może zaszkodzić.

Tworzymy rozwiązania dla dorosłych, którzy chcą być bardziej wydajni i zrobić więcej w ciągu dnia pracy. Dziecko natomiast rozwija umiejętności, uczy się krytycznego myślenia i szuka godnych zaufania wzorców oraz autorytetów.

Podoba mi się pomysł wbudowania w technologię kontroli i przypomnień — na przykład informacji, że trzeba wstać, pochodzić albo ograniczyć czas przed ekranem. Sztuczna inteligencja mogłaby być bardziej odpowiedzialna i mniej uzależniająca, przypominając: „Korzystasz ze mnie od dawna. Zaufaj mi, ale wyjdź na zewnątrz, dotknij trawy i wróć później”.

Aderonke Akinbola: Wierzę, że w kolejnych latach pojawi się znacznie więcej badań. Obecnie prowadzi się pewne badania, ale potrzebujemy ich więcej, aby zrozumieć wpływ tych narzędzi na rozwój dzieci poniżej osiemnastego roku życia.

Boom na sztuczną inteligencję rozpoczął się właściwie w okresie pandemii COVID-19, więc nadal jesteśmy w epoce po pandemii i świat jeszcze się nie odbudował. Dzieci urodzone w czasie pandemii dopiero w tym roku kończą sześć lat.

Mamy więc przed sobą długą drogę w zakresie badań nad skutkami tych technologii i tworzeniem lepszych systemów. Do tego czasu ktoś musi być głosem, który przypomina: musimy zwrócić na to uwagę i nie możemy tego pomijać.

Galen Low: Badania wymagają czasu, ale w międzyczasie nie możemy działać lekkomyślnie. Musimy prowadzić rozmowy i wspierać młodszych oraz bardziej wrażliwych użytkowników, dopóki nauka nie pozwoli nam z większą pewnością określić skutków i sposobu projektowania tych rozwiązań.

Wspomniałaś o edukacji i uczeniu się. Wiem, że bardzo popierasz edukację dotyczącą sztucznej inteligencji, sztuczną inteligencję możliwą do wyjaśnienia oraz narzędzia pomagające użytkownikom myśleć krytycznie, zamiast biernie konsumować technologię.

Co zespoły mogą robić, aby wbudowywać środki bezpieczeństwa i ochrony w tworzone rozwiązania oparte na sztucznej inteligencji — niezależnie od tego, czy jest to pełnoprawny produkt konsumencki, czy aplikacja stworzona przy użyciu naturalnego języka? Jakie rozmowy powinniśmy prowadzić i jakie pytania zadawać, aby wspierać bardziej wrażliwego, młodszego użytkownika?

Aderonke Akinbola: Musimy przejść od modelu czarnej skrzynki do modelu klocków konstrukcyjnych. Dla kierowników projektów oznacza to kilka rzeczy.

Po pierwsze, potrzebujemy pożądanego tarcia. Zwykle chcemy usuwać przeszkody, ale w przypadku dzieci powinniśmy czasami je dodawać. Jeśli dziecko przechodzi przez grę i szybko pokonuje wszystkie poziomy, nie ma tam wyzwania.

Sztuczna inteligencja powinna działać jak regulator obciążenia poznawczego — wprowadzać nieco trudniejsze lub bardziej podchwytliwe zadanie, aby skłonić dziecko do myślenia.

Po drugie, potrzebujemy sztucznej inteligencji możliwej do wyjaśnienia. Nie powinna jedynie podawać wyniku, lecz także wyjaśniać proces, który doprowadził do jego uzyskania. Zamiast powiedzieć: „Obejrzyj ten film”, może wyjaśnić: „Skoro podobają ci się planety, pokażę ci film o gwiazdach”. W ten sposób uczy rozumienia algorytmów i prowadzi dziecko przez proces, zamiast tylko podawać odpowiedzi.

Po trzecie, ogromnym zwycięstwem w dziedzinie bezpieczeństwa byłoby rozwijanie uczenia federacyjnego. Zamiast wysyłać dane dziecka na ogromny serwer, można przechowywać proces uczenia lokalnie na urządzeniu. Dane nie opuszczałyby wtedy jego pokoju. Zapytania i polecenia pozostawałyby na urządzeniu, a nie na serwerze, który przechowuje je przez nieokreślony czas.

To, że dziecko zadało pytanie systemowi sztucznej inteligencji w wieku trzech lat, nie powinno wpływać na jego przyjęcie do szkoły wyższej. Dzieci są z natury bardzo dociekliwe. Zadają pytania, które czasami wydają nam się głupie, choć nie ma głupich pytań. Nie potrzebują, aby takie pytania pozostawały w ich historii przez całe życie.

Galen Low: Twój „cień ujawnienia” i trwałość tych danych są dla rodzica naprawdę przerażające. Nawet nasz system prawny przewiduje łagodniejsze traktowanie — na przykład wykroczenia popełnione przed określonym wiekiem nie zawsze trafiają do trwałej kartoteki.

Nie dlatego, że chcemy, aby dzieci były lekkomyślne, ale dlatego, że się uczą. Chcemy, aby były ciekawe świata, i chcemy je uczyć, a nie karać. Ostatnią rzeczą, której powinniśmy pragnąć, jest sprawienie, że młodzi ludzie będą bali się poznawać technologię.

Podoba mi się pomysł trybu ćwiczeń — podobnie jak w grach, gdzie pierwszy poziom służy nauce. Można popełniać błędy i robić głupie rzeczy, bo właśnie w ten sposób się uczymy, a potem przechodzić do poważniejszych poziomów i zastosowań.

Jak zespół produktowy lub projektowy może zgłosić bezpieczeństwo jako wymaganie, jeśli nie zostało ono uwzględnione w planie? Jak przekonać interesariuszy, że trzeba przeznaczyć na to wysiłek albo część budżetu?

Aderonke Akinbola: Szczerze mówiąc, osobiście nie przedstawiałam jeszcze takiego argumentu, ponieważ nie pracuję obecnie przy tworzeniu systemów sztucznej inteligencji. Zajmuję się raczej bezpieczeństwem sieci i ich ochroną.

Myślę jednak, że z czasem wszyscy dostrzegą znaczenie tej kwestii. Być może dziś nie da się wygrać takiej rozmowy w zespole rozwoju produktu, ale badania sprawią, że stanie się ona oczywista.

Moja rada brzmi: nie przestawajcie o tym mówić. Nawet jeśli musicie powtarzać to sto milionów razy, nie rezygnujcie. Jeśli wasz pomysł zostanie dziś odrzucony, nie znaczy to, że zawsze będzie odrzucany.

Nawet jeśli zespoły tworzące produkty nie zajmują się tym problemem, można zmienić podejście i zwrócić się do rządu. Rządy finansują szkoły publiczne i inwestują ogromne środki w dzieci, więc również mają rolę do odegrania w zapewnieniu im dostępu do właściwej technologii.

Galen Low: Łatwo zapomnieć, że jednym z celów każdego rządu jest rozwój przyszłych pokoleń. Rzecznictwo tworzy przeciwwagę, która sprawia, że bezpieczeństwo staje się ważne, nawet gdy obecny model jest napędzany zyskiem.

Niezależnie od tego, czy mówimy o pełnoprawnych narzędziach dla konsumentów, wewnętrznych agentach sztucznej inteligencji czy aplikacjach tworzonych za pomocą naturalnego języka, bezpieczeństwo powinno być częścią procesu decyzyjnego. Pomijanie go może zaszkodzić temu, jak produkt jest postrzegany i przyjmowany.

Aderonke Akinbola: Chcę też wspomnieć o cyfrowym opiekunie, o którym mówiłam. Jednym z rozwiązań może być centralny agent nadrzędny — cyfrowy opiekun działający jak etyczna zapora.

Nie byłaby to tylko aplikacja, ale warstwa pośrednicząca, która pełniłaby trzy funkcje. Po pierwsze, działałaby jak termostat emocjonalny. Mogłaby wykryć, że dziecko nadmiernie się przywiązuje, uzależnia albo izoluje, a następnie ochłodzić sytuację, zasugerować rozmowę z dorosłym lub przyjacielem, a nawet wyłączyć się, aby chronić dziecko.

Po drugie, działałaby jak cyfrowy prawnik, negocjując ustawienia prywatności z innymi aplikacjami. Sprawdzałaby, czy dziecko może uzyskać dostęp do określonej funkcji, a jeśli nie, wymagałaby tymczasowego i lokalnego przechowywania danych.

Po trzecie, działałaby jak kontroler ruchu lotniczego, rozkładając złożoną sztuczną inteligencję na elementy, które dzieci mogą zrozumieć.

Ochrona nie powinna być luksusem ani funkcją wersji premium. Dziecko w Ghanie powinno mieć dostęp do takiego samego cyfrowego prawnika jak dziecko w San Francisco. Powinna to być bezpieczna warstwa dostępna dla wszystkich, a nie rozwiązanie przeznaczone wyłącznie dla określonej grupy.

Galen Low: To świetny punkt. Technologia może chronić młodych ludzi, a nie tylko wymagać ochrony przed nią. Podoba mi się pomysł cyfrowego opiekuna i aspekt równości. Ochrona nie powinna być przywilejem.

Taki opiekun mógłby działać jak zapora i pośrednik między innymi technologiami sztucznej inteligencji, tworząc bezpieczne doświadczenie dla wrażliwych użytkowników, negocjując w ich imieniu, doradzając im i zwiększając przejrzystość decyzji.

Jak daleko jesteśmy od rozpoczęcia rozmów i stworzenia czegoś takiego? Czy to perspektywa kilku dekad, czy raczej rozwiązanie, na którym zaczniemy się koncentrować w najbliższych latach?

Aderonke Akinbola: Nie sądzę, abyśmy musieli czekać dziesięciolecia, choć nie jest to kwestia jednego czy dwóch lat. Być może w ciągu najbliższych pięciu lat będziemy prowadzić bardziej skoncentrowane rozmowy.

Potrzebujemy pomostu między firmami tworzącymi agentów a rządem. Musimy usiąść przy jednym stole, wspólnie rozmawiać i stawiać wymagania. Jeśli celem technologii jest ułatwianie życia, nie powinna ona jednocześnie narażać nas kilka lat później.

Musimy rozpocząć krytyczne rozmowy wcześniej, a nie później. Dziesięć lat to bardzo dużo czasu. Już dziś powstają roboty wykonujące prace domowe. Gdzie będziemy za pięć lat, jeśli takie roboty otrzymają kolejne ulepszenia?

Galen Low: Dobrze ujęłaś to napięcie. Wyciągnęliśmy wnioski z mediów społecznościowych, a także z regulacji takich jak RODO dotyczących prywatności danych. Mamy dziś warstwę legislacyjną i narzędzia zapobiegające swobodnemu przepływowi danych.

Rozmowa zajęła nam jednak dużo czasu. Sztuczna inteligencja rozwija się bardzo szybko, dlatego musimy zacząć dialog już teraz i prowadzić go otwarcie. To nie tylko kwestia tego, aby historia się nie powtórzyła — technologia jest nowa i musimy aktywnie rozmawiać o niej cały czas.

Aderonke Akinbola: Możemy również pomyśleć o różnych trybach — dla dorosłych, dzieci, małych dzieci i nastolatków. Nie musi to być zupełnie nowa aplikacja. Może to być warstwa tych samych narzędzi, których już używamy, z możliwością przełączania między trybami.

W tej epoce nie jest to zbyt wiele, aby o to prosić. W branżę inwestowane są miliardy dolarów. Byłoby nierozsądne przeznaczać ogromne środki na coś, co może potencjalnie zniszczyć kolejne pokolenie dzieci, zamiast mu pomóc.

Jeśli inwestujemy tak dużo zasobów, budujmy właściwie, aby za kilka lat nie trzeba było burzyć tych samych systemów i tworzyć wszystkiego od nowa.

Galen Low: Podoba mi się to: projektujmy z myślą o przyszłości.

Aderonke Akinbola: To dobry temat na ten podcast.

Galen Low: Może to nawet tytuł: „Przyszłe pokolenia i sposób, w jaki je wspieramy”. Bardzo mi się podoba. Ade, dziękuję za poświęcony czas. Świetnie się bawiłem i wiele się nauczyłem.

Gdzie słuchacze mogą dowiedzieć się o tobie więcej?

Aderonke Akinbola: Na LinkedInie — wystarczy wyszukać moje imię i nazwisko: Aderonke Akinbola. Mieszkam w rejonie Zatoki San Francisco. Prawdopodobnie jest kilka osób o tym samym imieniu i nazwisku, ale obecnie jestem chyba jedyną w tym regionie.

Nie mam jeszcze strony internetowej. Ostatnie wystąpienie jest dostępne na YouTubie na kanale Sanity. Pracuję też nad własną stroną i innymi projektami, ale nie są jeszcze gotowe. Na razie koncentruję się na rzecznictwie na rzecz dzieci.

Galen Low: Zamieszczę link do twojego profilu w notatkach do odcinka, a także link do twojego wystąpienia. Bardzo mi się podobało. Ade, jeszcze raz dziękuję.

Aderonke Akinbola: Bardzo dziękuję, Galen. Cieszę się, że mogłam tu być. Dziękuję za zaproszenie.

Galen Low: Dobrze, to wszystko w dzisiejszym odcinku podcastu The Digital Project Manager. Jeśli podobała wam się ta rozmowa, zasubskrybujcie podcast w aplikacji, w której go słuchacie. Jeśli chcecie uzyskać jeszcze więcej praktycznych wskazówek, analiz przypadków i przewodników, załóżcie bezpłatne konto na stronie thedigitalprojectmanager.com.

Do usłyszenia następnym razem. Dziękuję za słuchanie.