Güvenilir Yapay Zekânın Dört Sütunu ve Bunların Sorumluları

Galen Low: Mühendislikte güven nedir ve güvenli yapay zekâ çözümlerine ve deneyimlerine nasıl katkı sağlar?

Cal Al-Dhubaib: Yapay zekâ çözümlerinin tasarımı ve benimsenmesi etrafında iş birliği yapan farklı kişilerin güveni koruma konusunda daha verimli konuşmasına yardımcı olan ortak bir iletişim araç setidir. Tüm bu insanların aynı konu hakkında konuşmasını ve yapay zekâ ile güvenin nasıl ihlal edilebileceğine dair benzer bir anlayışa sahip olmasını sağlayacak ortak bir yönteme, ardından da buna karşı nasıl önlem alınacağını gösteren araç setlerine ihtiyaç vardı.

Galen Low: Bir proje ekibi, çözümlerine güven oluşturma sorumluluğunu nasıl paylaşabilir ve suçlamalardan nasıl kaçınabilir?

Cal Al-Dhubaib: Hesap verebilirlikle ilgili ilginç bir nokta şudur: Eğer bu herkesin sorumluluğuysa, aslında hiç kimse sahiplenmez. Bu nedenle bu unsuru sahiplenecek bir kişiye ihtiyaç duyarsınız. Biz, doğru soruları sorduğumuzdan emin olmak için yapay zekâ projelerinin her birine böyle bir kişi atıyoruz.

Galen Low: Sizce yapay zekânın insanların güven kavramını insanlardan daha iyi anlaması ne kadar sürer?

Cal Al-Dhubaib: Yapay zekânın tanımının oldukça döngüsel olduğunu düşünüyorum. Yapay zekâ güveni insanlardan daha iyi nasıl anlayabilir? Bilmiyorum, ama aynı zamanda—

Galen Low: Yapay zekâ çağında teslimat liderlerinin daha akıllı çalışmasına, daha sorunsuz teslimat yapmasına ve ekiplerini güvenle yönetmesine yardımcı olan The Digital Project Manager podcast'ine hoş geldiniz. Ben Galen'im. Her hafta gerçek dünyadan stratejileri, yükselen trendleri, kanıtlanmış çerçeveleri ve proje cephelerinden zaman zaman savaş hikâyelerini ele alıyoruz. İster büyük dönüşüm projelerini yönetiyor, ister yapay zekâ iş akışlarını düzenliyor, isterse kaosu kontrol altında tutmaya çalışıyor olun, doğru yerdesiniz. Hadi başlayalım.

Bugün, güvenin yapay zekâ destekli deneyimlere nasıl işlenebileceğini, yapay zekâ çözümlerini kullanıma sunan kuruluşlar ve düzenlemeye tabi sektörler için bunun neden bu kadar önemli olduğunu ve proje ekibinin, özellikle de proje liderinin, bu güveni oluşturmada nasıl bir rol oynadığını konuşuyoruz.

Bugünkü konuğum, veri ve yapay zekâ ile müşteri deneyimlerini dönüştürmeye yardımcı olan Further şirketinde Yapay Zekâ ve Veri Bilimi Başkanı Cal Al-Dhubaib. Cal; yapay zekâ ve veri bilimi uzmanı, girişimci, üretken bir konuşmacı ve Open Data Science podcast'inin yeni sunucusu. Veri bilimi alanındaki derin deneyimini, kuruluşların yapay zekâ inovasyonu ile etik sorumluluk arasındaki boşluğu kapatmasına yardımcı olmak için kullanıyor; böylece yapay zekâ uygulamaları değerleri ve hedefleriyle uyumlu hâle geliyor.

Cleveland teknoloji sektöründeki çalışmaları sayesinde Cal, Crane Cleveland'ın yirmili yaşlarındaki en iyi 20 kişisi arasında yer aldı; dikkate değer bir göçmen lider ve teknoloji yöneticisi olarak tanındı ve Cleveland Smart 50 Ödülleri'ni dört kez kazandı.

Cal, bugün bana katıldığın için çok teşekkürler.

Cal Al-Dhubaib: Beni davet ettiğin için teşekkürler Galen. Bu sohbet için heyecanlıyım.

Galen Low: Ben de heyecanlıyım. Buna hazırlık olarak yaptığımız konuşmalardan gerçekten çok keyif aldım. İşini çok iyi bilen birisin. Uzun süredir bu alanda çalışıyorsun. Open Data Science podcast'inin sunucusu olman için tebrikler. Harika işler yapıyorsun.

Bu konuya derinlemesine hâkim olduğunu ve tutkuyla bağlı olduğunu biliyorum. Bu konuşmanın beklenmedik yerlere gitmesini umuyorum. Yine de hazırlıklı olmak için bugün için bir yol haritası çıkardım. Öncelikle dinleyicilerimin yanıtını merak ettiği büyük ve önemli bir soruya dair görüşünü alarak ortamı hazırlamak istiyorum.

Sonra bunu açıp üç konuyu konuşacağız. İlk olarak, bir yapay zekâ çözümüne güven kazandırmanın ne anlama geldiğini ve proje ekibinin tasarladığı çözümlerde güveni koruma sorumluluğunun ne olduğunu ele almak istiyorum. Ardından, özellikle düzenlemeye tabi sektörler çerçevesinde, güvenin nasıl ölçülebileceğini ve denetlenebileceğini, ayrıca uyumluluğun ötesinde neler yapılabileceğini incelemek istiyorum.

Son olarak, geleceğe ilişkin bakış açını ve verilerimizin nasıl işlendiğini hep birlikte daha iyi anlamaya başladıkça güvene dair yaklaşımımızın önümüzdeki birkaç yıl içinde nasıl değişebileceğini öğrenmek istiyorum. Çok şey söyledim. Sana nasıl geliyor?

Cal Al-Dhubaib: Evet, çok geniş bir alanı ele alacağız. İddialı ama ben hazırım.

Galen Low: Harika. Hemen başlayalım. Önce tek bir büyük soruyla başlamak istiyorum. Konuştuğun önemli konulardan biri, yapay zekâ çözümlerine ve deneyimlerine güvenin işlenmesi. Kullanıcılar, işletmeler ve düzenleyici kuruluşlar, yapacağı şeye güvenemedikleri sürece yapay zekâyı tam anlamıyla benimsemeyecekler.

Sorumu şöyle sorayım: Yapay zekâ çözümleri oluşturulup kullanıma sunulurken, bir çözüm gereksinimi olarak güvenin sahibi kimdir ve yapay zekâ destekli bir deneyimde güven olmadığında ne olur?

Cal Al-Dhubaib: Bunun kolay cevabı, varsayılan olarak hiç kimsenin sahiplenmemesidir ve temel sorun da budur. Üzerinde çalıştığım güven mühendisliği kursunu oluşturarak çözmeye çalıştığım konulardan biri bu.

Açıkçası bana veri biliminin ilk dönemlerini hatırlatıyor. Analitikten biri, bilgi teknolojilerinden biri ya da finanstan biri bu konunun sahibi olabiliyordu. Yetkinliğin nerede bulunduğu o kadar önemli değildi; önemli olan, bu kabiliyetten kimin sorumlu ve hesap verebilir olduğunun açıkça belirlenmesiydi.

Aynı durum bu yapay zekâ çözümlerine güven işlemek için de geçerli. Tahmin edebileceğin gibi, güven tasarım sürecinin bir parçası değilse çözüm sonunda bazı istenmeyen sonuçlara yol açar. Bu konuda çok sayıda örnek var. İnsanları sıkça yönlendirdiğim kaynaklardan biri Yapay Zekâ Olayları Veritabanı. Yakın zamanda 2025 yılının tamamına ilişkin en güncel sayılara baktım.

Şaşırtıcı olmayan biçimde, olayların sayısı her yıl kesintisiz olarak artmaya devam ediyor.

Galen Low: İlginç. Veritabanının bir olaya nasıl yaklaştığı veya olayı nasıl tanımladığı hakkında biraz daha bilgi verebilir misin?

Cal Al-Dhubaib: Bu veritabanını seviyorum; çünkü haber kaynaklarını tarıyor ve bir olaya farklı haber perspektiflerinden bakıyor.

Birden fazla bağımsız haber kaynağı belirli bir olayı ele almışsa, tüm bu haberleri tek bir olay altında düzenliyor ve olayla ilgili tüm haberleri inceleyebiliyorsunuz. İlk örneklerden biri, Apple'ın kredi kartını kullanıma sunması ve diğer tüm koşullar aynı olmasına rağmen başlangıçta kadınlara erkeklerden daha düşük kredi limitleri vermesiydi.

Daha yakın tarihli başka örnekler de var. Kodlama aracısı çözümüyle tanınan bir şirketin kullanıcıları rastgele sistem dışında bırakılmıştı. Elbette yapay zekâ destekli sohbet robotları da ironik biçimde halüsinasyon içeren yanıtlar veriyordu. Bu da kullanıcıların kafasının daha da karışmasına yol açtı.

Kullanıcılar kendilerini manipüle edilmiş hissetti ve sonunda aboneliklerini iptal etti. Geçen sonbahar da dört büyük danışmanlık şirketinden biri belirli bir teslimat sundu. Bu doğrudan bir yapay zekâ çözümü değildi; yalnızca hazırlanma sürecinde yapay zekânın kullanıldığı bir teslimattı. Teslimat Avustralya hükümetine sunuldu ve halüsinasyonlardan kaynaklanan ciddi doğruluk sorunları içeriyordu.

Dolayısıyla 2016 ve 2017'ye, makine öğrenmesinin ilk dönemlerine kadar uzanan örneklerimiz ve son birkaç yılda giderek artan sayıda olayımız var. Bunların tümü Yapay Zekâ Olayları Veritabanı'na kaydediliyor ve izleniyor.

Galen Low: Verdiğin üç örnekte sevdiğim şey, olayların belirli bir yelpazesini kapsaması. İlkinde, muhtemelen programa işlenmiş bir önyargı var. Durup dururken ortaya çıkmıyor; muhtemelen eğitim verilerimizde bulunuyor.

Cal Al-Dhubaib: Kesinlikle verilerimizde var.

Galen Low: İkincisi, yapay zekânın kullanıcıyı manipüle etmesiyle ilgiliydi. Bunu tanımlamak için en iyi kelime bu olabilir. 'Asıl sorun sensin ve seni sistemden çıkarıyoruz' diyor. İnsan da 'Yapay zekâ benden daha akıllı olabilir, belki sistemden çıkarılmayı hak ediyorum' diye düşünüyor. Sonra da 'Hayır, etmemeliyim' diyor.

Cal Al-Dhubaib: Evet, haklısın. Bunu daha önce düşünmemiştim.

Galen Low: Üçüncü örneği de seviyorum; doğruluğun nasıl bozulabileceğini gösteriyor. Halüsinasyonları, insanın süreçteki rolünü, güveni ve gereken özeni yerine getirmeyi içeriyor.

Cal Al-Dhubaib: Kesinlikle.

Galen Low: Bu konuşma için gerçekten iyi bir başlangıç noktası olduğunu düşünüyorum; umarım tüm bunları ve daha fazlasını ele alırız.

Bütün mesele yalnızca 'verilerinle ne yaptığımız konusunda şeffafız' demekten ibaret değil. Güvenilir bir çözümü oluşturan şeyler bundan çok daha fazlası. Biraz dışarıdan bakıp bunu açabiliriz. Sağlık hizmetleri, finansal hizmetler ve savunma gibi sıkı biçimde düzenlenen sektörlere odaklanıyorsun.

Bu sektörlerde hassas verilerin etik ve sorumlu biçimde kullanılması yalnızca yapılması gereken doğru şey değil; uyumsuzluğun ciddi sonuçları da var. Güven kavramını biraz daha genişletirsek, konu yalnızca veri gizliliği ve veri güvenliği değil. Çalışmalarında ele aldığın iki fikir, güven mühendisliği ve sıkıcı yapay zekânın güvenli yapay zekâ olduğu düşüncesi.

Cal Al-Dhubaib: Bu fikri seviyorum. Bir şeyi olduğundan daha parlak göstermeye çalışıyoruz. Kariyerimin çok erken döneminde şunu öğrendim: Bu sıkı biçimde düzenlenen ortamlarda çalışmanın ortak özelliği, hata yapmanın maliyetinin yüksek olmasıdır. Bu arada yapay zekâ sistemleriyle ilgili elde ettiğiniz tek garanti şudur: Hata yaparlar.

Galen Low: Evet, adil bir nokta.

Cal Al-Dhubaib: Kariyerimin ilk dönemlerinde bazı hastane sistemleriyle çalıştığımı hatırlıyorum. Makine öğrenmesini kullanarak çeşitli öngörü modelleri oluşturabileceğimizi gösteriyorduk. Sonra bu modellerin tüm demografik gruplarda iyi performans göstermesini sağlamamız gerektiğini konuşuyorduk.

Örneğin belirli azınlık gruplarında düşük performans göstermesini ve bunun potansiyel sorunlara yol açmasını istemezsiniz. O ilk dönemlerde, yani 2016, 2017 ve 2018'lerde, bazen şu yanıtı alıyorduk: 'Bu çok büyük bir hukuki sorumluluk gibi görünüyor. Tüm nüfusta elde edeceğimiz artışın bu projeye girmeye değip değmeyeceğinden emin değiliz.'

Bu nedenle birçok proje rafa kaldırıldı; çünkü risk toleransı yeterli değildi ve 'Bir, iki, üç, dört; bunu böyle yönetirsiniz' diyebileceğimiz tatmin edici bir yöntem yoktu.

Galen Low: Başka konuklarla da konuştum. Lauren Wallace podcast'e konuk olmuştu ve sıkı biçimde düzenlenen sektörlerde çalışan işletmelerin yerleşik bir risk kasına sahip olduğunu konuşmuştuk.

Tanımlanmış toleransları var. Bu nedenle 'Bu, risk toleransımızın ve risk eşiğimizin ötesinde; ilerleyemeyiz' demeleri beni şaşırtmıyor. İşleyişleri bu. Teknoloji kötü olduğu için ya da birileri yanlış yaptığı için değil; teknoloji, verilerimiz, politikalarımız ve mevzuat hazır olana kadar bu riski alamayız.

Bunu aslında takdire değer buluyorum. Güvenli ve sıkıcı. Birçok kişi 'Ne büyük başarısızlık, ne büyük israf' diyebilir. Ama bu yine de doğru yönde atılmış bir adım ve doğru nedenlerle verilen bir ara; doğrudan atılmamak anlamına geliyor.

Cal Al-Dhubaib: Kesinlikle. Bende gerçekten yankı uyandıran komik bir ifade duymuştum: Bazen en iyi yapay zekâ, daha az yapay zekâdır.

Konuştuğum konulardan biri stratejik yapay zekâ azaltımı. Yakın tarihli bir örnek vereyim. Bir yükseköğretim kurumuyla öğrenci transkriptlerinin işlenmesi üzerine çalışıyorduk. Geleneksel robotik süreç otomasyonunun ötesine geçip, daha yüksek doğruluk elde etmek için büyük dil modeli tabanlı veri çıkarma kullanmaya çalışıyorduk.

Bu transkriptler çok farklı biçimlerde geliyordu. Ulaşabildiğimiz en iyi doğruluk oranı yüzde 90'dı ve bu bağlamda yapay zekâ tabanlı bir çözüm için oldukça iyiydi. Ancak ilk sordukları şey şuydu: 'Yüzde 10'luk hatanın ne zaman gerçekleştiğini biliyor musunuz?' Bu mantıklı. Aksi hâlde piyango oynar gibi zar atarsınız; her on işlemden birinde hata alırsınız ve bir işletmeyi böyle yönetemezsiniz.

Bu nedenle yapay zekânın hangi durumlarda hata yapma olasılığının daha yüksek olduğunu inceledik. Uluslararası kurumlardan gelen transkriptler, üç dönemli sistemden gelenler ve çeyrek dönemli sistemden gelenler farklı riskler taşıyordu. Sonunda bir kural listesi oluşturduk: Transkript bu kaynaklardan birinden geliyorsa, manuel insan inceleme kuyruğuna gidecekti.

Diğerlerini ise yapay zekâ işleyecekti. Böylece iş akışının yüzde 100'ünü otomatikleştirmedik; ancak güvenli olduğu ve daha doğru sonuç verme olasılığının yüksek olduğu bölümü otomatikleştirdik. Bu, uygulamadaki güven mühendisliğine yalnızca bir örnek.

Galen Low: Güven mühendisliği üzerine LinkedIn Learning için bir kurs hazırladığını söylemiştin. Bize güven mühendisliğinin tanımını verebilir misin? Bu yaklaşım güvenli yapay zekâ çözümlerine ve deneyimlerine nasıl katkı sağlıyor?

Cal Al-Dhubaib: Güven mühendisliği, yapay zekâ çözümlerinin tasarımı ve benimsenmesi etrafında iş birliği yapan farklı kişilerin güveni koruma konusunda daha verimli iletişim kurmasına yardımcı olan ortak bir iletişim araç setidir.

Farklı kişilerin güven sorununa farklı merceklerden yaklaştığını ve aynı dili paylaşmadıklarını fark ettim. Artık birçok yapay zekâ mühendisi, veri kümelerindeki istatistiksel olarak zararlı önyargılar gibi istatistiksel sorunlara aşina. Ancak risk yönetimi çalışanları ve denetçiler konuya kuruluşun maruz kalacağı risk açısından bakıyor.

Yönetişim çalışanları varsayımları nasıl belgeleyeceklerini düşünüyor. Kullanıcı deneyimi tasarımcıları, insanların sistemle nasıl etkileşime gireceğini tasarlıyor. İş paydaşları ise gereksinimleri ve iş sorununu tanımlıyor.

Tüm bu insanların aynı konu hakkında konuşmasını, yapay zekâ ile güvenin nasıl ihlal edilebileceğini benzer şekilde anlamasını ve buna karşı nasıl savunma yapılacağını konuşmasını sağlayacak ortak bir yönteme ihtiyaç vardı.

Galen Low: Bunun ortak bir dil ve sorunları teşhis edip çözmek için bir çerçeve olmasını seviyorum.

Bu, veri bilimi ve veri analistinin rolü hakkında söylediklerinle de bağlantılı. Özellikle müşteri deneyimi gibi bazı alanlarda, 'Bir veri uzmanı getirelim, her şeyi çözsün' yaklaşımı var. Veri temizliğinden, doğruluğundan ve diğer her şeyden tek kişinin sorumlu olduğu düşünülüyor. Ancak bunun tek bir kişiye bırakılamayacağı çabucak anlaşılıyor. Bu bir ekip çalışması ve iş birliği gerektiriyor. Bunun insanları birlikte çalıştıran işlevler arası bir çerçeve olmasını seviyorum.

Cal Al-Dhubaib: Kesinlikle.

Galen Low: Yapay zekâyı her şey ya da hiçbir şey yaklaşımına başvurmadan stratejik olarak azaltmak, yani bir iş akışının yüzde 100 yapay zekâ ile yürütülüp yürütülmeyeceği ikilemine sıkışmamak, yapay zekâ ile insanların iş birliği fikriyle örtüşüyor. Bugün yapay zekâyı hepimizin anlaması ve tasarım ile uygulama süreçlerinde anlamlı konuşmalar yapabilmek için ortak bir söz varlığına sahip olmamız gerekiyor.

Ayrıca birbirimizi anlamamız gerekiyor. Proje yöneticileri olarak yöntemler üzerine çok fazla düşünürüz. 'Bu proje için en iyi yöntem hangisi?' diye sorarız. Bazen ayrıntılar ve teknik özellikler arasında kayboluruz.

Oysa temel amaç, birlikte çalışmak ve bir şey teslim etmek konusunda aynı sayfaya gelmektir. Paydaşlar arasında çeviri yapmak, herkesin aynı şey hakkında konuşmasını sağlamak gerekir. Çünkü hepimiz farklı uzmanlıklara sahibiz ve bir şeylerin çeviride kaybolduğu projelerde yer aldık.

Cal Al-Dhubaib: 'O konu zaten ele alınmıştır' diye varsaymak kolaydır.

Galen Low: Bu yaklaşımın güzel yanı, meseleyi bir takım sporuna dönüştürmesi. Güven mühendisliği için bir çerçeve var ve hepimiz bu işin içindeyiz. Gizlilik, erişilebilirlik ve karmaşık bir çözümde tek bir kişinin sahiplenemeyeceği diğer unsurların da bunun içinde olduğunu düşünüyorum.

Cal Al-Dhubaib: Basit bir örnek verelim: Öğrenci kabulü için bir model oluştururken adalet kavramı. Yakın zamanda bunun üzerinde çalıştık. Gereksinimlerden biri, modelin farklı demografik gruplarda kalite beklentilerini karşılamasıydı.

Müşteri 'Bunu nasıl güvence altına alacaksınız?' diye sordu. Biz de 'Adaleti nasıl tanımladığınızı anlamamız gerekiyor; çünkü adaleti hesaplamanın 22 farklı yolu var' dedik. Açıkçası bu, mühendisin tek başına çözebileceği bir konu değil. Hangi formüllerin bulunduğunu ve bunların nasıl hesaplanacağını açıklayabilirim.

Ancak sizin politikanızın ne olduğunu, bu tanıma nasıl yaklaştığınızı ve sizin için neyin doğru olduğunu anlamak için size güvenmem gerekiyor.

Galen Low: Yapay zekânın bizi etkimiz olmadan belirli bir yöne sürükleyeceğini söyleyen birçok kişi var. Ancak bunun tersi de gerçekleşiyor. On yıllardır yaptığımız şeylere bakıp bunların etik ve adil olup olmadığını sorgulamaya zorluyor.

Belki de gelişigüzel kararlar veriyorduk ve artık karar vermemiz gerekiyor. Otonom araçların uzun süredir yaptığı gibi, bir okula mı yoksa iki evin bulunduğu bir tarlaya mı çarpacağına karar vermek zorunda kalıyoruz. Bu rahat bir karar değil; ama buna ilişkin bir politika var ve biz bunu 'duruma göre verilen bir hüküm' diyerek yumuşatıyoruz.

Cal Al-Dhubaib: Bu kadar ciddi olabilir; ama çok daha basit ve günlük bir şey de olabilir. Özellikle üretken yapay zekâ sistemleri oldukça açık uçludur. Bu çözümlere neredeyse her şeyi sorabilirsiniz ve bu durum tüketiciyi bunaltabilir.

Galen Low: İlginç.

Cal Al-Dhubaib: Aslında bir araçla neler yapabileceğinize ilişkin sınırlı bir aralığın bulunması yararlıdır. Güven mühendisliğinde dört sütunum var: beklenti yönetimi, karar tasarımı, yönetişim ve güven altyapısının yönetimi. Sonuncusu araçlarınız, riskiniz ve bu işleri nasıl mühendislik yaklaşımıyla ele aldığınızdır. Açık uçluluğa ve karar tasarımına dönersek, kullanıcıları sistemi doğru kullanmaları için doğru miktarda bilgi ve doğru koruma sınırlarıyla nasıl yönlendirirsiniz?

Galen Low: Örneklerden bazılarını inceleyebilir miyiz? Beklenti yönetimi ve karar tasarımı olarak sıraladığın dört sütunu seviyorum. Bir örneğe girip daha sonra bu deneyimde güven düzeyine ulaşmak için kimlerin sürece dâhil olması gerektiğine bakabiliriz.

Cal Al-Dhubaib: Çok basit bir örnek vereceğim. Hayati tehlike veya hastaların yeniden yatırılması gibi konulardan söz etmek kolay; ancak kamuya açık biçimde konuşabileceğimiz bir örnek vermek istiyorum. Behr boya şirketi.

Galen Low: Evet.

Cal Al-Dhubaib: Home Depot'a gittiğinizde büyük boya reyonlarını görürsünüz. Tüketicilerin değerlendirme sürecindeki en büyük kopuş noktalarından birinin renk seçimi karşısında bunalmak olduğunu fark ettiler. Ben de yıllardır boya hakkında öğreniyor olmama rağmen renk konusunda zorlanan biriyim.

Yaklaşık on renkten oluşan bir renk paletim var. 'Yumurta kabuğu beyazının hangi tonunu seçmeliyim?' sorusuyla karşılaşınca çok bunalıyorum. Bu nedenle ürün seçimi etrafında üretken bir deneyim oluşturmaya karar verdiler. Bu, göründüğü kadar basit değil; renk bilimine ve stil kılavuzlarına uyması, ayrıca gerçekte var olan ürünlere dayanması gerekiyor.

Hangi tavsiyelerin kabul edilebilir, hangilerinin kabul edilemez olduğuna ilişkin kararlar vermemiz gerekti. Renk seçmek uygun. Ancak boyanın nasıl formüle edileceğini, karıştırılacağını veya uygulanacağını açıklamak daha yüksek bir kalite kontrolü gerektiriyor. Bu nedenle konuşma o yöne kayarsa kullanıcıya hızla ilgili yardım hattını sunuyor.

Galen Low: Anladım.

Bu, 'burada dur, devam etme ve bir şey uydurmaya çalışma' yaklaşımına benziyor. Yapay zekâ tüm yanıtları verme baskısı altında olabilir; ancak bunun yerine kullanıcıyı bir insana yönlendirebiliyor.

Cal Al-Dhubaib: Ayrıca ne olursa olsun rakip boyaları önermemesini ve istemediğimiz şeyleri söylemesi için yönlendirilip bunların ekran görüntülerinin internette paylaşılmamasını sağlamak zorundaydık.

Galen Low: Evet.

Cal Al-Dhubaib: Bu, güven mühendisliğinin unsurlarını gösteren iyi bir örnek. Öncelikle hangi kararı etkilemeye çalıştığımızı ve bunun için hangi koruma sınırlarına ihtiyaç duyduğumuzu belirledik. Kullanıcının aracı nasıl ve nasıl kullanamayacağına ilişkin beklentileri yönettik. Arka planda uygun yönetişim uyguladık ve bunların tamamını kullanıcı dostu bir sistem kartıyla paydaşlarımıza ilettik.

Galen Low: Arayüz konuşma tabanlı mıydı?

Cal Al-Dhubaib: Evet. behrpaint.com adresine giderseniz görebilirsiniz. Küçük bir tanıtım yapmış olayım. Bir sohbet robotu açılıyor ve 'Merhaba, size nasıl yardımcı olabilirim?' diyor. Adı Chat Hue.

Galen Low: Güzelmiş. Renk teorisi konusunda uzmanların projeye dâhil olduğunu ve belirli renk kombinasyonlarının uygun olmadığını açıklarken yargılayıcı davranmadığını düşününce, bu tüm unsurları iyi şekilde gösteren bir örnek.

Cal Al-Dhubaib: Bunu yapmaya çalışırsanız sizi nazikçe yönlendirir ve değerlendirebileceğiniz uyumlu renkleri önerir.

Galen Low: Ayrıca bir metin yazarı veya dil uzmanı da marka sesinin nasıl açıklanacağını düşünüyordur.

Cal Al-Dhubaib: Evet, marka sesi.

Galen Low: Ve Behr'in renk kataloğuyla eğitildiğini varsayıyorum.

Cal Al-Dhubaib: Elbette tüm bunlar güncel dijital ürün verilerine bağlı. Bu girişimin önemli bir bölümü, her şeyin uygun, güncel, yönetilen ve sahiplenilmiş olmasını sağlamaktı. Finansal hizmetler alanındaki başka bir müşterimiz için kurum içi bilgi tabanında gezinmeye yardımcı olan benzer bir deneyim üzerinde çalışıyoruz.

Çözümün büyük bir bölümü yalnızca yapay zekâ modelinin bilgiyi nasıl alacağını tasarlamak değil; aynı zamanda veritabanının veya bilgi tabanının sahibinin kim olduğunu ve zaman içinde nasıl güncelleneceğini belirleyen insan liderliğindeki süreçleri oluşturmaktır.

Galen Low: Gerçekten çok iyi.

Cal Al-Dhubaib: Yapay zekâ sisteminin dayandığı verileri güncel tutan insan liderliğindeki süreçler de bunun önemli bir parçası.

Galen Low: Bu iş birliği, her şeyin ya da hiçbir şeyin söz konusu olmaması anlamına geliyor. Yapay zekâ kendi kendini sürdürmek, düzeltmek, test etmek, kalite güvencesi sağlamak ve güncellemek zorunda değil. İnsanların hâlâ bir rolü var.

Cal Al-Dhubaib: Daha iyi bilmesi gerektiğini düşündüğüm bazı insanlar, yapay zekâ aracılarının her şeyi yöneteceğini ve başka yapay zekâ aracılarını yöneteceğini söylüyor. Oysa karşılaştığım tüm üretim kullanım senaryoları, sağlıklı miktarda insan müdahalesi ve yeniden dengeleme gerektiriyor.

Galen Low: Bunun gerçekçi olduğunu düşünüyorum. Teknolojinin nereye gideceğini kim bilebilir; ancak bir kuruluşun en büyük giderinin genellikle bordro olduğunu düşününce, 'Personele ihtiyacınız yok' fikri pazarlanabilir hâle geliyor. Sonra aslında personele hâlâ ihtiyaç olduğunu fark ediyorsunuz. Bu, pazarlama söylemi.

Cal Al-Dhubaib: Çok cezbedici.

Galen Low: Gerçekten öyle. Güven oluşturmak için özel çaba göstermeyen, biraz kara kutu gibi çalışan yapay zekâ çözümlerine dair karşı örnekleri inceleyebilir miyiz? İsim vermek zorunda değiliz.

Cal Al-Dhubaib: Yapay Zekâ Olayları Veritabanı'ndaki olaylara atıfta bulunmayı seviyorum. Daha önce birkaçından söz ettim. McDonald's'ın restoranlarındaki sesli sipariş ve araçla servis sistemleriyle ilgili sorunları iyi bir örnek olabilir. Tanınmış bir yazılım danışmanlığı şirketiyle çalışıyorlardı.

Geçen yıl sistemi sonlandırmak zorunda kaldılar; çünkü doğru siparişler vermesini sürekli olarak sağlayamadılar. Bunun teknolojiye ilişkin bir başarısızlıktan çok, teknolojinin etrafına doğru koruma sınırlarının konulmaması olduğunu düşünüyorum. Öte yandan Domino's telefonla verilen siparişlerin yüzde 80'ini artık bir yapay zekâ sistemiyle yönetiyor.

Galen Low: Vay canına.

Cal Al-Dhubaib: Bu iki hikâyeyi karşılaştırmak ilginç. Birinde her şeyi yapay zekâ hâline getirme girişimi vardı. Diğerinde ise canlı görüşmeleri denetleyen, yapay zekâ bir aksanı anlamadığında devreye giren kişiler bulunuyordu. Siparişlerin kullanıcının söyledikleriyle örtüşmeye devam ettiğinden emin olmak için uygun denetim önlemleri de vardı.

Dolayısıyla bu tür başarısızlıklar teknolojinin çalışmamasından kaynaklanmıyor. Yapay zekânın doğal bir hata oranına sahip olacağını biliyoruz. Başarısızlıklar, çevresinde doğru sistemlerin tasarlanmamasından kaynaklanıyor.

Galen Low: Bu, her şey ya da hiçbir şey yaklaşımının doğru olmadığını tekrar gösteriyor. Bir proje yöneticisi olarak McDonald's için sesli sipariş sistemine milyonlarca dolarlık bütçe ayırdığınızı düşünün. Sonra sistem yeterince iyi olmadığı için rafa kaldırılıyor. Bunun bir başarısızlık olmadığını düşünüyorum.

Muhtemelen teknolojinin nereye gittiği konusunda yanlış bir fikirdi. Yanlış yaklaşım, 'Yapay zekâ çalışmıyor; yüzde 100 insanlardan oluşan çağrı merkezi sipariş görevlilerine dönelim' demek olurdu. Müşteri deneyimi alanında bunun yerine karma modelleri görüyoruz: Teknoloji verilerle eğitiliyor ve gerçekten ilerleyemediğinde insana devrediliyor.

Cal Al-Dhubaib: Yapay zekâ sisteminin riskini azaltan tasarım uygulamalarında en kolay yaklaşım, çağrı merkezi çalışanlarına üretken yapay zekâ erişimi sağlamaktır. Bu yapay zekâ canlı transkriptlere erişebilir, sohbet içinde önerileri özetleyebilir veya çalışanın sorgulayabileceği bir araç olabilir. Çalışan kullanıcı adına hareket eder ve uzman değerlendirmesi yapar.

Böylece daha hızlı ve etkili çalışabilir; ancak yine de güvenlik katmanı insandır. Yapay zekâ kullanımının uygun olup olmadığını belirleyen filtreler, deneyimin ne zaman yönlendirileceğini gösteren tetikleyiciler ve her zaman döngüde insanların bulunduğu bir denge gerekir.

Müşterilerle yönetişim uygulamaları hakkında konuştuğumda üç temel sorunun yanıtlanması gerektiğini söylüyorum. İlk olarak, yapay zekâ çözümünün içerdiği olası zararları veya riskleri azaltmak için önceden ne yaptınız? İkinci olarak, çözüm üretimdeyken hata yaptığını nasıl anlayacaksınız? Bu gözlemlenebilirliktir. Koruma sınırlarınızın ölçütleri neler, tanılarınız neler ve beklentileri karşılamadığını nasıl bileceksiniz?

Üçüncü ve çoğu zaman gözden kaçırılan en önemli soru ise şudur: Sonra ne yapacaksınız? Planınızı gerçekten stres testine tabi tuttunuz mu? Diyelim ki varsayımsal çağrı siparişi sistemimiz belirli tetikleyiciler gerçekleştiğinde insan müdahalesine geçiyor. Bu insanın yaşananları hızlıca anlaması ne kadar mümkün?

Galen Low: Evet.

Cal Al-Dhubaib: Yaşananları hızlıca okuyabilmesi, olası sorunları teşhis edebilmesi ve bunu tüketici güvenini koruyacak şekilde sorunsuzca yapabilmesi için doğru deneyimler, arayüzler ve kontroller var mı?

Galen Low: Bunu hızlı servis restoranına uygulamak aslında en büyük stres testlerinden biri. Çağrı merkezi çalışanının bir sigorta poliçesi hakkında konuşurken üç dakika beklemede kalması kabul edilebilir. Ancak hızlı servis restoranında bunu beklemek istemezsiniz.

Cal Al-Dhubaib: Büyük bir maç için üç dakika beklemede kalmak istemem.

Galen Low: Aynen öyle. Üstelik genellikle deneyimsiz bir iş gücünden çok şey bekliyoruz. Sipariş alırken yiyecek hazırlamak, araçla servis konuşmasının yapay zekâ transkriptini bir dakika içinde anlamak zorundalar. Her ziyaretimde siparişlerin tolerans dışına çıkmasına yalnızca 15 saniye kaldığını gösteren ekrana bakıyorum.

Bu, çok yüksek baskı altında ve gerçek zamanlı bir kullanım senaryosu. İnsanların bunu denemesinden memnunum; her zaman işe yaramayacak. Olayların sayısının artması teknolojinin kötüleştiği anlamına mı geliyor, yoksa daha fazla insan kullandığı ve uyguladığı için daha fazla hata ve hikâye mi görüyoruz?

Cal Al-Dhubaib: Bunun iki şeyin sonucu olduğunu düşünüyorum. Bu tür araçları ve sistemleri oluşturmak kolaylaşıyor; dolayısıyla kullanım alanı genişledi. Riskleri yönetme kabiliyetimiz gelişmiş olsa bile olayların sayısının yapay zekânın benimsenmesi kadar hızlı artmaması aslında iyi bir işaret.

İkinci olarak, yapay zekâ sorunlarını fark etme konusunda daha deneyimli hâle geliyoruz. Dijital bilgilere koşulsuz güven döneminden çıktık. Birkaç yıl önce derin sahte içerikler çok kaygı vericiydi ve hâlâ öyle. Ancak sıradan bir insan artık 'Bu yapay zekâ olabilir mi?' diye düşünüyor. Neredeyse her sosyal medya paylaşımında yorumlara baktığınızda yapay zekâdan söz edildiğini görüyorsunuz. İnsanlar bilgilere karşı daha şüpheci hâle geliyor.

Galen Low: Bunu seviyorum. Eskiden dijital deneyimlere güvenmek doğal kabul ediliyordu. Google'a, haber medyasına ve haber kaynaklarımıza güveniyorduk. Artık her şey biraz farklı. Belki de bu kötü bir şey değil; bilgileri daha eleştirel değerlendiriyoruz.

Cal Al-Dhubaib: Bu nedenle sorunları fark edebiliyoruz.

Galen Low: Ve bunları iyileştirebiliyoruz. Ayrıca bazen sorunun başlangıçta adil olmayan bir insan politikası olduğunu da belirleyebiliyoruz. Güvenin işlevler arası ve ortak bir sorumluluk olduğunu konuşuyorduk. Bu sistemleri oluşturan ekiplerin yapısı değişiyor. Güven mühendisliği araç seti fikrini seviyorum; ancak ekiplerde artık farklı dinamikler ve beklentiler de var.

Bir proje ekibi çözümlerine güven oluşturma sorumluluğunu nasıl paylaşabilir? Suçlamalardan ve insanları otobüsün altına atmaktan nasıl kaçınabilir? Herkesin birbirini suçlamaya başlayacağı durumları hayal edebiliyorum.

Cal Al-Dhubaib: Hesap verebilirlikle ilgili ilginç bir nokta şudur: Eğer bu herkesin sorumluluğuysa, aslında hiç kimse sahiplenmez. Bu nedenle bu unsuru sahiplenecek bir kişiye ihtiyaç vardır.

Further'da özellikle önem verdiğim bir konu, yapay zekâ yönetişimi alanında yetkinlik belgeleridir. Gizlilik uzmanlarının uluslararası birliği olan IAPP'nin üyeleriyiz. Bu alanda güvenilirliği bulunan ilk büyük ölçekli kuruluşlardan biriydiler. Gizlilik uzmanları ve gizlilik mühendisleri için sertifikaları vardı.

Yapay zekâ yönetişimi profesyoneli sertifikasını da başlattılar. Bu kişiler hukuk, mühendislik, gizlilik, güvenlik veya siber güvenlik geçmişinden gelebilir; ancak diğer alanları da öğrenmeleri gerekir. Güven mühendisliği çerçevem için ilham kaynaklarından biri buydu.

Bu yapay zekâ yönetişimi profesyonellerinden birini her yapay zekâ projesine atıyoruz. Böylece doğru soruları sorduğumuzdan emin olabiliyoruz.

Galen Low: Birçok dijital projede, uzmanların ortasında bulunan proje yöneticisi gereksinimleri ve riskleri bir araya getiren kişi olduğu için sorumluluğu üstleniyor. Ancak artık bu sorumluluk büyüdü. Bir şirketin baş gizlilik sorumlusuna sahip olması, sahipliği açıkça belirliyor. Her projede, geçmişi ne olursa olsun, yönetişim sorumlusu olan bir kişinin bulunması gerektiğini söylüyorsun.

Cal Al-Dhubaib: Kesinlikle. Bu konuşmaları yaptığımızda müşteriler bazen bunu duyup 'Bu çok fazla çaba gerektiriyor' diye düşünebilir. Oysa amaç toplam çabayı azaltmak.

Amaç, düşünmeye yarayan bir sürtünme yaratmak. Durup 'Bunun nerede yanlış gitmesi muhtemel? Benzer projelere ve olası hata biçimlerine bakalım' demek. Ardından bunun yanlış gitme olasılığını, gerçekleşirse maliyetini ve güven risklerini azaltmak için en çok nereye yatırım yapmamız gerektiğini belirlemek.

Galen Low: Düzenlemeye tabi sektörlerde bu yararlı sürtünme fikrini seviyorum. Durup düşünmek sorun değil. Bazı ajans ve girişim dünyalarında ise duraklarsanız başarısız olduğunuz düşünülüyor. Oysa bir kuruluş toplam değeri ve toplam riski birlikte değerlendirebilir. Sadece ürünü teslim edip müşteriye sunmak değil; davalarla karşılaşıp karşılaşmayacağımızı, uyumsuzluk yaşayıp yaşamayacağımızı ve insanların bizden nefret edip etmeyeceğini de düşünmeliyiz.

Cal Al-Dhubaib: Bunların hiçbirini istemezsiniz.

Galen Low: Güvenin burada devreye girdiğini görebiliyoruz. Peki güven ölçülebilir mi? Bir proje ekibi güvenilir bir deneyim oluşturduğunu nasıl anlayabilir?

Cal Al-Dhubaib: Harika bir soru. Bunun bir bölümü olayların gerçekleşmesini önlemeye hizmet ediyor. Olayların sayısı potansiyel bir ölçüt olabilir. Ayrıca özellikle çözümü bir uygulamaya yerleştiriyorsanız kullanıcı davranışı analiziyle ilginç şeyler yapabilirsiniz.

En basit biçimiyle, kullanıcı hedefinize ulaşıyor mu? Chat Hue örneğinde, belirli bir boya özelliği hakkında daha fazla bilgi edinmek için harekete geçirici mesaja tıklıyor mu? Çözüm etkili mi, etkileşimler tamamlanıyor mu ve kullanıcılar araca geri dönüyor mu?

Galen Low: Bu noktayı da seviyorum; çünkü bunlar oldukça tanıdık şeyler. Risk profili nedir? Ne yanlış gidebilir? Olaylar veritabanına girecek miyiz? Diğer konu da hedef ve başarı. Kullanıcı deneyimi tasarımı açısından kullanıcı değer elde ediyor mu? Sürtünme nerede? Bunun nedeni güven eksikliği, yapay zekânın açıklanabilir olmaması, kullanıcıya aracı nasıl kullanacağının anlatılmaması veya çok fazla seçenekle bunaltılması olabilir.

Cal Al-Dhubaib: Faydalı olmamak da güvenin bir parçasıdır.

Galen Low: Doğru. İstediğim sonucu üretmeyecekse zamanımı buna güvenerek harcamam. Big Mac'imi insandan sipariş ederim, teşekkürler. Geleceğe, yakın geleceğe bakarak bitirebiliriz.

Daha önce yaptığımız konuşmalarda, yapay zekâya güvenilip güvenilemeyeceğinden çok, döngüdeki insanlara güvenilip güvenilemeyeceğine ilişkin örneklerden söz etmiştin. Kararların bir kişinin primine bağlandığı bir platformdan bahsetmiştin. Bu durumda çıkar çatışması ve görünmez bir önyargı oluşmuştu.

Cal Al-Dhubaib: Yapay zekânın önerilerine güvenmemek için motive olmuşlardı.

Galen Low: Çünkü primleri buna bağlıydı.

Cal Al-Dhubaib: Evet ve yapay zekâya güvenmediler.

Galen Low: İnsanlar güvene değer veriyor; ancak bazen güvenme ve güvenilir olma konusunda oldukça kötüyüz. Yapay zekânın insan güveni kavramını insanlardan daha iyi anlaması ne kadar sürer? Böyle bir şey gerçekleşirse sonuçları ne olur?

Cal Al-Dhubaib: Yapay zekâ tanımının, özellikle yapay genel zekâyı tanımlama biçimlerini düşündüğünüzde, oldukça döngüsel olduğunu düşünüyorum. Yeterince eğitim almış bir insanın yapabileceği her şeyi yapabilen bir yapay zekâ sistemi fikrinden söz ediyoruz.

Biz araç kullanan bir türüz. Bugün işimi tamamlama ve bir LinkedIn paylaşımı hazırlama becerim, kısmen yapay zekâyı kullanma becerimden etkileniyor. Böylece insan kapasitem, kendi uzmanlığım ile yapay zekâ aracımın birleşimiyle tanımlanıyor. Bu oldukça döngüsel bir durum.

Yapay zekâ güveni insanlardan daha iyi nasıl anlayabilir? Bilmiyorum. Ayrıca güven çok öznel. Farklı bağlamlarda ve farklı ahlaki referans çerçevelerinde farklı görünüyor. Dersimde verdiğim iyi bir örnek MIT'de yapılan bir çalışma. Araştırmacılar sürücüsüz araçların sürüş kararlarının etiğini incelemişti.

Bunun adı Ahlak Makinesi ve bir web sitesi. Senaryolar sunuyor: Müdahale etmeyin veya aracın yön değiştirmesini sağlayın. Her iki durumda da bazı insanlara zarar veriyorsunuz. Farklı kombinasyonlar bulunuyor.

Galen Low: Tramvay problemleri gibi.

Cal Al-Dhubaib: Evet. Bir tarafta karşıdan karşıya geçen bir büyükanne, diğer tarafta yaya geçidinde oynayan üç çocuk olabilir. Ya da kurallara uygun davranan biriyle jaywalking yapan biri karşılaştırılabilir.

Galen Low: İlginç.

Cal Al-Dhubaib: Çok sayıda farklı senaryo var. Farklı küresel bakış açılarından daha büyük bir örneklem elde ettiklerinde bu veriler üzerinde ilginç bir çalışma yaptılar. Batı ülkelerinde, Güney Amerika ülkelerinde ve Asya ülkelerinde ortak değer kümeleri bulunduğunu gördüler.

Bu bölgelerdeki ahlaki çerçevelerin hepsi kendi içinde doğruydu; ancak birbirleriyle bağdaşmıyordu. Batı ülkelerinde genel olarak daha fazla sayıda hayatı kurtarmaya değer veriliyordu. Asya kültürlerinde ise bir yaşlı bireyin hayatı, karşı taraftaki kişi sayısından bağımsız olarak daha önemli görülebiliyordu.

Galen Low: İlginç.

Cal Al-Dhubaib: Bu, en yaygın ahlaki referans çerçeveleriydi. Bireysel tercihler elbette değişebilir; ancak güvenin nasıl göründüğüne ilişkin tek ve evrensel bir ahlaki gerçek yok.

Bunu iyi biliyorum; çünkü aslen Suudi Arabistanlıyım, annem Amerikalı ve çoğu zaman birbiriyle bağdaşmayan iki kültür arasında büyüdüm. İnsanlar bunu bile çözemiyorken bir yapay zekâ sisteminin bu durumu nasıl yönetmesini bekleyebiliriz?

Galen Low: Bu, konuyu bağlamak için gerçekten ilginç bir nokta. Belki mesele güvenilirliğin tek bir tanımına ulaşmak değildir. Soru, yapay zekâ insanların kültürünü insanlardan daha iyi ne zaman anlayacak olmalıydı. Belki de bunun gerçekleşmesine çok uzak değiliz; çünkü nereye baksam kültürel katmanlar görüyorum ve belki de bu, tanımlayıcı bir özellik.

Cal Al-Dhubaib: Öyle. Bence asıl mesele bu. Bunun hiçbir zaman siyah veya beyaz olmadığını anlamak için çaba göstermeliyiz. Ne olursa olsun bazı varsayımlarda bulunmak zorunda kalacağız.

Galen Low: Ne derler? Yapay zekâ harika bir ayna, aynı zamanda bir büyüteç. Kendimize bakmaya zorluyor.

Güven de bunun bir parçası. Kullanıcıların hedeflerine hayal kırıklığına uğramadan ulaşması olabilir. Kabul edilebilir bir zarar veya risk eşiği içinde çalışmak da olabilir.

Cal Al-Dhubaib: Neyin doğru olduğunu ve hangi varsayımları kabul edeceğinizi tanımlamalısınız. Etkileşimleri kendiniz yönetebilir veya kullanıcıya seçenekler arasında bilinçli bir tercih yapma imkânı sunabilirsiniz.

Bunların hepsi güven mühendisliğinin parçası olarak alınabilecek tasarım kararlarıdır.

Galen Low: Güven mühendisliğini bir araç seti ve çerçeve olarak sevmemin nedeni bu. Bir boşlukta sonuca ulaşamayız. Bu konularda konuşmamız gerekir.

Cal Al-Dhubaib: Kesinlikle.

Galen Low: Cal, programa katıldığın için çok teşekkürler. Kursun yayımlandığında daha fazla bilgi edinmek isteyenler nereye gidebilir? Senin hakkında nasıl daha fazla bilgi edinebilirler?

Cal Al-Dhubaib: LinkedIn'de oldukça aktifim. Muhtemelen benim için en iyi platform orası. Beni orada bulabilirsiniz. Kursla ilgili daha fazla ayrıntıyı yakında paylaşacağım.

Galen Low: Harika. Profiline ve olaylar veritabanına bağlantı ekleyeceğim. Kesinlikle incelenmeye değer. Harika bir sohbetti. Cal, bugün için teşekkürler.

Cal Al-Dhubaib: Beni davet ettiğin için teşekkürler Galen.

Galen Low: Herkese merhaba, The Digital Project Manager podcast'inin bugünkü bölümünün sonuna geldik. Bu sohbeti beğendiyseniz dinlediğiniz platformda abone olmayı unutmayın. Daha fazla pratik içgörü, vaka çalışması ve uygulama rehberi istiyorsanız thedigitalprojectmanager.com adresini ziyaret edin.

Bir sonraki bölüme kadar dinlediğiniz için teşekkürler.