Güvenilir Yapay Zekâ Nasıl Oluşturulur: Proje Ekipleri İçin 4 Sütunlu Bir Çerçeve
Bu makale, sunucu Galen Low ile Further Yapay Zekâ ve Veri Bilimi Başkanı Cal Al-Dhubaib arasındaki sohbeti içeren The Digital Project Manager podcast bölümünden uyarlanmıştır. Buradan dinleyebilirsiniz.
Güvenin Sahiplenilmesi: Bireysel sorumluluğun eksikliği, yapay zekâ projelerinde güveni çoğu zaman zayıflatır ve hesap verebilirliği karmaşıklaştırır.
Güven Mühendisliği: Güven mühendisliği adı verilen bir çerçeve, yapay zekâ tasarımındaki farklı paydaşlar arasında ortak bir dili teşvik eder.
Dört Sütun: Güvenilir yapay zekâ dört sütuna dayanır: beklenti yönetimi, karar tasarımı, yönetişim ve güven altyapısı.
Proje Soruları: Ekipler, yapay zekâ çözümlerinde etkili yönetişim ve risk yönetimi sağlamak için üç temel soruyu değerlendirmelidir.
Güveni Ölçmek: Kullanıcı davranışı, yapay zekâ sistemlerinde güvenin ve etkililiğin kritik bir göstergesidir.
Güvenin Neden Bir Sorumlusu Olmalı?
Çoğu yapay zekâ projesi daha hayata geçirilemeden aynı sorunla karşılaşır: sistemin güvenilir olup olmadığından açıkça sorumlu kimse yoktur. Further'da Yapay Zekâ ve Veri Bilimi Başkanı olan Cal Al-Dhubaib, bunun farklı sektörlerde tekrar tekrar yaşandığını gördü ve temel neden konusunda oldukça açık sözlü. "Bunun basit yanıtı, varsayılan olarak kimsenin sahiplenmemesi ve asıl büyük sorunun da bu olması," diyor.
[Yapay zekâya duyulan] güveni kimse sahiplenmiyor ve asıl büyük sorun da bu.
Sorun kaygı eksikliği değil — bunun aslında kimin görevi olduğuna dair netlik eksikliği. Al-Dhubaib, "Hesap verebilirlikle ilgili ilginç bir nokta, bir şey herkesin sorumluluğundaysa kimsenin onu sahiplenmemesidir; bu nedenle nihayetinde bu boyutu sahiplenecek bir kişiye ihtiyaç duyarsınız," diye açıklıyor. Further'da bu ilke yalnızca teorik değil. "Doğru soruları sorduğumuzdan emin olabilmek için bu yapay zekâ projelerinin her birine gerçekten bir sorumlu atıyoruz."
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Güven Mühendisliği Gerçekte Nedir?
Al-Dhubaib'in sahiplenme eksikliğine yanıtı, güven mühendisliği adını verdiği bir çerçeve — temelde, bir yapay zekâ sistemine dokunan birçok disiplin için ortak bir dil. "Yapay zekâ çözümlerinin tasarımı ve yapay zekâ çözümlerinin benimsenmesi etrafında iş birliği yapan farklı kişilerin güveni koruma konusunu daha verimli şekilde ele almasına yardımcı olan ortak bir iletişim araç setidir," diyor.
Bu ortak araç setine duyulan ihtiyaç, konunun genellikle ne kadar parçalı ele alınmasından kaynaklanıyor. Mühendisler, risk yöneticileri, yönetişim liderleri, kullanıcı deneyimi tasarımcıları ve iş paydaşları aynı sisteme farklı merceklerden bakıyor. Al-Dhubaib, "Tüm bu insanların aynı konu hakkında konuşabilmesi ve yapay zekâ ile güvenin ihlal edilebileceği yolları benzer şekilde anlayabilmesi için ortak bir yöntem ve buna karşı nasıl korunulacağını gösteren araç setleri olması gerekiyordu," diyor.
Tüm bu insanların aynı konu hakkında konuşabilmesi ve yapay zekâ ile güvenin ihlal edilebileceği yolları benzer şekilde anlayabilmesi için ortak bir yöntem olması gerekiyordu.
Güvenilir Yapay Zekânın 4 Temel Sütunu
Güven mühendisliği dört pratik sütuna ayrılır — beklenti yönetimi, karar tasarımı, yönetişim ve güven altyapısı. Her biri, yapay zekâ sistemlerinin insanların güvenini kaybetme eğiliminde olduğu farklı bir noktayı ele alır.
1. Sütun: Beklenti Yönetimi
İlk sütun kapsamla ilgilidir. Üretken yapay zekâ sistemleri çoğu zaman kendi yararlarına olmayacak kadar açık uçludur ve bu açıklık, yardım etmeleri beklenen kullanıcıları bile bunaltabilir. Al-Dhubaib, "Bu araçla neler yapabileceğimin sınırlı bir aralığa sahip olması güzel," diyor.
Karar verme yorgunluğunu renk seçiminde azaltmanın amaçlandığı Behr Paint ile yaptığı çalışmadan gerçek bir örnek veriyor. Müşterilerin — kendisi de dahil — nasıl kararsız kaldığını anlatırken, "Home Depot'a gidiyorsunuz ve büyük boya renkleri sergisini görüyorsunuz," diyor. "Seçim yapmak zorunda kaldığınızda gerçekten bunalıyorsunuz." Çözüm daha fazla yapay zekâ değildi — daha dar ve daha bilinçli şekilde kapsamlandırılmış bir deneyimdi.
2. Sütun: Karar Tasarımı
İkinci sütun, bir yapay zekâ sisteminin vermesine izin verilen kararların çevresine yerleştirilen koruyucu sınırlarla ilgilidir. Al-Dhubaib, "Kullanıcıları, sistemi nasıl iyi kullanacaklarını bilmeleri için doğru miktarda bilgi ve doğru miktarda koruyucu sınırla nasıl yönlendirirsiniz?" diye soruyor.
Behr Paint projesinde bu, yapay zekânın güvenli bir şekilde ne tür tavsiyeler verebileceğinin sınırlarını kesin olarak çizmek anlamına geliyordu. Renk seçimi uygundu; boya karıştırma veya uygulamayla ilgili her konu bir insan uzmana devredilmeyi gerektiriyordu. Al-Dhubaib şöyle diyor: "Konuşmanın herhangi bir noktasında konu bu yöne doğru kaymaya başlarsa kullanıcıya hızla şu mesajı gösteriyor: Bu özel soruyla ilgili yardım için yardım hattımız burada."
Konuşmanın herhangi bir noktasında konu bu yöne doğru kaymaya başlarsa kullanıcıya hızla şu mesajı gösteriyor: Bu özel soruyla ilgili yardım için yardım hattımız burada.
Sistem, itibarın korunmasına yönelik önlemler de göz önünde bulundurularak oluşturuldu — "ayrıca söylemesini istemediğiniz şeyleri söylemesi için zorbalığa maruz bırakılmıyor ve ardından ekran görüntüsü alınıp internetin her yerine yayılmıyor."
3. Temel İlke: Yönetişim
Üçüncü temel ilke, yalnızca mühendisler tarafından yanıtlanamayacak bir soruyu ele alıyor: Bu özel işletme için "adil" veya "doğru" olmak ne anlama geliyor? Al-Dhubaib, öğrenci kabulleri için bir modelin kullanıldığı ve müşterinin demografik gruplar arasında kalitenin güvence altına alınmasını istediği bir projeyi anlatıyor. "Adaleti hesaplamanın 22 farklı yolu var," diyor. "Ve açıkçası bu, mühendisin kapsamı dışında. Size formülün ne olduğunu ve bunları çeşitli şekillerde nasıl hesaplayacağınızı söyleyebilirim. Ama sizin politikanız nedir? Bu tanıma nasıl yaklaşıyorsunuz ve sizin için doğru olan nedir? sorusuna yanıt vermek için size güvenmem gerekecek."
Bu yönetişim çalışması yalnızca kurum içindeki kararlarla sınırlı kalmıyor — dışarıya da aktarılması gerekiyor. Al-Dhubaib'in ifadesiyle, tüm bunlar belgeleniyor ve "kullanıcı dostu bir sistem kartında" paylaşılıyor.
4. Temel İlke: Güven Altyapısı
Son temel ilke, bir yapay zekâ sistemi kullanıma alındıktan sonra dürüst kalmasını sağlayan araçları ve süreçleri kapsıyor. Bu ilkeyi, hızlı servis sunan iki tanınmış restoran zinciri arasındaki karşıtlıkla açıklıyor. Zincirlerden biri, doğru siparişleri tutarlı bir şekilde oluşturamadığı için yapay zekâ destekli sesli sipariş sistemini kullanımdan kaldırdı.
Diğeri ise farklı bir yaklaşım benimsedi: "Öte yandan, telefonla verilen siparişlerinin artık %80'inin bir yapay zekâ sistemi tarafından alındığı Domino's örneği var." Bu sistemde insan denetçiler canlı aramaları izliyor, gerektiğinde müdahale ediyor ve "siparişlerin kullanıcının söyledikleriyle örtüşmeye devam etmesini sağlamak için uygun denetim önlemleri uygulanıyor." Al-Dhubaib'in görüşüne göre fark, temel teknolojide değildi. "Bunun teknoloji açısından bir başarısızlıktan çok, teknolojinin çevresine doğru koruyucu önlemlerin yerleştirilmemesinden kaynaklanan bir başarısızlık olduğunu düşünüyorum."
Bunun teknoloji açısından bir başarısızlıktan çok, teknolojinin çevresine doğru koruyucu önlemlerin yerleştirilmemesinden kaynaklanan bir başarısızlık olduğunu düşünüyorum.
Her Proje Ekibinin Sorması Gereken Üç Soru
Al-Dhubaib, dört temel ilkenin ötesinde, yapay zekâ yönetişimiyle ilgili her görüşme için proje ekiplerine basit bir değerlendirme sunuyor — sırasıyla sorulacak üç soru.
İlk olarak: "Bu yapay zekâ çözümünün doğasında bulunan potansiyel zararı veya potansiyel riskleri en aza indirdiğinizi test etmek ve doğrulamak için önceden ne yaptınız?" İkinci olarak, sistem kullanıma alındığında: "Hata yaptığını ne zaman anlayacaksınız?" Ve üçüncü olarak — en sık gözden kaçırıldığını söylediği soru — "O zaman ne yapacaksınız? Bunu nasıl gerçekleştireceksiniz? Bu planı gerçekten stres testine tabi tuttunuz mu?"
More Articles
- Yapay Zekâda Geri Adım: Liderlerden Gerçek Hikâyeler
- Bir Asana Uygulama Ajansında Teslimat Başkanının Kullandığı Gerçek Dünya Yapay Zekâ İş Akışları
- Yapay Zekâ Destekli Proje Yöneticisi ve Eğitimci, Projelerin İşleyişini Temelden Değiştiren Basit Bir Yapay Zekâ İş Akışını Paylaşıyor
- İnsan Proje Yöneticilerinizi Yapay Zekâ Ajanlarıyla Değiştirmenin 3 Alternatifi
- Proje Yönetimi Görevleri İçin En İyi Yapay Zekâ Modelleri
Çalışıp Çalışmadığını Nasıl Anlarsınız?
Güven yalnızca bir tasarım ilkesi değildir; ölçülebilir. Al-Dhubaib, kullanıcı davranışının bir ekibin elindeki en net sinyallerden biri olduğunu belirtiyor. Behr örneğini yeniden kullanarak, "Kullanıcı hedefinize ulaşıyor mu?" diye soruyor — insanlar gerçekten bir boya spesifikasyonu hakkında daha fazla bilgi edinme aşamasına ulaşıyor, etkileşimi tamamlıyor ve araca geri dönüyor mu?
Sonuçta, faydayı doğrudan güvenin kendisiyle ilişkilendiriyor: "Basitçe faydalı değiliz — çünkü bu da güvenin bir parçası."
Sonuç
Güven mühendisliği, bir projenin sonunda eklenen bir kontrol listesi değildir — sistemin ne yapıp ne yapmayacağı ve her karardan kimin sorumlu olacağıyla ilgili, süreç boyunca alınan bir dizi tasarım kararıdır. Al-Dhubaib'in ifadesiyle, "Neyin doğru olduğunu ve hangi varsayımları ortaya koyacağınızı tanımlamanız gerekir. Bunların tümü, güven mühendisliğinin bir parçası olarak alınabilecek tasarım kararlarıdır."
Bunlar gibi daha fazla içgörü mü istiyorsunuz? Ücretsiz bir DPM hesabına kaydolun ve bunlar gibi daha fazla uzmandan bilgi alın.
