3. Yapay Zekâ Etiği ve Kavramları
25 Mart 2022, Dr. Cansu CANCA anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
25 Mart 2022, Dr. Cansu CANCA anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
Dr. Cansu CANCA Hakkında
Bu haftaki derste, filozof ve yapay zekâ etiği uzmanı Dr. Cansu Canca konuk konuşmacıydı. Sorular, problemler ve tartışmalarla düşündürücü ve öğretici bir anlatım oldu.
"Bazen insanlara saygı duymak, hassas medikal için yapay zekâ kullanımında olduğu gibi sistemlerinizin kapsayıcı olduğundan emin olmak anlamına gelirken, zaman zaman herhangi bir veri toplamayarak insanların mahremiyetine saygı duymak anlamına gelir ve her zaman bir bireyin onuruna saygı duymak anlamına gelir." — Joy Buolamwini
"Etik, doğru ve yanlış davranışların ne olduğunu sistematik bir şekilde analiz eden ve belirleyen felsefe dalı. Dolayısıyla varsaydığımız değer yargılarını savunmak, bunların yerinde olup olmadığını analiz etmek etik alanına giriyor. Yapay zekânın yukarıda bahsedilen kullanım örneklerindeki değer yargıları bu teknolojilerin etik/doğru kullanılıp kullanmadığı sorusunu doğuruyor. Bilgiye erişimimizin artık neredeyse yalnızca Google, Facebook ve Twitter gibi platformlar sayesinde olduğunu kabul edersek, bu platformların algoritmalarındaki değer yargıları bizim dünyamızı büyük ölçüde şekillendiriyor. Yüksek gelirli iş fırsatlarını toplumun belirli bir kesimine göstermemek, bu kesimin (farkında bile olmadan) belirli iş fırsatlarından mahrum bırakılmasına ve dolayısıyla haksızlığa sebep oluyor. Bunlar yaygınlaşan yapay zeka kullanımının karşımıza çıkardığı etik soru(n)lardan sadece bazıları." *
İlk olarak çevrim içi dersimizde arama motorları üzerinden etik konusunu tartıştık ama pek çok farklı örnek düşünebilirsiniz.
Arama motorları tartışmamızda, biri arama motorunda koronavirüs aşısı araştırma olmak üzere farklı örnekler tartışıldı. Örneğin; Mahallemde koronavirüs aşısı alabileceğim yerleri aramak isteyebilirim, ancak arama sonuçları komplo teorileri veya aşı olan ünlüler gibi koronavirüsle ilgili diğer bilgileri içerebilir (hatta öncelik sırasına koyabilir). Ancak yanlış veya önemli olmayan bilgilere öncelik vermek, bireyler ve toplum üzerinde tehlikeli ve zararlı etkilere sahip olabilir. Bu bizi “uygunluk” sorusuna getiriyor — uygunluğu nasıl kodluyoruz ve uygunluğu yorumlarken hangi değer yargıları dikkate alınıyor? Birçok farklı arama örneği üzerinden yaptığımız tartışmada aşağıdaki konular ortaya çıktı. Bildiğimiz bilgileri aramak, hiç bilmediğimiz bilgileri aramak ve arama sonuçlarından memnun olmak arasındaki farkı tartıştık. Genellikle sosyal medya ile ilişkilendirilen arama motoru sonuçlarını tartışırken, aslında kullanıcının mutlu ve memnun olması ile sonuçların dünyaya zarar vermemesi arasında bir denge olması gerektiğine karar verdik.
Etikteki bir diğer anahtar terim de “otonomi”tir. Buradaki temel fikir, rasyonel varlıklar olarak kendi kararlarımızı vermemize ve kendi kendimizi yönetmemize izin verilebilmesi ve verilmesi gerektiğidir. Her bireyin özerkliğine (otonomi) saygı duyulmalıdır —bu, insanları manipüle etmenin veya zorlamanın etik olarak yanlış olduğu anlamına gelir. Ama özerkliğinizi ihlal etmek için güç kullanmam gerekmiyor. Ayrıca sahip olduğunuz bilgileri kısıtlanabilir veya şekillendirilebilir. Erişiminiz olan bilgiler değiştirilerek karar verme süreciniz etkilenebilir ve davranışlarınız manipüle edilebilir. Bilgiyi şekillendiren ve sunan platformlar olan arama motorları, bireysel özerkliği/otonomiyi etkileme kapasitesine sahiptir. Bu platformları ve içlerindeki YZ sistemlerini oluştururken, zarar, otonomi ve adaletle ilgili sorular kaçınılmazdır.
İlişkili olarak tartıştığımız bir diğer konu, birçok farklı uygulama için verilerdeki ve/veya YZ modellerindeki yanlılığın sonuçlarıydı.
Önyargıların ne olduğuna ve bununla nasıl karşılaşabileceğimize dair örnekler görmek isterseniz daha önce yayınlamış olduğum bu makaleyi ve onunla ilgili olarak TRT Radyo programı röportajımı inceleyebilirsiniz:
Bahsettiğimiz YZ uygulamalarındaki/sistemlerindeki önyargı, ırklar, cinsiyetler, sosyal statüler vb. arasında istemeden ortaya çıkabilir ve fark edilmediğinde artan bir etkiye sahip olabilir. Bu yüzden bazı soruları cevaplamamız gerekiyor.
Etiğin temel soruları şunlardır: Yapılacak doğru/iyi şey nedir? Uygulanacak doğru/adil sistem nedir?
YZ etiğinin kapsamı şu şekilde sunulabilir:
İçerik/ürün: Etik teknolojiler geliştirmek
Süreç: Teknoloji geliştirme için etik süreçlerin sağlanması
Uygulama: Teknolojiyi etik olarak kullanmak ve uygulamak
Dünya çapında yayınlanan birçok YZ etik ilkesi vardır ve şimdiye kadarki en iyi belgelerden biri Avrupa Komisyonu'nu tarafından yayımlanmıştır. Sahip oldukları yol ve belirledikleri yapı, 4 temel etik ilkeden oluşur: insan özerkliğine saygı, zararın önlenmesi, adalet, hakkaniyet ve açıklanabilirlik. Bu ilkelerden üçü geleneksel biyoetik ilkeleridir (yararlılık ve zarar vermeme genellikle tek bir zararı önleme ilkesinde birleştirilir). Açıklanabilirlik, YZ bağlamında diğer ilkeleri etkinleştirmeyi amaçlayan ek bir ilkedir.
Cansu Canca'nın kurucusu ve yöneticisi olduğu AI Ethics Lab tarafından geliştirilen aşağıdaki görseldeki araç (The Box), Lab'ın önemli projelerinden biridir. Dünya çapında yayınlanan tüm YZ ilkelerini sistematize eden ve analiz eden bir araç setinin (YZ Prensiplerinin Dinamikleri) parçasıdır. Çoğu şirket ve ülke şimdiye kadar YZ ilkelerini ortaya koydu. Araç takımı Dynamics, bu ilkelerin zaman içinde ve farklı coğrafyalarda nasıl geliştiğini ve birbirleriyle nasıl karşılaştırıldıklarını anlamamıza yardımcı olur. The Box bir adım daha ileri gidiyor ve bu ilkeleri kavramsal olarak tutarlı ve pratik olarak uygulanabilir bir formata koyuyor. Bu aracın amacı, uygulayıcıların ve araştırmacıların ilkelerle ilgili soruların her birini sormalarına ve çalışmalarının etik olarak nasıl değerlendirildiğini değerlendirmelerine yardımcı olmaktır.
Fayda ve zarar dengesiyle faydaların güvence altına alınmasına katkıda bulunmak için kapsayıcı, adil politika ve teknolojik yenilik oluşturmayı ve paylaştığımız tüm insanlar ve dünya için YZ risklerini azaltmayı amaçlamalıyız. Bu doğrultuda önümüzdeki hafta etik ilkelerin teknik olarak nasıl uygulanabileceğini tek tek konuşacağız.
