11. Yapay Zekâ Etiği ve Getirdiği Sonuçlar
13 Mayıs 2022, Merve HICKOK anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
13 Mayıs 2022, Merve HICKOK anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
Bu haftaki dersimizde, Yapay Zekâ Etikçisi Merve Hickok'u ağırlamaktan mutluluk duyuyoruz. Bu derste yapay zekâ etiğini bir söylemden öteye taşıyoruz. Önyargı kaynakları, topluma etkisi ve tartışmalar, zararlar ve öğrenilmiş dersler üzerinden bir değerlendirme yaparak bu dersin yapay zekâ konu başlıklarını kapatıyoruz.
"Yapay zekâ hayatımıza giderek daha fazla yerleşirken, giderek daha fazla duygusal zekâ da liderliğe yerleşmek zorundadır." — Amit Ray
Büyük veri ve yapay zakâ (YZ) ürünleriyle gerek geliştirici gerekse kullanıcı olarak haşır neşir olurken bu teknolojilere eleştirel olarak nasıl yaklaşacağımız, analiz edeceğimiz ve geleceğimizi nasıl şekillendireceğimiz konusunda akıl yürütme üzerine bir derse başlıyoruz. Bu, bilgisayarlar ve etik dersinin YZ ile doğrudan ilişkili son dersi olacak. Gelecek haftadan itibaren blokzincir, dijital organizasyonlar, oyunlar ve metaverse gibi kavramların üzerine tartışmalar gerçekleştireceğiz.
Çevremizdeki tüm teknolojiler bizi birer vatandaş ve tüketici olarak oldukça etkiliyor. Unutmayalım, geliştirici kimliğimizin yanında birer insanız. Sosyal bir çevrede yaşıyoruz. Bu nedenle çevremizde olan bitenleri anlamamızın unsurları var. Şİmdi, farklı bakış açıkları ve etik anlayışı, insan hakları ve risk yönetimini ele alacağız.
Etikte YZ düzenleme ve uygumun ötesine geçiyor ve bir yenilik meydana getiriyor. Örneğin GDPR gibi, Türkiye’de KVKK gibi mahremiyet yasalarını toplamamıza ve yeniden düzenlememize yardımcı oluyor. Bu sayede ayrımcılıkla mücadele edebiliyoruz. Burada çok soru işareti oluşmuyor. Ancak etik; sizin, vatandaşların, tüketicilerin, işverenlerin, çalışanların ve çevrenizdeki tüm ekosistem için yenilik yapmak ve ötesine geçmek ve doğru olanı yapmaktır. Burada sorumluluk herkese aittir. Bir YZ geliştirme döngüsünden ziyade ihtiyaç olan bir YZ yaşam döngüsüdür.
YZ teknolojisi ile geliştirdiğiniz ürününüzü bitirip piyasaya sürmeden hemen önce, tamam diyip bazı soruları sormanız gerekir:
Tasarımımız nasıl?
Ürünümüz nedir?
Platformumuz ne yapacak?
En başında olması gereken nedir ve olası zararlar veya etkiler neler olabilir?
Bu soruların aslında projemize başlarken yani en baştan başlaması gerekiyor, sadece bir ürün yaratma düşüncemiz olduğunda bile, soruların bu fikire aktarılması gerekiyor. Aynı sorumluluğun tüm ürün döngüsü boyunca gömülü olması gerekiyor. Siz o ürünü kullanımdan kaldırana kadar, o ürün veya hizmet artık mevcut olmayana kadar, soruların sürekli sorulması gerekiyor. Sonunda tak ve çalıştır olarak düşünülmemesi gerekir. Bunun için kendi ürününüzü ve diğer başka ürünleri eleştirmemiz gerekiyor. Çünkü sorumluluğumuz yalnızca kuruluşunuza karşı değil, yaşadığımız sosyal çevreyle ilgilidir. Elbette, bazı şirketler / kuruluşlar endişelerimizi dile getirmemizden pek memnun olmayabilir ve bu kendi içinde bize ürünlere gömülü şirket kültürü değerleri ve bu ürünün topluma ve genel olarak tüketicilere neler yapabileceği hakkında çok şey anlatmaktadır.
Luciano Floridi ve Mariarosaria Taddeo bir konsept üzerinde çalışmışlardır. Bir veri, algoritma ve uygulama perspektifinden YZ’nin veri etkilerini inceliyorlar. Bununla kastedilen, tanımladığımız şekliyle etiktir.
Büyük veri kümelerinin toplanması ve analizi
Büyük veri kullanımına kadar değişen diğer sorunlar (oluşturma, kaydetme, iyileştirme, işleme, yayma, paylaşma)
Genel olarak anlaşılan algoritmaların artan karmaşıklığı ve özerkliği (temel otomatik sistemler, makine öğrenimi, robotlar, otonom sistemler…)
Sorumlu kişi ve kuruluşların sorumluluk ve yükümlülükleri (sorumlu yenilik ve mesleki kurallar dâhil)
Hem geliştirmede hem uygulamada oluşan sorunlar
YZ sadece verilerle ilgili değildir ve önyargı da sadece verilerde var olmazlar. Önyargı yüklü bir kelimedir.
Önyarıgı; bir YZ sistemini tasarlamamız gerekip gerekmediğiyle başlayan ve tasarımın her anında bilinçli ya da bilinçsiz olarak meydana gelebilen bir olgudur. Günümüzde YZ ve makine öğrenmesi sistemlerinde önyargıya ilişkin çokça tartışma vardır.
Karşılaştığımız bu gibi önyargılar adaletsizliğe sebep olabilir. Bu riski yönetebilmek ihtiyacından yola çıkarak, karmaşık olmayan, fark yaratan çözümler ve tekniklerle spesifik bir çerçeve oluşturulmuştur. Aşağıdaki şekilde vurgulanan sarı kutular yazarların tartıştığı önyargı alanlarıdır. Diğerleri ise YZ Sistemlerinde Bağımsız Denetimi (Independent Audit of AI Systems) ile önyargı azaltma prosedürlerinde ele alınmaktadır.
Veriyi kullanma şeklimiz, özelliklerine karar verme şeklimiz, model, modelin nasıl çalışması gerektiği, nasıl izlediğimiz, modellerinizi doğruladık mı? Yani aşağı yukarı 4 temel fazı dikkatle ele almak gerekmektedir:
Tasarım
Geliştirme
Dağıtım
Operasyon
Çünkü azaltmayı hedeflerdiğimiz önyargı şekilden de anlaşıldığı gibi üç başlığa ayrılmıştır. Buradan çıkaracağımız temel ihtiyaç sağlam bir yönetişim mekanizmasıdır.
Örnek Önyargı, Yanıt Vermeyen Önyargı ve Bilişsel Önyargı, veri kümelerimizi iyi yönetmediğimizde ortaya çıkan çeşitli risklerin olasılığını ortaya çıkarır ve artırır.
Birkaç örnek verecek olursak;
Yasal risk: Ayrımcılıkla mücadele, veri gizliliği yönetmeliği gibi düzenlemelere uyulmamasından kaynaklanır.
Etik ve itibar riski: Kalıp yargıların ve ayrımcılığın devam etmesi, etik kurallara, sosyal sorumluluk politikasına uyulmamasından kaynaklanır.
İşlevsel risk: Kötü geçerlilik, zayıf uyum ve sistemin amaçlanan kapsamı, yapısı, bağlamı ve amacı ile uyumsuzluktan kaynaklanır.
Tüm bu sebeplerden doğan ve günlük hayatımızda karşımıza çıkan bazı sorunlar ve tartışmalara örnekler verelim.
Zararlar
Hizmet reddi, fırsatlar
Daha düşük hizmet veya ürün seviyeleri
Sistemin kendiniz için çalışması için emek
Cinselleştirme, nesneleştirme, istismar, taciz psikolojik zararlar
Mali zararlar
Fiziksel zararlar
Yanlış beyan: Stereotipler, olumsuz tutumlar ve nesnelleştirme dil modellerinden düşüyor
Yetersiz Temsil, Marjinalleştirme, Silme: Orantısız örneklenen kimlik terimleri
Aşırı temsil: Anglosentrik bakış açıları, ayrıcalıklı (çoğunluk değil) sesleri yükselten "varsayılan" olarak hizmet eder
Kişisel Tanımlama Temsilleri: PII, eğitilmiş modellerden çıkarılabilir
Zararlı eylemlere karşı ikna
Polarizasyon
Radikalleşme
Yanlış, zarar verici bilgi
Kaynak: Developing and understanding responsible foundation models.
YZ alanında yayınlanan ve benimsenin ilkelerin çoğalması bu ilkeler havuzunda bağlamsallaştırılmış olarak anlamaya dayalı çalışma çok azdır. Bu yüzden, teknik inceleme ve ilişkili veri görselleştirmesi, otuz altı önde gelen YZ ilkesi belgesinin içeriğini yan yana karşılaştırılmaktadır. Bu çaba, sekiz temel tematik eğilim etrafında büyüyen bir fikir birliğini ortaya çıkardı: mahremiyet, hesap verebilirlik, emniyet ve güvenlik, şeffaflık ve açıklanabilirlik, adalet ve ayrımcılık yapmama, teknolojinin insan tarafından kontrolü, mesleki sorumluluk ve insani değerlerin teşviki
İş ve şirketler açısından risk yönetiminden bahsetmek gerek ve bunun ne anlama geldiğini iyi anlamak gerekiyor. İş odaklı olabilir ve pek çok kişi bu umurumda değil diyebilir. İşlmiz YZ ile ilgiliyse; YZ sistemlerinin iyi olduğundan emin olmak için sistemlerin ayrımcılık yapmamasını, baskı yapmamasını vb. isteriz. Çünkü itibarımız, markamız, gelirimiz, tüketicilere olan güvenimiz üzerinde etkisi vardır. Tüketicilerin bizim değerimizi nasıl gördüğü, ürünlerimizle ve arkadaşlarımızla aynı hizadadır.
Yönetişim hakkında ele aldığımız her şey ve iyi uygulamalar geliştiricilere yardımcı olur. Veri merkezleri, YZ modelleri vb. ürün ve hizmet her neyse, geliştiriciler her ne inşa ediyorlarsa bunu anlamalarına yardımcı olur.
Risklerden bazılarını sürecin başında tanımlamak iyi bir fikirdir. Riskleri azaltmamıza ve riskleri yönetmemize yardımcı olur ve modellerimizi ve sonuçlarımızı bilir, güvenceye alır ve geliştiririz. Üstelik bize yeni bilgiler de sağlayabilir.
İşimiz için daha iyi kestirimler yapmamızı, müşterilerimiz hakkında daha iyi tahminler verebilir ve müşterinizi artırabilir.
Müşteri deneyimi ve memnuniyetini geliştirmeye yardımcı olacaktır.
Hukuki etiği aşıyor, hukuk dışına çıkıyor desek de uyumlanmaya yardımcı olacaktır.
Uyum ve yükümlülükleri çok daha kolay yerine getirmeye yardımcı olacaktır.
Ürün ve/veya hizmetlerle etkilenen kişileri belirlemeye yardımcı olacaktır.
Sistem daha güvenilir olacağı için daha kolay benimsenmesine yardımcı olacaktır.
Riskleri yönetmek konusunda düzenleyici kuruma, tüketiciye, yatırımcılara ve içeride çalışanlara bir işletme olarak sorumlusunuz.
“En geniş anlamıyla, önyargı, verilerin işlenmesiyle ilgili alınan kararların tüm yelpazesinde ortaya çıkabilir ve bulunabilir. Önyargı, verilerde, etiketlerde, yöntemlerde ve eğitilmiş modellerde kodlanmış insan toplumsal kurumsal etkileşimlerden kaynaklanabilir.”
Çalışmada yazarların ve ’nin YZ Sistemlerinin Bağımsız Denetimi üzerine bir yaşam döngüsü süreci ve sağlam bir yönetişim mekanizmasının var olması önerilmektedir.
Brown, S., Carrier, R., Hickok, M., & Smith, A. L. (2021, July 8). Bias Mitigation in Data Sets.
and 2016What is data ethics? Phil. Trans. R. Soc. A.3742016036020160360
