4. Yapay Zekâ Etiğine İlişkin Teknik Öneriler
1 Nisan 2022, Dr. Mehmet HAKLIDIR anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
1 Nisan 2022, Dr. Mehmet HAKLIDIR anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla
Last updated
Dr. Mehmet HAKLIDIR Hakkında
Bu haftaki dersimizde, TÜBİTAK BİLGEM Bulut Bilişim ve Büyük Veri Araştırma Laboratuvarı (B3LAB) Müdürü Dr. Mehmet Haklıdır'ı ağırlamaktan mutluluk duyuyoruz. Bu derste farklı kuruluşların etik yaklaşımlarından kısaca bahsettikten sonra, UNESCO'nun YZ'nin Etiği kılavuzuna ilişkin tavsiyelerine atıfta bulunarak ve teknik olarak vaka çalışmaları üzerinden tartıştık.
"Güvenilir YZ, değerlere dayalı ilkelere saygı duyan YZ anlamına gelir." (OECD Tanımı)
"Güvenilir YZ, Değer temelli ilkeler olan kapsayıcı büyüme, sürdürülebilir kalkınma ve refah, insan merkezli değerler ve tarafsızlık, şeffaflık ve açıklanabilirlik, sağlamlık, güvenlik ve güven ile hesap verebilirliği esas alan YZ’dir." (Türkiye'nin Ulusal Yapay Zeka Stratejisi)
YZ konusunda OECD Uzmanlar Ağı (ONE AI): Güvenilir YZ uygulanmasına ilişkin OECD.AI uzman grubu, araçların ve yaklaşımların farklı operasyonel bağlamlarda nasıl değişebileceğini vurgulamayı amaçlar.
YZ için Küresel Ortaklık- GPAI: GPAI, BM Sürdürülebilir Kalkınma Hedefleri ile uyumlu olarak insan merkezli YZ sistemlerinin sorumlu bir şekilde geliştirilmesini, kullanılmasını ve yönetilmesini teşvik etmeye ve katkıda bulunmaya çalışmaktadır.
Avrupa Komisyon YZ Ad Hoc Komitesi - CAHAI: Komite, Komisyonu temel alarak YZ'nin geliştirilmesi, tasarımı ve uygulanması için yasal bir çerçevenin, geniş çok paydaşlı istişareler temelinde fizibilite ve potansiyel unsurları inceledi.
Avrupa'nın insan hakları, demokrasi ve hukukun üstünlüğü standartlarının Yapay Zekâ Etiğine İlişkin Taslak Tavsiye Kararı ile ilgili UNESCO Devletlerarası Toplantısı: UNESCO, bir tavsiye şeklinde YZ etiğine ilişkin uluslararası bir standart belirleme aracı geliştirdi.
İnsan haklarına ve temel özgürlüklere ve insan onuruna saygı gösterilmesi, korunması ve geliştirilmesi
Çevre ve ekosistem geliştirilmesi
Çeşitlilik ve kapsayıcılığın sağlanması
Barışçıl, adil ve birbirine bağlı toplumlarda yaşamak
Ölçülülük ve zarar vermeme
Emniyet ve güvenlik
Adalet ve ayrımcılık yapmama
Sürdürülebilirlik
Mahremiyet hakkı ve veri koruma
İnsan gözetimi ve kararlılığı
Şeffaflık ve açıklanabilirlik
Sorumluluk ve hesap verebilirlik
Farkındalık ve okuryazarlık
Çok paydaşlı ve uyarlanabilir yönetişim ve işbirliği
Önyargı, aşağıda açıklanan adımlardan bir veya daha fazlasından kaynaklanabilir.
Veri Toplama, yanlılığın en çok görüldüğü yerdir. Verilerin belirli bir eğilime sahip kişiler tarafından oluşturulması veya verilerin toplandığı ekipmanın çarpıtılması durumunda veri kümesi temelli yanlılık oluşabilir.
Veri Ön İşleme, verileri model için hazırlıyor. Bu aşamada uygulanan işlemler yanlılığa neden olabilir. Örneğin, eksik değerleri temsil eden veriler yanlılığa neden olabilir veya veri filtreleme işlemi veri bütünlüğünün bozulmasının nedeni olabilir.
Modelleme, bu adımda örüntüleri tanımaya yönelik eğitim sürecidir, yanlılığın nedeni modelin parametrelerinden kaynaklanıyor olabilir.
Vaka Çalışması - Toplumsal Cinsiyet Önyargısı: Toplumsal Cinsiyet Önyargısından Kaynaklanan Derin Öğrenme Yöntemlerinin Adaletsizliği COVID-19 Tıbbi Görüntülerin Teşhisi
YZ Kötüleştiğinde: Google Fotoğraflar'ın Utancı
Açıklanabilir YZ (Explainable AI-XAI), aşağıdakileri sağlayan bir makine öğrenmesi teknikleri paketi oluşturmayı amaçlar:
Yüksek düzeyde öğrenme performansını korurken (tahmin doğruluğu) daha açıklanabilir modeller üretilebilir.
İnsan kullanıcıların, yeni nesil YZ destekli iş ortaklarını anlamalarını, uygun şekilde güvenmelerinin ve etkin bir şekilde yönetmelerinin sağlanmasıdır.
Açıklanabilir YZ'nin iki ana bölümü vardır:
Açıklanabilir Model: YZ sisteminin 'açıklanabilir' hale getirilmesi için mevcut yöntemlerden daha verimli ve daha gelişmiş YZ tekniklerinin geliştirilmesi veya bu kapsamda mevcut yöntemlerin yenilenmesi sağlamak.
Açıklanabilir Arayüz: YZ konusunda uzmanlığı olmayan ancak YZ'nin kullanıldığı uygulama alanında uzman olan son kullanıcıların, oluşturulan model ile ileri düzeyde etkileşim kurarak YZ çıktılarını değerlendirmesini ve yorumlamasını sağlamak.
Vaka Çalışması - Otomatik Kılavuz Araç için Açıklanabilir Bir YZ (XAI) Platformu
Açık Kaynak Araç 1 - Makine öğrenmesi için bir açıklanabilirlik araç kutusu
Açık Kaynak Araç 2 - TransparentAI
Vaka Çalışması - Tıbbi Görüntülerin Tanımlanmasında Birleşik Öğrenmeye Doğru
Açık Kaynak Araç - H2020 - Human AI Net
Yukarıdaki gereklilikleri uygulamak için hem teknik hem de teknik olmayan yöntemler kullanılabilir. Bunlar, bir YZ sisteminin yaşam döngüsünün tüm aşamalarını oluşturur. Gereksinimleri uygulamak için kullanılan yöntemlerin bir değerlendirmesinin yanı sıra uygulama süreçlerindeki değişiklikleri raporlamak ve gerekçelendirmek, sürekli olarak yapılmalıdır. Örnek olarak şekildeki gibi bir süreç alınabilir.
Önümüzdeki hafta Bahçeşehir Üniversitesi Beşiktaş kampüsünde yüz yüze dersimizde bir vaka çalışması yapacağız. Misafirimiz olmayacak, biz bizeyiz. Bakalım sonuçlar ne olacak!
