Computers & Ethics Lecture Notes
  • 🤖COMPUTERS & ETHICS
    • 🇺🇸Computers & Ethics Lecture Notes
      • 1. Introduction and Defining the Field of Computer Ethics
      • 2. Perspectives on Artificial Intelligence
      • 3. Concepts of AI Ethics
      • 4. Technical Recommendations on the Ethics of AI
      • 5. Ethical Principles, Benefits and Issues of AI
      • 6. Data Privacy-Preserving Techniques
      • 7. Legal Aspects of IoT
      • 8. Cybersecurity Cases on Global Perspectives
      • 9. Stakeholders, Ethical Digital Ecosystem and Standards
      • 10. Human Rights and AI
      • 11. AI Ethics & Consequences
      • 12. Blockchain and Ethical Perspective
      • 13. Metaverse and Gaming Technologies by Ethical Perspective
      • 14. Responsible Use of AI in Digital Organizations
      • 15. Reliable AI to Design a Better Future - Student Presentations, Discussion & Conclusion
      • Recommended Podcasts
    • 🇹🇷Bilgisayarlar & Etik Ders Notları
      • 1. Bilgisayar Etiği Alanına Giriş ve Kavramlar
      • 2. Yapay Zekâya Genel Bakış
      • 3. Yapay Zekâ Etiği ve Kavramları
      • 4. Yapay Zekâ Etiğine İlişkin Teknik Öneriler
      • 5. Yapay Zekânın Etik İlkeleri, Yararları ve Sorunları
      • 6. Veri Mahremiyetini Koruyucu Teknikler
      • 7. Nesnelerin İnternetinin Hukuki Yönleri
      • 8. Küresel Perspektiflerde Siber Güvenlik Vakaları
      • 9. Paydaşlar, Etik Dijital Ekosistem ve Standartlar
      • 10. İnsan Hakları ve Yapay Zekâ
      • 11. Yapay Zekâ Etiği ve Getirdiği Sonuçlar
      • 12. Blokzincir ve Etik Perspektif
      • 13. Metaverse ve Oyun Teknolojilerine Etik Bakış
      • 14. Dijital Organizasyonlarda Yapay Zekânın Sorumlu Kullanımı
      • 15. Daha İyi Bir Gelecek Tasarlamak için Güvenilir Yapay Zekâ - Öğrenci Sunumları, Tartışma ve Sonuç
      • Önerilen Podcastler
Powered by GitBook
On this page
  • YZ Etiğine İlişkin UNESCO Tavsiyesi
  • Adalet ve ayrımcılık yapmama
  • Şeffaflık ve açıklanabilirlik
  • Emniyet ve güvenlik
  • Mahremiyet hakkı ve veri koruma
  • İnsan gözetimi ve kararlılığı
  • Ölçülülük ve zarar vermeme
  • Sorumluluk ve hesap verebilirlik
  • Güvenilir YZ gerçekleştirmek için teknik ve teknik olmayan yöntemler
  1. COMPUTERS & ETHICS
  2. Bilgisayarlar & Etik Ders Notları

4. Yapay Zekâ Etiğine İlişkin Teknik Öneriler

1 Nisan 2022, Dr. Mehmet HAKLIDIR anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla

Previous3. Yapay Zekâ Etiği ve KavramlarıNext5. Yapay Zekânın Etik İlkeleri, Yararları ve Sorunları

Last updated 3 years ago

Hakkında

Bu haftaki dersimizde, TÜBİTAK BİLGEM Bulut Bilişim ve Büyük Veri Araştırma Laboratuvarı (B3LAB) Müdürü Dr. Mehmet Haklıdır'ı ağırlamaktan mutluluk duyuyoruz. Bu derste farklı kuruluşların etik yaklaşımlarından kısaca bahsettikten sonra, UNESCO'nun YZ'nin Etiği kılavuzuna ilişkin tavsiyelerine atıfta bulunarak ve teknik olarak vaka çalışmaları üzerinden tartıştık.

Güvenilir YZ (Trustworthy AI - TAI)

"Güvenilir YZ, değerlere dayalı ilkelere saygı duyan YZ anlamına gelir." ()

"Güvenilir YZ, Değer temelli ilkeler olan kapsayıcı büyüme, sürdürülebilir kalkınma ve refah, insan merkezli değerler ve tarafsızlık, şeffaflık ve açıklanabilirlik, sağlamlık, güvenlik ve güven ile hesap verebilirliği esas alan YZ’dir." ()

Küresel YZ Etiği

  • Güvenilir YZ uygulanmasına ilişkin OECD.AI uzman grubu, araçların ve yaklaşımların farklı operasyonel bağlamlarda nasıl değişebileceğini vurgulamayı amaçlar.

  • GPAI, BM Sürdürülebilir Kalkınma Hedefleri ile uyumlu olarak insan merkezli YZ sistemlerinin sorumlu bir şekilde geliştirilmesini, kullanılmasını ve yönetilmesini teşvik etmeye ve katkıda bulunmaya çalışmaktadır.

  • Komite, Komisyonu temel alarak YZ'nin geliştirilmesi, tasarımı ve uygulanması için yasal bir çerçevenin, geniş çok paydaşlı istişareler temelinde fizibilite ve potansiyel unsurları inceledi.

  • UNESCO, bir tavsiye şeklinde YZ etiğine ilişkin uluslararası bir standart belirleme aracı geliştirdi.

YZ Etiğine İlişkin UNESCO Tavsiyesi

Değerler

  • İnsan haklarına ve temel özgürlüklere ve insan onuruna saygı gösterilmesi, korunması ve geliştirilmesi

  • Çevre ve ekosistem geliştirilmesi

  • Çeşitlilik ve kapsayıcılığın sağlanması

  • Barışçıl, adil ve birbirine bağlı toplumlarda yaşamak

Prensipler

  • Ölçülülük ve zarar vermeme

  • Emniyet ve güvenlik

  • Adalet ve ayrımcılık yapmama

  • Sürdürülebilirlik

  • Mahremiyet hakkı ve veri koruma

  • İnsan gözetimi ve kararlılığı

  • Şeffaflık ve açıklanabilirlik

  • Sorumluluk ve hesap verebilirlik

  • Farkındalık ve okuryazarlık

  • Çok paydaşlı ve uyarlanabilir yönetişim ve işbirliği

Adalet ve ayrımcılık yapmama

Önyargı, aşağıda açıklanan adımlardan bir veya daha fazlasından kaynaklanabilir.

Veri Toplama, yanlılığın en çok görüldüğü yerdir. Verilerin belirli bir eğilime sahip kişiler tarafından oluşturulması veya verilerin toplandığı ekipmanın çarpıtılması durumunda veri kümesi temelli yanlılık oluşabilir.

Veri Ön İşleme, verileri model için hazırlıyor. Bu aşamada uygulanan işlemler yanlılığa neden olabilir. Örneğin, eksik değerleri temsil eden veriler yanlılığa neden olabilir veya veri filtreleme işlemi veri bütünlüğünün bozulmasının nedeni olabilir.

Modelleme, bu adımda örüntüleri tanımaya yönelik eğitim sürecidir, yanlılığın nedeni modelin parametrelerinden kaynaklanıyor olabilir.

YZ Kötüleştiğinde: Google Fotoğraflar'ın Utancı

Şeffaflık ve açıklanabilirlik

Açıklanabilir YZ (Explainable AI-XAI), aşağıdakileri sağlayan bir makine öğrenmesi teknikleri paketi oluşturmayı amaçlar:

  • Yüksek düzeyde öğrenme performansını korurken (tahmin doğruluğu) daha açıklanabilir modeller üretilebilir.

  • İnsan kullanıcıların, yeni nesil YZ destekli iş ortaklarını anlamalarını, uygun şekilde güvenmelerinin ve etkin bir şekilde yönetmelerinin sağlanmasıdır.

Açıklanabilir YZ'nin iki ana bölümü vardır:

  • Açıklanabilir Model: YZ sisteminin 'açıklanabilir' hale getirilmesi için mevcut yöntemlerden daha verimli ve daha gelişmiş YZ tekniklerinin geliştirilmesi veya bu kapsamda mevcut yöntemlerin yenilenmesi sağlamak.

  • Açıklanabilir Arayüz: YZ konusunda uzmanlığı olmayan ancak YZ'nin kullanıldığı uygulama alanında uzman olan son kullanıcıların, oluşturulan model ile ileri düzeyde etkileşim kurarak YZ çıktılarını değerlendirmesini ve yorumlamasını sağlamak.

Emniyet ve güvenlik

Mahremiyet hakkı ve veri koruma

İnsan gözetimi ve kararlılığı

Ölçülülük ve zarar vermeme

Sorumluluk ve hesap verebilirlik

Güvenilir YZ gerçekleştirmek için teknik ve teknik olmayan yöntemler

Önümüzdeki hafta Bahçeşehir Üniversitesi Beşiktaş kampüsünde yüz yüze dersimizde bir vaka çalışması yapacağız. Misafirimiz olmayacak, biz bizeyiz. Bakalım sonuçlar ne olacak!

Vaka Çalışması - Toplumsal Cinsiyet Önyargısı:

Vaka Çalışması -

Açık Kaynak Araç 1 -

Açık Kaynak Araç 2 -

Vaka Çalışması -

Açık Kaynak Araç -

Yukarıdaki gereklilikleri uygulamak için hem teknik hem de teknik olmayan yöntemler kullanılabilir. Bunlar, bir YZ sisteminin yaşam döngüsünün tüm aşamalarını oluşturur. Gereksinimleri uygulamak için kullanılan yöntemlerin bir değerlendirmesinin yanı sıra uygulama süreçlerindeki değişiklikleri raporlamak ve gerekçelendirmek, sürekli olarak yapılmalıdır.

🤖
🇹🇷
Toplumsal Cinsiyet Önyargısından Kaynaklanan Derin Öğrenme Yöntemlerinin Adaletsizliği COVID-19 Tıbbi Görüntülerin Teşhisi
Otomatik Kılavuz Araç için Açıklanabilir Bir YZ (XAI) Platformu
Makine öğrenmesi için bir açıklanabilirlik araç kutusu
TransparentAI
Tıbbi Görüntülerin Tanımlanmasında Birleşik Öğrenmeye Doğru
H2020 - Human AI Net
Örnek olarak şekildeki gibi bir süreç alınabilir.
Dr. Mehmet HAKLIDIR
OECD Tanımı
Türkiye'nin Ulusal Yapay Zeka Stratejisi
YZ konusunda OECD Uzmanlar Ağı (ONE AI):
YZ için Küresel Ortaklık- GPAI:
Avrupa Komisyon YZ Ad Hoc Komitesi - CAHAI:
Avrupa'nın insan hakları, demokrasi ve hukukun üstünlüğü standartlarının Yapay Zekâ Etiğine İlişkin Taslak Tavsiye Kararı ile ilgili UNESCO Devletlerarası Toplantısı:
Önerilen Belgesel - Kodlanan Önyargı
Buzdağının görünen tarafı yalnızca uygulamalardan oluşuyor
Sistemin tüm yaşam döngüsü boyunca Güvenilir YZ'yi Gerçekleştirmek - Güvenilir YZ için Etik Kuralları
Haber Kaynağı