Computers & Ethics Lecture Notes
  • 🤖COMPUTERS & ETHICS
    • 🇺🇸Computers & Ethics Lecture Notes
      • 1. Introduction and Defining the Field of Computer Ethics
      • 2. Perspectives on Artificial Intelligence
      • 3. Concepts of AI Ethics
      • 4. Technical Recommendations on the Ethics of AI
      • 5. Ethical Principles, Benefits and Issues of AI
      • 6. Data Privacy-Preserving Techniques
      • 7. Legal Aspects of IoT
      • 8. Cybersecurity Cases on Global Perspectives
      • 9. Stakeholders, Ethical Digital Ecosystem and Standards
      • 10. Human Rights and AI
      • 11. AI Ethics & Consequences
      • 12. Blockchain and Ethical Perspective
      • 13. Metaverse and Gaming Technologies by Ethical Perspective
      • 14. Responsible Use of AI in Digital Organizations
      • 15. Reliable AI to Design a Better Future - Student Presentations, Discussion & Conclusion
      • Recommended Podcasts
    • 🇹🇷Bilgisayarlar & Etik Ders Notları
      • 1. Bilgisayar Etiği Alanına Giriş ve Kavramlar
      • 2. Yapay Zekâya Genel Bakış
      • 3. Yapay Zekâ Etiği ve Kavramları
      • 4. Yapay Zekâ Etiğine İlişkin Teknik Öneriler
      • 5. Yapay Zekânın Etik İlkeleri, Yararları ve Sorunları
      • 6. Veri Mahremiyetini Koruyucu Teknikler
      • 7. Nesnelerin İnternetinin Hukuki Yönleri
      • 8. Küresel Perspektiflerde Siber Güvenlik Vakaları
      • 9. Paydaşlar, Etik Dijital Ekosistem ve Standartlar
      • 10. İnsan Hakları ve Yapay Zekâ
      • 11. Yapay Zekâ Etiği ve Getirdiği Sonuçlar
      • 12. Blokzincir ve Etik Perspektif
      • 13. Metaverse ve Oyun Teknolojilerine Etik Bakış
      • 14. Dijital Organizasyonlarda Yapay Zekânın Sorumlu Kullanımı
      • 15. Daha İyi Bir Gelecek Tasarlamak için Güvenilir Yapay Zekâ - Öğrenci Sunumları, Tartışma ve Sonuç
      • Önerilen Podcastler
Powered by GitBook
On this page
  • Yapay Zekâ Etiği için Değerlendirmeler
  • Önyargı Kaynakları
  • Önyargının Sonuçları
  • Etik İlkeler ve İnsan Hakları
  • İş Perspektifinden Risk Analizi İhtiyacı
  1. COMPUTERS & ETHICS
  2. Bilgisayarlar & Etik Ders Notları

11. Yapay Zekâ Etiği ve Getirdiği Sonuçlar

13 Mayıs 2022, Merve HICKOK anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla

Previous10. İnsan Hakları ve Yapay ZekâNext12. Blokzincir ve Etik Perspektif

Last updated 2 years ago

Hakkında

Bu haftaki dersimizde, Yapay Zekâ Etikçisi Merve Hickok'u ağırlamaktan mutluluk duyuyoruz. Bu derste yapay zekâ etiğini bir söylemden öteye taşıyoruz. Önyargı kaynakları, topluma etkisi ve tartışmalar, zararlar ve öğrenilmiş dersler üzerinden bir değerlendirme yaparak bu dersin yapay zekâ konu başlıklarını kapatıyoruz.

"Yapay zekâ hayatımıza giderek daha fazla yerleşirken, giderek daha fazla duygusal zekâ da liderliğe yerleşmek zorundadır."  — Amit Ray

Büyük veri ve yapay zakâ (YZ) ürünleriyle gerek geliştirici gerekse kullanıcı olarak haşır neşir olurken bu teknolojilere eleştirel olarak nasıl yaklaşacağımız, analiz edeceğimiz ve geleceğimizi nasıl şekillendireceğimiz konusunda akıl yürütme üzerine bir derse başlıyoruz. Bu, bilgisayarlar ve etik dersinin YZ ile doğrudan ilişkili son dersi olacak. Gelecek haftadan itibaren blokzincir, dijital organizasyonlar, oyunlar ve metaverse gibi kavramların üzerine tartışmalar gerçekleştireceğiz.

Yapay Zekâ Etiği için Değerlendirmeler

Çevremizdeki tüm teknolojiler bizi birer vatandaş ve tüketici olarak oldukça etkiliyor. Unutmayalım, geliştirici kimliğimizin yanında birer insanız. Sosyal bir çevrede yaşıyoruz. Bu nedenle çevremizde olan bitenleri anlamamızın unsurları var. Şİmdi, farklı bakış açıkları ve etik anlayışı, insan hakları ve risk yönetimini ele alacağız.

Etikte YZ düzenleme ve uygumun ötesine geçiyor ve bir yenilik meydana getiriyor. Örneğin GDPR gibi, Türkiye’de KVKK gibi mahremiyet yasalarını toplamamıza ve yeniden düzenlememize yardımcı oluyor. Bu sayede ayrımcılıkla mücadele edebiliyoruz. Burada çok soru işareti oluşmuyor. Ancak etik; sizin, vatandaşların, tüketicilerin, işverenlerin, çalışanların ve çevrenizdeki tüm ekosistem için yenilik yapmak ve ötesine geçmek ve doğru olanı yapmaktır. Burada sorumluluk herkese aittir. Bir YZ geliştirme döngüsünden ziyade ihtiyaç olan bir YZ yaşam döngüsüdür.

YZ teknolojisi ile geliştirdiğiniz ürününüzü bitirip piyasaya sürmeden hemen önce, tamam diyip bazı soruları sormanız gerekir:

  • Tasarımımız nasıl?

  • Ürünümüz nedir?

  • Platformumuz ne yapacak?

  • En başında olması gereken nedir ve olası zararlar veya etkiler neler olabilir?

Bu soruların aslında projemize başlarken yani en baştan başlaması gerekiyor, sadece bir ürün yaratma düşüncemiz olduğunda bile, soruların bu fikire aktarılması gerekiyor. Aynı sorumluluğun tüm ürün döngüsü boyunca gömülü olması gerekiyor. Siz o ürünü kullanımdan kaldırana kadar, o ürün veya hizmet artık mevcut olmayana kadar, soruların sürekli sorulması gerekiyor. Sonunda tak ve çalıştır olarak düşünülmemesi gerekir. Bunun için kendi ürününüzü ve diğer başka ürünleri eleştirmemiz gerekiyor. Çünkü sorumluluğumuz yalnızca kuruluşunuza karşı değil, yaşadığımız sosyal çevreyle ilgilidir. Elbette, bazı şirketler / kuruluşlar endişelerimizi dile getirmemizden pek memnun olmayabilir ve bu kendi içinde bize ürünlere gömülü şirket kültürü değerleri ve bu ürünün topluma ve genel olarak tüketicilere neler yapabileceği hakkında çok şey anlatmaktadır.

Luciano Floridi ve Mariarosaria Taddeo bir konsept üzerinde çalışmışlardır. Bir veri, algoritma ve uygulama perspektifinden YZ’nin veri etkilerini inceliyorlar. Bununla kastedilen, tanımladığımız şekliyle etiktir.

Veri:

  • Büyük veri kümelerinin toplanması ve analizi

  • Büyük veri kullanımına kadar değişen diğer sorunlar (oluşturma, kaydetme, iyileştirme, işleme, yayma, paylaşma)

Algoritmalar:

  • Genel olarak anlaşılan algoritmaların artan karmaşıklığı ve özerkliği (temel otomatik sistemler, makine öğrenimi, robotlar, otonom sistemler…)

Uygulamalar:

  • Sorumlu kişi ve kuruluşların sorumluluk ve yükümlülükleri (sorumlu yenilik ve mesleki kurallar dâhil)

  • Hem geliştirmede hem uygulamada oluşan sorunlar

Önyargı Kaynakları

YZ sadece verilerle ilgili değildir ve önyargı da sadece verilerde var olmazlar. Önyargı yüklü bir kelimedir.

Önyarıgı; bir YZ sistemini tasarlamamız gerekip gerekmediğiyle başlayan ve tasarımın her anında bilinçli ya da bilinçsiz olarak meydana gelebilen bir olgudur. Günümüzde YZ ve makine öğrenmesi sistemlerinde önyargıya ilişkin çokça tartışma vardır.

Karşılaştığımız bu gibi önyargılar adaletsizliğe sebep olabilir. Bu riski yönetebilmek ihtiyacından yola çıkarak, karmaşık olmayan, fark yaratan çözümler ve tekniklerle spesifik bir çerçeve oluşturulmuştur. Aşağıdaki şekilde vurgulanan sarı kutular yazarların tartıştığı önyargı alanlarıdır. Diğerleri ise YZ Sistemlerinde Bağımsız Denetimi (Independent Audit of AI Systems) ile önyargı azaltma prosedürlerinde ele alınmaktadır.

Veriyi kullanma şeklimiz, özelliklerine karar verme şeklimiz, model, modelin nasıl çalışması gerektiği, nasıl izlediğimiz, modellerinizi doğruladık mı? Yani aşağı yukarı 4 temel fazı dikkatle ele almak gerekmektedir:

  • Tasarım

  • Geliştirme

  • Dağıtım

  • Operasyon

Çünkü azaltmayı hedeflerdiğimiz önyargı şekilden de anlaşıldığı gibi üç başlığa ayrılmıştır. Buradan çıkaracağımız temel ihtiyaç sağlam bir yönetişim mekanizmasıdır.

Örnek Önyargı, Yanıt Vermeyen Önyargı ve Bilişsel Önyargı, veri kümelerimizi iyi yönetmediğimizde ortaya çıkan çeşitli risklerin olasılığını ortaya çıkarır ve artırır.

Birkaç örnek verecek olursak;

  1. Yasal risk: Ayrımcılıkla mücadele, veri gizliliği yönetmeliği gibi düzenlemelere uyulmamasından kaynaklanır.

  2. Etik ve itibar riski: Kalıp yargıların ve ayrımcılığın devam etmesi, etik kurallara, sosyal sorumluluk politikasına uyulmamasından kaynaklanır.

  3. İşlevsel risk: Kötü geçerlilik, zayıf uyum ve sistemin amaçlanan kapsamı, yapısı, bağlamı ve amacı ile uyumsuzluktan kaynaklanır.

Önyargının Sonuçları

Tüm bu sebeplerden doğan ve günlük hayatımızda karşımıza çıkan bazı sorunlar ve tartışmalara örnekler verelim.

Zararlar

  • Hizmet reddi, fırsatlar

  • Daha düşük hizmet veya ürün seviyeleri

  • Sistemin kendiniz için çalışması için emek

  • Cinselleştirme, nesneleştirme, istismar, taciz psikolojik zararlar

  • Mali zararlar

  • Fiziksel zararlar

Öğrenilmiş Temsiller

  • Yanlış beyan: Stereotipler, olumsuz tutumlar ve nesnelleştirme dil modellerinden düşüyor

  • Yetersiz Temsil, Marjinalleştirme, Silme: Orantısız örneklenen kimlik terimleri

  • Aşırı temsil: Anglosentrik bakış açıları, ayrıcalıklı (çoğunluk değil) sesleri yükselten "varsayılan" olarak hizmet eder

  • Kişisel Tanımlama Temsilleri: PII, eğitilmiş modellerden çıkarılabilir

Zararları Yaymak: Kötü Amaçlı Kullanım

  • Zararlı eylemlere karşı ikna

  • Polarizasyon

  • Radikalleşme

  • Yanlış, zarar verici bilgi

Kaynak: Developing and understanding responsible foundation models.

Etik İlkeler ve İnsan Hakları

YZ alanında yayınlanan ve benimsenin ilkelerin çoğalması bu ilkeler havuzunda bağlamsallaştırılmış olarak anlamaya dayalı çalışma çok azdır. Bu yüzden, teknik inceleme ve ilişkili veri görselleştirmesi, otuz altı önde gelen YZ ilkesi belgesinin içeriğini yan yana karşılaştırılmaktadır. Bu çaba, sekiz temel tematik eğilim etrafında büyüyen bir fikir birliğini ortaya çıkardı: mahremiyet, hesap verebilirlik, emniyet ve güvenlik, şeffaflık ve açıklanabilirlik, adalet ve ayrımcılık yapmama, teknolojinin insan tarafından kontrolü, mesleki sorumluluk ve insani değerlerin teşviki

İş Perspektifinden Risk Analizi İhtiyacı

İş ve şirketler açısından risk yönetiminden bahsetmek gerek ve bunun ne anlama geldiğini iyi anlamak gerekiyor. İş odaklı olabilir ve pek çok kişi bu umurumda değil diyebilir. İşlmiz YZ ile ilgiliyse; YZ sistemlerinin iyi olduğundan emin olmak için sistemlerin ayrımcılık yapmamasını, baskı yapmamasını vb. isteriz. Çünkü itibarımız, markamız, gelirimiz, tüketicilere olan güvenimiz üzerinde etkisi vardır. Tüketicilerin bizim değerimizi nasıl gördüğü, ürünlerimizle ve arkadaşlarımızla aynı hizadadır.

Yönetişim hakkında ele aldığımız her şey ve iyi uygulamalar geliştiricilere yardımcı olur. Veri merkezleri, YZ modelleri vb. ürün ve hizmet her neyse, geliştiriciler her ne inşa ediyorlarsa bunu anlamalarına yardımcı olur.

Risklerden bazılarını sürecin başında tanımlamak iyi bir fikirdir. Riskleri azaltmamıza ve riskleri yönetmemize yardımcı olur ve modellerimizi ve sonuçlarımızı bilir, güvenceye alır ve geliştiririz. Üstelik bize yeni bilgiler de sağlayabilir.

İşimiz için daha iyi kestirimler yapmamızı, müşterilerimiz hakkında daha iyi tahminler verebilir ve müşterinizi artırabilir.

  • Müşteri deneyimi ve memnuniyetini geliştirmeye yardımcı olacaktır.

  • Hukuki etiği aşıyor, hukuk dışına çıkıyor desek de uyumlanmaya yardımcı olacaktır.

  • Uyum ve yükümlülükleri çok daha kolay yerine getirmeye yardımcı olacaktır.

  • Ürün ve/veya hizmetlerle etkilenen kişileri belirlemeye yardımcı olacaktır.

  • Sistem daha güvenilir olacağı için daha kolay benimsenmesine yardımcı olacaktır.

Riskleri yönetmek konusunda düzenleyici kuruma, tüketiciye, yatırımcılara ve içeride çalışanlara bir işletme olarak sorumlusunuz.

Kaynaklar:

“En geniş anlamıyla, önyargı, verilerin işlenmesiyle ilgili alınan kararların tüm yelpazesinde ortaya çıkabilir ve bulunabilir. Önyargı, verilerde, etiketlerde, yöntemlerde ve eğitilmiş modellerde kodlanmış insan toplumsal kurumsal etkileşimlerden kaynaklanabilir.”

Çalışmada yazarların ve ’nin YZ Sistemlerinin Bağımsız Denetimi üzerine bir yaşam döngüsü süreci ve sağlam bir yönetişim mekanizmasının var olması önerilmektedir.

by Merve Hickok

Brown, S., Carrier, R., Hickok, M., & Smith, A. L. (2021, July 8). Bias Mitigation in Data Sets.

and 2016What is data ethics? Phil. Trans. R. Soc. A.3742016036020160360

🤖
🇹🇷
Merve HICKOK
*
ForHumanity
*
https://doi.org/10.31235/osf.io/z8qrb
Floridi Luciano
Taddeo Mariarosaria
http://doi.org/10.1098/rsta.2016.0360
Bias Mitigation in Data Sets (Shea-Brown, Ryan Carrier, Merve Hickok, Adam Leon Smith), ForHumanity Center
What is data ethics? | Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering SciencesPhilosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences
Logo
Racial bias in a medical algorithm favors white patients over sicker black patientsWashington Post
The Apple Card doesn’t actually discriminate against women, investigators sayThe Verge
The Secret Bias Hidden in Mortgage-Approval Algorithms – The Markupthemarkup
Crime Prediction Software Promised to Be Free of Biases. New Data Shows It Perpetuates Them – The Markupthemarkup
Amazon’s Alexa device tells 10-year-old to touch a penny to a live plug socketthe Guardian
Logo
Students of color are getting flagged to their teachers because testing software can’t see themThe Verge
Was your Uber, Lyft fare high because of algorithm bias?USA TODAY
Logo
How Wrongful Arrests Based on AI Derailed 3 Men's LivesWired
Logo
Stanford CRFM
Logo
Principled Artificial IntelligenceBerkman Klein Center
Logo
Logo
Logo
Logo
Logo
Logo