9. Paydaşlar, Etik Dijital Ekosistem ve Standartlar

6 Mayıs 2022, Dr. Merve Ayyüce KIZRAK yazımıyla
“Toplumun yapay zekâ ile nasıl başa çıktığını görmek ilginç olacak, ama kesinlikle harika olacak.” — Colin Angle

Yönlendirme / Rehberlik Mekanizmaları

Yapay zekâ (YZ) dinamik bir ortamdır ve bu ortamda süreçleri etik şekilde yürütmek için bir takım rehberlik mekanizmalarına ihtiyaç duyulmaktadır. Bu şekilde bireyler ve/veya kuruluşların paydaşlığı ile etkin bir ortam oluşturulabilir.
Bu derste mevcut faaliyet ve politikalara bakacağız. Rehberlik mekanizmaları, politika ve organizasyonel seçeneklerden bağımsız değildir. Rehberlik mekanizmalarının bir kısmı YZ etiği tartışmasından önce gelmekte, diğer bir kısmı ise YZ etiğine doğrudan yanıt oluşturmaktadır.
Mekanizmanın ilk grubunu YZ etik ortamının sağlanmasına yardımcı olacak yönergeler oluşturur. Bunlardan bazıları diğerlerinden daha çok ön plana çıkmaktadır. Örneğin, Avrupa Komisyonu 2019 yılında oluşturduğu Yapay Zekâ için Üst Düzey Uzman Grubu (High Level Expert Group on AI) ile YZ etiği konusunda önemli belgeler yayımlamaya başlamıştır. Bazı araçlar da yine bu kapsamda sunulmaktadır. Diğer yandan yayımlanan yönergelerin sayısının artması kafa karışıklığına ve belirsizliklere de yol açabilmektedir. Buna rağmen etik yönergeler ve çerçeveler YZ alanında etik tartışmaların önemli bir yönü olmaya bir süre daha devam edecek gibi görünüyor. Örneğin IEEE ve USACM gibi bazı meslek kuruluşları, YZ ve etiği konusunda mesleklere özgü rehberler yayınlamıştır. Bunun yanında bazı mesleki kuruluşlar da standardizasyona katkıda bulunmaktadır. YZ ve etik konularına atıf yapan ISO/IEC JTC 1/SC 42 standardını örnek gösterebiliriz. YZ'nin etik yönleri açısından en belirgin standardizasyon çabaları, Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) tarafından P7000 standart ailesinde yürütülmektedir. Standardizasyon, IEEE’nin otonom ve akıllı sistemler için etik sertifikasyon programıyla öncülük ettiği sertifika ile ilişkilendirilebilir. Güncel olarak Avrupa Komisyonu (2020a) tarafından yapay zekâ yönergesinde önerilen önemli bir fikir önceden tanımlanmış önemli bir risk düzeyine sahip YZ sistemlerinin, etik sorunların uygun şekilde ele alındığından emin olmak için sertifikasyondan geçmesi gerektiğidir.
Standardizasyon, gereksinimleri ve faaliyetleri tanımlayarak diğer faaliyetleri de etkileyebilir veya yönlendirebilir. Bunun köklü bir örneği, ISO 27000 serisinin en iyi uygulamaları tanımladığı bilgi güvenliğindeki standardizasyondur. Standardizasyon, bir dizi konuda teknik ve organizasyonel rehberlik sağlayabilir. Daha önce bahsettiğimiz IEEE P7000 serisi iyi bir örnektir. Bunun alt kırılımları;
  • Şeffaflık (P7001)
  • Gizlilik (P7002)
  • Algoritmik önyargılar (P2003)
  • Güvenlik (P7009) gibi belirli konular için standardizasyon sağlamayı amaçlamaktadır.
Collingridge İkilemi
Collingridge, müdahale etmenin ve teknolojinin özelliklerini yaşam döngüsünün başlarında değiştirmenin nispeten kolay olduğunu gözlemlemiştir. Ancak bu noktada sonuçlarını tahmin etmek çok zordur. Yeni olan teknoloji kullanılmaya başlandıktan bir süre sonra sonuçları görünür hale gelir. Bu andan sonra ise müdahale etmek daha zordur. Bu, geliştirme süreci etik sorunları ele almak isteyenler için bir ikilemdir. Etik sorun kullanımdan sonra ortaya çıkar, aynı anda etik sorun ortaya çıkmasın istenir. Collingridge ikilemi YZ ile sınırlı değildir.*
Sistemlerin gelecekteki kullanımlarına ilişkin belirsizlik, çözülmesi imkânsız temel bir sorun olmaya devam etse de, en azından bir dereceye kadar bunun nasıl ele alınacağına dair öneriler mevcuttur. Bu önerilerin çoğu geliştirme metodolojilerine atıfta bulunur ve çoğu değere duyarlı tasarımın bir türüne geri döner.* Bu yaklaşımın temelinde yatan fikir, yeni teknolojinin gelişimi ve kullanımı hakkında bilgi vermesi gereken ilgili değerleri belirlemek ve bunların nasıl ayarlanarak başarılı olabileceği konusunda paydaşlarla istişarelerde bulunmaktır. Bu tür bir metodolojinin en belirgin özelliği tasarımdan itibaren değer ve ilkelerin sağlanmasıdır.
YZ etiğinin sağlanabilmesine yardımcı olması için yeni araçlar ortaya çıkmaktadır. Bunlardan bazırları:
  • Wellcome Data Lab gibi araştırma fon sağlayıcılarıyla ilişkili gruplar tarafından yayınlanırken,
  • Doteveryone ve sonuç tarama kiti gibi sivil toplum kuruluşlarından ve sivil toplum kuruluşlarından kaynaklanmaktadır.
  • Algoritmik bir etki değerlendirmesi yayınlayan AI Now Institute gibi üniversitelere dayanmaktadır.
  • Birleşik Krallık Tasarım Konseyi’nin Double Diamond (Tasarım Konseyi n.d.) gibi profesyonel kuruluşlardan gelmektedir.
  • Sorumlu YZ için pratik bir kılavuz yayınlayan PWC gibi şirketlerden kaynaklanmaktadır.
Özellikle YZ'nin etik zorluklarıyla başa çıkmak için destek sağlamayı amaçlayan bu rehberlik mekanizmalarına ek olarak, YZ etiğinin nasıl destekleneceğine dair daha geniş söylemin bir parçasını oluşturabilecek bilim ve teknoloji araştırma ve yansıtma faaliyetlerinden kaynaklanan birçok başka seçenek vardır. Bunlar, bazıları dijital teknolojiyle yakından bağlantılı olan geleceğin teknolojilerinin öngörülmesi ve bunların etik sorunları gibi faaliyetleri içermektedir. Ancak daha geniş bir gelecek ve öngörü alanından da yararlanabilirler. Paydaş diyaloğu ve halkın katılımı, birçok metodoloji sağlamak için büyük miktarda önceki çalışmadan yararlanarak YZ etiğinde merkezi bir rol oynayacak başka bir büyük faaliyet alanını oluşturmaktadır. Söylemeden geçilmemesi gereken bir konu da farkındalık yaratma, eğitim ve öğretim, politika yapıcılar tarafından bir söylem oluşturulmasıdır. Bunlar YZ geliştiricileri ve uygulayıcılarında uyandırılması gereken sorumluluk duygusunu harekete geçirecektir.
Aşağıdaki tablo bahsettiğimiz konuları ve ele alınabilecek konuları özetlemektedir. Tüm alternatifleri kapsamıyor olsa bile genel bir durumu temsil edebilir.
YZ'deki etik sorunları azaltmak için seçeneklere genel bakış: Politika Seviyesi**
YZ'deki etik sorunları azaltmak için seçeneklere genel bakış: Organizasyonel Seviye**
YZ'deki etik sorunları azaltmak için seçeneklere genel bakış: Rehberlik Mekanizması**

Yapay Zekâ Etiği Paydaşları

Bu kavram, organizasyonel literatürde, kuruluşların karar verirken veya hareket ederken kimi dikkate almaları gerektiğini belirlemelerine yardımcı olmak için yaygın olarak kullanılmaktadır. YZ etiği perspektifinden ele alındığında bir eylemden önemli seviyede etkilenen veya potansiyel olarak risk altında olan bireyler veya gruplara paydaş gözüyle bakılabilir.
Paydaş belirleme ve katılımı için sistematik ve kapsamlı analiz yöntemleri vardır. Ancak YZ etiği konusunda paydaşların belirlenmesine ilişkin zorluklar mevcuttur. Kullandığımız “yapay zekâ” kavramının anlamına ve kapsamına, olası sosyal sonuçlarına bağlı olarak bireyler, özel sektör kuruluşları, akademisyenler, STK temsilcileri ve devlet kurumlarının tamamının ya da önemli bir kısmının paydaş olmasıdır.
Paydaşların oluşturduğu döngü için “ekosistem” metaforu yaygın olarak kullanılmaktadır. Çünkü sürdürülebilirliği sağlamak, farklı etkileşim ortamlarının oluşması gibi roller ortaya çıkmaktadır. Paydaşları ekosistem kapsamında üç temel sınıfta gösterebiliriz.
  • Politika odaklı kuruluşlar
  • Diğer kuruluşlar
  • Bireyler
Aşağıdaki şekil bu üç sınıfı oluşturan paydaşların örneklerini ve ilişkiyi ortaya koymaya çalışmaktadır. Örneğin bireysel bir kullanıcı, bir paydaş kuruluşta çalışabilir ve ayrıca standardizasyon ve politika geliştirmenin bir parçası olabilir.
YZ paydaşlarına genel bakış**
Şekildeki ilk paydaş kategorisi politika ile ilgilidir. Araştırma politikası ve teknoloji politikası dâhil olmak üzere YZ ile ilgili politikaları belirleyen, etik ve insan hakları konularının nasıl ele alınabileceğini şekillendirmede önemli bir role politika yapıcıları kapsamaktadır. Buna BM, OECD gibi uluslararası kuruluşlar ve UNESCO ve Uluslararası Telekomünikasyon Birliği (ITU) gibi yan kuruluşları dâhildir.
Önerilen ikinci paydaş kategorisi, kuruluşlardır. Bu grup çok sayıda ve genellikle çok farklı üyeler içerebilir. Yalnızca ticari temelde YZ geliştiren ve dağıtan şirketleri değil, aynı zamanda sorumluluk ilişkilerini kolaylaştıran ve dengeleyen sigorta gibi özel bir rolü olan kullanıcıları ve şirketleri de kapsamaktadır.
YZ alanında ticari kuruluşların yanı sıra YZ değer zincirine dâhil olan çok sayıda kuruluş, meslek örgütleri, standardizasyon kuruluşları ve eğitim kurumları vardır. Bunlar dahil edilmelidir. Çünkü standartların kullanımı, etik hususların standartlara entegrasyonu ve eğitim yoluyla farkındalık ve bilginin artırılması ile açık bir ilişkisi vardır. Benzer şekilde, medya kuruluşları etik konulara ilişkin farkındalığı artırmada ve kamu söylemini yönlendirmede çok önemli bir rol oynarlar. Bu durum politika geliştirmeyi teşvik edebilir.
Bu genel bakışta üçüncü ve son paydaş kategorisi bireylerdir. Politika organları ve organizasyonları bireylerden oluşur ve bireysel üyeler olmadan varlıklarından söz edilemez. Bu bireysel paydaşlardan bazıları, kurumsal paydaş gruplarına karşılık gelir. Bir geliştirici, kâr amaçlı büyük bir şirket olabilir, ancak YZ uygulamaları, yeni fikirler veya uygulamalar oluşturma uzmanlığına sahip bir hobi teknolojisi uzmanı tarafından da geliştirilebilir. Bir diğer örneği ise kullanıcı olmayan ancak etkilenen bireyler olarak gösterebiliriz. Bu gruba örnek olarak, şartlı tahliye kararları YZ kullanılarak verilen mahkumlar veya teşhis ve tedavisi YZ'ye bağlı olan hastalar verilebilir.
Özetle şunu söyleyebiliriz; YZ alanı için paydaş popülasyonu karmaşıktır.

Toplum Gelişimi için Yapay Zekâ Ekosistemi

“İnovasyon ekosistemi” gibi terimlerin kullanımı, inovasyon yönetimi ve ilgili alanlarda nispeten yaygındır. Ekosistem terimi aslında biyolojiden gelmektedir. National Geographic’e göre, “bir ekosistem, bitkilerin, hayvanların ve diğer organizmaların yanı sıra hava ile birlikte bir yaşam döngüsü oluşturmak için birlikte çalıştığı coğrafi bir alandır”. Terimin biyolojideki orijinal kullanımıyla yalnızca belirsiz bir şekilde ilişkilidir.
Biyolojinin dışında ekosistem kavramı; karmaşık, birbirine bağlı bireysel bileşenler ağları olarak kabul edilir. Sistemin bileşenlerinin canlı bir organizma olduğunu öne süren popüler bir kavramdır.
İnovasyon ekosisteminin özellikleri**
Sosyo-teknik aktörler topluluğunu tanımlamak için ilginç bir metafor olarak kullanılan YZ ekosisteminin özelliklerini yukarıdaki şekil ile özetlemeye çalışıyoruz. Aktörlerin birkaçının eksik olması sisteme zarar vermese de dahiliyetin katkısı olan etkileşimli bir mekanizmadır. Birlikte gelişmeye çalışılan bir yapı hakimdir. Bu avantajlara rağmen, ekosistem kavramının sosyo-teknik sistemlere uygulanmasında önemli sakıncalar vardır. Buna literatürde kusurlu bir benzetme denir. Doğal ekosistemlerden farklı olarak, inovasyon ekosistemlerinin kendilerinin evrimsel süreçlerin sonucu olmadığına, kasıtlı olarak tasarlandığına dikkat çekmek gerekir. Sıkı kavramsal ve ampirik analize dayanmayan bir analojinin yenilik etrafında daha detaylı araştırma ve politikayı engelleyebileceğinden endişe duyulmaktadır. Bir sosyal sistemi doğal bir sistem açısından tanımlamak ayrıca potansiyel kavramsal tuzaklara yol açma ihtimalinin farkında olmak önemlidir. Evrimsel seçilim süreçlerine yapılan yoğun vurgu, örtük bir teknolojik determinizme yol açabilir. Bu, söz konusu teknolojinin kaçınılmaz olan ve bireyleri ve kuruluşları uyum sağlamaya zorlayan dışsal ve otonom bir gelişme olarak görüldüğü anlamına gelir. Öte yandan, evrim ile ima edilen hayatta kalma mücadelesinin sadece organizasyonlara değil, aynı zamanda potansiyel olarak sadece teknolojiye adapte olanların hayatta kaldığı kültürlere de uygulanması sorunludur.
Algoritmik bir etki değerlendirmesi uygulamak için paydaşların ve faaliyetlerin sistem görünümü**
Ekosistemlerin etiğine ve bu tür ekosistemlerin nasıl şekillendirilebileceği anlamak için YZ inovasyon ekosisteminin ilgili kısımlarını tanımlamak önemlidir. Yukarıdaki şekilde belirli bir algoritmik etki değerlendirmeleri sağlama gerekliliğine odaklanan ekosistemin bir sistem görünümünü sağlar.
Algoritmik Etki Değerlendirmeleri Algoritmalar, karar veren sistemlerin bir parçası olabilir. Algoritmik karar sistemleri (ADS) “korelasyonları ortaya çıkarmak için büyük miktarda kişisel verinin analizine dayanır ve karar vermek için faydalı olduğu düşünülen bilgileri türetir”. Bir ADS tarafından verilen kararlar yanlış olabilir. Bu riski en aza indirmek için algoritmik etki değerlendirmeleri, önyargı, ayrımcılık ve yanlış karar verme risklerini azaltmak üzere tasarlanmıştır.*
Kamusal bir söylemle yaklaştığımızda genel olarak çevrenin iyiliğini gözetmek yalnızca bir seçenek değil ahlaki bir yükümlülüktür. Bu pek çok normatif öncüller ile temellendirilebilir. Bunun yanında, refah düzeyi yüksek yaşam sorunuyla yakından ilişkili olan eski insan gelişimi geleneğinden yararlanan bir temel ele almış olduk. Toplum, iyi yaşama yeteneğimiz üzerinde güçlü bir etkiye sahip olan doğal, sosyal ve teknik ekosistemlerde gerçekleşir.
Tüm bu ilişkileri baz aldığımızda spesifik olarak dikkat etmemiz gereken bir diğer husus da insan haklarıdır. Bu çerçevede genel tanımlamaları, güncel örnekleri ve tartışmaları gelecek hafta değerlendireceğiz.
** 1. kaynaktan modifieye edilen içeriklerdir.

Kaynaklar:

  1. 1.
    Bernd Carsten Stahl, "Artificial Intelligence for a Better Future: An Ecosystem Perspective on the Ethics of AI and Emerging Digital Technologies”, Springer, ISBN-978-3-030-69978-9, 2020.