10. İnsan Hakları ve Yapay Zekâ

13 Mayıs 2022, Dr. Eren SÖZÜER anlatımı ve Dr. Merve Ayyüce KIZRAK yazımıyla

Dersimizde yapay zekâ alanında insan haklarını tartışırken İstanbul Üniversitesi'nde akademisyen olarak görev yapan hukuk uzmanı Dr. Eren Sözüer'i ağırladık.

“Gecikmiş bir hak, reddedilmiş bir haktır.” — Martin Luther King

Yapay zekânın (YZ) toplumun geleceği için ne anlama geleceğini henüz tam olarak bilmiyoruz, ancak insanları en tehlikeli uygulamalarından korumak ve ihtiyaç duyduğumuz araçları tasarlamak için şimdi harekete geçebiliriz.

İnsan Hakları Nedir?

Genellikle olduğu gibi bu hafta da beyin fırtınası ile derse başladık. İnsan hakları diyince aklınıza neler geliyor diye sorduğumuz öğrencilerden alınan yanıtlar şöyledir:

Yaşam kalitesini yükseltmeye yardımcı olan kurallar ve nitelikler, adaleti ve eşitliği tüm dünyaya yaymaktadır.
İnsanlara adil ve ahlaki bir şekilde muamele edilmesini sağlayan ilke ve standartlardır.
İnsanları korumak için bazı standartları ve düzenlemeleri kapsayan bir şemsiye gibidir.
Ahlaki ilkeler veya normlar genellikle insan davranışları için uluslararası hukukta korunur.
Her insanın doğduğu andan itibaren sahip olduğu bir dizi haktır.
Aynı zamanda insanlara nasıl davranılmak istendiği anlamına da gelebilir.
Birbirine saygılı yaşamanın kurallarıdır.
İnsan hakları, ırk, cinsiyet, milliyet, etnik köken, dil, din veya diğer herhangi bir statüye bakılmaksızın tüm insanlar için zorunlu olan haklardır.
Yasalarca ve etik olarak korunması gereken haklardır.
İnsanlara yaşamlarında ve kararlarında söyledikleri gibi adalet, saygı, eşitlik ve haysiyetle davranılması anlamına gelmektedir.

Yaşam hakkı, işkence yasağı, mahremiyet hakkı, beslenme, eğitim, çalışma hakkı vb. tüm söylemler doğrudur. İnsan hakları daha çok bu alanda olanı değil, olması gerekeni ifade eder.

İnsan hakları;

Evrensel
Devredilemez
Bölünemez ve birbirine bağımlıdır.

YZ İnsan Haklarını Nasıl Etkiler?

Halîhazırda toplumun çoğu için YZ sistemlerinin insanlar üzerindeki etkisi belirsizdir. YZ'nin “küresel iyilik” getirebileceğine dair umutların yanı sıra, bazı YZ sistemlerinin zaten temel hak ve özgürlükleri ihlal ettiğine dair kanıtlar mevcuttur.

Pekala YZ ekosistemindeki paydaşlar, YZ teknolojilerinin gelişim sürecine rehberlik etmesi için bir “Kuzey Yıldızı” olarak uluslararası insan haklarından yararlanılabilir mi?

Önemli risk ve zarar sınıflarının belirlenmesi, önlenmesi ve giderilebilmesi için uluslararası insan haklarından faydalanılması mümkün olabilir.

İnsan hakları temelinde bir çerçeve ile ülkelerin ulusal düzenine bakılmaksızın insan onuru ve değerlerini korumak amaçlı normatif ve yasal rehberlikler sağlanabilir ve basitçe şöyle tanımlanabilir:

“Yapay zekânın ortak faydaları için, en azından tasarımı ve dağıtımı, temel insani değerlere zarar vermemelidir. Uluslararası insan hakları, bu değerlerin sağlam ve küresel bir formülasyonunu sağlamayı hedeflemektedir.”*

Genellikle YZ alanı, insan haklarının beş temeli üzerinden değerlendirilmektedir.

Ayrımcılık yapmama,
Eşitlik,
Katılımcılık,,
Mahremiyet,
İfade özgürlüğüdür.

YZ uygulamalarının son zamanlarda ortaya çıkan bir dizi tartışmaya nasıl dâhil olduğunu değerlendiriyoruz. Haklara zarar veren bazı örneklere rağmen, halihazırda bir miktar pozitif ilerleme de kaydedilmiştir. YZ ve insan haklarını birlikte ele aldığımızda paydaş katılımının önemli olduğunu söylemeye bile gerek yoktur. Yakın geçmişte yaşanan birkaç örnek üzerinden konuyu ele alalım.

Birleşik Krallık'ın Üniversite Yeterlilik Algoritması

İngiltere hükümeti, okulların genellikle kapalı olduğu pandemi döneminde iptal edilen sınavların yerine bilgisayarlar tarafından oluşturulan bir puanlama sistemi kullandı. Çoğunlukla öğrencilerin notlarında düşüş olduğu tespit edildi. Bir çoğunun kolej kabulleri iptal oldu. Bu gibi halkı ve onların geleceğini doğrudan etkileyen kararların alınmasında algoritmalara güvenilmesinin doğru olup olmadığı tartışmalara sebep oldu. Bu süreçte İngiliz gençler protestolarla dikkatleri çektiler.

“Uzmanlar, İngiltere ve diğer ülke devletlerini daha verimli hale getirebileceğini ve insan önyargılarını ortadan kaldırabileceğini savunarak, kamu hizmetlerini otomatikleştirmek için teknolojiyi giderek daha fazla kullandığından, derecelendirme skandalının gelecek tartışmaların bir işareti olduğunu söyledi.” — The New York Times

ARTICLE 19: “Duygu tanıma teknolojilerinin tasarımını, geliştirilmesini, satışını ve kullanımını derhal yasaklayın.”

Hollanda Refah Dolandırıcılık Tespit Sistemi “SyRI”

Dünya genelinde devletler tarafından kullanımı artan YZ teknolojileri bazı tartışmalara da yol açıyor. Refah sahtekarlıklarını tespit eden bir uygulama olan SyRI, Hollanda’da bir mahkeme kararı ile uygulamanın kullanımı derhal durdurulmuştur. Bu durum Hollanda’nın ötesinde bir yankı uyandırmıştır. Maalesef bu tip YZ uygulamaları; tüm paydaşların katılımı olmaksızın geliştirilen, yoksulları hedef alan, mahremiyet ve insan hakları normlarını ihlal eden ve en savunmasız olanları haksız yere cezalandırabilen uygulamalar haline gelebilirler.

“Sistem, ekonomik refah adına sahtekarlığı önlemek ve bunlarla mücadele etmek ve kullanımının gerektirdiği mahremiyet ihlalini önlemek ve bunlarla mücadele etmek gibi amaçları arasında “adil bir denge” konusunda Avrupa insan hakları sözleşmesinin gerektirdiği testi geçemedi, mahkeme Ek olarak, mevzuatın bu nedenle yasadışı olduğunu ilan etti. Hollanda hükümeti karara itiraz edebilir.” — The Guardian

Tabi şunun da farkında olmak gerek; insan hakları YZ ile ilgili mevcut ve öngörülemeyen tüm endişeleri ele alamaz. Bu alandaki yakın dönemli çalışma, politika, uygulama ve örgütsel değişim yoluyla bir insan hakları yaklaşımının pratikte nasıl uygulanabileceğine odaklanmalıdır.

Data & Society’nin yayımladığı Governing AI raporunda insan haklarıyla ilgili bazı başlangıç önerileri sunmaktadır:

Teknoloji şirketleri, YZ dağıtımlarıyla ilgili riskleri belirlemek ve bunlara yanıt vermek için özellikle insan haklarıyla ilgili endişelerin yüksek olduğu coğrafi bölgelerde yerel sivil toplum grupları ve araştırmacılarla etkili iletişim kanalları aramalıdır.
Teknoloji şirketleri ve araştırmacılar, YZ sistemlerinin yaşam döngüsü boyunca insan haklarına yönelik etki değerlendirmeleri yapmalıdır. Bu etki değerlendirmeleri yaklaşımı, YZ teknolojisinde yaşanan gelişmeler doğrultusunda, araştırmacılar tarafından güncellenmelidir. Değerlendirmelerin kolaylıkla yapılabilmesi için araçlar geliştirilmelidir.
Devletler kendi ulusal YZ politikalarında küresel insan hakları yükümlerini benimsemelidir. Uluslararası çalışmalarda yer almalılardır.
İnsan hakları ilkeleri teknik şartnameler olarak yazılmadığından, insan hakları avukatları, politika yapıcılar, sosyal bilimciler, bilgisayar bilimcileri ve mühendisler, insan haklarını iş modellerinde, iş akışlarında ve ürün tasarımında işlevsel hale getirmek için birlikte çalışmalıdır.
Akademisyenlerin konuya ilişkin daha fazla araştırma yapmaları ve yayınlamaları teşvik edilmelidir. İnsan hakları ve hukuk bilimcileri, belirli YZ riskleri ve zararlarıyla karşı karşıya kaldıklarında haklar arasındaki dengeler konusunda diğer paydaşlarla birlikte çalışmalıdır.
Birleşmiş Milletler insan hakları araştırmacıları ve özel raportörleri, YZ sistemlerinden kaynaklanan insan hakları etkilerini araştırmaya ve duyurmaya devam etmelidir.

YZ uygulamaları diğer çoğu teknolojiden farklı olarak günlük hayatımızın bir parçası haline geldikçe insan haklarına etkisi artıyor. Bu genellikle müdahale şekilde oluyor. Bu yüzden teknolojiyi henüz geliştirme aşamasındayken potansiyel riskler tartışılmaya ve çözümler geliştirilmeye odaklanılmaktadır. Bunu yapan kurum ve organizasyonlardan biri de Access Now'dur. YZ teknolojisinin insanlara sağlayacağı yararın yanında sorunları ve suistimalleri ele almak için hangi güvencelerin ve yapıların gerekli olduğunu şimdiden incelemeye başlamak gerekmektedir. Marjinalleştirilmiş insanları orantısız bir şekilde etkileyenler de dâhil olmak üzere en kötü zararlar önlenebilir ve hafifletilebilir. Buna ek olarak, insan hakları yasaları, tavsiyeler şeklinde sunulan çözümler bir çerçeve oluşturulmasına katkı sağlayabilir. Öneriler genellikle dört kategoride ele alınmaktadır:

YZ sistemlerini geliştirmek ve beslemek için kullanılan veri kümelerindeki hakları korumaya yönelik veri koruma kuralları geliştirilmesi;
YZ'nin devlet kullanımları için özel güvenceler oluşturması;
YZ sistemlerinin özel sektör kullanımı için güvenlik önlemleri alması;
YZ'nin geleceğini ve insan haklarına olası müdahalelerini incelemeye devam etmek için daha fazla araştırmaya yatırım yapılması.