Uluslararası Af Örgütü’nün 150 ülkeyi değerlendirdiği “2024-2025 Dünya İnsan Haklarının Durumu” raporuna göre, yeni teknolojileri yeterince düzenlemekte başarısız olan, gözetim araçlarını kötüye kullanan ve yapay zekâ aracılığıyla eşitsizlikleri kalıcı hale getiren hükümetler, günümüzdeki ve gelecek nesillere zarar veriyor.
Rapora göre; şeffaflık ve düzenleme eksikliği, casus yazılım gibi gözetim teknolojileriyle ilgili karanlık ticareti gizlemeye devam ederken, Avrupa’da özellikle Filistin ile ilgili barışçıl protestolarda yüz tanıma ve insansız hava araçları hukuka uygun olmayan şekilde kullanıldı.
"Bazı devletler casus yazılım kaynaklı ihlallerden hesap sorulmasını talep etti"
Raporda, insan haklarının küresel krizde olduğu, “Trump etkisi”nin yıkıcı eğilimleri hızlandırdığı vurgulanırken, yeni teknoloji ve yapay zekânın insan haklarını ihlal ettiğine dair şu tespitlere yer verildi:
"İnternet kullanıcılarının reklamlarla nasıl etkileşimde bulunduğuna dair veri toplama süreci olan çevrimiçi reklam takibinin kötüye kullanılması gibi yeni dijital güvenlik tehditleri ortaya çıktı. İlaveten, şeffaflık ve düzenleme eksikliği, casus yazılım gibi gözetim teknolojileriyle ilgili karanlık ticareti gizlemeye devam etti.
Sivil toplum aktivistleri ve bazı devletler casus yazılım kaynaklı ihlallerden hesap sorulmasını talep etti. 2024 yılında, İsrail’in baltalama çabalarına rağmen, Tayland ve ABD gibi ülkelerde casus yazılım firması NSO Group’a karşı açılan davalar devam etti. Fransa ve Birleşik Krallık, ticari siber izinsiz girişlerle ilgili sorunları ele almak üzere devletleri, özel sektörü ve sivil toplumu bir araya getirmek için Pall Mall Süreci’ni başlattı.
Teknoloji şirketleri, yıllardır ayrımcı ve otoriter uygulamaları kolaylaştırıyor ancak Başkan Trump, sosyal medya şirketlerini koruyucu önlemleri geri almaya -Meta’nın bağımsız doğrulama servisini kaldırması dahil- ve nefret, şiddet dolu içeriklerin yayılmasına izin veren bir iş modelini geliştirmeye teşvik ederek, bu eğilimi güçlendirdi. Trump yönetimi ile teknoloji milyarderleri arasındaki uyum; sınır tanımayan bir yolsuzluk, dezenformasyon, cezasızlık ve devlet gücünün şirketlerce ele geçirilmesi dönemine de kapı aralama riski taşıyor.
Yapay zekâya ilişkin düzenlemeler, ABD ve Çin’i silahlanma yarışındaki rakipler olarak konumlandıran ve böylece hem ulusal güvenlik gerekçeleriyle hem de düzenleme ve yenilik arasındaki yanlış bir ikilem uyarınca hızlı ve kontrolsüz yapay zekâ gelişimini teşvik eden söylemlerle küresel olarak engellendi.
Kontrolsüz bir güçle faaliyet gösteren sosyal medya şirketleri, en fazla ötekileştirilen ve risk altındaki gruplara yönelik zararları önlemeyi amaçlayan korumaları geri aldı. Ayrıca sistematik olarak etkileşimi her şeyin üzerinde tutmaya devam ederek nefret ve şiddet içeren içeriklerin yayılmasına olanak sağladılar.
AB, teknoloji alanındaki düzenlemeler konusunda karma bir emsal oluşturdu. Dönüm noktası niteliğindeki Dijital Hizmetler Yasası, çevrimiçi platformlara ve arama motorlarına insan haklarına saygı gösterilmesini sağlama yükümlülüğü getirdi. Avrupa Komisyonu, TikTok hakkında, genç kullanıcıları koruyamadığı için yönetmeliği ihlal etmiş olma ihtimali üzerine bir soruşturma başlatılmasına karar verdi. AB’nin Ağustos 2024’te yürürlüğe giren Yapay Zekâ Yasası, insanları ve haklarını merkeze koymakta başarısız olmasına rağmen, yapay zekânın en çok hak ihlaline yol açan bazı kullanımlarına çeşitli sınırlamalar getirdi.
Yüz tanıma teknolojileri pek çok ülkede protesto hakkı üzerinde caydırıcı bir etki yarattı. Bazı ülkelerde polis, barışçıl protestocuları insansız hava araçları ve görüntülü takip araçlarındaki son derece gelişmiş kameralarla izledi. Bu uygulama özel hayatın gizliliğini ihlal ediyor, barışçıl toplanma hakkı üzerinde caydırıcı bir etki yaratıyor ve ayrımcı etkilere yol açabiliyor.