Yapay zekâ destekli sosyal puanlama sistemleri vatandaşları davranışlarına göre sınıflandıran ve temel haklarını sınırlandıran bir düzene dönüşebilir mi?

Evet, gerekli hukuki ve demokratik güvenceler kurulmazsa yapay zekâ destekli sosyal puanlama sistemleri ciddi bir gözetim ve kontrol aracına dönüşebilir.

Gelecekte devletler ve şirketler; vatandaşların ödeme alışkanlıklarını, internetteki faaliyetlerini, seyahatlerini, alışverişlerini, sağlık bilgilerini, sosyal medya paylaşımlarını ve kamusal davranışlarını yapay zekâ yardımıyla değerlendirebilir. Bu bilgiler birleştirilerek her insan hakkında görünmeyen bir güvenilirlik puanı oluşturulabilir.

Başlangıçta dolandırıcılığı önlemek, kredi riskini hesaplamak veya kamu hizmetlerini daha verimli sunmak amacıyla kurulan bir sistem, zamanla vatandaşları davranışlarına ve düşüncelerine göre sınıflandırmaya başlayabilir.

Yapay zekâ insanların hayatını kolaylaştırmalı; insanları sürekli puanlayan görünmez bir hâkime dönüşmemelidir.

Sosyal puanlama nasıl çalışabilir

Bir sosyal puanlama sistemi şu bilgileri birlikte değerlendirebilir:

· Borçların zamanında ödenip ödenmediği

· Trafik cezaları ve adli kayıtlar

· Sosyal medya paylaşımları ve internette yapılan aramalar

· Gidilen yerler, görüşülen kişiler ve yapılan alışverişler

· Sağlık, eğitim ve çalışma bilgileri

· Aile bireylerinin veya arkadaşların davranışları

Yapay zekâ bu verileri analiz ederek kişi hakkında bir puan oluşturabilir. Yüksek puanlı vatandaşlara kredi, iş, eğitim, seyahat ve kamu hizmetlerinde kolaylık sağlanırken düşük puanlı kişiler bazı imkânlardan mahrum bırakılabilir.

Böyle bir sistemde insan, işlediği açık ve kanıtlanmış bir suç nedeniyle değil; yapay zekânın gelecekte risk oluşturabileceği yönündeki tahmini nedeniyle cezalandırılabilir.

En büyük tehlike görünmeyen cezalandırmadır

Hukuk devletinde bir kişinin cezalandırılabilmesi için kanunda tanımlanan bir fiil işlemesi, delillerin ortaya konulması ve kişinin kendisini savunabilmesi gerekir.

Sosyal puanlama sisteminde ise vatandaş neden cezalandırıldığını bilmeyebilir. Kredi başvurusu reddedilebilir, işe alınması engellenebilir veya seyahat hakkı sınırlandırılabilir; fakat kararın hangi veriye dayandığı açıklanmayabilir.

Algoritmanın kullandığı bilgi yanlış, eksik veya eski olabilir. Aynı isimdeki başka bir kişinin kaydı sisteme karışabilir. Yapay zekâ kişinin yaşadığı bölgeyi veya sosyal çevresini riskli kabul edebilir. Böylece vatandaş, işlemediği bir davranışın veya değiştiremeyeceği hayat şartlarının cezasını çekebilir.

Aile ve arkadaşlar da puanı etkiler mi

Bir kişinin ailesinden veya arkadaşlarından birinin düşük puanlı olması diğer aile bireylerini de etkilerse insanlar birbirlerinden uzaklaşmaya başlayabilir. Vatandaşlar, puanlarının düşmemesi için eleştirel düşünen kişilerle görüşmekten çekinebilir.

Bu durum aile dayanışmasını, arkadaşlığı ve toplumsal güveni zedeler. Hiç kimse ailesinin, komşusunun veya arkadaşının davranışından dolayı cezalandırılmamalıdır. Ceza sorumluluğu şahsidir.

Sosyal puanlama düşünce özgürlüğünü sınırlar mı

Vatandaşlar yaptıkları her paylaşımın, söyledikleri her sözün ve görüştükleri her kişinin puanlarını etkilediğini düşünürse zamanla kendi kendilerine sansür uygulamaya başlayabilir.

Devleti, şirketleri veya kamu politikalarını barışçıl biçimde eleştirmek sosyal puanı düşüren bir davranış sayılamaz. Bir toplumun gelişebilmesi için insanlar korkmadan soru sorabilmeli ve yanlış gördükleri uygulamaları eleştirebilmelidir.

Her puanlama sistemi yanlış mıdır

Her puanlama uygulamasını sosyal kontrol sistemi olarak değerlendirmek doğru değildir. Bankaların kredi riskini ölçmesi, sigorta şirketlerinin belirli riskleri hesaplaması veya kamu kurumlarının hizmet önceliklerini belirlemesi bazı durumlarda gerekli olabilir.

Ancak bu değerlendirmeler:

· Yalnızca belirli ve meşru bir amaç için yapılmalı

· İhtiyaç duyulan verilerle sınırlı kalmalı

· Kişinin bütün hayatını kapsayan tek bir puana dönüştürülmemeli

· Düşünce, inanç ve siyasi görüşleri değerlendirmemeli

· Temel hakların otomatik sınırlandırılmasına yol açmamalı

· İnsan denetimine ve yargı denetimine açık olmalıdır

Bir insanın kredi ödeme gücünü değerlendirmek başka, onun bütün vatandaşlık haklarını tek bir puana bağlamak başka bir şeydir.

İnsan merkezli sistem için güvenceler

1. Vatandaşlara genel bir sosyal puan verilmemelidir.

2. Düşünce, inanç, siyasi görüş ve barışçıl eleştiriler puanlama konusu yapılamamalıdır.

3. İnsanlar ailelerinin veya arkadaşlarının davranışlarından sorumlu tutulmamalıdır.

4. Temel haklar yalnızca bir algoritmanın kararına dayanarak sınırlandırılmamalıdır.

5. Her vatandaş hakkında hangi verilerin kullanıldığını öğrenebilmelidir.

6. Yapay zekâ kararının gerekçesi açık ve anlaşılır biçimde bildirilmelidir.

7. Yanlış verilerin düzeltilmesi ve silinmesi hakkı bulunmalıdır.

8. Vatandaşın karara itiraz edebileceği gerçek bir insan yetkili bulunmalıdır.

9. Sistemler bağımsız kurumlar ve yargı tarafından denetlenmelidir.

10. Sağlık, eğitim, gıda, barınma ve ulaşım gibi temel hizmetler sosyal puana bağlanmamalıdır.

11. Şirketler vatandaşların davranış verilerini izinsiz biçimde alıp satamamalıdır.

12. Sosyal puanlama yoluyla ayrımcılık yapan kurumlara ağır yaptırımlar uygulanmalıdır.

İnsan merkezli yeni dünya düzeni önerimiz

Devletin görevi vatandaşları sürekli izleyerek makbul ve sakıncalı insanlar şeklinde ayırmak değildir. Devlet; hukuku, güvenliği, özgürlüğü ve fırsat eşitliğini korumalıdır.

Yapay zekâ, suç işlememiş insanları tahminlere dayanarak cezalandırmak için değil; kamu hizmetlerini hızlandırmak, israfı azaltmak, engellilerin hayatını kolaylaştırmak ve vatandaşların haklarına daha kolay ulaşmasını sağlamak için kullanılmalıdır.

Teknoloji geliştikçe devletin ve şirketlerin vatandaş hakkında elde edebileceği bilgi miktarı artacaktır. Bu nedenle geleceğin en önemli haklarından biri, insanın dijital hayatı üzerinde söz sahibi olma hakkı olacaktır.

Sonuç

Yapay zekâ destekli sosyal puanlama sistemleri sınırsız biçimde kullanılırsa toplum, insanların her hareketinin izlendiği ve her davranışının puanlandığı bir düzene dönüşebilir.

Böyle bir sistem güvenlik sağladığını iddia ederken özgürlüğü ortadan kaldırabilir. İnsanlar kanunlara uymak için değil, puanlarını kaybetmemek için davranmaya başlayabilir.

Yapay zekâ kamu düzenine yardımcı olabilir; fakat insanların düşüncelerini, ilişkilerini ve hayat tercihlerini yönetmemelidir. Hiçbir vatandaş, açıklanmayan bir algoritmik karar nedeniyle temel haklarından mahrum bırakılamaz.

İnsan, devletin veya şirketlerin verdiği bir puandan ibaret değildir. Teknoloji insanı sınıflandıran bir otorite değil, insan haklarına hizmet eden bir araç olmalıdır.

Bu yazı, Mali Müşavir ve Bağımsız Denetçi İkram İpek tarafından hazırlanan Yapay Zekâ ve Robotik Çağında İnsanların Geleceği başlıklı 100 soruluk yazı dizisinin on dördüncü bölümüdür