Bugün sokakları izleyen kameralar, sosyal medya gönderilerini tarayan algoritmalar ve konumumuzu takip eden akıllı telefonlarla yaşıyoruz. Yapay zeka (YZ), bu gözetim sistemlerine süper güç kazandırıyor: Artık insanlar hakkında devasa miktarda veriyi analiz etmek daha ucuz, daha hızlı ve daha yaygın. Elbette bu, kayıp bir kişiyi bulmak gibi meşru amaçlar için kullanılabilir; ancak aynı zamanda daha önce görülmemiş ölçekte bir özel hayat ihlali ve kötüye kullanım riski de barındırıyor.
Bu durumun çarpıcı bir örneği Türkiye’de yaşandı. 2023 yılında dönemin İçişleri Bakanı sosyal medyada yayılan bir videoda, vatandaşların yüzlerini birkaç saniyede tanıyabilen yapay zekâ destekli bir mobil uygulama gösterdi. KİM adlı bu sistemin canlı gösteriminde bir gazetecinin fotoğrafı çekildi ve uygulama anında ismini ve kişisel bilgilerini ortaya çıkardı. Kamera görüntüsünü doğrudan devletin nüfus veri tabanına bağlayan bu teknoloji, her ne kadar “verimlilik” ve “güvenlik” amacıyla geliştirilmiş olsa da, ciddi toplumsal endişeleri tetikledi. Bir hukukçular derneği, bu uygulamanın kişisel verilerin korunması yasasını ihlal ettiği gerekçesiyle dava açtı.
Düşünün: Elinde bu uygulama olan herhangi biri, sokaktan geçen birinin fotoğrafını çekip kimliğini öğrenebiliyor. Bu, kamusal alan ile özel alan arasındaki sınırları bulanıklaştırıyor. Artık “her yerde, her zaman tanınabiliriz.” Ancak iş burada bitmiyor.
Yüz tanımanın ötesinde, YZ ile donatılmış gözetim; sosyal medya paylaşımlarını izlemek (istenmeyen görüşleri ya da muhalif söylemleri otomatik olarak işaretlemek), “öngörücü polislik” uygulamaları (suçun nerede işleneceğini veya kimlerin karışabileceğini tahmin etmek – genellikle dezavantajlı grupları hedef alan önyargılarla), ve “akıllı şehir” sistemleri (insan hareketlerini izleyip veriyi farklı amaçlarla yeniden kullanmak) gibi yöntemleri kapsıyor.
Eğer bu teknolojiler şeffaf denetime tabi tutulmazsa, otoriter rejimlerin baskı araçlarına dönüşebilir. Bazı ülkelerde protestocuların yüzlerini videolardan tanımlamak, muhaliflerin telefon ve kamera verilerini birleştirerek izlemek gibi uygulamalar halihazırda kullanılıyor. Şirketler de bu gözetim araçlarını iç denetim için devreye alabiliyor: çalışan performansını izlemek, mağaza içi müşteri hareketlerini takip etmek gibi. Bu tür uygulamalar güvenlik ya da hizmet kalitesi için savunulabilir, ancak temel ilke şu olmalı: Rıza olmadan, gözetim olmaz.
Burada sormamız gereken soru açık: Bir şeyi yapabiliyor olmamız, onu yapmamız gerektiği anlamına gelir mi? Güvenliği artıracağız diye kişisel özgürlüğümüzü ne kadar feda edeceğiz?
Sivil toplum için bu, dijital çağın hak ve özgürlüklerini savunma çağrısıdır. Herkesin kendini sürekli izleniyor hissettiği bir dijital panoptikona uyanmak istemiyorsak, bu sistemlere dur demek zorundayız. Özellikle gazeteciler, aktivistler ve kırılgan gruplar bu gözetimden orantısız biçimde etkileniyor. Eğer insanlar en ufak bir muhalefetin ya da yanlış anlaşılan bir paylaşımın onları “tehlikeli” olarak etiketleyeceği endişesini taşıyorsa, otosansür kaçınılmaz olur. Bu da demokratik katılımın iyiden iyiye zayıflaması demektir.
Kısaca, YZ, gözetimi kolay, verimli ve her yere sirayet edebilir hale getiriyor. Bu sadece özel hayatın ihlali değil, aynı zamanda sivil yaşamın, ifade özgürlüğünün ve kişisel özerkliğin baskı altına alınması riskidir. Bu nedenle, güçlü gizlilik yasaları, devletin kullandığı teknolojilere dair şeffaflık ve kamuya açık bir tartışma hattı inşa etmek önemli bir görev olarak önümüzde duruyor..