Yapay zeka (YZ) kamu güvenliği ve güvenlik gibi çeşitli sektörlerde devrim yaratabilecek güçlü bir araç olarak ortaya çıktı. Çünkü YZ destekli gözetim ve izleme sistemleri, etkili, doğru ve gerçek zamanlı veri analizi sağlayarak kamu güvenliğini artırma potansiyeline sahip. Ancak bu sistemlerin kullanımı, kamu güvenliği ile medeni haklar arasındaki denge konusunda yoğun bir tartışmayı da beraberinde getirdi. Bu yazıda, YZ’nin gözetim ve izleme için kullanımının potansiyel risklerini ve faydalarını ele alarak, dünyadan örneklere göz atacağız ve potansiyel olumsuz sonuçları azaltma yollarını anlamaya çalışacağız.

YZ Destekli Gözetim ve İzlemenin Faydaları

İyileştirilmiş kamu güvenliği: YZ destekli gözetim sistemleri, geleneksel yöntemlere göre suç faaliyetlerini daha verimli bir şekilde tespit edebilir ve öngörebilir. Örneğin, ABD’de New York ve New Orleans şehirlerindeki güvenlik güçleri, HunchLab adlı bir öngörücü-polislik programı kullandı. Bu program, suç verileri ve hava durumu gibi diğer faktörleri analiz ederek, suç olaylarının gerçekleşme potansiyelinin yüksek olduğu yerler için tahminler yaptı ve kanun uygulayıcıların kaynakları daha etkili bir şekilde tahsis etmelerine yardımcı oldu. Bununla birlikte çoğunlukla Afrika ve Meksika kökenli ABD vatandaşlarının yaşadığı bölgeleri potansiyel suç mahali olarak işaretlediği için büyük eleştiriler aldı. Bir süre sonra uygulamaya son verildi.

Çin’de bir öngörücü-polislik programı olan Sharp Eyes adlı proje, birçok şehirde kurulan güvenlik kameraları ağı sayesinde toplanan verileri analiz ederek suçların önceden tahmin edilmesini hedefliyor. Bu proje, davranış analizi, yüz tanıma, hareket izleme ve sosyal medya izleme gibi yapay zeka tarafından desteklenen teknolojilere dayanmaktadır.

Türkiye’de de Havelsan’ın geliştirdiği Eyeminer adlı YZ destekli aracın, İçişleri Bakanlığı tarafından suçla mücadelede öngörücü-polislik mekanizması olarak kullanılması planlanmaktadır.  

Gelişmiş acil durum çağrısı: YZ, sosyal medya, trafik kameraları ve acil çağrılar gibi birden çok kaynaktan veri analiz edebilir ve acil durumlarda ilk müdahale ekiplerine yardımcı olabilir. 2019 California orman yangınları sırasında, YZ sistemleri uydu görüntülerini ve gerçek zamanlı verileri analiz etmek için kullanılmıştı. Bu, daha etkili tahliyeler ve kaynak dağılımı için yangının yolunun önceden tahmin edilebilmesine olanak sağladı. ABD’de, Federal İletişim Komisyonu (FCC) tarafından Next Generation 911 adlı bir program yürütülmektedir. Bu program, YZ teknolojilerini kullanarak, acil durum çağrılarının daha hızlı ve doğru bir şekilde işlenmesini ve yönlendirilmesini hedefler.

Avustralya’da, Victoria Eyaleti Hükümeti tarafından geliştirilen Emergency Alert adlı sistem, doğal afetler veya diğer acil durumlarda vatandaşları otomatik olarak uyarır. Bu sistem, YZ tabanlı bir önceliklendirme sistemi kullanarak, acil durum çağrılarını türüne göre sınıflandırır ve önemine göre önceliklendirir.

Singapur’da, SGSecure adlı program, yapay zeka teknolojilerini kullanarak, halkı terörist saldırılara karşı uyarır. Bu program, sosyal medya ve diğer çevrimiçi kaynaklardan veri toplar ve YZ algoritmaları kullanarak, terörist saldırıların olası yerlerini belirler.

Trafik yönetimi ve altyapı bakımı: YZ, trafik akışını optimize edebilir, tıkanıklığı azaltabilir ve yol güvenliğini artırabilir. Singapur, trafik yönetimi için yapay zeka sistemlerini aktif olarak kullanmaktadır. Şehirde bulunan 550 kavşakta bulunan kameralar sayesinde, trafik akışı izlenmekte ve bu veriler yapay zeka algoritmaları tarafından analiz edilmektedir. Bu sayede trafik sıkışıklığı önlenmekte ve trafiğin akışı optimize edilmektedir.

2018’de Çin’in Hangzhou şehri, City Brain adlı bir YZ temelli trafik yönetim sistemini uygulamaya soktu. City Brain trafik tıkanıklığını %15, acil durum yanıt sürelerini %50 azalttı. Çin’de ayrıca şehirlerdeki yol ve köprü, su boruları ve kanalizasyon sistemlerinin durumunu izleyerek, arızaların tespit edilmesine yardımcı olan YZ destekli sistemler kullanılmaktadır. Şehir altyapısının bakımı ve yenilenmesi için gerekli çalışmalar yapılırken, YZ algoritmaları kullanılarak en uygun zamanlama ve yöntemler belirlenmektedir.

Yapay Zeka Destekli Gözetim ve İzlemenin Riskleri

Gizlilik endişeleri: YZ gözetim sistemlerinin yaygın kullanımı, vatandaşların kişisel gizliliğini ihlal edebilir. Clearview YZ şirketinin, yasa uygulama kurumları tarafından kullanılan bir yüz tanıma veritabanı oluşturmak için sosyal medya platformlarından 20 milyar görüntüyü kazıdığı ortaya çıktı ve bu durum ciddi gizlilik endişeleri yarattı. Şirket bu faaliyetinden dolayı İngiltere’de 10 milyon dolar para cezasına çarptırıldı. Uygulamanın kullanılması birçok ülkede yasaklandı. Bununla birlikte bu Clearview aracının ABD kolluk güçleri ile yakın ilişkiler kurduğu, şüphelilerin tespiti için yaklaşık 1 milyon tarama yaptığı şirketin CEO’su tarafından açıklandı.

Önyargılı algoritmalar: YZ sistemleri, önyargılı verilerle eğitilirlerse mevcut önyargıları pekiştirebilir veya kötüleştirebilirler. 2016’da ProPublica tarafından yapılan bir araştırmada, ABD mahkemelerinde risk değerlendirmesi için kullanılan COMPAS sisteminin, suç kayıtları benzer olan beyazlara göre Afrika kökenli Amerikalıları daha yüksek riskli olarak etiketleme olasılığının daha yüksek olduğu ortaya çıktı. 

Tarihsel eşitsizlik ve ayrımcılık yapıları, YZ sistemlerini eğitmek için kullanılan veri kümelerine gömülebilir. YZ bu tarz önyargılı bilgilerle eğitildiyse, veri kümesini oluşturan ayrımcı insan kararları, ayrımcı algoritmik kararlar ve davranışlara yol açabilir. Örneğin, kredi tahsisine karar veren AI sistemler, eğitim düzeyi ve gelir seviyesi gibi faktörlere dayalı olarak önyargılı kararlar verebilir ve düşük gelirli veya eğitim düzeyi düşük bireylerin krediye erişimini tamamen kısıtlayabilir.

Medeni hak ve özgürlükler üzerinde baskı: YZ gözetim sisteminin yaygın kullanımı, ifade ve toplantı özgürlüğü üzerinde baskı oluşturabilir. YZ, biyometrik gözetim yoluyla bilgi toplamayı ve işlemeyi içeren çevrimiçi ve çevrimdışı etkinlikler hakkında bilgi toplama ve işlemede kullanıyorsa, ifade ve toplanma özgürlüğü gbi hakları tehlikeye atabilir. Bu şekilde kullanılan YZ, birinin izlenip dinlendiği duygusunu oluşturarak konuşma ve siyasi eylemleri soğutmayı potansiyel olarak teşvik edebilir. 

Örneğin 2019’da Hong Kong’un Çin’e bağlanma sürecindeki yoğun protesto gösterileri, Çin’in YZ destekli yüz tanıma sistemleri ile protestocuları tespit ve takip etmeye başlaması üzerine büyük oranda güç kaybetmiştir. Bu gelişme üzerine insanların büyük bölümü protesto için sokağa çıkmaktan vazgeçmiştir.  

Kamu Güvenliği ve Medeni Hakların Dengelenmesi

YZ Destekli Gözetim ve İzleme sistemlerinin sorumlu bir şekilde kullanıldığından ve medeni hakları ihlal etmediğinden emin olmak için şu önlemler alınabilir:

Net yasal çerçeveler oluşturma: Hükümetler, YZ gözetim kullanımını düzenleyen net yasal çerçeveler oluşturmalıdır. Ne tür verilerin toplanabileceği, nasıl saklanabileceği ve nasıl kullanılabileceği gibi ayrıntıları içeren bu çerçeve, aynı zamanda bu sistemlerin yanlış kullanımı için caydırıcı cezalar da belirlemelidir.

Şeffaflık ve hesap verebilirlik yaratmak: YZ gözetim sistemlerini kullanacak olan şirketler ve hükümetler, kullanımları hakkında şeffaf olmalıdır. Kullanılan algoritmaları ve potansiyel önyargıları dahil olmak üzere, bağımsız denetimler bu sistemlerin etik standartlara uygunluğunu ve kamunun güvenini korumak için yardımcı olabilir.

Gizliliği koruyan teknolojileri uygulama: YZ geliştiricileri, bireysel gizliliği riske atmamak için anonimleştirme ve merkeziyetsizleştirme gibi gizliliği koruyan teknolojiler kullanabilirler.

Kamu diyalogu ve işbirliğini teşvik etmek: Hükümetler, özel sektör, sivil toplum kuruluşları ve genel kamuoyunun yer alacağı çok paydaşlı bir yaklaşım, YZ gözetimi ve bunun etkileri hakkında daha kapsayıcı ve kapsamlı bir anlayış geliştirmeye yardımcı olabilir. Bu işbirliği, kamu güvenliği ve medeni haklar arasındaki dengeyi sağlamak için rehber ilkeler ve iyi uygulamalar geliştirmeyi sağlar.

Önyargılı verileri ve algoritmik adaleti merkeze alan yaklaşım: YZ geliştiricileri, önyargılı verileri kullanmaktan kaçınarak ve algoritmik adalet tekniklerini dahil ederek sosyal önyargıları derinleştirme riskini en aza indirmelidir. Bu sistemlerin sürekli olarak adil ve doğru kalması için periyodik değerlendirmeler ve güncellemeler yapılmalıdır.

Etik ilkeler belirleme: Hükümetler, sektör paydaşları ve sivil toplum kuruluşları etik ilkeleri sunarak, sorumlu YZ geliştirme ve dağıtım uygulamalarını ortaya koyabilirler. Bu ilkeler, gizlilik, şeffaflık, adil davranış ve hesap verebilirlik gibi konuları ele almalıdır.

Sonuç

• Yapay zeka (YZ) destekli gözetim ve izleme sistemleri, kamu güvenliği için faydalıdır. Bu sistemler, suç faaliyetlerini tespit ederek, acil durumlarda ilk müdahale ekiplerine yardımcı olabilir ve trafik akışını optimize edebilir.
• YZ destekli gözetim sistemleri, kişisel gizlilik ihlallerine neden olabilir ve önyargılı algoritmalar kullanıldığında ayrımcılığa neden olabilir.
• YZ destekli gözetim ve izleme sistemleri etik ilkeler ve yasal çerçevelerle düzenlenmelidir. Gizlilik koruyan teknolojiler kullanılabilir ve şeffaflık ve hesap verebilirlik teşvik edilmelidir.
• Kamu diyalogu ve işbirliği, rehber ilkeler ve iyi uygulamalar geliştirmek için yardımcı olabilir.
• YZ geliştiricileri, önyargılı verileri kullanmaktan kaçınarak, algoritmik adalet tekniklerini dahil ederek ve etik ilkeleri belirleyerek, sorumlu YZ geliştirme ve dağıtım uygulamaları ortaya koyabilirler.

Bu yazı Yapay Zeka ve Sivil Toplum kitabından alınmıştır. Kitabı ücretsiz indirmek için tıklayın.