Yapay zeka teknolojisi gelişmeye devam ettikçe, beraberinde getirdiği sorunlar da giderek daha fazla insanın hayatını etkilenmeye başladı. “Halüsinasyonlar” olarak adlandırılan bu sorunlardan biri, yapay zekanın gerçekte olmayan bilgileri üretmesi ve bu bilgileri gerçekmiş gibi sunması. Bu durum, özellikle masum insanların yapay zeka tarafından suçlu olarak yaftalanmasıyla ciddi sonuçlar doğurabilir.
Alman gazeteci Martin Bernklau, bu yılın başlarında adını Microsoft’un Copilot adlı yapay zeka (YZ) aracına yazdığında hayatını sarsacak bir keşif yaptı. Bernklau, Copilot’un kendisini “54 yaşında bir çocuk istismarcısı” olarak tanımladığını ve suçu kabul edip pişmanlık gösterdiğini iddia ettiğini gördü. Ancak yanılgılar bununla sınırlı değildi.
Copilot, Bernklau’yu ayrıca bir psikiyatri kurumundan kaçan, dul kadınları hedef alan bir dolandırıcı, uyuşturucu satıcısı ve şiddet suçlusu olarak tanımladı. Oysa bu suçlamalar, Bernklau’nun sadece gazeteci olarak takip ettiği ve gazetede yazdığı mahkeme vakalarına dayanıyordu. YZ, Bernklau’nun haberlerini onun kişisel geçmişiyle karıştırarak onu haberini yaptığı suçların faili olarak sunmuştu. Hatta, YZ aracında Bernklau’nun gerçek adresi ve telefon numarası da yer alıyordu ve konumuna ulaşmak için bir rota planlayıcı bile eklenmişti.
YZ araçlarının yanlış bilgi üretmesine “YZ halüsinasyonu” deniliyor. Bernklau’nun yaşadığı bu olay, YZ ile hukukun kesişimindeki sorunlara dikkat çeken önemli bir bir örnek.
Bernklau, bu yanlış bilgileri fark ettiğinde, yaşadığı yer olan Almanya’nı Tübingen şehrindeki savcıya ve bölgesel veri koruma görevlisine başvurdu, ancak haftalarca yanıt alamadı. Ardından, durumu kamuoyuna duyurmaya karar verdi. Yerel televizyon ve gazeteler hikayesini yayımladı ve Bernklau bir avukatla çalışarak Microsoft’a ihtarname gönderdi. Ancak Microsoft’tan herhangi bir yanıt gelmedi.
Avukatı, dava açmanın uzun yıllar alabileceğini ve yüksek maliyetler getireceğini belirtti. Bu nedenle Bernklau, hukuk yoluna gidip gitmeme konusunda kararsız. Şu anda ise ismi Copilot ve ChatGPT gibi diğer YZ araçlarında tamamen engellenmiş durumda. Bernklau, platformların bu önlemi, yanlış bilgiyi YZ modelinden çıkaramadıkları için aldıklarını düşünüyor.
Avustralya’da da benzer bir olay yaşandı. Hepburn Shire Belediye Başkanı Brian Hood, ChatGPT tarafından yanlış bir şekilde rüşvet suçlusu olarak tanımlandı. Hood, 1990’larda bir bankanın yan kuruluşunda çalışırken rüşvet verdiğini itiraf ettiğini iddia eden ChatGPT’ye karşı yasal işlem başlattı. Gerçekte ise Hood, yolsuzluğu ortaya çıkaran ve suçluları ihbar eden kişiydi. Hood, ChatGPT’nin üreticisi OpenAI’ye karşı yasal işlem başlattı, ancak daha sonra yüksek maliyetler nedeniyle davayı düşürdü.
ABD’de ise radyo sunucusu Mark Walters, ChatGPT tarafından zimmete para geçirme ve dolandırıcılıkla suçlandı. Walters, OpenAI’ye karşı dava açtı ve bu dava halen devam ediyor. Walters, ChatGPT’nin kendisini kar amacı gütmeyen bir kuruluştan 3 milyon dolar zimmete geçirmekle suçladığını ve bu suçlamanın tamamen asılsız olduğunu iddia ediyor.
YZ halüsinasyonları, kolayca düzeltilebilecek bir sorun değil. Bu sorun, yapay zeka sistemlerinin çalışma şekline derinlemesine yerleşmiş durumda. YZ modellerinin nasıl sonuçlara ulaştığını tam olarak anlamak mümkün olmadığı için, halüsinasyonların nedenlerini belirlemek ve önlemek de zorlaşıyor.
YZ, hukuk alanında da giderek daha fazla kullanılıyor. Avukatlar, yapay zekayı tanık ifadeleri ve karakter referansları gibi yasal belgeler oluşturmak için kullanıyor. Ancak bu durum, mahkemelerde “kişinin sesi” ilkesini zayıflatma riski taşıyor. YZ tarafından oluşturulan ifadelerin gerçek bir kişi tarafından yazılmadığı açık olmadığı takdirde, mahkemelerin karar verme süreçleri etkilenebilir.
Avusturalya’nın Queensland ve Victoria eyalet mahkemeleri, avukatların bir davada sundukları bilgilerde yapay zekaya güvenmeleri durumunda mahkemeyi bilgilendirmelerini gerektiren yönergeler yayınladı. Gelecekte ise mahkemelerin de yapay zekayı kullanması mümkün olabilir. YZ, dava yönetimi, çeviri ve alternatif uyuşmazlık çözümü gibi alanlarda kullanılabilir.
Yapay zeka teknolojisinin gelişimiyle birlikte, yasal düzenlemelerin de güncellenmesi gerekiyor. YZ hatalarından etkilenenlerin korunması için yasal düzenlemeler büyük önem taşıyor. YZ karmaşık ve çok katmanlı bir teknoloji olduğu için, uzmanlar bile nasıl kullanıldığını anlamakta ve açıklamakta zorlanabiliyor. Bu nedenle, yapay zekanın hukuk sistemindeki kullanımına ilişkin netlik ve güvenliği artırmak için daha fazla araştırma ve tartışmaya ihtiyaç var.