Yapay zeka teknolojisinin öncülerinden sayılan, Montreal Üniversitesi Öğrenme Algoritmaları Enstitüsü başkanı Yoshua Bengio, geçtiğimiz hafta CNBC’ye verdiği röportajda, yapay zekanın toplum üzerindeki olası olumsuz etkileri konusunda uyardı ve risklerini azaltmak için daha fazla araştırma ve düzenleme yapılması çağrısında bulundu.
Bengio, gelişmiş yapay zeka sistemlerinin inşasının milyarlarca dolara mal olduğunu, önemli bir uzmanlık birikimi gerektirdiğini dolayısıyla çok az kuruluş ve çok az ülkenin bunu başarabileceğini söylüyor.
Bu sebeple gelişmiş yapay zeka sistemlerinin bir güç yoğunlaşmasına sebep olacağını öngörüyor. Bu yoğunlaşma alanlarını piyasalar için kötü olabilecek ekonomik güç; demokrasi için kötü olabilecek siyasi güç; ve gezegenimizin jeopolitik istikrarı için kötü olabilecek askeri güç olarak tanımlıyor.
Bengio’ya göre, bu teknolojiyi kötüye kullanmak isteyebilecek ve insanlığın makinelerle yer değiştirmesinden mutlu olabilecek çok fazla güce sahip insan var ve şu anda doğru bariyerleri koymadığımız sürece bunu başarabilirler.
Bu sistemlerin insanlara zarar vermeyeceğinden veya insanlara karşı dönmeyeceğinden emin olmak için yöntemlerimiz yok… Bunu nasıl yapacağımızı bilmiyoruz.
Şu anda uzmanlar, yapay genel zekaya veya insan seviyesindeki yapay zekaya ulaşılıp ulaşılamayacağı ve bunun ne zaman gerçekleşebileceği konusunda fikir ayrılığına düşmüş durumda . Bengio, “küresel sınırlayıcı düzenlemeler yapılmadan önce bu gerçekleşirse, başımız dertte demektir” diyor.
Bengio, OpenAI’daki önde gelen yapay zeka araştırmacıları tarafından kaleme alınan ve teknolojinin tehlikeleri konusunda susturulduklarını iddia eden ” Uyarma Hakkı ” başlıklı açık mektubun imzacıları arasındaydı.
Gelişmiş Yapay Zeka Hakkında Uyarı Hakkı adlı açık mektubu, yapay zeka alanında önemli pozisyonlarda çalışan kişilerin çalıştıkları şirket ve projeler hakkında konuşmalarını engelleyen geniş gizlilik anlaşmalarının, yapay zekanın yol açabileceği sorunların tartışılmasını engellediğini öne sürüyor. Bu şirketlern devlet ve sivil toplum tarafından yeterince denetlenmediğini savunan mektup, yapay zeka şirketlerini belirli ilkelere uygun davranmaya çağırıyor. Bu çerçevede yapay zeka şirketlerinden 4 talepte bulunuyorlar:
- “Şirketin, şirketle ilgili risk odaklı endişelere yönelik “itibar zedeleme” ya da eleştiriyi yasaklayan veya bu tür eleştiriler nedeniyle doğan hak edilmiş ekonomik faydaları engelleyerek misilleme yapan hiçbir anlaşmayı yapmayacağını veya uygulamayacağını;
- Şirketin, mevcut ve eski çalışanlarının risk odaklı endişelerini anonim şekilde şirket yönetim kuruluna, düzenleyici kurumlara ve ilgili uzmanlığa sahip bağımsız bir kuruluşa iletebilmelerini sağlayacak doğrulanabilir bir süreç oluşturacağını;
- Şirketin, açık eleştiri kültürünü destekleyeceğini ve mevcut ile eski çalışanlarının, ticari sırlar ve diğer fikri mülkiyet hakları uygun şekilde korunduğu sürece, teknolojileriyle ilgili risk odaklı endişelerini kamuya, şirket yönetim kuruluna, düzenleyici kurumlara veya ilgili uzmanlığa sahip bağımsız bir kuruluşa iletmesine izin vereceğini;
- Şirketin, diğer süreçler başarısız olduktan sonra risk odaklı gizli bilgileri kamuya paylaşan mevcut ve eski çalışanlara karşı misillemede bulunmayacağını kabul ederiz. Risk odaklı endişelerin raporlanmasına yönelik herhangi bir girişimin, gizli bilgilerin gereksiz yere ifşa edilmesini önlemeye çalışması gerektiğini kabul ediyoruz. Bu nedenle, risklerle ilgili endişelerin anonim olarak şirket yönetim kuruluna, düzenleyici kurumlara ve ilgili uzmanlığa sahip bağımsız bir kuruluşa iletilebileceği uygun bir süreç mevcut olduğunda, bu tür endişelerin öncelikle bu süreç üzerinden iletilmesi gerektiğini kabul ediyoruz. Ancak, böyle bir süreç mevcut olmadığı sürece, mevcut ve eski çalışanların endişelerini kamuya bildirme özgürlüklerini korumaları gerektiğine inanıyoruz.”
Yapay zeka teknolojisi ile ilgili çok sayıda belirsizlik var. Bu alanda çalışan şirketler üzerinde yeterince denetim ve kontrol yok. ABD, Çin, Rusya gibi ülkeler arasındaki büyük rekabet bu teknoloji üzerinde küresel sınırlamaların yapılmasını engelliyor. Bu sebeple yapay genel zeka (AGI) gibi ürkütücü bir teknolojik seviyenin yakın olduğu günümüzde küresel, ulusal ve yerel ölçekte ilgili kişilerin hızla harekete geçmesi gerekiyor. Bu teknolojinin hem avantajları hem de risklerini anlayan yeterli sayıda insana ve çözümler üzerinde çalışacak teknolojik, ekonomik, toplumsal ve politik alandan uzmanlara ihtiyacımız var.