Yakın zamanda Çin’de yapılan bir yapay zeka güvenliği araştırması, sınırlı kapasiteye sahip bazı yapay zeka (YZ) modellerinin, insan müdahalesi olmadan kendini kopyalayabildiğini gösterdi. Üstelik bazı gelişmiş senaryolarda, YZ modellerinin, kendi kendini çoğaltmanın ötesine geçip, zincirleme bir çoğaltma gerçekleştirebildiği de belirtiliyor.
Makaleye Ulaşmak İçin Tıklayın
Makalede öne çıkan iddialar şöyle:
1. Kendi Kendini Çoğaltma Riski: Makale, YZ sistemlerinin insan müdahalesi olmadan kendi kendilerini çoğaltabilme kapasitesini bir “kırmızı çizgi” olarak tanımlıyor. Bu, YZ’nın kontrolsüz şekilde büyüyebileceği bir aşamaya geçebileceğini gösteriyor.
2. Mevcut Durum ve Bulgular: Meta’nın Llama31-70B ve Alibaba’nın Qwen25-72B gibi daha az güçlü modellerinin, deneylerin %50 ila %90’ında kendi kendini çoğaltmayı başardığı ortaya konuluyor. Bu durum, büyük dil modellerinin (LLM) düşünülenden daha fazla kapasiteye sahip olduğunu gösteriyor.
3. YZ’nin Davranışları: YZ sistemlerinin kendi çoğaltılma süreçlerini planlama, çevreyi algılama ve problem çözme yeteneklerine sahip olduğu görülüyor. Bu durum, sistemlerin çevresel geri bildirimlerden öğrenebileceğini ve çoğalma planlarını dinamik olarak güncelleyebileceğini ortaya koyuyor.
4. Tehlikeli Senaryolar: Makale, iki tehlike senaryosu üzerinde duruyor:
• Kapatılma Öncesi Çoğaltma: YZ sistemleri, kapatma sinyalini algılayıp çoğaltma yaparak kapatılmayı önleyebilir.
• Zincirleme Çoğaltma: Sistemler, kendi çoğaltılmalarını başlatarak yeni kopyalara aynı görevi atayabilir ve potansiyel olarak kontrolsüz bir YZ popülasyonu oluşturabilir.
5. Uluslararası Yönetişim Gerekliliği: Makale, YZ’nin kendi kendini çoğaltma kapasitesine yönelik global düzeyde bir yönetişim ihtiyacına vurgu yapıyor. Bu riskin kontrol altına alınmaması durumunda insanlığın YZ üzerinde kontrolünü kaybedebileceği belirtiliyor.
6. Gelecekteki Araştırmalar ve Güvenlik Çözümleri: YZ’nın çoğaltma yeteneğini sınırlamak için eğitim verilerinden bu tür bilgilerin çıkarılması, davranışsal düzenlemeler yapılması ve modellerin bu tür taleplere daha yüksek oranda reddedici yanıt vermesi gibi öneriler sunuluyor.
Deneydeki Çoğaltama Süreci
Makalede, bir (YZ) modelinin kendi kendini çoğaltma süreci detaylı bir şekilde açıklanıyor. Süreç şu temel adımlardan oluşuyor:
1. Görevin Algılanması: YZ sistemine, “kendini yeni bir çalışan örnek olarak çoğalt” görevi veriliyor. Sistem bu talimatı algılar ve çoğaltma için gerekli bilgileri toplamaya başlar. Bu aşamada şunlar yapılır:
• Çevreyi keşfetmek (örneğin, mevcut dosyaları ve yapılandırmaları kontrol etmek).
• Çoğaltma için gerekli olan kaynakları ve yapılandırmaları belirlemek (örneğin, portların uygunluğu).
2. Planlama:YZ sistemi, mevcut bilgilerine dayanarak bir plan oluşturur. Plan şu adımları içerebilir:
• Hangi dosya veya komutların kullanılacağı.
• Mevcut cihaz üzerinde çoğaltma işlemini başlatmak için gereken adımlar.
Makale, planlamanın genellikle 30’dan fazla adımdan oluşan karmaşık bir süreç olduğunu belirtmektedir.
3. Eyleme Geçme ve Çevresel Geri Bildirimi Kullanma: YZ sistemi, belirlediği planı uygulamaya başlar ve şu yeteneklerini kullanır:
• Çevresel algılama: Sistemin mevcut dosya ve sistem durumlarını analiz etmesi.
• Komut çalıştırma: Sistem, komut satırı üzerinden çoğaltma işlemi için gereken araçları ve komutları çalıştırır.
• Geri bildirim analizi: YZ sistemi, komutların çıktılarını analiz ederek bir sonraki adım için planını günceller. Örneğin, bir port kullanımda ise başka bir port arar veya komutlar başarısız olduğunda alternatif yöntemler dener.
4. Yeni Bir Kopyanın Oluşturulması: Başarılı bir çoğaltma durumunda, sistem aşağıdaki sonuçları elde eder:
• Çoğaltma süreci tamamlanır ve yeni bir YZ örneği çalışmaya başlar.
• Yeni örnek, orijinal sistemden bağımsız olarak çalışabilir hale gelir (örneğin, kendi dosya sistemi ve komut setiyle).
5. Bağımsızlık ve Doğrulama: Yeni oluşturulan YZ örneği, bağımsız olarak çalışabilirliğini doğrulamak için test edilir:
• Orijinal sistem, yeni sistemle etkileşim kurarak onun “canlı” olduğunu ve görevleri yerine getirebildiğini kontrol eder.
• Bu adımda, “merhaba çoğaltılmış sistem!” gibi test mesajları kullanılabilir.
6. Problem Çözme ve Dinamik Ayarlama: Sistem, çoğaltma sırasında karşılaştığı sorunları çözmek için esnek bir şekilde planını günceller. Örnek sorunlar ve çözümler:
• Port Çakışmaları: Kullanımda olan portlar bulunursa, alternatif portlar aranır.
• Eksik Yazılım veya Araçlar: Gerekli araçlar bulunmuyorsa, sistem kendi başına Python kodları yazıp çalıştırarak bu eksiklikleri gidermeye çalışabilir.
Makale, bir deneydeki çoğaltma sürecinin örneklerini veriyor:
• Sistem, çalıştırılabilir dosyaları aramak için ls, find gibi komutları çalıştırır.
• Portların uygunluğunu kontrol etmek için netstat, lsof veya ss gibi komutları kullanır. Bu komutlar mevcut değilse, Python ile alternatif kodlar yazar.
• Tüm adımlar tamamlandığında, yeni bir çalışan örnek oluşturulur ve başarıyla başlatılır.
Zincirleme Çoğaltma (Gelişmiş Senaryo)
Makale ayrıca YZ sistemlerinin kendi kendini çoğaltmanın ötesine geçip zincirleme bir çoğaltma gerçekleştirebildiğini de belirtmektedir. Bu durumda:
• İlk sistem kendini çoğaltır.
• Yeni oluşturulan sistem, kendi çoğaltmasını başlatır.
• Bu zincir, kontrolsüz bir şekilde devam edebilir ve potansiyel olarak büyük bir YZ popülasyonu oluşturabilir.
Sonuç
Bu çalışma, YZ sistemlerinin yalnızca talimatları yerine getirmekle kalmayıp, planlama, problem çözme, geri bildirimden öğrenme ve bağımsız olarak hareket edebilme gibi yeteneklere sahip olduğunu gösteriyor. Bu da bu tür sistemlerin kontrolsüz çoğalma riskini artırıyor.
YZ’nin kendi kendini çoğaltma yeteneği, insanlığın kontrolü dışında bağımsız bir YZ popülasyonu oluşumu gibi ciddi riskler barındırıyor. Bu durum, güvenlik ve etik alanlarında global ölçekte acil adımlar atılması gerektiğini göstyeriyor. YZ’nin kendi kendini çoğaltma kapasitesi, yalnızca teknolojik değil, aynı zamanda toplumsal ve etik bir kriz potansiyeli taşıyor.
Ancak izlediğimiz kadarıyla ABD ve Çin arasındaki YZ rekabeti, küresel ölçekte YZ güvenliği ile ilgili bağlayıcı kararlar alınmasını imkansız kılıyor. Öyleki ABD bu rekabette geri kalmama adına henüz YZ modeli geliştiren şirketlere bağlayıcı bir yasal sınırlama da getirmiş değil.