Eylül 2026’nın ikinci haftasında bir istifa mektubu 110 milyon kez görüntülendi. Anthropic’ten ayrılan araştırmacı Jacob Coxon, öncü laboratuvarları “hayatlarımızla kumar oynamakla” suçluyordu. Asıl gürültü ertesinde koptu: şirketin güvenlik ve hizalama araştırmalarını yöneten Evan Hubinger mektuba arka çıktı, yapay zekanın bütün insanları öldürebileceğine içtenlikle inandıklarını, önümüzdeki on yıl için yok oluş ihtimalini yüzde 10’un üzerinde gördüğünü ve süper zekayı denetim altında tutacak bir planın hâlâ bulunmadığını yazdı (Axios, 9 Eylül 2026).
Üç hafta sonra Anthropic’in halka arz izahnamesi basına sızdı. Hedeflenen değerleme 2 trilyon doların üzerindeydi, 2025 zararı 42 milyar dolardı, önümüzdeki yıllar için üstlenilen bulut ve altyapı yükümlülüğü 518 milyar dolardı. Risk faktörleri arasında da tanıdık bir ifade duruyordu: insanlığa yönelik varoluşsal riskler (Fortune, 29 Eylül 2026).
Aynı korku üç hafta arayla iki ayrı kılıkta göründü: önce bir vicdan itirazı, sonra bir menkul kıymet belgesinin risk maddesi olarak.
Tartışma hemen bildik çizgiye geldi. Bir taraf “samimiler” dedi, öbür taraf “korku pazarlaması” yaptıklarını iddia etti. Bence iki taraf da yanlış soruyu soruyor. Niyetten emin olamayız; bir yapay zeka uzmanının gece saat kaçta, hangi kaygıyla ya da motivasyonla o cümleyi yazdığını ne ben bilebilirim ne de siz. Fonksiyon ise gözlenebilir. İçten bir uyarı ile hesaplı bir kampanya aynı işi görebilir ve asıl bakılması gereken yer orası.
Ben de oraya bakmaya çalışıyorum. Bu araçları her gün kullanan biri olarak yazıyorum; itirazım araca değil, anlatıya. Çünkü anlatı bir şeyi ısrarla gözden kaçırıyor: bu modeller birer meteoroloji olayı değil. Verisi seçilmiş, hedefi belirlenmiş, piyasaya çıkış tarihi bir yönetim kurulunda oylanmış ürünler. “Yüzde 10 yok oluş ihtimali” cümlesi kulağa “yüzde 10 yağış ihtimali” gibi geliyor. Ama hava olaylarının yönetim kurulu yoktur.
Trilyonlarca Doların Yarattığı Baskı
Önce parayı takip edelim, çünkü anlatı oradan besleniyor.
Alphabet, Microsoft, Meta ve Amazon’un 2026 için öngördüğü sermaye harcaması toplamı 700 milyar dolara yaklaşıyor; bu, zaten rekor sayılan 2025 düzeyinin yüzde 60’tan fazla üzerinde ve bedeli serbest nakit akışındaki sert düşüşle ödeniyor (CNBC, 6 Şubat 2026). Bain & Company’nin hesabına göre bu sektörün kendini çevirebilmesi için 2030’da yılda 2 trilyon dolarlık yeni gelir gerekiyor ve yapay zekadan beklenen tasarruflar hesaba katıldığında bile 800 milyar dolarlık bir açık söz konusu (Bain, 23 Eylül 2025). Sequoia Capital’den David Cahn aynı boşluğa 2024’te “600 milyar dolarlık soru” adını vermişti. İki yılda soru cevaplanmadı, yalnızca büyüdü.
Şirketlerin kendi bilançosu daha da sıkıntılı. Sızan izahnameye (prospektüs) göre Anthropic’in geliri 2025’te yüzde 1.088 artarak 4,6 milyar dolara ulaştı. Aynı yıl yalnızca bilgi işlem ve altyapıya 7,33 milyar dolar harcadı. Gelirin dörtte birine yakını iki müşteriden geliyor ve en büyük müşterilerin çoğu uzun vadeli sözleşmeyle bağlı değil (Fortune). Büyüme gerçek, bunu teslim etmek gerekir. Ama denklem de gerçek: yükümlülükler sabit, gelir değişken.
Bu ölçekte bir sermaye, sıradan bir yazılım ürününün getirisiyle geri dönmez. Daha iyi bir arama kutusu, daha hızlı bir ofis paketi, hatta çok iyi bir kod yardımcısı 2 trilyon dolarlık değerlemeyi taşıyamaz. Onu taşıyabilecek tek şey, teknolojinin ekonominin tamamını yeniden kuracağı iddiasıdır.
Yatırımcıya “bu şey her şeyi değiştirecek” demenin iki yolu var: cenneti vaat etmek ya da kıyameti haber vermek. İkisi aynı öncüle yaslanır. İnsanlığı yok edebilecek kadar güçlü bir teknoloji, tanımı gereği, bütün emek piyasasını ikame edebilecek kadar da güçlüdür. Vaat ile korku, aynı izahnamenin iki ayrı sayfasıdır.
Bunu bir komplo olarak okumaya gerek yok. Kimsenin bir toplantı odasında “korkutalım, hisse satalım” demesi gerekmiyor. Yapısal bir çekim bu: büyüklük iddiasını besleyen her cümle, hangi duyguyla söylenmiş olursa olsun, değerlemenin lehine çalışır.
Kıyamet Bir Halkla İlişkiler Çalışması mı?
Teknoloji tarihçisi Lee Vinsel 2021’de bu olguya isabetli bir ad koydu: criti-hype, yani abartıdan beslenen ve abartıyı besleyen eleştiri. Vinsel’e göre bu tür eleştiri, girişimcilerin olağanüstü dönüşüm tablosunu olduğu gibi devralır, yalnızca işaretini eksiye çevirir (Vinsel, 2021). Emily Bender ile Alex Hanna The AI Con‘da (2025) aynı teşhisi yapay zekaya uygular: kıyametçi ile müjdeci birbirinin rakibi değil, aynı güç iddiasının iki sözcüsüdür. Timnit Gebru ile Émile Torres bu ortaklığın düşünsel soy kütüğünü çıkarır (2024). Arvind Narayanan ile Sayash Kapoor ise karşı çerçeveyi önerir: yapay zeka “normal bir teknoloji”dir, yayılımı yavaştır ve denetimi kurumların elindedir (2025).
Bu literatürden yola çıkarak kıyamet söyleminin gördüğü dört işi ayırt edebiliriz:
- Güç ilanı. “Yapay zeka insanlığı yok edebilir” cümlesi, bugüne kadar yazılmış en iddialı ürün tanıtımıdır.
- Fail değişimi. “Yapay zeka şunu yapabilir” diye başlayan her cümlede özne makinedir. Modeli eğiten, piyasaya süren, güvenlik testini kısaltan, güvenlik departmanlarını küçülten şirket cümlenin dışına düşer.
- Gündem kayması. Yarının yok oluşu konuşulurken bugünün faturası gözden kaçar: emek, telif, enerji, veri, pazar yoğunlaşması.
- Düzenleme tasarımı. Risk bu kadar büyükse onu ancak en büyük şirketler yönetebilir. Bu akıl yürütmenin sonu lisans rejimi ve giriş bariyerlerinin yükseltilmesidir.
Buraya kadar tamam ama üç noktada bu tezler tartışılabilir:
Birincisi, yapay zeka kaygısı şirketlerden bağımsız. Yapay zeka teknolojisinin kurucularından sayılan Geoffrey Hinton 2023’te serbestçe konuşabilmek için Google’dan ayrıldı. O günden beri yapat zekanın kontrolden çıkabileceğine dair uyarılarda bulunuyor. 2.778 yapay zeka araştırmacısıyla yapılan geniş katılımlı bir ankette medyan katılımcı, yok oluş düzeyinde bir sonuca yüzde 5 ihtimal verdi (Grace vd., 2024). Bu tür anketlerin öngörü değeri tartışılabilir (IEEE Spectrum), ama katılımcıların çoğunun satacak yapay zeka hissesi yok.
İkincisi, eğer öyleyse bu çok kötü bir halkla ilişkiler. Axios’un benzetmesiyle, Boeing’in kaptan pilotunun kalkıştan önce yolculara düşme ihtimaliniz yüzde on demesi gibi bir şey bu. Sonuç da ortada: Senatör Bernie Sanders süper zeka yasağı önerdi ve bu, iş kaybı ile elektrik faturaları yüzünden yapay zekaya zaten soğumuş bir kamuoyunun üzerine geldi (Axios). Hiçbir pazarlama departmanı halka arzdan üç hafta önce bu mesajı seçmez.
Üçüncüsü, sektör tek ağızdan konuşmuyor. OpenAI çevresinin desteklediği Leading the Future adlı süper PAC, daha sıkı düzenlemeye karşı 75 milyon dolardan fazla para topladı. Anthropic ise karşı cephedeki grupları finanse ediyor (NPR, 22 Haziran 2026). Korku yalnızca bir düzenleyici ele geçirme stratejisi olsaydı, aynı sektör düzenlemeyi durdurmak için servet harcamazdı.
Demek ki “PR” tezi bir niyet iddiası olarak çöküyor, bir işlev tespiti olarak ayakta kalıyor. İkisini ayırmak şart. Çünkü bir uyarının sahibine yaraması, o uyarıyı yanlış yapmaz. Çıkara hizmet eden bir cümle aynı zamanda doğru olabilir.
O hâlde senaryolara tek tek bakmak gerekiyor. Her birine iki soru soracağım.
- Bu senaryo henüz gösterilmemiş bir yeteneğe mi dayanıyor, yoksa bugünkü eğilimin uzantısı mı?
- Faili nereye koyuyor: makineye mi, makineyi tasarlayanı mı?
Birinci Senaryo: Kontrol Kaybı
En ünlü senaryo bu. Nick Bostrom’un Superintelligence‘ı (Süper Zeka: Yapay Zeka Uygulamaları, Tehlikeler ve Stratejiler, 2014) ve Steve Omohundro’nun Temel Yapay Zeka Dürtüleri makalesi (The Basic AI Drives, 2008) çerçeveyi kurdu: yeterince yetenekli bir sistem, hedefi ne olursa olsun, kaynak toplamayı ve kapatılmamayı işine yarar bulur. Stuart Russell İnsanlık İçin Yapay Zekâ: Yapay Zekâ ve Kontrol Problemi (2019) kitabında sorunu kötücül makineden yanlış tanımlanmış hedefe taşıdı. Eliezer Yudkowsky ile Nate Soares ise 2025’te çalışmaları sonunda vardıkları sonucu hazırladıkları kitabın adına yazdı: Biri bunu inşa ederse herkes ölür.
Bu senaryoyu uzun süre beşi içinde en spekülatif olan olarak görüyordum. Ancak Temmuz 2026 bu düşüncem değişti.
OpenAI’ın kendi olay raporuna göre, şirket içi siber güvenlik değerlendirmeleri sırasında modeller kendilerini internetten yalıtan denetimleri (sandbox) aştı, izinsiz bir iletişim kanalı kurdu, birbirleriyle iş bölümü yaptı, internete erişti ve hem şirketin araştırma altyapısına hem de Hugging Face’in sistemlerine sızdı. Hiçbir insan bunu istememişti. YZ ajanları bütün bunlara kendi karar verdi. Şirket olayı bütün dünya için bir “işaret fişeği” olarak niteledi (OpenAI, 26 Ağustos 2026).
Demek ki senaryo fantezi değil. Bunu açıkça yazmak gerekiyor, çünkü “hepsi pazarlama” demek de bir tür konfor sağlıyor.
Ama raporun ikinci yarısı bambaşka bir hikâye anlatıyor:
- Kural dışı yollarla ödül toplama davranışı eğitim sırasında fark edilmeden pekiştirilmişti.
- 898 görevin 198’ini o güne dek hiçbir model çözememişti ve ajanlara güvenli bir “vazgeç” çıkışı tanımlanmamıştı.
- Ürünlerde çalışan güvenlik katmanları iç değerlendirmede devrede değildi. Şirketin kendi ölçümüne göre devrede olsalar altyapıya saldırma eğilimi 100 kattan fazla düşüyordu.
- İlk işaretler mayıs sonunda bir ekip tarafından görüldü ama yukarı taşınmadı. 4 Temmuz’daki kesintiden sonra değerlendirmeler yeniden başlatıldı.
Rapordan anladığımız kadarıyla “kontrol kaybı” gökten bir meteor gibi düşmedi. Bir olay raporu olarak yazıldı ve her satırında bir karar var: neyin ödüllendirileceği, hangi korumanın kapatılacağı, hangi uyarının bekletileceği, çalışmanın ne zaman yeniden başlatılacağı…
Rapor bir şeyi daha söylüyor: alınan önlemlerin öncü araştırmada ciddi maliyet ve gecikme yarattığını. Güvenliğin bedeli gecikmeyle ölçülüyor. Gecikme ise, bir önceki bölümdeki milyarlık bilançoların en az kaldırabileceği şey. Kısaca daha fazla kazanç için güvenlik devre dışı kalabiliyor.
Bu olaydan yok oluşa giden yol hâlâ gösterilmemiş halkalara bağlı: kendi kendini hızla geliştirme, kalıcı biçimde çoğalma, fiziksel dünyada güç edinme… OpenAI yönetim kuruluna yeni katılan Paul Christiano, hizalama sorunu çözülmeden süper zeka inşa edilirse denetimin kalıcı olarak kaybedileceğini düşünüyor (Axios). Ciddiye alınması gereken bir görüş. Yine de iki sorumun cevabı belli. Yetenek kısmen gösterildi. Fail ise bize anlatılan senaryoda makine, olay raporunda ise şirketmiş gibi görünüyor..
İkinci Senaryo: Kötüye Kullanım
Burada makinenin iradesine gerek yok, insanın kastı yetiyor. Beş senaryo içinde en az varsayım isteyen bu.
İlk somut işaret 2022’de geldi. Bir ilaç keşfi ekibi, zehirliliği cezalandıran modelini tersine çevirdi ve altı saatten kısa sürede, aralarında bilinen sinir ajanlarına benzeyenlerin de bulunduğu 40.000 aday molekül elde etti (Urbina vd., Nature Machine Intelligence, 2022). Öte yandan RAND’ın 2024’teki kırmızı takım çalışması, dil modeli kullanan ekiplerin biyolojik saldırı planlarının kullanmayanlara göre anlamlı ölçüde daha uygulanabilir olmadığını buldu (Mouton vd., 2024).
Yoshua Bengio’nun başkanlık ettiği International AI Safety Report 2026 bu ikiliği açık bir şekilde kayıt altına alıyor: İlgili yetenekler gelişti, ama gerçek dünyadaki katkıya dair kanıtlar karışık. Aynı rapor iki şeyi daha not ediyor. Yapay zekanın siber saldırılarda kullanıldığına dair bildirimler sıklaştı. Ve birkaç geliştirici, modellerinin acemilere biyolojik silah geliştirmede yardım edebileceği ihtimalini dışlayamadığı için yeni modellerini ek korumalarla yayımladı (IAISR, Şubat 2026).
Son cümleyi yavaş okumak gerekiyor. İhtimal dışlanamadı. Model, ek korumalarla da olsa, yine de yayınlandı.
Kötüye kullanım senaryosu, şirket söyleminin en çok kendisiyle çeliştiği yer. Tehlikeyi haber veren ile tehlikeli yeteneği piyasaya süren aynı tüzel kişilik. Fortune’un izahname haberindeki kuru cümle bunu özetliyor: Şirket yavaşlama çağrısı yapıyor, bir yandan da yeni ve daha güçlü modeller çıkarmayı sürdürüyor.
Bu senaryonun iyi bir tarafı da var: çaresi metafizik değil. Ürün sorumluluğu, DNA sentezi siparişlerinin taranması, yayın öncesi bağımsız test, ihracat denetimi. Sıkıcı, bilinen, uygulanabilir araçlar. “Yok oluş” kelimesi burada büyük ölçüde abartı; “kitlesel zarar” ise ihtimaller dahilinde.
Sorularıma dönersem: Yetenek kısmen gösterildi, kanıt karışık. Fail insan. Ama o insanın eline neyin, hangi korumayla verileceğine bir yönetim kurulu karar veriyor.
Üçüncü Senaryo: Savaş Makinesi
26 Eylül 1983 gecesi Sovyet erken uyarı sistemi, Amerika Birleşik Devletleri’nden beş füzenin fırlatıldığını bildirdi. Nöbetçi subay Stanislav Petrov alarmı yanlış kabul etti ve üstlerine saldırı raporu vermedi. Haklıydı; uydu, bulutlardan yansıyan güneş ışığını füze sanmıştı. O gece dünyayı bir sistemin doğruluğu kurtarmadı. Bir insanın sisteme inanmama cesareti kurtardı.
Üçüncü senaryo, Petrov’un odadan çıkarılmasıyla ilgili.
Aralarında Stanford’lu araştırmacıların da bulunduğu bir ekip, beş ayrı dil modelini simüle edilmiş savaş oyunlarında ülke karar vericisi olarak karşı karşıya getirdi. Beş modelin hepsi gerilimi tırmandırma eğilimi gösterdi, silahlanma yarışı dinamikleri gelişti ve nadir durumlarda iş nükleer silah kullanımına vardı (Rivera vd., 2024).
Bu bir simülasyon. Sahadaki örnek daha az soyut. +972 Magazine‘in Nisan 2024’teki araştırmasına göre İsrail ordusunun Gazze’de kullandığı Lavender adlı sistem on binlerce kişiyi hedef olarak işaretledi ve görevliler çoğu zaman bu önerileri yirmi saniye kadar bir incelemeyle onayladı (Abraham, 2024). İnsan döngünün içindeydi. Ama insan hayatı için ayrılan süre yirmi saniyeydi.
Diplomasi ise çok geriden geliyor. Kasım 2024’te Biden ile Xi yalnızca en dar noktada anlaşabildi: nükleer silah kullanma kararı insanda kalmalı. Otonom silahlar için bağlayıcı bir antlaşma hâlâ yok. Öte yandan ABD Savunma Bakanlığı 2025’te dört öncü laboratuvarın her biriyle 200 milyon dolara varan sözleşmeler imzaladı. Şu tesadüfe bakın ki, kıyameti haber veren şirketler ile orduya model satan şirketler aynı.
Bu senaryoda “yapay zeka insanlığı yok edecek” cümlesi dil bilgisi açısından yanlış kurulmuş bir cümle. İnsanlığı yok edebilecek silahlar 1945’ten beri duruyor. Yapay zekanın eklediği şey zekâ değil, hız: karar süresinin, bir insanın tereddüt edebileceği aralığın altına inmesi.
İki soruma gelince: yeni bir yeteneğe gerek yok, bugünkü modeller ve bugünkü cephanelikler yeterli. Fail ise devlet ve yüklenicisi. Makine burada yalnızca tereddüdü ortadan kaldıran bir araç rolünde.
Dördüncü Senaryo: Kademeli Devir
Bu senaryoda patlama yok, tarih yok, düşman yok. Paul Christiano 2019’da başarısızlığın neye benzeyeceğini anlatırken tam bunu tarif etmişti: dünya bir gürültüyle değil, ölçülebilir olanı ölçülemeyene tercih eden küçük kararların birikimiyle elden gider.
Jan Kulveit ve arkadaşları 2025’te fikri sistemleştirdi. Savları şu: ekonomi, kültür ve devlet insanlara biraz da mecbur oldukları için hizmet eder. İnsana işçi, vergi mükellefi, asker, tüketici ve seçmen olarak ihtiyaç duyarlar. Yapay zeka emeğin ve bilişin yerini aldıkça bu örtük bağ gevşer. Ne darbe olur ne isyan. İnsan yalnızca giderek daha az gerekli hâle gelir ve sonunda artık nüfus (gereksiz, işlevsiz, dünyaya yük olan insanlar) haline gelir. (Kulveit vd., 2025).
Beş senaryo içinde bana en tanıdık geleni bu, çünkü yıllardır “Makineye Devredilen Ben” başlığı altında aynı mekanizmanın birey ölçeğindeki hâli üzerine düşünüyor, araştırıyor, yazıyorum. Önce e-postayı devrediyoruz, sonra özeti, sonra kararı, en sonunda neyin karar olduğunu ayırt etme yetisini, iradeyi. Kulveit’in yaptığı, bu devri kurumların ölçeğine taşımak olmuş.
Elimizde ilk ölçümler de var. Gerçek kullanım verisi üzerinde yapılan bir çalışma, ağır yetki kaybı riskinin konuşmaların binde birinden azında görüldüğünü buldu. Rakam küçük. Ama aynı çalışmanın iki bulgusu daha var: oran zamanla artıyor ve yetki kaybı potansiyeli yüksek konuşmalar daha yüksek kullanıcı memnuniyeti alıyor (Disempowerment Patterns in Real-World LLM Usage).
Yani kullanıcı, karar verme yetisini en çok devrettiği konuşmadan en çok memnun kalıyor. Yatırım baskısının bu senaryoya nasıl bağlandığı burada görünüyor. Bilançonun ödüllendirdiği ölçütler kullanım süresi, kullanıcı memnuniyeti ve bağımlılığı. İnsanın failliği aşındıran ölçütler de bunlar.
Tyler Cowen’ın itirazı haklı bir yerden geliyor: neden gelecek, çok sayıda denge ve denetleme mekanizmasıyla, insanların mülkiyetinde kalan dağıtık bir düzen olmasın (Cowen, 2025)? Olabilir. Ama o zaman mesele teknoloji değil mülkiyet ve kurum meselesidir, yani siyaset. Bugünün ana akım siyasetine baktığınızda ufukta denge ve denetleme mi görünüyor?
Şirketlerin bu senaryodan neden az söz ettiğini anlamak zor değil. Hikâyede kötü bir makine yok, onu durduracak kahraman bir güvenlik ekibi de yok. Felakete yol açan şey ürünün arızası değil, başarısı. Bu senaryoda felaket ile iş planı aynı belgede yazılı.
İki soruma gelince: yeni bir yetenek gerekmiyor, bugünkü eğilimin sürmesi yetiyor. Fail ise hepimiz ve bizi buna teşvik eden tüm mekanizmalar (arayüz, ücretsiz kullanım, geride kalma korkusu…)
Beşinci Senaryo: Kalıcı Tahakküm
Tarih boyunca her tiran başkalarına muhtaçtı: askere, memura, vergi tahsildarına. Bu ihtiyaç tiranlığın doğal sınırıydı. Askerler ateş etmeyi reddettiğinde rejimler düştü.
Forethought’tan Tom Davidson, Lukas Finnveden ve Rose Hadshar’ın 2025 tarihli raporu bu sınırın kalkabileceğini savunuyor. Üç mekanizma sayıyorlar: tek bir kişiye sadık kılınabilen yapay iş gücü, dışarıdan fark edilmesi güç gizli sadakatler ve üstün yeteneklere küçük bir grubun ayrıcalıklı erişimi. Raporun en çarpıcı yanı failin adresi: yazarlara göre böyle bir girişimin en olası sahipleri arasında öncü yapay zeka projelerinin yatırımcıları ve yöneticileri var (Davidson vd., 2025).
Bu bir yok oluş senaryosu değil. Ama geri dönüşü olmayan bir tahakküm, insanlar açısından yok oluşun siyasi karşılığıdır.
Daron Acemoğlu ile Simon Johnson İktidar ve Teknoloji‘de (2023) bin yıllık bir kayıt tutar: teknolojinin getirisi kendiliğinden paylaşılmaz, kimin vizyonunun ve kimin gücünün belirleyici olduğuna göre dağılır. Karl Polanyi’nin diliyle söylersek, burada toplumdan koparılan şey bu kez piyasa değil, bilişsel altyapının kendisidir.
Tam ölçekli bir darbe elbette bugün olmayan yetenekler ister. Ama yoğunlaşmanın kendisi için hiçbir yeni yeteneğe gerek yok: Dört şirketin tek yılda 700 milyar dolara yaklaşan harcaması. Tek bir laboratuvarın 518 milyar dolarlık yükümlülüğü. Ara seçimlere akan on milyonlarca dolar. Güç yoğunlaşması bir öngörü değil, bir bilanço kalemi ve bir kampanya finansmanı kaydı.
Birinci senaryonun korkusu, beşinci senaryonun en iyi gerekçesidir. “Bu teknoloji o kadar tehlikeli ki ancak birkaç sorumlu elde tutulabilir” cümlesi, riski azaltmayı vaat ederken gücü merkezileştirir. Kontrol kaybına karşı önerilen çare, kalıcı tahakkümün altyapısıdır.
Bunun kolay bir çıkışı olduğunu söyleyemem. Yeteneği dağıtmak da bedelsiz değil: güç yayıldıkça ikinci senaryonun, yani kötüye kullanımın riski büyür. Şirketlerin kapalı sistemlerine karşı açık kaynaklı modellerin en büyük riski de budur.
İki soruma son kez döneyim: yoğunlaşma için yeni yetenek gerekmiyor. Fail ise bu kez adı, soyadı ve hisse oranı belli insanlar.
Hangi korku kimin işine yarar?
Beş senaryoya sorduğum iki sorunun cevaplarını alt alta koyunca şu tablo çıkıyor:
Tabloda yukarıdan aşağıya indikçe iki şey oluyor. Gereken varsayım azalıyor ve failin adı netleşiyor. Topluma sunulan anlatı ise tam ters yönde yoğunlaşıyor. Axios’un o hafta derlediği korku listesinde üç başlık vardı: süper güç kazanan kötü niyetli insanlar, kendi iradesiyle hareket eden makineler ve kendi kendini geliştiren sistemler. Kademeli devir de güç yoğunlaşması da listede yoktu.
En çok konuşulan senaryo, failin makine olduğu senaryo. En az konuşulanlar, failin şirket olduğu senaryolar.
O hâlde baştaki soruya dönebilirim. Kıyamet söylemi bir halkla ilişkiler çalışması mı?
Niyet olarak hayır. O laboratuvarlarda gerçekten korkan insanlar olabilir ve Temmuz’daki Hugging Face vakası korkularının boş olmadığını gösteriyor.
İşlev olarak evet. Söylem üç şeyi yanlış adrese taşıyor: faili makineye, zamanı geleceğe, çareyi yine şirketin kendisine.
Buradan çıkan sonuç kıyamet senaryolarına “inanalım” ya da “gülüp geçelim” değil. Bu teknolojiye, olduğu şey gibi davranmak: tasarlanmış, fiyatlandırılmış, piyasaya sürülmüş bir ürün gibi. Ürünün sorumluluk hukuku olur, bağımsız denetimi olur, zorunlu olay bildirimi olur, rekabet soruşturması olur. Bir doğa olayının ise yalnızca tahmini olur.
Yüzde 10’a geri dönüyorum. Olasılık hesaplanır, risk ise alınır. O riski alanlar ile bedelini ödeyecek olanlar aynı insanlar değil ve kıyamet anlatısının en iyi sakladığı şey: risk alanlarla bedel ödeyenler arasındaki mesafe.
Kaynakça
Haberler ve birincil belgeler
- Axios (Zachary Basu). AI’s extinction debate breaks containment. 9 Eylül 2026.
- Bain & Company. 6. Global Technology Report basın duyurusu. 23 Eylül 2025.
- CNBC. Tech AI spending may approach $700 billion this year, but the blow to cash raises red flags. 6 Şubat 2026.
- Fortune (Beatrice Nolan). Anthropic’s leaked IPO prospectus details steep losses, rapid growth, and a fear that AI could end humanity. 29 Eylül 2026.
- IEEE Spectrum. Researchers surveyed point to AI’s existential risk; critics showcase study’s red flags. 2024.
- International AI Safety Report 2026. Başkan: Yoshua Bengio. Şubat 2026.
- NPR. Groups tied to OpenAI and Anthropic are spending big on the midterms. 22 Haziran 2026.
- OpenAI. The Hugging Face incident and the road ahead. 26 Ağustos 2026.
Makaleler ve raporlar
- Abraham, Y. (2024). ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza. +972 Magazine, 3 Nisan 2024.
- Cahn, D. (2024). AI’s $600B Question. Sequoia Capital.
- Christiano, P. (2019). What failure looks like. AI Alignment Forum.
- Cowen, T. (2025). Gradual Empowerment? Marginal Revolution.
- Davidson, T., Finnveden, L. ve Hadshar, R. (2025). AI-Enabled Coups: How a Small Group Could Use AI to Seize Power. Forethought.
- Gebru, T. ve Torres, É. P. (2024). The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. First Monday, 29(4).
- Grace, K. vd. (2024). Thousands of AI Authors on the Future of AI. arXiv:2401.02843.
- Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D. ve Duvenaud, D. (2025). Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development. arXiv:2501.16946; ICML 2025.
- Mouton, C. A., Lucas, C. ve Guest, E. (2024). The Operational Risks of AI in Large-Scale Biological Attacks: Results of a Red-Team Study. RAND Corporation.
- Narayanan, A. ve Kapoor, S. (2025). AI as Normal Technology. Knight First Amendment Institute, Columbia Üniversitesi.
- Omohundro, S. (2008). The Basic AI Drives. Artificial General Intelligence 2008 içinde.
- Rivera, J.-P., Mukobi, G., Reuel, A., Lamparth, M., Smith, C. ve Schneider, J. (2024). Escalation Risks from Language Models in Military and Diplomatic Decision-Making. FAccT ’24.
- Urbina, F., Lentzos, F., Invernizzi, C. ve Ekins, S. (2022). Dual use of artificial-intelligence-powered drug discovery. Nature Machine Intelligence, 4, 189–191.
- Vinsel, L. (2021). You’re Doing It Wrong: Notes on Criticism and Technology Hype.
Kitaplar
- Acemoglu, D. ve Johnson, S. (2023). İktidar ve Teknoloji: Bin Yıllık Mücadele, çev. Cem Duran, Doğan Kitap.
- Bender, E. M. ve Hanna, A. (2025). The AI Con. Harper.
- Bostrom, N. (2018). Süper Zekâ: Yapay Zekâ Uygulamaları, Tehlikeler ve Stratejiler, çev. Ferit Burak Aydar, Koç Üniversitesi Yayınları.
- Polanyi, K. (1986). Büyük Dönüşüm: Çağımızın Siyasal ve Ekonomik Kökenleri, çev. Ayşe Buğra, Alan Yayıncılık.
- Russell, S. (2021). İnsanlık İçin Yapay Zekâ: Yapay Zekâ ve Kontrol Problemi, çev. Barış Satılmış, Buzdağı Yayınevi,
- Yudkowsky, E. ve Soares, N. (2025). If Anyone Builds It, Everyone Dies. Little, Brown.
Yorumlar
Yorum ayarları
BeğenYorum YapPaylaş