Yapay Zekânın Lanetliler Lokantasındaki Son Akşam Yemeğim

Faydalardan Büyülendiğinizde “Denge”yi Korumak Zordur

Counterpunch, yazarlık kariyerimin yaklaşık yirmi yıl önce başladığı yerdir. Bu nedenle, bu süreci sona erdirmek için uygun bir mecra gibi görünüyor. Başlamadan önce, yıllar boyunca yazılarımı okumaya ve geri bildirim göndermeye zaman ayıran herkese teşekkür etmek istiyorum. Herkese en iyisini diliyorum.

Geçenlerde bir kariyer akademisyeni benden bir televizyon projesinde kendisiyle birlikte çalışmamı istedi. Bu proje, yapay zekânın (YZ) atılımları teşvik etmek için kullanılabileceği bir dizi büyüleyici araştırma sorusunu keşfetmeyi amaçlıyor. Bir iki gün bunu düşündüm. Sonra şu senaryoyla yanıt verdim:

Bir aslanla birlikte kafeste mahsur kalmış birini hayal edin. Duvarlarda kan var ve bir köşede yarısı yenmiş bir insan cesedi yatıyor. Aslan yaklaşırken kişi dehşete kapılmış halde duruyor.

Sonra, birdenbire, kafesin tepesinden gülümseyen bir yüz beliriyor ve neşeyle şöyle sesleniyor: “Merhaba… söylesene, aslanlar harika değil mi? Sana onlardan bahsedeyim. Onlar, orman ekosisteminde dengeyi korumada ve aşırı nüfusu önlemede hayati bir rol oynayan zirve etoburlardır ve…:”

Aslanların çeşitli avantajlarını duymanın, onlardan biri tarafından parçalanmak üzere olan kişiye pek teselli vermeyeceğini söylemeye gerek yok. Hatta bu kişi, o coşkulu neşeyi gerçeklikten biraz kopuk, hatta düpedüz hakaretamiz bulabilir.

Profesör bana kibarca yanıt vererek, insanların olası olumlu yanları dinleyecek kadar açık fikirli olmaları halinde “YZ hakkında daha dengeli bir görüşe ulaşacaklarını” açıkladı. Bu da, sonuçta olumsuz yanların aslında o kadar da kötü olmadığı anlamına geliyor. Hani, olumlu yanlar hesaba katıldıktan sonra. Yani, kim bilir? Belki YZ bazı hastalıkların tedavisine yardımcı olabilirse türümüzün geleceğiyle kumar oynamaya razı olabiliriz?

Gerçeklik Kontrolü

Profesörle değerlendirmelerimizin ayrıldığı nokta burasıdır. Ben, YZ ile ilişkili risklerin yalnızca kötü tanıtım meselesi olmadığını savunuyorum. Bunlar somut gerçeklere dayanıyor ve ciddi sonuçlar doğuruyor. Örneğin, iklim değişikliği ve nedensel faktörleri konusunda bilim camiasında neredeyse oybirliğiyle bir fikir birliği vardır. Büyük Teknoloji nihai hedeflerine ulaşsın ya da ulaşmasın, onlarca, hatta yüzlerce gigawatt ek enerji tüketilecektir (2025’te 104 gigawatt’tan 2030’da 290 gigawatt’a). Bunun çevre açısından sonuçları hiç de önemsiz değildir. Öyle ki, makul bir kesinlik derecesiyle, YZ gezegenin geniş bölgelerini yaşanmaz hâle getirmede ve kıt kaynakları tüketmede rol oynayacaktır.

2027’ye kadar YZ’ye hesaplama gücü sağlamak üzere veri merkezleri inşa etmek için bir trilyon doları bulabilecek bir harcama yapılmasının öngörüldüğünü aklınızda bulundurun. Bu, birbiriyle rekabet eden ticari çıkarların yürüttüğü birden fazla projeyi kapsayan bir girişimdir. Durumu daha da ağırlaştıran ise devreye alınan donanımın yalnızca dört ila altı yıllık bir raf ömrüne sahip olmasıdır. Eisenhower’ın eyaletler arası otoyol sisteminin hâlâ kullanımda olduğu düşünüldüğünde, bu oldukça tartışmalı bir yatırım getirisidir. YZ’nin yakma ateşine kürekle atılan dağ gibi para, hiç de önemsiz olmayan bir fırsat maliyetini temsil ediyor. Liderlerimizden herhangi birinin aklına, YZ’ye yönelik sermaye harcamalarının en azından bir kısmının çökmekte olan eski altyapımıza yönlendirilmesinin daha iyi olabileceği geldi mi? İnsanların temiz içme suyuna sahip olabilmesi için?

Buna ek olarak, YZ’nin otoriter baskının bir aracı olarak kullanılması veya askerî silahlarda kullanılması tehlikesi, yalnızca bir YZ kıyametçisi korku hikâyesi değildir. Bu, gözlerimizin önünde gerçekleşiyor. YZ, Gazze ve Ukrayna’da insanları hedef almak ve Xinjian’daki dünyanın en büyük açık hava hapishanesinin işleyişini mümkün kılmak için aktif olarak kullanılıyor.

Bir de yapay genel zekâ (AGI) hayaleti var. AGI, her alanda problem çözme ve görevleri yerine getirme konusunda insanlardan daha yetenekli bir YZ örneğidir. Büyük Teknoloji AGI’yi geliştirmeyi başarırsa, anlaşılır biçimde yapısal işsizlik tehlikesi ortaya çıkacaktır. Üstelik bununla da kalmayacak; sonunda bizden katbekat daha zeki olan yabancı bir bilinçle (anlayamadığımız bir bilinçle) karşı karşıya kalacağız. Devam eden olaylar bir göstergeyse, AGI’yi kontrol etmek şöyle dursun, muhtemelen onu kontrol altında tutabilecek durumda bile olmayacağız. İşler ters giderse ―ve bir AGI, insanların hayatta kalmasıyla “uyumlu” olmayan hedefler benimserse― Eliezer Yudkowsky’nin ustalıkla açıkladığı gibi, hepimizin işi bitecek.

Dolayısıyla insanlığa yönelik tehdit, seçici algı meselesi değildir. Risk, parlak bir dizi iyimser tahminle veya YZ’nin başarabileceği tüm o hoş şeyler hakkında (Hollywood ünlüleriyle dolu) bir bilgi reklamı yayımlamakla ortadan kaldırılamaz. Yeri gelmişken, YZ’yi abartılı biçimde övmek söz konusu olduğunda… Büyük Teknoloji’nin milyarder CEO’ları ve DC’deki lobi organları bu alanda zaten oldukça aktif. Hem de sebepsiz yere değil.

Elbette hızlandırmacıların kendi mallarından kafayı bulmaları ilk kez olmuyor. Her imparatorluk kendi ölümsüzlüğüne inanır. MS 100 civarındaki Romalı senatörler gibi, elitlerimiz de tarihlerinin son iki yüzyılına gururla dönüp bakıyor ve şöyle diyor:

“Bakın işte ne kadar ilerleme kaydettik. İşler ancak daha iyiye gidebilir. Gökyüzü sınır!”

1905’te yazar H.G. Wells, gelecekte insanlığın kaydedebileceği ilerlemenin olanaklarından haz duyan Modern Bir Ütopya adlı bir kitap yazdı. Daha sonra, 1932 civarında, Aldous Huxley, H.G.’nin temenniye dayalı düşüncesine kendi kitabını yazarak karşılık verdi. Huxley’nin kitabının adı Cesur Yeni Dünya idi. Yaklaşık bir yüzyıl sonra, çok az insanın gerçekten kitap okumaya zaman ayırdığı bir çağda, hangi yazarın hedefe daha yakın olduğunu tahmin etmeniz için size tek bir tahmin hakkı veriyorum.

Yüzeyin Altındaki Daha Derin Akıntılar

YZ söz konusu olduğunda karamsar olduğum düşünülebilir. Şahsen ben tutumumu oldukça stoacı olarak nitelendiririm. Etrafınızda yanmakta olan bir evde mahsur kaldıysanız, sizi rahatsız ediyor diye bu gerçeği görmezden gelmenin bir faydası olmaz. Hayatta kalmak, gerçeklikle gözünü kırpmadan yüzleşmeye istekli olmayı gerektirir. Umutlu olmak bir erteleme biçimidir. Canınızı kurtarmak için alevlerin içinden yürümek zorunda kalacaksınız, yanacaksınız ve başka çıkış yolu olmadığı için yanacağınız gerçeğini kabullenmek zorunda kalacaksınız. Bu da bazı rahatsız edici önermeleri kabul etmek anlamına gelir.

Nihayetinde YZ’nin nasıl kullanıldığı ve kimlerin yararına olduğu, büyük ölçüde ekonomiyi yönlendiren temel güçler tarafından belirlenecektir. Kabul etmek gerekir ki bu sistem, en kötü insanların en kötü yanlarına hitap ederek işler. Adam Smith bu dinamiği “özel ahlaksızlıklar, kamusal faydalar” ifadesiyle tanımlamıştır. Her şeyin bir şekilde kendiliğinden en iyi biçimde sonuçlanacağını varsaymak biraz gerçekçilikten uzak görünüyor.

2008 mali çöküşünden çıkarılan dersleri hatırlayın; Lehman Brothers’ın CEO’su Dick Fuld gibi yöneticiler, şirketleri baş aşağı yere çakılırken yüz milyonlarca dolarla çekip gittiler. Ya da Amerika Birleşik Devletleri’ndeki nüfusun yüzde 10’unun şimdiden servetin yüzde 67’sinden fazlasına sahip olduğunu düşünün. Teknolojinin merkezî niteliği göz önüne alındığında, YZ’nin mali faydaları öncelikle platformlara sahip olanlara tahakkuk edecektir. Böylece, toplumu giderek bir tür feodalizme geri döndüren mevcut eğilimi daha da güçlendirecektir.

YZ söz konusu olduğunda, güçlü bir şeyle karşı karşıyayız. İnsanların kavrayamadığı içsel bir mantığa göre davranan bir şeyle. Evrim bizi bu yeni araca hazırlamadı. Tedbir temel ilke olmalı, ancak Büyük Teknoloji son sürat ilerliyor. Her yönetici gizliden gizliye çizgiyi ilk geçen kişi olmak istiyor. YZ’den büyülendiğimiz için risklerini küçümsersek, sonunda Carl Sagan’ın yıllar önce yaptığı şu gözlemin gerçekleştiğini görebiliriz: Yaşam formlarının izlediği seyir söz konusu olduğunda, “yok oluş kuraldır.”

*Bill Blunden, hâlihazırdaki araştırma alanları arasında bilgi güvenliği, adli bilişim karşıtı teknikler ve kurumsal analiz bulunan bir gazetecidir. “The Rootkit Arsenal” ve “Behold a Pale Farce: Cyberwar, Threat Inflation, and the Malware-Industrial Complex” dâhil olmak üzere birçok kitabın yazarıdır. Bill, Below Gotham Labs’ın baş araştırmacısı ve California Eyalet Üniversitesi Çalışanları Sendikası, Bölüm 305’in bir üyesidir.

Kaynak: https://www.counterpunch.org/2026/08/28/my-last-supper-at-a-i-s-diner-of-the-damned/