Vijay Prashad
İran’ın güneyindeki Minab kentinde, yerden parıldayan dalgalar hâlinde ısının yükseldiği ve emperyalizmin gerçekliğinin her limanda ve askerî tesiste hissedildiği bir yerde, 28 Şubat 2026 tarihinde bir füze bir okula isabet etti. Saldırıda, aralarında özellikle 120 okul çocuğunun bulunduğu 156 kişi hayatını kaybetti; İran hükümeti bunu derhâl “bariz bir suç” olarak nitelendirdi. Birleşmiş Milletler ise saldırıyı “insancıl hukukun ağır bir ihlali” olarak tanımladı. Öldürülen çocukların isimleri, generallerin, silah sistemlerinin ve teknoloji platformlarının isimleri kadar güçlü bir biçimde küresel iktidar merkezlerinde yankı bulmadı. Hayatını kaybeden İranlılar ise, ortaya çıktığı üzere bu saldırıda Amerika Birleşik Devletleri tarafından kullanılan yapay zekânın (AI) geleceğini tartışanlar açısından büyük ölçüde isimsiz kalmaya devam etmektedir.
Çocukların öldürülmesi, çağımızın temel sorularından birini daha görünür hâle getirmiştir: Bir makine şiddet zincirine girdiğinde sorumluluk kime aittir? Yapay zekânın bu süreçte nasıl bir rol oynadığı hâlâ belirsizliğini korumaktadır. Basında yer alan haberlere göre, Anthropic’in Claude modeli de dâhil olmak üzere yapay zekâ araçlarını bünyesinde barındıran ABD ordusunun Maven Akıllı Sistemi, İran’a yönelik askerî operasyonlarda kullanılmıştır. Araştırmacılar, yapay zekâ destekli sistemlerin hedef belirleme sürecine herhangi bir şekilde katkıda bulunup bulunmadığını incelemeyi sürdürmektedir. Mevcut kanıtlar ise hâlâ eksiktir.
Dikkat çekici olan, yapay zekâ endüstrisinin liderlerinin artık savaş mekanizmasının dışında durmamalarıdır. Onlar artık bu mekanizmanın içindedir. Saldırı hakkında kendisine soru yöneltildiğinde, Anthropic’in CEO’su Dario Amodei, Claude’un bu saldırıda tam olarak nasıl kullanıldığını “tam olarak bilmediğini” söylemiş ve bunu “gerçekten, gerçekten korkunç” “hatalar” olarak nitelendirmiştir. Ancak Amodei, okula yapılan saldırının “kırmızı çizgilerimizi dahi ihlal etmeyen bir kullanım örneği” olduğunu yinelemiştir. Bunun nedeni, okula saldırı yönündeki nihai kararın sonuçta bir insan tarafından verilmiş olmasıdır. Amodei’nin cevabı dikkatle ele alınmayı hak etmektedir.
On yıllardır, teknolojik gücün mimarları, sorumluluğu o kadar geniş bir alana yayan bir dil geliştirmiştir ki, sonunda sorumluluk ortadan kaybolmaktadır. Mühendis aracı geliştirir, yüklenici sistemi entegre eder, askerî analist çıktıyı inceler, subay saldırıya yetki verir ve siyasetçi savaşı onaylar. Sonuçta herkesin yer aldığı, ancak hiç kimsenin sorumlu tutulmadığı bir zincir ortaya çıkar. “Döngüde İnsan” (Human in the Loop) söylemi de bu geleneğin bir parçasıdır. Elbette nihai kararları insanlar verir. Asya ve Afrika’yı yıkıma uğratan Batı sömürge savaşları sırasında da nihai kararları insanlar verdi. Amerika Birleşik Devletleri Vietnam’daki köyleri bombaladığında da nihai kararları insanlar verdi. Amerika Birleşik Devletleri’nin Irak’ı yasa dışı işgali sırasında da nihai kararları insanlar verdi. Bir sürecin sonunda bir insan imzasının bulunması, ortaya çıkan sonucu üreten iktidar yapısı hakkında bize fazla bir şey söylemez.
Daha önemli soru şudur: Yapay zekâ, bu insanların kullanabileceği karar alanını şekillendirmede nasıl bir rol oynamaktadır? Modern askerî sistemler yalnızca hesap makineleri değildir. Bilgiyi düzenler, olasılıkları önceliklendirir, kalıpları tespit eder, öneriler üretir ve dikkati yönlendirirler. Komutanların neyi gördüklerini ve neyi görmediklerini etkilerler. Bir insan resmî yetkiyi elinde tutmaya devam etse bile, algı mimarisi çoktan makineler tarafından inşa edilmiş olabilir. İşte bu nedenle tartışma, “nihai kararı bir insan verdi” ifadesiyle sona eremez.
Minab’daki suç, teknoloji şirketlerinin kendilerini giderek daha fazla etik sınırların koruyucuları olarak sundukları bir dönemde meydana geldi. Özellikle Anthropic, ihtiyatlı bir imaj yaratmıştır (bu durum Claude Anayasası’nda açıkça görülmektedir). Güvenlik, uyum ve sınırlar hakkında konuşmuştur. Teknolojinin kullanımına ilişkin daha saldırgan yaklaşımlardan kendisini ayırmıştır. Ancak her kurum, nihayetinde kendisini ilkeleriyle değil, bu ilkelerin sınandığı durumlarla ortaya koyar. Bir okulda çocukların ölümü de böyle bir sınamayı temsil etmektedir.
Bir şirket, teknolojisinin bir askerî operasyonda nasıl kullanıldığını belirleyemiyorsa, denetim ne anlama gelir? Yöneticiler, teknolojinin kullanımına ilişkin yeterli görünürlüğe sahip değilse, güvenlik önlemlerine ilişkin iddiaları değerlendirmek güçleşir. Bir sistem, sonuçları kitlesel sivil kayıpları içeren askerî süreçlere katkıda bulunuyorsa, sorumluluk yalnızca nihai insan aktörle mi sınırlandırılabilir? Bunlar yalnızca Anthropic’e yöneltilen sorular değildir. Bu sorular, Silikon Vadisi ile ABD ulusal güvenlik devleti arasında ortaya çıkmakta olan ittifakın tamamını ilgilendirmektedir. Tarih boyunca teknolojik dönüşüm dönemleri, sermaye ile askerî güç arasında yeni ortaklıklar doğurmuştur. Demiryolları, telgraflar, havacılık, nükleer fizik ve dijital ağlar bu yolu izlemiştir. Yapay zekâ da şimdi aynı yolda ilerlemektedir. Savunucuları hassasiyet, verimlilik ve daha az hata vaat etmektedir. Ancak her nesil benzer vaatleri duymaktadır.
Yirminci yüzyıl, yeni teknolojilerin savaşı daha temiz, daha rasyonel ve daha insancıl hâle getireceği yönündeki iddialarla doluydu. Tarihsel kayıtlar, böylesi bir iyimserliğe çok az destek sunmaktadır. Teknoloji, şiddeti dizginleme vaadinde bulunsa da, çoğu zaman onun ölçeğini ve hızını genişletmektedir. Minab’ın çocukları yapay zekâyla felsefi bir tartışma olarak karşılaşmadılar. Onlar, sonuçları patlayıcı bir güç biçiminde ortaya çıkan bir askerî sistemin parçası olarak yapay zekâyla karşılaştılar. Claude’un hedef belirleme sürecinde önemli bir rol mü, küçük bir rol mü, yoksa hiçbir rol mü oynadığı henüz belirlenmiş değildir. Araştırmacılar gerçekleri ortaya çıkarmalı, gazeteciler zor soruları sormaya devam etmeli ve vatandaşlar şeffaflık talep etmelidir. Ancak bu gerçekler bütünüyle ortaya çıkmadan önce bile, bu olay içinde bulunduğumuz siyasal döneme ilişkin önemli bir gerçeği gözler önüne sermektedir. Artık mesele, yapay zekânın savaşa entegre edilip edilmeyeceği değildir. Bu entegrasyon zaten başlamış durumdadır. Asıl soru, toplumların yaşam ve ölümle ilgili kararların, yaratıcılarının bile izlemekte, açıklamakta ya da kontrol etmekte zorlandıkları sistemler tarafından giderek daha fazla şekillendirilmesine izin verip vermeyeceğidir.
Minab’daki okul binası, yalnızca tek bir saldırı, tek bir şirket ya da tek bir savaş hakkında değil, daha geniş bir uyarı niteliği taşımaktadır. Bu okul binası, teknolojik gücün kamusal hesap verebilirlikten daha hızlı ilerlediği bir gelecek konusunda uyarıda bulunmaktadır. Ve o gelecekte, yapay zekâ ve insansız hava araçları sayesinde mühendis ile savaş alanı arasındaki mesafe giderek azalırken, makineleri kendi adlarına öldürmeye gönderen insanlar arasında sorumluluğu bulmak da giderek daha zor hâle gelecektir.
Bu makale, Globetrotter ve No Cold War tarafından hazırlanmıştır.
*Vijay Prashad, Tricontinental: Sosyal Araştırma Enstitüsü’nün direktörüdür. Grieve Chelwa ile birlikte kaleme aldığı en son kitabı, *Uluslararası Para Fonu Afrika’yı Nasıl Boğuyor* (Inkani Books) adını taşımaktadır.
