Yapay zekâ silah sistemleri

Algoritmalar kimin yaşayıp kimin öleceğine karar vermemeli

 

Teknoloji liderleri yapay zekânın tehditleri konusunda uyarıda bulunurken çoğu kişinin aklına, kritik altyapımızı, bankalarımızı, hatta ordularımızı yöneten sistemleri hackleyebilecek, kontrolden çıkmış yapay zekâ ajanları geliyor. Oysa daha seyrek dile getirilen ciddi bir tehlike var: yapay zekâyla güçlendirilmiş ölümcül silahların oluşturduğu tehdit. Bu silahların tam otonom sürümleri halk arasında “katil robotlar” olarak biliniyor.

İsrail’in Gazze’deki uygulamaları, önemli bir açıdan, bu tür yapay zekâ silah sistemlerinin çoktan devrede olduğunu gösteriyor. Kimin yaşayıp kimin öleceğine bir süredir bir algoritma karar veriyor.

Hükümetler, otonom yapay zekâ silahlarının geliştirilmesini durdurmak için on yılı aşkın süredir Cenevre’de toplantılar düzenliyor. Eylül başında 128 hükümet, bağlayıcı bir antlaşmaya temel oluşturabilecek bir raporu onaylamak üzere bir araya geldi.

Ancak Donald Trump ile Vladimir Putin’in gönderdiği bir grup hukukçu, raporu sulandırmak için birlikte hareket etti. Özellikle, yapay zekânın belirlediği askerî hedeflerin saldırıdan önce insanlar tarafından incelenmesini zorunlu kılan bir hükmü zayıflattılar.

Tam otonom silahlar görüşmelerin odağında kalmaya devam ediyor; konvansiyonel silahların hedeflerini belirlemek için yapay zekâ kullanılması ise odakta değil. Tehlikede olan, yapay zekâyla güçlendirilmiş silahlarda “döngüde bir insan” bulundurma, yani anlamlı ya da etkili “insan kontrolü” sağlama yönündeki uzun süreli çaba.

Pek çok kişinin aklına katil robotlardan söz edildiğinde Arnold Schwarzenegger’in Terminatör filmi geliyor. Ben bu sorunu sık sık, Arap Baharı’nın zirvesinde, Mısır Cumhurbaşkanı Hüsnü Mübarek’in devrilmesine yol açan Tahrir Meydanı ayaklanması bağlamında düşündüm.

Mısır ordusu Mısırlı protestoculara ateş açmayı reddedeceğini açıkça ortaya koyduğunda Mübarek’in kaderi mühürlendi. Ancak katil robotların böyle bir çekincesi olmayacaktı. Mübarek bunları kullanabilseydi iktidarda kalabilirdi.

Cenevre’deki müzakereciler bu sorunu ele almıyor bile. Trump ve Putin’in gönderdiği hukukçular, üzerinde uzlaşılan raporun baskıya değil, yalnızca savaşa değinmesini sağladı.

Bugün, Ukrayna’nın doğusundaki dron savaşları sırasında Rus ve Ukrayna birlikleri, dronları kontrol etmek için kullanılan sinyallerin karıştırılmasını aşmak amacıyla tam otonom silahları deniyor. Henüz başlangıç aşamasındaki bu konuşlandırmaların yaygınlaşmasını bekleyebiliriz.

Ancak “katil robot” benzetmesi yanıltıcı. Hedef belirleme kararlarına daha geniş bir açıdan baktığımızda, yapay zekâ çoktan devralmış durumda. Gazze’de İsrail ordusu Filistinlileri hedef almak için yapay zekâ kullanıyor.

İsrail, bu bölgedeki telefon iletişimini uzun süredir izliyor. 7 Ekim 2023’teki Hamas saldırısının ardından İsrail, “Lavender” adlı bir yapay zekâ sistemini, bir Hamas mensubunun telefonuyla özdeşleştirdiği örüntüleri ortaya çıkarmak için kullandı. Yapay zekânın, telefonlarının bu ölçütleri karşıladığını belirlediği kişiler öldürülebiliyordu.

Şüphelileri evlerinde hedef almak daha kolay olduğu için “Where’s Daddy?” adlı ayrı bir otomatik sistem de onları evlerinde takip ediyordu; bunun sonucunda aileleri de sık sık öldürülüyordu. Hamas mensuplarının evlerini askerî amaçlarla kullandığı yönünde bir iddia bile yoktu. Yapay zekâ sisteminin şüpheli Hamas savaşçılarını uyudukları yerde bulması yalnızca daha kolaydı. Aileler de tali kayıplardı.

Teoride döngüde bir insan vardı: Yapay zekânın seçtiği hedef, onu onaylayan istihbarat subaylarından geçiyor; bu subaylar da hedefi saldırıyı başlatan kişilere iletiyordu. Gerçekte ise insanın bu süreçteki rolü yalnızca biçimseldi.

Geçmişte İsrail’in hedef belirleme kararları ciddi bir incelemeye tabi tutuluyordu. Ancak Hamas saldırısının ardından İsrail’in yürüttüğü öldürme furyasında, hedeflere yönelik yoğun talep bu incelemelerin önüne geçti.

Yapay zekânın belirlediği hedefleri alan İsrailli istihbarat subayları, bunları rutin olarak ikinci kez değerlendirmeden saldırıyı düzenleyenlere iletiyordu. Bir subay şöyle anlatmıştı: “Bu aşamada her hedef için 20 saniye harcıyor, her gün onlarcasını işliyordum. Bir insan olarak, onay mührü olmaktan başka hiçbir katma değerim yoktu. Bu, çok zaman kazandırıyordu.”

Bilgisayardan öldürmeye uzanan süreçte uygulanan insan muhakemesi üstünkörüydü: bir “göstermelik onaydan” ibaretti. Özünde, bir algoritma Tanrı rolüne soyunmuştu.

İsrailli bir subay, yapay zekâ insanlardan daha iyi kararlar verdiği için bu uygulamanın haklı görülebileceğini öne sürdü. Yapay zekâ soğukkanlıydı; insanların muhakemesi ise Hamas saldırısının ardından bazı İsraillilerin tüm Filistinlilere karşı duyduğu düşmanlık gibi etkenlerle bulanabiliyordu.

Bir İsrailli asker şöyle anlatmıştı: “İstatistiksel bir mekanizmaya, iki gün önce bir arkadaşını kaybetmiş bir askerden çok daha fazla güveniyorum. Oradaki herkes, ben dâhil, 7 Ekim’de yakınlarını kaybetti. Makine bunu soğukkanlılıkla yaptı. Bu da işi kolaylaştırdı.”

Ancak yapay zekâ algoritmaları kaçınılmaz olarak insanların sisteme sağladığı girdilerden etkileniyor. Bir kişiyi Hamas savaşçısı olarak tanımlamak için ne kadar kanıt gerekiyor? Ne kadarlık bir hata payı tolere ediliyor?

Bu soruların yanıtı, yapay zekâ programcılarının ve onların komutanlarının muhakemesine bağlı. Programcılar ve komutanlar, Hamas saldırısının ardından yaşanan öfke ortamında Filistinli sivillerin hayatını değersizleştirmiş olabilecek sıradan İsraillilerdi. İsrail ordusu bile suikast için hedef alınan kişilerin yaklaşık yüzde 10’unun Hamas’ın askerî kanadına hiç mensup olmadığını kabul etti.

İsrail Cumhurbaşkanı Isaac Herzog, Filistinli sivillere yönelik umursamaz tutumu şu sözlerle ortaya koydu: “Oradaki koca bir ulus sorumludur. Sivillerin haberi yoktu, işin içinde değillerdi söylemi doğru değil; kesinlikle doğru değil. Ayaklanabilir, o şer rejime karşı savaşabilirlerdi.”

Aynı hor görme, İsrail ordusunun sivil ölümleri tolere etme konusundaki şok edici istekliliğine de katkıda bulundu. İsrail ordusu, Hamas savaşçısı olduğundan yalnızca şüphelenilen alt düzey bir kişinin öldürülmesi için öngörülen 20 ölüme izin verdi.

Orantılılık ilkesi uyarınca uluslararası insancıl hukuk, “öngörülen somut ve doğrudan askerî avantaja kıyasla aşırı olacak ölçüde arızi sivil can kaybına yol açması beklenen” saldırıları yasaklıyor. Uluslararası hukuk, belirli bir durumda kabul edilebilir sivil kayıp sayısını belirtmiyor. Buna rağmen neredeyse hiçbir hukuk uzmanı, İsrail’in şok edici 20’ye 1 oranını hukuka uygun görmüyor.

Bunlar savaş suçları. Bu suçlar, Filistinli sivillerin hayatının dehşet verici biçimde değersizleştirildiğini gösteriyor.

Hannah Arendt’in “kötülüğün sıradanlığı” kavramını bana hatırlatan biçimde, sıradan askerler “sistem” dedikleri şeye güvenerek olağanüstü bir zalimliğin suç ortağı oldular. Sistemin özünü yine insanlar oluşturuyordu: kurulmasını emreden generaller, mazur görülemez olanı mazur gösteren askerî hukukçular, algoritmada ince ayar yapan programcılar, bilgisayarın ürettiği hedefleri ileten istihbarat subayları ve saldırıyı başlatan askerler.

Sisteme güvenmeyi kolaylaştıran etkenlerden biri de yapay zekânın sözde bilimsel kesinliğiydi. Bugünün sohbet robotlarının rahat ve kendinden emin tonuna hepimiz aşinayız. Yapay zekâ hedef belirlemek için kullanıldığında, öldürme sürecine de benzer bir sahte mutlak bilgi izlenimi taşıyor.

Kaçınılmaz kusurları olan insanlar karar verdiğinde, başkalarının bu kararları sorgulaması beklenebilir. Ancak yapay zekâ, onun yargılarına boyun eğmemizi kolaylaştırıyor. Bu boyun eğiş, her yapay zekâ sistemine kaçınılmaz olarak bulaşan insan önyargılarını büyütme riski taşıyor.

Katil robotları sınırlamaya çalışırken, başka hedef belirleme süreçlerinde bizi rehavete sürükleyebilecek yapay zekâ uygulamalarına da dikkat etmeliyiz. Uluslararası Kızılhaç Komitesi bu durumu “otomasyon yanlılığı” olarak adlandırıyor.

Yapay zekâ üzerinde anlamlı bir insan kontrolü sağlamak için kararlarının yalnızca biçimsel olarak onaylanması yetmez. Yapay zekânın ürettiği sonuçlar yoğun biçimde sorgulanmalı; alt rütbeli subaylar görevlerini gerektiği gibi yerine getirmediğinde komutanlar hesap vermelidir.

Bu kuşkucu yaklaşım, yapay zekâyı kullanan askerlerin mümkün kıldıkları öldürme zincirinin ucunda gerçek insanların bulunduğunu hatırlamasını sağlayabilecek yegâne umuttur. Savaşta bile insanların hayatı, bir algoritmanın mekanik biçimde uygulanmasıyla asla söndürülmemeli.

*Kenneth Roth, The Guardian’ın ABD köşe yazarı, Yale Üniversitesi’nde kıdemli araştırmacı ve Human Rights Watch’un eski icra direktörüdür. Righting Wrongs: Three Decades on the Front Lines Battling Abusive Governments kitabının yazarıdır.

Kaynak: https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war