Michael Aaron Cody
Savaş Bakanlığı, Ağustos ayının sonunda GenAI.mil’i ChatGPT Mil ve Grok for Government ile genişlettiğini duyurdu ve böylece daha fazla kurumsal yapay zekâyı doğrudan Amerikan ordusunun günlük altyapısına ekledi. Her iki sistem de Etki Seviyesi 5’te Kontrollü Sınıflandırılmamış Bilgileri işlemek üzere akredite edildi ve GenAI.mil, Aralık 2025’te faaliyete geçmesinden bu yana 1,7 milyondan fazla benzersiz kullanıcıya ulaştı.
Bu artık küçük bir test değil. Bakanlık açıkça “yapay zekâ öncelikli” bir güç çağrısında bulundu ve bu araçların planlama, politika, lojistik, idari işler, tedarik, tedarik zincirleri ve diğer rutin işleri hızlandırmasının amaçlandığını söylüyor. Amaç, yapay zekâyı olağan hâle getirmek, hızlandırmak ve gücün mümkün olduğunca büyük bir bölümünün kullanımına sunmak. Bu gerçek bir avantaj sağlayabilir, ancak aynı zamanda Ulusal Güvenlik Ajansı’ndaki her risk analistinin her gün modellemesi gereken temel bir güvenlik sorunu da yaratıyor. Hızlı benimseme; daha fazla kullanıcı, daha fazla kimlik bilgisi, daha fazla depolanan proje, daha fazla veri hareketi, daha fazla yazılım bağlantısı ve Amerika Birleşik Devletleri dışındaki birinin içeri girmenin bir yolunu bulması için daha fazla fırsat anlamına geliyor.
En büyük risk, bilim kurgu filmlerinden fırlamış bir yapay zekânın Amerika Birleşik Devletleri’ne karşı dönmesi ya da yapay zekânın öz farkındalık kazanıp kullanıcıları yanıltması değil. Risk; veri, insanlar ve disiplindir. Kurumsal yapay zekâ kullanım kolaylığı sağlayacak şekilde tasarlanmıştır ve zaman içinde güvenlik disiplinini aşındırabilecek şey tam da bu kullanım kolaylığıdır. İnsanlar sohbet tabanlı yapay zekâyla geleneksel bilgi sistemleriyle olduğundan farklı biçimde etkileşime giriyor. Sohbet tabanlı yapay zekâya kendini açma üzerine hakem denetiminden geçmiş araştırmalar, kullanıcıların özellikle sistemi anonim, yargılamayan veya sosyal açıdan güvenli olarak algıladıklarında sohbet ajanlarına insanlara veya geleneksel anketlere kıyasla çoğu zaman daha fazla bilgi açıkladığını ortaya koydu.
Bu önemli çünkü insanlar sorular soruyor, dosyalar yüklüyor, metin kopyalıyor, materyalleri özetliyor, projeleri kaydediyor ve etkileşim sıradan gelmeye başlayana kadar günbegün aynı sisteme geri dönüyor. Bu etkileşim ne kadar sıradanlaşırsa, güvenlik disiplininin onun etrafında aşınması da o kadar kolaylaşıyor. Sohbet tabanlı yapay zekânın kitlesel olarak benimsenmesi operasyonel güvenliği otomatik olarak ihlal etmez, ancak üzerindeki baskıyı artırır. Pentagon’un kendi doktrini, veri toplulaştırmanın, rutin bilgi sistemlerinin ve olağan örgütsel faaliyetlerin istismar edilebilir zafiyetler yaratabileceği konusunda uyarıyor. GenAI.mil bunların üçünü de aynı anda genişletiyor.
Amerika, askerî meraklıların sırf silahlarla ilgili tartışmaları kazanmak için kısıtlı veya hassas materyalleri War Thunder forumlarında defalarca paylaştığına zaten tanık oldu. Milyonlarca insana sürtünmesiz sohbet üzerine kurulmuş bir araç verin ve ardından bu aracı normal iş günlerinin bir parçası hâline getirin; içlerinden bir kısmı eninde sonunda gereğinden fazla rahat davranacaktır. Güvenlik kuralları, sıkı prosedürler, eğitim ve akreditasyon riski azaltmaya yardımcı olabilir. Bunların hiçbiri milyonlarca etkileşim boyunca tüm kullanıcı davranışlarını öngöremez. Orduda kurumsal yapay zekâ konusunda daha önce yaptığım uyarı, standartların aşınması nedeniyle normalleşmenin kendisinin zafiyete dönüşeceğiydi. Savaş Bakanlığı şimdi açıkça öncü yapay zekâyı günlük operasyonların standardı hâline getirmeye çalışıyor.
Daha fazla yapay zekâ sistemi; daha fazla yazılım, daha fazla entegrasyon, daha fazla kimlik bilgisi, daha fazla depolanan bilgi ve düşman bir aktörün yoklayabileceği daha fazla yer demektir. Ulusal Standartlar ve Teknoloji Enstitüsü, üretken yapay zekânın mevcut saldırı yüzeyini genişlettiği konusunda açıkça uyarıyor. Pentagon yetkilileri ayrıca üretken modellerin eğitim verilerindeki sınıflandırılmamış bilgileri toplulaştırabileceğini ve istemeden sınıflandırılmış bilgileri çıktı olarak verebileceğini söyledi. Düşman bir istihbarat servisinin Savaş Bakanlığının tamamını yenmesine gerek yok.
Bu yalnızca Pentagon’un güvenlik sorunu değil. Aynı zamanda uluslararası sonuçları da var. Amerika Birleşik Devletleri, Five Eyes ortaklığı gibi istihbarat paylaşım ilişkilerinin merkezinde yer alıyor ve bu ilişkiler, hassas bilgilerin Amerikan sistemlerine girdikten sonra korunmaya devam edeceğine duyulan güvene dayanıyor. Pentagon kurumsal yapay zekâyı normal askerî işlerin bir parçası hâline getirdikçe, müttefiklerin daha fazla yapay zekâ erişiminin, daha fazla depolanan bilginin ve daha fazla veri toplulaştırmanın Amerikan tarafında yeni riskler yaratıp yaratmadığını sormak için her türlü nedeni var.
Çin ve Rusya farklı bir soru soracak: Zayıflık nerede? Amerika Birleşik Devletleri yapay zekâ sayesinde hız kazanabilir, ancak bu hız daha zayıf bilgi disipliniyle birlikte gelirse, avantaj başkasının fırsatına dönüşebilir.
İstihbaratın ve ordunun yaptığı kritik hata, eğitimin bu sorunu çözebileceğine inanmaktır. Kurumsal yapılar, altta yatan riski kayda değer ölçüde sınırlamadan güven hissi verebilir. Aynı tehlike burada da geçerli. Bir risk çerçevesi önemlidir, ancak rutin kullanımın beş yıl sonra da dikkatli biçimde sürdürüleceğini garanti etmez. Bu askerî yapay zekâ uygulamasının yaygınlaştırılmasıyla bağlantılı feci bir ihlalin henüz yaşanmamış olması, böyle bir ihlalin yaşanmayacağı anlamına gelmez.
Yapay zekânın hızla benimsenmesi, daha güçlü savaşma kabiliyetiyle karıştırılmamalıdır. Pentagon, yapay zekânın benimsenmesini kendi prosedürleriyle karşılaştırarak dikkatle değerlendirmeli, bunun yarattığı güvenlik yüklerini belirlemeli ve bu riskleri sonraki aşamalarda azaltmalıdır. Her yeni yapay zekâ kabiliyeti, savunulması gereken bir şey daha yaratır ve her kullanım kolaylığı katmanı, hem ordunun sahip olduğu en eski güvenlik sistemi hem de klavyenin arkasındaki kişinin muhakemesi üzerinde daha fazla baskı oluşturur. Amerika’nın düşmanlarının bundan yararlanmak için bir süper zekâ icat etmesine gerek yok. Tek yapmaları gereken disiplinin aşınmasını beklemek.
Kaynak: https://fpif.org/the-pentagons-ai-rush-is-creating-a-security-weakness/
