Andrea Miotti
Günümüz yapay zekâ şirketleri insandan daha zeki bir yapay zekâ yaratmak için yarışırken, dünya genelinde hükümetler bu sürecin gerekliliklerini yerine getirmekte yetersiz kalmaktadır.
Daha bu Nisan ayında Anthropic, benzeri görülmemiş siber saldırı yetenekleri nedeniyle Mythos modelini genel kullanıma sunmadı. Ulusal Güvenlik Ajansı ve Siber Komutanlığın başındaki General Joshua Rudd, Mythos’un “gizli sistemlerimizin neredeyse tamamına haftalar içinde değil, saatler içinde sızdığını” doğruladı. Bunun üzerine Trump Yönetimi, yapay zekâ programlarının hizmete alınma öncesinde gönüllü incelemelerden geçirilmesini öngören bir başkanlık kararnamesi yayımladı. Anthropic, Mythos’un küçültülmüş bir versiyonu olan Fable 5’i genel kullanıma sunduğunda ise Trump yönetimi, yabancı uyrukluların bu modelleri kullanmasını engellemek için ihracat kontrollerini devreye soktu ve Anthropic’i, hem Fable 5’i hem de Mythos’u devre dışı bırakmaya zorladı.
ABD hükümetinin güçlü yapay zekâ programlarının ulusal güvenlik üzerindeki etkilerini ciddiye almaya başladığı açıktır. Ancak büyük resmi hâlâ gözden kaçırmaktadır. Hizmete alınma öncesi değerlendirmeler ve ihracat kontrolleri, giderek daha yetenekli hâle gelen yapay zekâlardan kaynaklanan tehditleri ele almakta yetersiz kalmaktadır çünkü karşı karşıya olduğumuz tehditler yalnızca şaşırtıcı derecede güçlü siber silahlar değildir. Durum bundan çok daha kötüdür. Önde gelen yapay zekâ şirketleri, açıkça insanlardan daha üstün yapay zekâ, yani “süper-zekâ” geliştirmeye çalışmaktadır. Bu tür yapay zekâlar insanlardan çok daha yetenekli, tamamen otonom ve ülkelerin ulusal güvenlik kurumlarını alt edebilecek kapasiteye sahip olacaktır.
Uluslararası güvenlik mimarisinin tamamı, en tehlikeli silahların insanlar tarafından kontrol edildiği ve hayat alma kararının nihayetinde insanlar tarafından verildiği varsayımı üzerine kuruludur. Süper-zekâ bunu altüst edecektir. Bugün sahip olduğumuz en ölümcül silahlar olan nükleer silahların aksine, süper-zekâ sistemleri insanların kullanabileceği araçlar değil, kendi hedeflerini izleyebilen ve eylemleri üzerinde insanların hiçbir denetiminin olmadığı failler olacaktır. Önde gelen yapay zekâ şirketleri ise yapay zekâları mümkün olduğunca otonom hâle getirerek ve insanları yapay zekâ geliştirme sürecinin dışına çıkararak sorunu aktif biçimde daha da kötüleştirmektedir.
Dolayısıyla süper-zekâ, nihai asil-vekil sorununu temsil etmektedir ve bu sorunun bırakın çözümünü yanına dahi yaklaşılamamıştır. En endişe verici olan ise Nobel Ödülü sahiplerinin, yapay zekâ alanında önde gelen bilim insanlarının ve hatta en büyük yapay zekâ şirketlerinin CEO’larının bile süper-zekânın insanlık için yok oluş riski oluşturduğu konusunda uyarıda bulunmalarıdır. OpenAI CEO’su Sam Altman, insanüstü makine zekâsının insanlığın varlığını sürdürmesi açısından en büyük tehdit olduğunu defalarca söylemiş, buna rağmen OpenAI’nin “her şeyden önce… bir süper-zekâ araştırma şirketi” olduğunu da ifade etmiştir.
Bir avuç şirket süper-zekâya doğru hızla ilerlerken, uçurumun kenarından geri adım atmak için artık çok mu geç? Hayır. Ancak harekete geçmek için fırsat penceresi daralmakta ve giderek daha da kapanmaktadır.
Tek çözüm, süper-zekâ düzeyindeki yapay zekânın geliştirilmesine yönelik uluslararası bir yasaktır. Hükümetler bu yasağı acilen hayata geçirmeye çalışmalıdır çünkü insanlığın kendisinden çok daha zeki ve çok daha yetenekli yapay zekâlar üzerinde kontrolü elinde tutmasına imkân verecek herhangi bir teknik çözüm ufukta görünmemektedir.
Bazıları, bunu insanlığın istekleri doğrultusunda hareket eden yapay zekâlar oluşturmamızı sağlayacak “hizalanma” araştırmalarıyla çözebileceğimizi savunuyor. Ancak yapay zekâ yeteneklerindeki şaşırtıcı büyüme, yapay zekâları anlama ve kontrol etme araştırmalarını büyük ölçüde geride bırakmaktadır. Bu farkın neden önemli olduğunu görmek için, bu sistemlerin nasıl inşa edildiğine bakmak yeterlidir.
Günümüzde mühendisler, geleneksel yazılımlarda olduğu gibi satır satır kodlamak yerine, devasa veri yığınlarından yararlanarak yapay zekâ sistemlerini adeta, çocuk büyütme anlamında, yetiştiriyorlar. Bu sistemleri eğitmek için büyük veri merkezlerinde muazzam miktarda işlem gücü kullanıyorlar. Eğitim sürecinin sonunda ortaya çıkan yapay zekâ sistemleri ise, iç işleyişleri bizzat geliştiricileri için bile anlaşılmaz olan sistemlerdir.
Mühendisler yapay zekânın hangi konularda iyi olduğunu test edebilseler ve etrafına bazı güvenlik önlemleri koymaya çalışsalar da, sistemlerin gerçekte nasıl çalıştığını bilmiyorlar. Yapay zekâ şirketi Anthropic’in CEO’su Dario Amodei, yapay zekâ modellerinin içinde olup bitenlerin belki de yalnızca yüzde üçünü anladığımızı söyledi.
Bu sistemlerin doğasında bulunan öngörülemezlik ve kontrol edilemezlik, süper-zekâ sistemlerine yaklaştıkça devasa riskler ortaya koymaktadır. Ve tek bir parlak bilim insanı bir çözüm bulsa bile, herhangi bir hükümet müdahalesi olmaksızın farklı bir şirketi ya da ülkeyi herkesi öldürebilecek süper-zekâyı geliştirmek için hızla ilerlemekten alıkoyacak hiçbir şey yoktur.
Neyse ki, süper-zekânın yasaklanmasına yönelik uluslararası bir anlaşmayı hem izlemek hem de uygulamak mümkün olacaktır çünkü gelişmiş yapay zekâ sistemlerinin arkasında büyük ölçekli bir endüstriyel süreç bulunmaktadır. Bu, nükleer silahlar üretmek için gereken kapsamlı ve büyük ölçüde izlenebilir sürece benzemektedir. Tedarik zinciri olağanüstü derecede sınırlıdır ve Batılı ülkeler ile benzer görüşteki demokrasiler tarafından kontrol edilmektedir. Dünyanın en gelişmiş yapay zekâ çipleri neredeyse yalnızca Tayvan’daki TSMC tarafından üretilmektedir. Bu çipleri üretmek için gerekli litografi makineleri Hollanda’daki tek bir şirket olan ASML tarafından yapılmaktadır. Ve en ileri düzey çip tasarımları ezici çoğunlukla tek bir Amerikan şirketi olan NVIDIA’dan gelmektedir.
Buna ek olarak, güçlü yapay zekâları eğiten ve sürekli çalıştıran veri merkezleri, küçük şehirler ölçeğinde elektrik tüketmektedir. Bunların ayak izleri uydu görüntüleri kullanılarak kolayca takip edilebilir. Amerikan Bilim İnsanları Federasyonu kısa süre önce bunu, 2024 ile 2025 yılları arasında Birleşik Arap Emirlikleri’nde büyük ölçekli bir yapay zekâ veri merkezinin inşasını serbestçe erişilebilen görüntüler kullanarak haritalandırmak suretiyle gösterdi. Endüstriyel sürecin büyüklüğü, izlemeyi ve gerektiğinde müdahaleyi mümkün kılan tek şeydir.
Ancak harekete geçmek için mevcut zaman penceresi kapanmaktadır. Önümüzdeki on yıl içinde yapay zekâ algoritmalarının gelişmesini, buna karşılık gelişmiş çipler gibi donanımların daha küçük ve daha verimli hâle gelmesini bekleyebiliriz. Birkaç yıl içinde süper-zekâ inşa etmek için gerekli kaynakların, izlemenin imkânsız hâle geleceği kadar küçülmesi mümkündür. Bu durum, sonunda teröristler ve diğer devlet dışı gruplar da dâhil olmak üzere daha küçük aktörlerin bu tür sistemleri inşa edebilmesini de mümkün kılabilir.
Bu gerçekleşmeden önce harekete geçmemiz gerekiyor.
Amerika Birleşik Devletleri ülke içinde süper-zekâyı yasaklamalı ve bunun küresel ölçekte geliştirilmesini önlemeye yönelik bir politika benimsemelidir. Nükleer caydırıcılığı ele alış biçimimize benzer şekilde, “güven ama doğrula” rejimi temelinde süper-zekânın geliştirilmesini yasaklayan uluslararası bir anlaşma oluşturmak için diğer ülkelerle birlikte çalışmalıdır. Böyle bir anlaşma, günümüzün çalkantılı jeopolitiği içinde büyük bir hedef olsa da, mevcut devlet yönetimi araçlarının ulaşabileceği bir mesafe içindedir.
Anlaşmaya taraf olan ülkeler, süper-zekânın kendi ülkelerinde geliştirilmemesini sağlayacaktır. Grubun dışında herhangi biri bunu geliştirmeye çalışırsa, gruptaki ülkeler bu gelişimi caydırmak için karşılık verebilirler. Bunun için ihracat kontrollerini, yaptırımları veya istihbarat iş birliğini kullanabilirler. Hiçbir ülkenin, kendisi de dâhil olmak üzere herhangi bir aktörün, herhangi bir hükümetin güvenlik güçlerini alt edebilecek ve insanlığı yok olma tehdidiyle karşı karşıya bırakabilecek bir teknoloji geliştirmesinde herhangi bir çıkarı yoktur.
Bunların hiçbiri kolay olmayacaktır. Çin ile devam eden büyük güç rekabeti çok yoğun ve Washington’da bu hususta uluslararası iş birliğine yönelik çok az istek bulunmaktadır. Ancak aynı şey nükleer silahların yayılmasının önlenmesi için de söylenmişti ve 1945’ten bu yana hiçbir çatışmada nükleer patlama yaşanmamıştır.
Yasağı destekleyen siyasi koalisyon, birçok kişinin fark ettiğinden daha geniştir. 2025 sonbaharında, yapay zekâ alanında önde gelen bilim insanları ve eski ABD Ulusal Güvenlik Danışmanı Susan Rice, Başkan Trump’ın eski danışmanı Steve Bannon ve eski ABD Genelkurmay Başkanı Oramiral Mike Mullen gibi siyasi yelpazenin farklı kesimlerinden isimler, süper-zekâ geliştirilmesinin yasaklanması çağrısında bulundu. Bu arada, Birleşik Krallık ve Kanada genelinde 150’den fazla milletvekilinden oluşan bir koalisyon, süper-zekânın insanlığın yok oluşu düzeyinde bir tehdit oluşturduğu konusunda uyarıda bulunmakta ve bu tür teknolojinin geliştirilmesine yönelik yasağa kadar varabilecek bağlayıcı sınırlamalar çağrısında bulunmaktadır.
Buna rağmen, politika yapıcıların çoğu bu tehlikeyi hâlâ ciddiye almamaktadır. Onlar, yalnızca yapay zekâ yöneticilerinin kendilerine anlattığı, göklere çıkan kârlılık hikâyelerini duyuyorlar. Eksik olan şey, hem süper-zekânın benzeri görülmemiş bir ulusal güvenlik tehdidi olduğunun yaygın biçimde kabul edilmesi hem de harekete geçecek siyasi bir iradedir. Doğru çözüm ise, Amerika Birleşik Devletleri’ni ve dünyanın geri kalanını koruyan süper-zekâyı önlemeye yönelik bir doktrindir.
Bununla birlikte, hızla yaklaşmakta olduğumuz felaketi hâlâ önleyebiliriz.
*Andrea Miotti, insanlığın gelişmiş yapay zekâ üzerinde kontrolünü sürdürmesini sağlamak için çalışan kâr amacı gütmeyen bir kuruluş olan ControlAI’nin kurucusu ve CEO’sudur.
Kaynak: https://www.persuasion.community/p/time-for-a-global-moratorium-on-superintelligenc
Tercüme: Ali Karakuş
