Cengiz Sözübek
ÇEVİRİ ve TAKDİM: Cengiz Sözübek
Henry Kissinger ölümünden sonra yayımlanan yüz yıllık ömründeki son kitabı “Genesis: Yapay Zeka, Umut ve İnsan Ruhu”nda, belki de önümüzdeki yüz yıla dair en büyük kehanetlerin konusu olan Yapay Zeka’yı adeta “yeni yaradılış”a atıfla anlatıyor. Google eski CEO’su Eric Schmidt ve Microsoft eski danışmanı Craig Mundie ile birlikte kaleme aldığı kitap “yapay zekâ insanlığı kurtarabilir ya da son erdirebilir” olarak özetlenebilecek pek de diplomatik olmayan aforizmaları ihtiva ediyor. Kissinger’ın doğduğu Almanya’nın meşhur übermenj-üstün insanı adeta kitapta yapay zekâ olarak tecessüm ediyor.
Kitapla ilgili yazılan ilginç yorumlardan birisi de, Kissinger’ın 2000’lerdeki yol arkadaşı Condoleezza Rice’a ait: “bu kitap insan olmanın anlamını koruyarak nasıl bir arada var olabileceğimize dair umut verici bir çerçeve oluşturuyor.” Bir başka yoldaşı Ian Bremmer da “İnsanlığın üstün bir zekâyla ilk karşılaşmasının pratik ve felsefi sonuçlarına dair görüşleri, bizi teknolojiyle olan ilişkimizi ve evrendeki yerimizi yeniden düşünmeye zorlayan ayıltıcı ve ilham verici” olarak tanımlıyor.
Foreign Affairs dergisinin kitapla ilgili değerlendirmesi de “Yapay Zekâ Çağında Savaş ve Barış” başlığı ile yayımlandı. Yapay Zekâ ile birlikte; Simpson’un 2025 kehanetlerinden “güneş fırtına”sına vurgu yapılmasına, ulus devlet yapısının fonksiyonunu yitirecek olmasına, insan tasarımının “eksik” kaldığının anlaşılacak olmasına kadar bir çok “ölümcül” konu ele alınıyor.
Yapay Zekâ Çağında Savaş ve Barış
Makineler Strateji ve Devlet Yönetimini Şekillendirdiğinde Dünya İçin Ne Anlam İfade Edecek?
Askeri stratejinin yeniden ayarlanmasından diplomasinin yeniden oluşturulmasına kadar, yapay zekâ dünyadaki düzenin temel belirleyicisi haline gelecektir. Korku ve tarafgirliğe karşı bağışıklığı olan yapay zekâ, stratejik karar alma süreçlerinde yeni bir nesnellik imkanı sunmaktadır. Ancak hem savaşçı hem de barışçı tarafından kullanılan bu nesnellik, gücün sorumlu bir şekilde kullanılması için gerekli olan insan öznelliğini korumalıdır. Savaşta yapay zekâ, insanlığın en iyi ve en kötü ifadelerini aydınlatacaktır. Hem savaşı yürütmek hem de sona erdirmek için bir araç olarak hizmet edecektir.
İnsanlığın, hiçbir devletin diğerleri üzerinde mutlak hakimiyet kurmaması için kendisini her zamankinden daha karmaşık düzenlemelerle oluşturmaya yönelik uzun süredir devam eden mücadelesi, sürekli ve kesintisiz bir doğa kanunu statüsüne ulaşmıştır. Başlıca aktörlerin hâlâ insan olduğu bir dünyada – onları bilgilendirecek, danışacak ve tavsiyelerde bulunacak yapay zekâ ile donatılmış olsalar bile – ülkeler, zamanın ayarlamalarına ve ayarlamalarına tabi olarak, ortak davranış normlarına dayalı bir dereceye kadar istikrarın tadını çıkarmalıdır.
Ancak Yapay Zekâ (YZ) pratikte bağımsız bir siyasi, diplomatik ve askeri varlıklar kümesi olarak ortaya çıkarsa, bu durum eski güç dengesinin yeni, keşfedilmemiş bir dengesizlikle yer değiştirmesini zorlayacaktır. Ulus-devletlerin uluslararası ahengi -son birkaç yüzyılda elde edilen zayıf ve değişken bir denge- kısmen oyuncuların doğasında var olan eşitlik nedeniyle devam etmiştir. Ciddi bir asimetrinin olduğu bir dünya – örneğin bazı devletlerin yapay zekâyı en üst düzeyde diğerlerinden daha kolay benimsemesi – çok daha az öngörülebilir olacaktır. Bazı insanların askeri ya da diplomatik olarak yüksek düzeyde YZ’ye sahip bir devletle ya da YZ’nin kendisiyle karşı karşıya gelebileceği durumlarda, insanlar rekabet etmek bir yana hayatta kalmakta bile zorlanabilir. Böyle bir ara düzen, toplumların içten içe çöküşüne ve dış çatışmaların kontrol edilemez bir şekilde patlamasına tanık olabilir.
Başka olasılıklar da var. Güvenlik arayışının ötesinde, insanlar uzun zamandır zafer peşinde koşmak ya da onurlarını korumak için savaşmaktadır. Makineler -şimdilik- zafer ya da onur kavramlarından yoksundur. Asla savaşa girmeyebilirler, bunun yerine örneğin karmaşık hesaplamalara dayalı olarak anında, dikkatlice bölünmüş toprak transferlerini seçebilirler. Ya da -bir sonuca öncelik vererek ve bireysel yaşamlara önem vermeyerek- kanlı insan yıpratma savaşlarına dönüşen eylemlerde bulunabilirler. Bir senaryoda, türümüz insan davranışlarının vahşetinden tamamen kaçınacak şekilde dönüşmüş olarak ortaya çıkabilir. Bir diğerinde ise teknolojiye o kadar boyun eğmiş oluruz ki, bu bizi barbar bir geçmişe geri götürür.
Yapay Zekâ Güvenlik İkilemi
Pek çok ülke “yapay zekâ yarışını nasıl kazanacaklarına” odaklanmış durumda. Bu çaba kısmen anlaşılabilir. Kültür, tarih, iletişim ve algı, günümüzün büyük güçleri arasında her tarafta güvensizliği ve şüpheyi besleyen diplomatik bir durum yaratmak için bir araya geldi. Liderler, artan bir taktik avantajın gelecekteki herhangi bir çatışmada belirleyici olabileceğine ve yapay zekânın tam da bu avantajı sunabileceğine inanıyor.
Her ülke kendi konumunu en üst düzeye çıkarmak isterse, rakip askeri güçler ve istihbarat teşkilatları arasında insanlığın daha önce hiç karşılaşmadığı türden bir psikolojik yarışma için koşullar oluşacaktır. İnsanlığı varoluşsal bir güvenlik ikilemi beklemektedir. Süper zeki YZ’ye, yani insandan daha zeki varsayımsal bir YZ’ye sahip olan herhangi bir insan aktörün mantıklı ilk isteği, teknolojinin bu güçlü versiyonuna başka kimsenin sahip olmamasını garanti altına almaya çalışmak olabilir. Böyle bir aktör, aynı belirsizliklerle boğuşan ve aynı risklerle karşı karşıya olan rakibinin de benzer bir hamle yapmayı düşüneceğini varsayabilir.
Savaş dışında, süper zeki bir YZ rakip bir programı yıkabilir, zayıflatabilir ve engelleyebilir. Örneğin, YZ hem geleneksel bilgisayar virüslerini benzeri görülmemiş bir güçle güçlendirmeyi hem de onları iyice gizlemeyi vaat ediyor. Stuxnet bilgisayar solucanı gibi – 2010 yılında ortaya çıkarılan ve İran’ın uranyum santrifüjlerinin beşte birini yok ettiği düşünülen siber silah – bir YZ ajanı rakibinin ilerlemesini varlığını gizleyecek şekilde sabote edebilir ve böylece düşman bilim insanlarını gölgelerin peşinden koşmaya zorlayabilir. İnsan psikolojisindeki zayıflıkları manipüle etme konusundaki benzersiz kapasitesiyle bir YZ, rakip bir ülkenin medyasını da ele geçirebilir ve o ülkenin YZ kapasitelerindeki daha fazla ilerlemeye karşı kitlesel muhalefete ilham verecek kadar endişe verici bir sentetik dezenformasyon tufanı üretebilir.
Ülkelerin YZ yarışında diğerlerine göre nerede durduklarını net bir şekilde anlamaları zor olacaktır. Şimdiden en büyük YZ modelleri, internetin geri kalanıyla bağlantısı kesilmiş güvenli ağlar üzerinde eğitiliyor. Bazı yöneticiler, YZ geliştirmenin er ya da geç süper bilgisayarların nükleer reaktörlerle güçlendirileceği aşılmaz sığınaklara taşınacağına inanıyor. Hatta şu anda okyanus tabanının dibinde veri merkezleri inşa ediliyor. Yakında Dünya’nın etrafındaki yörüngelere de yerleştirilebilirler. Şirketler ya da ülkeler, sadece kötü niyetli aktörlere fırsat vermemek için değil, aynı zamanda kendi gelişim hızlarını da gizlemek için YZ araştırmalarını yayınlamayı bırakarak giderek daha fazla “karanlıkta kalabilirler”. İlerlemelerinin gerçek resmini çarpıtmak için, diğerleri kasıtlı olarak yanıltıcı araştırmalar yayınlamayı bile deneyebilir ve YZ ikna edici uydurmaların yaratılmasına yardımcı olabilir.
Bu tür bilimsel hileler için bir emsal vardır. 1942’de Sovyet fizikçi Georgy Flyorov, Amerikalıların ve İngilizlerin atomik fizyon üzerine bilimsel makaleler yayınlamayı aniden durdurduklarını fark ettikten sonra ABD’nin bir nükleer bomba inşa ettiği sonucuna varmıştı. Bugün, zekâ gibi soyut bir şeye yönelik ilerlemeyi ölçmenin karmaşıklığı ve belirsizliği göz önüne alındığında, böyle bir yarışma daha da öngörülemez hale gelecektir. Bazıları avantajı ellerindeki YZ modellerinin boyutuyla orantılı olarak görse de, daha büyük bir model tüm bağlamlarda mutlaka daha üstün değildir ve her zaman ölçekte konuşlandırılan daha küçük modellere üstün gelmeyebilir. Daha küçük ve daha uzmanlaşmış YZ makineleri, bir uçak gemisine karşı bir dron sürüsü gibi çalışabilir – onu yok edemez, ancak etkisiz hale getirmek için yeterlidir.
Bir aktör, belirli bir kabiliyette başarı göstermesi halinde genel bir avantaja sahip olarak algılanabilir. Ancak bu düşünce tarzındaki sorun, YZ’nin sadece tek bir teknolojiye değil, aynı zamanda geniş bir teknoloji yelpazesine gömülü olan bir makine öğrenimi sürecine atıfta bulunmasıdır. Dolayısıyla herhangi bir alandaki kabiliyet, başka bir alandaki kabiliyetten tamamen farklı faktörler tarafından yönlendirilebilir. Bu anlamda, normal olarak hesaplanan herhangi bir “avantaj” yanıltıcı olabilir.
Dahası, son yıllarda YZ kabiliyetinde yaşanan üstel (geometrik artış – çn) ve öngörülemeyen patlamanın da gösterdiği gibi, ilerlemenin yörüngesi ne doğrusal ne de öngörülebilirdir. Bir aktörün diğerine yaklaşık birkaç yıl veya ay “liderlik” ettiği söylenebilse bile, kritik bir anda kilit bir alanda ani bir teknik veya teorik atılım tüm oyuncuların pozisyonlarını tersine çevirebilir.
Hiçbir liderin en sağlam istihbaratına, en ilkel içgüdülerine ve hatta gerçekliğin temeline güvenemeyeceği böyle bir dünyada, hükümetler maksimum paranoya ve şüphe pozisyonundan hareket ettikleri için suçlanamazlar. Liderler hiç şüphesiz halihazırda çabalarının gözetim altında olduğu ya da kötü niyetli etkilerin yarattığı çarpıtmaları barındırdığı varsayımıyla kararlar almaktadır. En kötü durum senaryolarını varsayarsak, sınırdaki herhangi bir aktörün stratejik hesabı, güvenlik yerine hız ve gizliliğe öncelik vermek olacaktır. İnsan liderler, ikincilik diye bir şeyin olmadığı korkusuna kapılabilirler. Baskı altında kaldıklarında, yapay zekânın dış müdahalelere karşı caydırıcı bir unsur olarak kullanılmasını zamanından önce hızlandırabilirler.
Yeni Bir Savaş Paradigması
İnsanlık tarihinin neredeyse tamamında savaş, düşman kuvvetlerinin kabiliyet ve konumlarının makul bir kesinlikle bilinebildiği tanımlanmış bir alanda yapılmıştır. Bu iki özelliğin birleşimi her iki tarafa da psikolojik bir güvenlik hissi ve ortak bir fikir birliği sunarak ölümcüllüğün bilinçli bir şekilde kısıtlanmasına olanak sağlamıştır. Ancak aydınlanmış liderler bir savaşın nasıl yapılabileceğine dair temel anlayışlarında birleştiklerinde karşıt güçler bir savaşın yapılıp yapılmayacağına karar verebilirdi.
Hız ve hareketlilik, herhangi bir askeri teçhizatın kapasitesini destekleyen en öngörülebilir faktörler arasında yer almıştır. Erken bir örnek olarak topun geliştirilmesi verilebilir. Yapımından sonraki bin yıl boyunca Theodosian Surları büyük Konstantinopolis şehrini dışarıdan gelen istilacılara karşı korumuştur. Daha sonra, 1452 yılında, Macar bir topçu mühendisi İmparator XI Konstantin’e, savunma duvarlarının arkasından ateşlenerek saldırganları ezip geçecek dev bir top inşa edilmesini önerdi. Ancak ne maddi imkânlara ne de teknolojinin önemini fark edecek öngörüye sahip olan kayıtsız imparator öneriyi reddetti.
Ne yazık ki Macar mühendisin bir paralı asker olduğu ortaya çıktı. Taktik (ve taraf) değiştirerek, tasarımını daha hareketli olacak şekilde güncelledi – en az 60 öküz ve 400 adamla taşınabilir – ve imparatorun rakibi olan ve geçilmez kaleyi kuşatmaya hazırlanan Osmanlı Sultanı Mehmed II’ye yaklaştı. Bu silahın “Babil’in surlarını bile paramparça edebileceği” iddiasıyla genç sultanın ilgisini kazanan girişimci Macar, Türk kuvvetlerinin antik surları sadece 55 günde aşmasına yardımcı oldu.
On beşinci yüzyılda yaşanan bu dramın izleri tarih boyunca tekrar tekrar görülebilir. On dokuzuncu yüzyılda, hız ve hareketlilik önce Napolyon’un ordusu Avrupa’yı ezip geçerken Fransa’nın, ardından da daha hızlı ve esnek manevralar yapabilmek için yeni geliştirilen demiryollarından yararlanan Helmuth von Moltke (the Elder) ve Albrecht von Roon yönetimindeki Prusya’nın talihini değiştirmiştir. Benzer şekilde, aynı Alman askeri ilkelerinin bir evrimi olan blitzkrieg (Almanca “ani saldırı” anlamına gelen bu kelime ile türetilen ve “yıldırım harbi” olarak da bilinen askerî doktrin, II. Dünya Savaşı’nda Almanya tarafından geliştirilmiştir. Doktrinin ana amacı ani ve hızlı saldırılarla düşman kuvvetlerin düzenli bir savunma hattı kurmasını engelleyip yok etmek olarak açıklanmıştır. –çn) İkinci Dünya Savaşı’nda Müttefiklere karşı büyük ve korkunç bir etkiyle kullanılacaktı.
“Yıldırım harbi” dijital savaş çağında yeni bir anlam ve yaygınlık kazanmıştır. Hızlar anlıktır. Coğrafya artık bir kısıtlama olmadığından, saldırganların hareketliliği sürdürmek için ölümcüllükten ödün vermeleri gerekmiyor. Bu kombinasyon dijital saldırılarda büyük ölçüde hücumun lehine olsa da, yapay zekâ dönemi yanıt hızının artmasına ve siber savunmaların siber saldırılarla eşleşmesine olanak sağlayabilir.
Kinetik savaşta, YZ ileriye doğru başka bir sıçramayı tetikleyecektir. Örneğin dronlar son derece hızlı ve hayal edilemeyecek kadar hareketli olacaktır. YZ sadece bir drone’u yönlendirmek için değil, drone filolarını yönlendirmek için de kullanıldığında, drone bulutları oluşacak ve eşzamanlılıkları mükemmel olan tek bir uyumlu kolektif olarak senkronize bir şekilde uçacaktır. Gelecekteki drone sürüleri, her biri egemen komuta yeteneğine sahip ölçeklenebilir müfrezelerden oluşan elit özel operasyon kuvvetleri gibi, her boyuttaki birimlerde zahmetsizce çözülecek ve kendilerini yeniden oluşturacaktır.
Buna ek olarak, yapay zekâ da benzer şekilde hızlı ve esnek savunmalar sağlayacaktır. Drone filolarını geleneksel mermilerle vurmak imkansız olmasa da pratik değildir. Ancak (mühimmat yerine) foton ve elektron mermileri ateşleyen YZ destekli silahlar, açıktaki uyduların devrelerini kızartabilen bir güneş fırtınası ile aynı ölümcül devre dışı bırakma kapasitelerini yeniden yaratabilir.
Yapay zekâ destekli silahlar daha önce görülmemiş derecede kesin olacaktır. Bir düşmanın coğrafyası hakkındaki bilginin sınırları, savaşan tarafların yeteneklerini ve niyetlerini uzun zamandır kısıtlıyor. Ancak bilim ve savaş arasındaki ittifak, araçlarda artan bir doğruluk sağlamaya başladı ve YZ’nin daha fazla atılım yapması beklenebilir. Böylece yapay zekâ, ölümcül güç uygulaması da dahil olmak üzere, asıl niyet ile nihai sonuç arasındaki boşluğu daraltacaktır. İster kara tabanlı drone sürüleri, ister denizde konuşlandırılmış makine birlikleri ya da muhtemelen yıldızlararası filolar olsun, makineler insanları çok az belirsizlikle ve sınırsız etkiyle öldürmek için son derece hassas yeteneklere sahip olacaktır. Potansiyel yıkımın sınırları yalnızca hem insan hem de makinenin iradesine ve kısıtlamasına bağlı olacaktır.
Hal böyleyken, yapay zekâ çağında savaş, öncelikle bir düşmanın yeteneklerinin değil, niyetlerinin ve stratejik uygulamalarının değerlendirilmesine indirgenecektir. Nükleer çağda böyle bir aşamaya çoktan girmiş bulunuyoruz; ancak YZ bir savaş silahı olarak değerini kanıtladıkça bunun dinamikleri ve önemi çok daha keskin bir şekilde ortaya çıkacaktır.
Böylesine değerli bir teknoloji söz konusu olduğunda, insanlar YZ destekli savaşın birincil hedefi bile olmayabilir. YZ aslında insanları savaşta bir vekil olarak tamamen ortadan kaldırabilir, savaşı daha az ölümcül hale getirebilir ancak potansiyel olarak daha az belirleyici olmayabilir. Benzer şekilde, tek başına toprakların YZ saldırganlığını kışkırtması pek olası görünmüyor – ancak veri merkezleri ve diğer kritik dijital altyapı kesinlikle olabilir.
O halde teslimiyet, rakibin sayısı azaldığında ve cephaneliği boşaldığında değil, hayatta kalanların silikon kalkanı teknolojik varlıklarını ve nihayet insan yardımcılarını kurtaramayacak hale geldiğinde gerçekleşecektir. Savaş, tamamen mekanik ölümlerden oluşan bir oyuna dönüşebilir; belirleyici faktör, tam bir yıkım anını önlemek için risk almak ya da kaybetmek için mücadele etmesi gereken insanın (ya da yapay zekânın) psikolojik gücü olacaktır.
Yeni savaş alanını yöneten güdüler bile bir dereceye kadar yabancı olacaktır. İngiliz yazar G. K. Chesterton bir keresinde “gerçek asker önündekinden nefret ettiği için değil, arkasındakini sevdiği için savaşır” şeklinde bir espri yapmıştı. Bir yapay zekâ savaşının, bırakın askerce cesaret kavramını, sevgi ya da nefret içermesi bile pek olası değildir. Öte yandan, yine de ego, kimlik ve sadakat içerebilir – her ne kadar bu kimliklerin ve sadakatlerin doğası bugünkülerle tutarlı olmasa da.
Savaşta hesaplama her zaman nispeten basit olmuştur: hangi taraf savaşın acısını ilk önce dayanılmaz bulursa muhtemelen galip gelecektir. Kişinin kendi eksikliklerinin bilincinde olması geçmişte itidal üretmiştir. Böyle bir farkındalık olmadan ve acıya karşı bir his (ve dolayısıyla büyük bir tolerans) olmadan, savaşa sokulan bir YZ’de neyin itidal yaratacağını ve yürüttüğü çatışmaları neyin sonuçlandıracağını merak etmemek elde değil. Satranç oynayan bir yapay zekâ, oyunun sonunu belirleyen kurallar hakkında hiç bilgilendirilmemiş olsaydı, son piyona kadar oynayabilirdi.
Jeopolitik Yeniden Yapılanma
İnsanlığın her çağında, sanki doğal bir yasaya itaat edercesine, içimizden birinin (Kissinger) bir zamanlar ifade ettiği gibi, “tüm uluslararası sistemi kendi değerleri doğrultusunda şekillendirecek güce, iradeye ve entelektüel ve ahlaki itici güce sahip” bir birim ortaya çıkmıştır. İnsan uygarlıklarının en bilindik düzenlemesi, geleneksel olarak anlaşıldığı şekliyle Vestfalya sistemidir. Ancak egemen ulus-devlet fikri sadece birkaç yüzyıllık bir geçmişe sahiptir ve on yedinci yüzyılın ortalarında Vestfalya Barışı olarak bilinen anlaşmalarla ortaya çıkmıştır. Önceden belirlenmiş bir sosyal örgütlenme birimi değildir ve yapay zekâ çağına uygun olmayabilir. Gerçekten de, kitlesel dezenformasyon ve otomatik ayrımcılık bu düzenlemeye olan inancın kaybını tetikledikçe, YZ ulusal hükümetlerin gücüne karşı içsel bir meydan okuma oluşturabilir. Alternatif olarak YZ, günümüz sistemi içindeki rakiplerin göreceli konumlarını da yeniden belirleyebilir. Eğer YZ’nin gücü öncelikle ulus-devletler tarafından kullanılırsa, insanlık hegemonik bir durağanlığa ya da YZ ile güçlendirilmiş ulus-devletlerden oluşan yeni bir dengeye doğru zorlanabilir. Ancak bu teknoloji aynı zamanda daha da temel bir geçişin katalizörü olabilir – devlet hükümetlerinin küresel siyasi altyapıdaki merkezi rollerini terk etmek zorunda kalacağı tamamen yeni bir sisteme geçiş.
Bir olasılık, yapay zekâya sahip olan ve onu geliştiren şirketlerin sosyal, ekonomik, askeri ve siyasi gücü toplamasıdır. Günümüz hükümetleri, hem özel şirketlerin amigosu olarak -askeri güçlerini, diplomatik sermayelerini ve ekonomik ağırlıklarını bu yerli firmaları desteklemek için ödünç vererek- hem de tekelci açgözlülük ve gizlilikten şüphelenen ortalama vatandaşın destekçileri olarak zor konumlarıyla mücadele etmek zorunda kalmaktadır. Bu savunulamaz bir çelişki olabilir.
Bu arada, şirketler zaten hatırı sayılır olan güçlerini pekiştirmek için ittifaklar kurabilirler. Bu ittifaklar, tamamlayıcı avantajlar ve birleşmeden elde edilen kar üzerine ya da alternatif olarak, YZ sistemlerinin geliştirilmesi ve konuşlandırılmasına yönelik ortak bir felsefe üzerine inşa edilebilir. Bu kurumsal ittifaklar geleneksel ulus-devlet işlevlerini üstlenebilir, ancak sınırlı bölgeleri tanımlamak ve genişletmek yerine, etki alanları olarak yaygın dijital ağları geliştireceklerdir.
Ve hâlâ başka bir alternatif daha var. Kontrolsüz, açık kaynak yayılımı, sınırlı bir kapsamda kendilerini yönetmek, sağlamak ve savunmak için yeterli, standart altı ancak önemli yapay zekâ kapasitelerine sahip daha küçük çetelerin veya kabilelerin ortaya çıkmasına neden olabilir. Merkezi olmayan finans, iletişim ve yönetişim lehine yerleşik otoriteyi reddeden insan grupları arasında, bu tür teknoloji destekli proto-anarşi galip gelebilir. Ya da bu tür gruplaşmalar dini bir boyut da içerebilir. Ne de olsa Hıristiyanlık, İslam ve Hinduizm, erişim açısından tarihteki tüm devletlerden daha büyük ve daha uzun ömürlü olmuştur. Gelecek çağda, ulusal vatandaşlıktan ziyade dini mezhep, kimlik ve sadakat için daha uygun bir çerçeve olabilir.
Her iki gelecekte de, ister kurumsal ittifaklar tarafından domine edilsin ister gevşek dini gruplara dağılsın, her grubun hak iddia edeceği ve üzerinde savaşacağı yeni “bölge” inçlerce toprak değil, bireysel kullanıcıların sadakatlerini arayan dijital bir manzara olacaktır. Bu kullanıcılar ve herhangi bir yönetim arasındaki bağlantılar geleneksel vatandaşlık kavramını altüst edecek ve oluşumlar arasındaki anlaşmalar sıradan ittifaklardan farklı olacaktır.
Tarihsel olarak ittifaklar bireysel liderler tarafından kurulmuş ve savaş durumunda bir ulusun gücünü artırmaya hizmet etmiştir. Buna karşın, barış zamanlarında sıradan insanların görüşleri, inançları ve öznel kimlikleri etrafında yapılandırılan vatandaşlıklar ve ittifaklar -ve belki de fetihler veya haçlı seferleri- yeni (veya çok eski) bir imparatorluk anlayışı gerektirecektir. Ayrıca, bağlılık sözü vermenin gerektirdiği yükümlülüklerin ve yapay zekâ ile iç içe geçmiş bir gelecekte gerçekten var olacaksa, çıkış seçeneklerinin maliyetinin yeniden değerlendirilmesini de zorunlu kılacaktır.
Barış ve Güç
Ulus-devletlerin dış politikaları idealizm ve realizmin dengelenmesiyle inşa edilmiş ve sonra da ayarlanmıştır. Liderlerimiz tarafından kurulan geçici dengeler, geçmişe bakıldığında nihai devletler olarak değil, sadece kendi zamanları için geçici (eğer gerekliyse) stratejiler olarak görülmektedir. Her yeni çağla birlikte bu gerilim, siyasi düzeni neyin oluşturduğuna dair farklı bir ifade üretmiştir. Çıkarların peşinde koşmak ile değerlerin peşinde koşmak ya da belirli bir ulus-devletin avantajı ile küresel iyilik arasındaki ikilik, bu bitmeyen evrimin bir parçası olmuştur. Tarihsel olarak küçük devletlerin liderleri, diplomasilerini yürütürken kendi hayatta kalmalarının gerekliliklerine öncelik vererek doğrudan tepki vermişlerdir. Buna karşılık, küresel imparatorluklardan sorumlu olanlar, ek hedefleri gerçekleştirecek araçlara sahip olduklarından, daha acı verici bir çıkmazla karşı karşıya kalmışlardır.
Medeniyetin başlangıcından bu yana, insani örgütlenme birimleri büyüdükçe, eş zamanlı olarak yeni işbirliği seviyelerine ulaşmışlardır. Ancak bugün, belki de gezegensel zorlukların ölçeğinin yanı sıra devletler arasında ve içinde görülen maddi eşitsizlikler nedeniyle, bu eğilime karşı bir tepki ortaya çıkmıştır. YZ, insan yönetişiminin bu hâlâ daha büyük ölçeğinin taleplerine uygun olduğunu kanıtlayabilir, yalnızca ülkenin zorunluluklarını değil, aynı zamanda dünyanın etkileşimini de ayrıntı ve sadakatle görebilir.
Yurtiçinde ve yurtdışında siyasi amaçlar için kullanılan yapay zekânın, dengeli uzlaşma (trade-off: alternatif kararlar arasında denge kurma, optimal noktayı belirleme – çn.)aydınlatmaktan daha fazlasını yapabileceğine dair bir umut besliyoruz. İdeal olarak, insanların yapabileceğinden daha uzun bir zaman ufkunda ve daha büyük bir hassasiyetle hareket ederek yeni, küresel olarak optimal çözümler sağlayabilir ve böylece rekabet halindeki insan çıkarlarını aynı hizaya getirebilir. Gelecek dünyada, çatışmaları yönlendiren ve barışı müzakere eden makine zekâları, geleneksel ikilemlerin açıklığa kavuşturulmasına ve hatta aşılmasına yardımcı olabilir.
Bununla birlikte, eğer yapay zekâ gerçekten de kendi kendimize çözmeyi umduğumuz sorunları çözecek olursa, hem aşırı güven hem de güven eksikliği gibi bir güven kriziyle karşı karşıya kalabiliriz. İlkine göre, kendi kendimizi düzeltme yeteneğimizin sınırlarını anladığımızda, insan davranışının varoluşsal meselelerini ele alma konusunda makinelere çok fazla güç devrettiğimizi kabul etmek zor olabilir. İkincisine göre ise, en çetin sorunlarımızı çözmek için insan failliğini işlerimizden uzaklaştırmanın yeterli olduğunun farkına varmak, insan tasarımının eksikliklerini çok açık bir şekilde ortaya koyabilir. Eğer barış her zaman basit bir gönüllü seçimden ibaret olmuşsa, insan kusurunun bedeli sürekli savaş olarak ödenmiştir. Bir çözümün her zaman var olduğunu ama bizim tarafımızdan asla tasarlanmadığını bilmek insan gururunu kıracaktır.
Güvenlik söz konusu olduğunda, bilimsel ya da diğer akademik çabalarda insanların yerlerinin değiştirilmesinden farklı olarak, mekanik bir üçüncü tarafın tarafsızlığını bir insanın çıkarcılığından zorunlu olarak daha üstün olarak daha kolay kabul edebiliriz – tıpkı insanların çekişmeli bir boşanmada bir arabulucuya duyulan ihtiyacı kolayca kabul etmeleri gibi. En kötü özelliklerimizden bazıları, en iyi özelliklerimizden bazılarını sergilememizi sağlayacaktır: başkalarının zararına da olsa insanın kendi çıkarını gözetme içgüdüsü, bizi YZ’nin benliği aşmasını kabul etmeye hazırlayabilir.
Yazarlar Hakkında
HENRY A. KISSINGER 1973-1977 yılları arasında ABD Dışişleri Bakanı ve 1969-1975 yılları arasında ABD Ulusal Güvenlik Danışmanı olarak görev yapmıştır.
ERIC SCHMIDT Özel Rekabet Araştırmaları Projesi Başkanı ve Google’ın eski CEO’su ve Başkanıdır.
CRAIG MUNDIE, Alliant Computing Systems’in Kurucu Ortağı ve Microsoft’ta CEO’nun eski Kıdemli Danışmanıdır.
Bu makale, Genesis: Artificial Intelligence, Hope and Human Spirit (Little, Brown and Company, 2024) adlı kitaplarından uyarlanmıştır.