Graham McAleer
Aziz Augustinus’un Dünya Şehri ile Tanrı Şehri üzerine geliştirdiği siyasal çözümleme, Papa XIV. Leo’nun ilk genelgesi Magnificia Humanitas‘ın yapısal çerçevesini oluşturur. Yapay Zekâ Çağında İnsan Kişisinin Korunması Üzerine başlıklı belge, çağın koşullarını değerlendirirken kişisel özgürlüğün jeopolitik akımlar tarafından tehdit edildiğini ileri sürmektedir. “Dünyamız, çoğu zaman güven verici söylemler ve baştan çıkarıcı ideolojilerle örtülen, piyasalar ile nüfuz alanlarının denetimini ele geçirme girişimleriyle doludur.” Bu bağlam, Leo’nun yapay zekâya ilişkin olumsuz değerlendirmesini şekillendirir. “Sürekli çatışma hâlindeki bir dünyanın inşası bir kötülüktür ve ne ise o olarak adlandırılmalıdır. Mevcut durumumuzu bu şekilde tasvir etmek karanlık ya da kötümser görünebilir; ancak bunu yapmanın gerekli olduğuna inanıyorum.”
Mayıs ayında yayımlanan genelge, sosyal medyada büyük övgüyle karşılandı. Belgenin karamsar tonu göz önüne alındığında bu dikkat çekicidir. Hem teknolojiden keyif alıp hem de siyaset konusunda papayla aynı tarafta olmak rahatlatıcı olurdu. Ancak Leo, teknolojinin de siyaset kadar sorunlu olduğunu savunmaktadır. Anne babaları ve eğitimcileri, “gençlerimizi kusursuz makine vaadinden korumaları” konusunda uyarır. Yapay zekânın özet üretmedeki hızını kabul etmekle birlikte, “Platon’un yazdığı gibi, en derin ve en önemli şeyler ancak uzun zaman ve çok çabanın ardından öğrenilir” diye uyarır. Teknolojik mucizenin bizi melekçiliğe sürüklediğinden kaygı duyar; bu nedenle papa, “fiziksel varlığın hayati önem taşımaya devam ettiği mekânların ve zamanların kıymetini bilmemizi” tavsiye eder. Çünkü “makineler verimlilikte üstün olsalar da, kendisine bakılmayı talep eden bir insan yüzü tarihimizin merkezinde kalmaya devam eder.” Leo’ya göre, hukuki ve ahlaki denetim olmaksızın makine öğrenimi Batı hümanizminin bir devamı değildir.
Genelge şaşırtıcıdır; çünkü yapay zekânın ne tür bir zekâ olduğundan çok, onu tasarlayanların içinde bulunduğu koşullar ve güttükleri saiklerle ilgilenmektedir. Metnin temel çabası, yapay zekânın ortaya çıkışının ardındaki perdeyi aralamaktır. “Ancak uygulamada teknoloji hiçbir zaman tarafsız değildir; çünkü onu tasarlayan, finanse eden, düzenleyen ve kullananların özelliklerini üzerine alır.” Leo özellikle “Neden şimdi?” sorusunu sürekli gündeme getirir. Değerlendirmesi karamsardır; çünkü ortada bir “çok taraflı sistem krizi” vardır ve bu da yapay zekânın güçlüler tarafından bir “savaş paradigması” içinde inşa edildiği anlamına gelir.
Leo açık sözlüdür. Yapay zekânın jeopolitik kökeni göz önüne alındığında, makine öğrenimini Augustinus’un tahakküm hırsıyla nitelenen Dünya Şehri’nin en son tezahürü olarak sunar. Tanrı Şehri adına konuşan Leo ise buna karşılık, “yaşayan Tanrı’nın bizi her türlü kölelikten kurtarmak için tarihimize indiğini” söyler. Magnificia Humanitas, teknoloji tarafsız olmadığına göre, insan onurunun güvenliğinin yapay zekâya kimin sahip olduğuna ve onun nasıl yapılandırıldığına bağlı olduğu tezini ortaya koyar.
Augustinus’un Tanrı Şehri, Nemrut’u “Rab’be karşı dev bir avcı”, Babil Kulesi’ni inşa eden kibirli bir hükümdar olarak tasvir eder. Dünya Şehri ile Tanrı Şehri’ni karşılaştıran Leo, Pers Kralı Artaserhas’ın hizmetinde bulunan sadık bir Yahudi olan Nehemya’yı hatırlatır; Artaserhas, Thukydides’te de yer alır. Kralın izniyle Nehemya, Kudüs surlarını yeniden inşa etmeye koyulur. Bu çalışma, Nemrut’un kibir projesiyle tezat oluşturur; çünkü “erkekler, kadınlar, rahipler, zanaatkârlar, hane reisleri ve gençlerin hepsi bir rol üstlenir… Böylece kadim Kudüs, tekdüzeliğin değil, cemaatin ortak dilini yeniden keşfeder; yani herkesin kendi rolünü üstlenmesi ve gücünün Rab’den geldiğini kabul etmesiyle ortaya çıkan uyumu.”
En azından Aquinas’tan bu yana Katolik siyasal düşüncesi, devleti ortak iyilikten sorumlu tutar. Bu nedenle Leo, yapay zekânın devlet tarafından düzenlenmesini destekler; ancak aynı zamanda devlet gücünün gerileyişini de ustalıkla tasvir eder. Bu, belgenin zayıf noktalarından biridir. Magnificia Humanitas‘ın argümanları ne kadar çevik olursa olsun, yapay zekâ papayı —ve bizi— köşeye sıkıştırmıştır. Bir yandan, “adil bir toplum, uyanık bir devlet ve tekil verimlilik zihniyetinin üstesinden gelebilecek sivil kurumlar gerektirir.” Öte yandan Leo, günümüzdeki “küresel dinamiklerin”, “[iktidarın] en üst düzeyinin devlet değil, gündelik yaşamın koşulları üzerinde fiilî güç kullanan büyük ekonomik ve teknolojik aktörler olduğu” anlamına geldiğini haklı olarak gözlemler.
Yapay zekânın sahipleri oligarklardır; ancak halk dayanışması, “ekonomik akışlar ve dijital platformlarla ilgili kararlar ile veri ve algoritmaların yönetişimi söz konusu olduğunda, bir avuç aktörün bu süreçleri tek başına belirlemesine izin veremeyeceğimizi” gerektirir. Yapay zekâ devletin yetkinliğini azaltıp oligarşiyi güçlendirirken, halk egemenliği yapay zekânın yıkıcı cazibesinden nasıl kurtulabilir?
“Geçmişte yeniliğe rehberlik etmek ve yön vermek büyük ölçüde devlete düşerdi. “Ancak bugün kalkınmanın başlıca itici gücü özel sektördür… Böylece teknolojik güç, daha önce görülmemiş ve ağırlıklı olarak ‘özel’ bir nitelik kazanır; bu da böylesi bir gücü kavramayı, yönetmeyi ve ortak iyiliğe yöneltmeyi daha da güçleştirir.”
Bizim Nemrutlarımız masum değildir; çünkü günümüzde iktidar artık yalnızca kaba kuvvete dayalı zorlama değil, aynı zamanda incelikli bir iletişim yapısıdır. “Her eylem —hareketler, satın almalar, ilişkiler ve tercihler— bir iz bıraktığında, yeni bir iktidar biçimi ortaya çıkar; yani bireylerin çoğu zaman bunun tam olarak farkında olmaksızın, bireylerin profillerini çıkarmaya, davranışlarını öngörmeye ve etkilemeye yönelik bir güç ortaya çıkar.” Leo yine açık sözlüdür: “Yeni kölelik biçimleriyle mücadele, yapay zekâ ve dijital dönüşümün ahlaki muhakemesi açısından belirleyici bir sınavdır.”
Yapay zekânın hukuki yönetimini ve etik denetimini güçleştiren bir başka unsur da yeni ve son derece çekici bir mitolojiyi beslemesidir. Nemrut, Babil Kulesi’ni kendi kendine yeterli olmak amacıyla inşa etmiştir; ancak “bir şehir kibir ve kendi kendine yeterlilik iddiası üzerine kurulduğunda iletişim çöker” ve dayanışma aşınır. Bu aşınmayı transhümanizm yönlendirir. Melekçiliğin bir biçimi olan transhümanizm, “bazı teknolojik güç merkezlerinde mevcut olan ideolojik arka plan”dır; bu merkezler “insan-makine melezi”ne ilişkin “fütüristik bir vizyon”dan heyecan duyar. Yapay zekâya yön veren bu mitoloji, “insan karşıtı bir vizyonu normalleştirme tehdidi taşır.”
Leo, ahlaki olabilmesi için yapay zekânın hümanizme uygun olması gerektiğini savunur. Teknik açıdan şöyle açıklar: “Günümüz yapay zekâ sistemleri ‘inşa edilmiş’ olmaktan çok ‘yetiştirilmiş’tir; çünkü geliştiriciler her ayrıntıyı doğrudan tasarlamak yerine, zekânın içinde ‘büyüdüğü’ bir çerçeve oluştururlar.” Daha da önemlisi, yapay zekâ “zaman içinde tercihler, hatalar, bağışlama ve sadakat yoluyla büyümez. Aksine, istatistiksel bir uyum biçimidir.” Yapay zekânın “kalp düzeni” yoktur (Pascal) ve bu nedenle Leo, örneğin silah sistemlerinin hiçbir zaman tamamen otomatikleştirilmemesi gerektiğinde ısrar eder.
Pascal’ı benimseyen Leo, Hristiyanlığın “görkem ile kırılganlık arasında bir antlaşma” olduğunu öne sürer. Kalp, bu ikisinin dayanak noktasıdır. Kalbin duyguları olmaksızın “tarihin ve kendi geçmişimizin izini kaybederiz; çünkü gerçek kişisel tarihimiz kalple inşa edilir.” Transhümanizmin kusursuzlukçu mitolojisi, insan yaşamındaki ıstırabın yerini alır; ancak Leo, bunun yalnızca biçim bozucu olabileceği uyarısında bulunur: “Seven ve arzulayanlar, imtihan ve ıstıraptan geçmekten kaçınamazlar; yıllar içinde, içimizde yara izleri gibi iz bırakan dersleri, bir yolculuğun hatıralarını taşırız.”
Melekçilik, bu acılı yolculuğu ve onunla birlikte insan özgürlüğünü tehdit eder. İlk olarak yapay zekâ, “içsel özgürlüğümüze” saldırır. “‘Dijital dikkat ekonomisi’yle bağlantılı daha incelikli bağımlılık biçimleri hafife alınmamalıdır; çünkü platformlar ve hizmetler çoğu zaman kullanıcıların zamanını ve dikkatini ele geçirmek, zayıflıklarından yararlanmak ve içsel özgürlüklerini zayıflatmak üzere tasarlanır.” Leo, kişileri “dijital ölçülülük” geliştirmeye teşvik etmenin yanı sıra, 40 ABD eyaletinin Meta’nın çocuk gelişimine zarar veren dikkat tuzaklarını kasıtlı olarak tasarladığını ileri sürerek tarihin en büyük davasını yürüttüğü haberini de memnuniyetle karşılamalıdır.
İkinci olarak, yapay zekâ tasarımcıları bir “görünürlük mimarisi” inşa etmiştir; bunun sonucunda “neyin öne çıkarıldığı ya da görünmez kılındığı, neyin ödüllendirildiği ya da cezalandırıldığı, nihayetinde görüşleri ve tercihleri şekillendirir; mevcut görüşlerin pekişmesini ve otosansürü teşvik eder.” Papa, insanların resmî yasaklarla olduğu kadar iletişim yoluyla yapılan incelikli yönlendirmelerle de ustalıkla kontrol edilebileceği uyarısında bulunur.
Son olarak Leo, fiziksel tahakküme yönelir. Okuyuculara “yapay zekâ dünyasında hiçbir şeyin maddi olmayan ya da büyülü olmadığını” hatırlatır. “Görünüşte anlık ve kusursuz olan her yanıt, geniş doğal kaynak ağlarını, enerji altyapısını ve her şeyden önce insanları içeren uzun bir aracılık zincirinin sonucudur.” Papa, dayanışma olmaksızın “dijital çağın sömürgecilik sonrası değil, başka bir biçimde sömürgecilik olacağını” ve bunun “yeni bir çıkarma zihniyeti” üzerine kurulacağını savunur. Bu nedenle acilen yasal düzenlemeye ihtiyaç vardır. Bazı ülkeler de aynı görüştedir. Örneğin Danimarka’nın, Leo’nun bilgiyi ortak iyilik hâline getirmenin “bireylere yalnızca kendilerini tanımlayan verileri değil, aynı zamanda bu verilerin nasıl kullanılacağına, kim tarafından ve kimin yararına kullanılacağına karar verme yetisini de geri kazandırmayı gerektirdiği” yönündeki talebiyle örtüşen bir telif hakkı önerisi bulunmaktadır.
Leo’nun yapay zekâ siyasetine odaklanması, makine öğreniminin önemi hakkında çarpıcı bir değerlendirme sunar. Yapay zekânın oligarşik mülkiyetinin kişisel özgürlük ve halk egemenliği açısından oluşturduğu tehdidin üzerindeki perdeyi aralar. Kendi adıma, dijital mülkiyeti oligarkların elinden geri almak için önerdiği çözümü bulamadım; ancak Platon, Augustinus ve Pascal’a atıfta bulunarak, çözümün Hristiyan hümanizminin köklü geleneğinin zenginliklerini yeniden keşfetmekten geleceğini ima eder. Bu, onun bunun dışında uyarıcı nitelik taşıyan analizinin merkezindeki umuttur.
* Graham McAleer, Maryland Eyaleti Yargı Etiği Komitesi’nin sivil üyesidir ve son olarak Tolkien, Savaş Filozofu (CUA Press, 2024) adlı kitabın yazarıdır.
Kaynak: https://www.civitasoutlook.com/research/the-popes-ai-politics
