Şimdi ve Sonra Kıyamet

Yapay zekâ, kapitalizmin son durağı

1.

Kehanetler sertçe yağıyor. Düşün yoksa bat. Uy yoksa öl. Yukarı bak yoksa dışarıda kal. Ve böylece, bu pek de nazik olmayan tehditlerle birlikte, YZ Çağı — Gerçek Aptallık, Gerçek Süper Aptallık, Özyinelemeli Kartopu Gibi Büyüyen Aptallık — gelip çattı. Hatta bu giriş paragrafında iki uzun çizgi kullandım bile. Bu, dedikleri gibi, bir açık veriyor. Yani belki de bu makaleyi hiç ben yazmadım. Bu yazının gerçekten YZ tarafından yazılıp yazılmadığını, benim gerçekten ben olup olmadığımı ya da yalnızca kısmen ben olduğumu anlamak için bir YZ uygulaması kullanmanız gerekecek. Artık içgüdülerinizi kullanamazsınız. Uygulamayı kullanmanız gerekir. Madem YZ uzun çizgiyi sahiplendi, gelecek nesiller Emily Dickinson’ı ve onun bu işarete duyduğu sevgiyi ne yapacak? O da makineye yem mi edildi? Onu daha az mı sevecekler? Dilden giderek dışlanıyor muyuz? Artık bunun bir önemi var mı?

İnançtan çok bir yazarın egosuyla ilgili nedenlerle, Aziz Yuhanna’ya Göre İncil’in ilk ayetine her zaman hayran kalmışımdır: “Başlangıçta Söz vardı, Söz Tanrı’yla birlikteydi ve Söz Tanrı’ydı.” Bunun doğru olduğuna inanıyorum. İnsanlarla dil arasındaki temel ilişkiyi bozmanın ve zayıflatmanın, toplumsal tutarlılıktan geriye kalan her türlü görünümü de aşındıracağına inanıyorum.

YZ edebiyat dünyasına çarptı ve yazarları, yayıncıları, edebiyat ajanlarını, okurları, eleştirmenleri, öğretmenleri ve öğrencileri ayaklarının altındaki zeminin kaydığını hisseder hâlde bıraktı. Profesörler artık öğrenci ödevlerine güvensizlikle bakmak zorunda. Yayıncılar yeni yazarları, olası bir suç mahallini inceleyen dedektifler gibi değerlendirmek zorunda. Bunun okumaya ya da öğrenmeye ne yaptığını tarif etmek zor. Düşünsel uğraşın hazzı ve zorluğu yerini kapalı, kasvetli ve mekanik bir şeye bıraktı. Bir zamanlar canlı olan her şeyin derisinin yüzülüp içinin doldurulduğu ve parlak, sahte gözlerindeki anlamlı bir pırıltıyla size hiç göz kırpmadan baktığı bir tahnitçiler cenneti. Sanki birine bakıp gerçekten sandığınız kişi olup olmadığını merak etmek gibi. Ya da aynaya bakıp kendi suretinizi görmek ama onun gerçekten siz olmadığını bilmek gibi.

Zamanla bu bilgiyi de kaybedebiliriz. O zaman kim olduğumuzu, hatta var olup olmadığımızı bile bilemeyeceğiz.

Ve bu bütün bir toplumun, bütün bir türün başına geldiğinde, yüzyıllar boyunca öğrenilmiş, nesilden nesile aktarılmış içgüdülere artık güvenemediğimizde, kalbimize, gözlerimize ya da kulaklarımıza artık güvenemediğimizde, doğruyu yalandan ya da sanalı gerçekten ayırt edemediğimizde, zaman çöküp geçmiş, şimdi ve gelecek birbirine karıştığında, bir milyon dil ve kültür püre hâline getirilip lapaya dönüştürüldüğünde, kadim bir toplumsal sözleşme — sınırları ve kusurları ne olursa olsun — tanınmayacak kadar paramparça edildiğinde, kendimizi kitlesel bir psikozun eşiğine mi sürüklüyoruz?

Bu düşünce çizgisi beni, yeni ve anlaşılmaz bir şeyle karşılaştığımızda kaçınılmaz olarak patlak veren ahlaki paniğe kapılmış olmakla suçlanmaya açık hâle getirebilir — Sanayi Devrimi’nden ya da bilgisayarın gelişinden önce yaşanan aynı panik. Soru şu: Mesele sadece bu mu? İnsan “ilerlemesinin” evriminde rahatsız edici bir geçiş anından mı geçiyoruz sadece? Yoksa bu gerçekten felaket getiren bir kopuş mu?

Belki de bu görkemli yeni teknolojiyi inşa edenleri dinlemeliyiz. Geçen ay, Anthropic’te çalışan genç bir çalışan, Jacob Coxon, vicdanının insan ırkını potansiyel olarak yok edebilecek bir projede çalışmasına izin vermediğini söyleyerek işinden istifa etti. İş yerine dair çizdiği tablo aşağı yukarı steroid almış Manhattan Projesi’ydi. Ama bildiğimiz gibi, bu sefer bilim insanları büyük ölçüde kâr ve “oraya ilk varan” olma yarışıyla motive oluyorlar. Coxon’un istifasının ardından yaşananlar şaşkınlık vericiydi. En büyük YZ şirketlerinin CEO’ları, kendilerini ifşa eden muhbirle tartışmak, ona katılmamak ya da onu onaylamak için birbirleriyle yarışa girdiler. Ekranlarımız, o milyarder oligarkların, kutsamakta oldukları Makine Tanrısı’nın insan uygarlığının sonunu getirme ihtimalinin hiç de az olmadığını ağırbaşlı, mezar sessizliğini andıran tonlarla bize bildirdikleri videolarla dolup taştı.

Türümüz üzerindeki hükümranlıklarını tesis ettikten sonra, riski azaltmak için ellerinden geleni yaptıkları konusunda bizi rahatlattılar. Hükümet düzenlemesi çağrısında bulundular. Yardım çığlıkları bir tür patolojiye işaret ediyordu. Bunda biraz sapkınca bir şey vardı — bir tür “Bağla Beni! Bağla Beni de!” havası. Bu mu, yoksa sadece kapitalizmin doğasında olan bir şey mi? Sınırsız hırs karşısındaki çaresizlik mi?

Oligarklar yok oluş anlatılarına inanıyor gibi görünüyorlar — en azından dünyanın uzak köşelerinde su, yiyecek ve mühimmat stoklanmış sığınaklar inşa edecek kadar. Ama geri kalanımıza sattıkları şey yok oluş değil. (Donald Trump ve teknoloji liberteryenleri buna açıkça aldatmaca diyor.) İlerleme, zafer ve insanlığın iyiliği, satış konuşmalarının özünü oluşturuyor. Hatta biri, Palantir’den Peter Thiel, eleştirmenleri ve düzenleme çağrısında bulunanları, şeytana kur yapan “Deccal” diye adlandırmaya kadar gitti — böylece şirketine ve onun emellerine ilahlık atfediyordu. (Evet, insan ırkının hayatta kalması gerektiğine inanıp inanmadığı sorulduğunda ünlü bir şekilde “Iıııı…” diye yanıt veren ve ardından kekeleyip mırıldanan aynı kişi.)

Çatırtı ve patırtı sonunda teknoloji camiasının aşina olduğu fay hatları boyunca yerleşti — kıyametçiler, hızlandırmacılar, şüpheciler. Ama YZ endüstrisinin yol açtığı gerçek, felaket getiren ve süregiden zarar hakkında başka sesler konuşmaya başladığında, kasıtlı olarak görmezden geliniyor ve dışlanıyorlar.

İlginç bir şekilde, oligarklar Jacob Coxon’la diğer bazı muhbirlere kıyasla çok daha rahat görünüyorlar. 2019’da Google’ın ABD dronları için makine görüşü teknolojisi geliştirme sözleşmesini ifşa ettikten sonra istifa eden, şimdi Signal Vakfı’nın başkanı olan Meredith Whittaker’ı savunmak için bir araya gelmediler. Yedi yıl sonra, YZ endüstrisi ile silah endüstrisi arasındaki o sentez hepimizin gözü önünde sergileniyor. (Bkz. Şubat ayında güney İran’ın Minab kentinde bir kız okuluna yapılan ve 120’si okul çocuğu olmak üzere 156 kişinin öldürüldüğü ABD çift vuruş saldırısı. Hiçbir özür sunulmadı, çünkü bunu kimse yapmadı. Makine tarafından planlanan cinayetler suçluluk duygusundan azade gelir. Bu, Gazze’de Hamas militanlarına yönelik suikast kampanyasının arkasındaki YZ sistemleri olan Lavender, Gospel ve Where’s Daddy? için de geçerli; insan hakları raporlarına göre, bu konumlandırma ve izleme sistemlerinin temel hedef birimi aile eviydi.)

Timnit Gebru, Silikon Vadisi’nde üst düzey teknik bir pozisyondaki çok az sayıdaki siyah kadından biri, 2020’de birlikte yazdığı bir araştırma makalesini geri çekmeyi reddettiği için Google’dan kovulduğunda da oligark desteğinde bir patlama yaşanmadı. Makale, büyük dil modellerinin (LLM’ler) — Google’ınkiler dâhil — eğitilmesinin çevresel maliyetlerini ortaya koyuyor ve bu modellerin bütünüyle yuttukları veri kümelerinden beyaz üstünlüğünü ve kadın düşmanlığını nasıl büyütüp yeniden ürettiğini gösteriyordu. Bu patolojilerin, modeller büyütüldükçe ve denetlenmesi zorlaştıkça daha da güçleneceği uyarısında bulundu. Bulguları, “On Hate Scaling Laws for Data-Swamps” adlı bir makalenin ortak yazarı olan bir başka araştırmacı Abeba Birhane tarafından da desteklendi.

Whittaker ve Gebru’nun son derece somut suçlamaları, oligarkları neden Geoffrey Hinton ya da Jacob Coxon gibi topyekûn yok oluşun peygamberlerinden daha fazla endişelendiriyor? Belki de, büyük bir havai fişek gösterisi gibi, Hinton ve Coxon’un uyarıları ortama heyecan katıyor. Sonunda oligarkların güç oyununu besliyorlar; şirketleri halka arz edildiğinde, ki yakında edilecekler, bu onlara çok yarayacak. Değerlemeleri, modellerinin ne kadar gelişmiş — ve YZ silah sistemleri söz konusu olduğunda ne kadar ölümcül — olduğuna bağlı olacak.

*

İnsanlık üzerinde yaşam ve ölüm gücünü elinde tuttuğunu iddia eden bu milyarderler kimler? İnsan ırkından ve bu ev dediğimiz gezegenden çoktan ayrıldıkları izlenimini veriyorlar. Onlar satir mi? Yarı insan, yarı makine? Onlara Kikloplar diyelim — İngilizcedeki çoğul biçimiyle “Cyclopes”. Yunan ve Roma mitolojisindeki o dev, tek gözlü, mağarada yaşayan çobanlar. (Yirmi birinci yüzyılda mağaraları görkemli, koyunları ise insanlar.)

Onları tek bir varlık olarak düşünün. Bir mutasyon. Kikloplar’ın tek bir başı ve alnına, merkezin epey sağına yerleştirilmiş tek bir solgun, kırpmayan gözü vardır; bu göz sıradan insanlara sarımtırak bakışını çevirir ve yalnızca madencilerin mineral bakımından zengin bir ormanda gördüğünü ya da baraj inşaatçılarının azgın, akan nehirlerde gördüğünü görür. Çıkarılacak, biriktirilecek ve piyasaya sürülecek bir kaynak. Siktir et ormanı. Siktir et nehri. Siktir et insanı.

Ama yakın zamanda sinema ekranlarımızda gördüğümüz o sessiz, beceriksiz kikloptan farklı olarak, Kikloplar boyunda birkaç didişen gövdeye ayrılır; bu gövdeler geçinemedikleri izlenimini verir, ama söz konusu Son Günler — ya da daha kesin bir deyişle, Naomi Klein ve Astra Taylor’ın muhteşem yeni kitabının başlığından ödünç alırsak, Son Günler Faşizmi — olduğunda, açıkça geçinirler.

Birçok sektör gözlemcisine göre Kikloplar’ın yok oluş çılgınlığı, giderek daha öfkeli ve huzursuz hâle gelen kamuoyunu YZ şirketlerinin ABD ekonomisi, halkının güvenliği ve geleceği için ne kadar merkezî, önemli, vazgeçilmez ve geri döndürülemez bir konuma sahip olduğuna ikna etmek amacıyla sahnelenmiş bir gösteriyi andırıyordu.

Düzenleme talep etmek, endüstriyi devlete aşılamak, hükümet ile bu şirketler arasındaki son gün ışığı aralığını bile kapatmak girişimidir. Oligarkların umudu, bu düzenleyici kucaklaşmanın onlara o kadar çok ihtiyaç duydukları açık çeki vermesidir. Çünkü ihtiyaç duydukları para, arazi, su ve enerji ölçeğini ancak hükümet sağlayabilir. Daha açık söylemek gerekirse, gerçekte istedikleri şey, kendi kendilerini düzenlemeleri için hükümet iznidir. Kontrolden vazgeçmeden meşruiyet.

Bu türden hassas bir manevranın bir kabuki oyunu gibi icra edilmesi gerekir. Giderek huzursuzlanan bir kamuoyunu ve Trump rejimi kadar kolay yönlendirilemeyebilecek yeni hükümetleri korkutmak için bir kötü adam, bir umacı gerekir.

Sahneye soldan Çin girer.

Kikloplar, ABD’yi yükselen Çin tehdidinden korumak için ABD hükümetine, diğer ülkelerin hayal bile edemeyeceği bir dizi ölümcül otonom silah sisteminin yanı sıra, bilim tarafından henüz bilinmeyen laboratuvarda üretilmiş virüsler ve biyolojik silahlar fantezisini sunar. Yurt içinde huzursuz nüfusları kontrol altına almak ve hizaya sokmak için ABD’ye ve diğer dost hükümetlere, İsrail’in Pegasus casus yazılımını oyuncak gibi gösterme vaadi taşıyan gözetleme ve yüz tanıma sistemleri sunar. Karşılığında engellenmemiş sermaye akışları ve dev veri merkezleriyle süper bilgisayarlarını beslemek için ihtiyaç duyduğu kadar arazi, su ve enerji sözü talep eder.

Doğrudan dile çevrildiğinde, aşağı yukarı şöyle bir şey: Kendimizi insan aydınlanmasının en ileri ucunda ve insan bilgisini sınır tanımadan yöneten ve dağıtan merci olarak pazarlayacağız. Ama gerçekte harita biçiminde olacağız. Kendimizi ulusumuza, ekonomisine, istihbarat ağına ve güvenlik aygıtına, siz bizi kendinizden ayırt edemeyinceye kadar kaynaştıracağız. Banka bakiyelerimiz hariç. Karşılığında, biz Ay’ı ve uzayı sömürgeleştirme misyonumuzu gerçekleştirene kadar bizi düzenliyormuş gibi yapabilirsiniz. Sınır yok, korku yok. Sonra bize o kadar nazikçe ödünç verdiğiniz merdiveni tekmeleyip devireceğiz. Sizi değiştirmeye bile gerek duymayacağız. Siz var olmayacaksınız. Halkınızı, şehirlerinizi, iletişiminizi, finans sistemlerinizi, mahkemelerinizi, ordunuzu ve polisinizi biz yöneteceğiz. Eğer biz olmazsak, sizi Çin yönetecek.

ABD merkezli büyük YZ şirketlerinin hükümet düzenlemesi yönündeki bu yakarışları, aynı zamanda daha küçük oyuncuların rekabetini de kapatmaya hizmet ediyor; öyle ki YZ üzerine uluslararası anlaşmalar imzalandığında (imzalanmaları gerektiğinde), yarışta yalnızca onların — bir avuç “düzenlenmiş” şirketin — yer alması sağlanmış olacak.

Şirketler ile ülkeler arasındaki birleşme çoktan yol almış durumda. YZ bilimi yeni olabilir. Ama bize dayatılma biçimi sömürgeciliğin kendisi kadar eski. Hindistan’da bir şirket tarafından sömürgeleştirilme tarihimiz var. Ve evet, yönetici sınıflarımız onları içeri davet etti, tıpkı Amerika’nın yöneticilerinin şimdi yaptığı gibi. Doğu Hindistan Şirketi sonunda Britanya Kraliyeti tarafından devralındı. Şimdi elbette tersi oluyor. Hindistan’ın altyapısının büyük bir kısmı, Adani Group ve Reliance Group olmak üzere iki kurumsal holdinge ait; her ikisi de YZ okyanusuna dalmaya hazırlanıyor.

Kikloplar ABD devletini devralmaya hazırlanıyor. İşte Palantir’in CEO’su Alex Karp: “Bence Palantir’e, Amerika’ya ve dünyaya yönelik merkezî risk, kurumlarımızı bozan ve çürüten gerici bir düşünce tarzı.” Palantir’in aşırı değerli olduğunu öne süren analistlerden rahatsız olmuştu. (Yani, bir Tanrı’yı “değerlemeye” nasıl cüret edersiniz?) Ardından o kendine özgü, zengin adam mizahından bir dozla devam etti: “Bir dron alıp bize kazık atmaya çalışan analistlerin üzerine hafif, fentanil katılmış idrar püskürtme fikrine bayılıyorum.”

Ve işte şimdi OpenAI’de bulunan ünlü Sam Altman, YZ’nin insanlığı cehenneme giden bir kestirme yola yönlendiriyor olabileceğini kabul ederken: “… ama bu arada ciddi makine öğrenmesiyle harika şirketler kurulacak.” Ya da Marc Andreessen’in şu sözlerine ne demeli? Trump’la aşırı uyumlu olan ve aynı derecede olağanüstü bir IQ’ya sahip görünen bu aşırı hızlandırmacı şöyle diyor: “Teknoloji, bilinmeyenin güçlerine karşı şiddetli bir saldırı olmalı, onları insanın önünde eğilmeye zorlamalı… Biz kurban değiliz; biz fatihleriz.”

2.

İnsanların göğüs germek zorunda olduğu birkaç kıyamet türü ve onlara eşlik eden sefaletler var. Korkutucu yok oluş anlatısı var. Kendimizden daha zeki bir tür tarafından boyunduruk altına alındığımız versiyon var. (Bunun sonuçlarını anlamak için, gezegenimizi paylaştığımız diğer türlere ne yaptığımızı düşünün; bu, yok oluşu son derece cazip gösteriyor.)

Ve sonra, teknoloji dünyasının dışındaki insanların endişesi var — YZ endüstrisinin karbon ayak izi karşısında perişan olan iklim değişikliği aktivistleri; kitlesel işsizlik ve bomboş gelecekler gören öğrenciler ve işçiler; benim gibi, bedenlerimizden atan kalbi çekip çıkaran ve toplumsal kontrolün çelik ipliklerini tek bir sıkılmış, mekanik yumrukta bir araya toplayan merkezkaç çalkantıyı hissedebilen sanatçılar, müzisyenler ve yazarlar.

Nasıl tepki vermemiz bekleniyor? Düzenleme çağrısında bulunarak mı? Francis Ford Coppola’nın Apocalypse Now filmini — ırkçı klişeleri dâhil — güncel bir haber belgeseli gibi gösteren bir endüstriyi nasıl disipline edersiniz?

Kikloplar, savaşın zulmüyle çıldırmış, çılgın, kana bulanmış, uyuşturucuya batmış imparatorluğunu ve yerli tebaasını Karanlığın Yüreği’nde (Conrad’ın Afrika’sından Coppola’nın Vietnam’ına nakledilmiş) yöneten, yaşlı bir eski deniz piyadesi olan Albay Kurtz’dur. ABD Ordusu yüksek komutanlığının, bir başka deniz piyadesinin isyanını sona erdirmek için gönderilen genç subaya talimatı nettir: “En sert yöntemlerle ortadan kaldırın.”

Sloganımız ne olmalı? En sert yöntemlerle düzenleyin mi? Belki. Gerçi bunun ne anlama geldiğini ya da nasıl göründüğünü dürüstçe bilmiyorum.

2004’teki tsunamiden hemen önceki o an gibi biraz. Hatırlayın, Tayland ve Endonezya’da okyanus kıyıdan nasıl çekilmişti? İnsanlar birdenbire ortaya çıkan kilometrelerce el değmemiş yeni kumsala hayret etmek için dışarı koşmuşlardı; çok uzaklarda, açık denizde bir su duvarının yükselmekte olduğunu ve üzerlerine çökerek geleceğini fark etmeden. Şu an o anda gibiyiz. Yükselen bir aptallık duvarı bizi sular altında bırakmak üzere.

Parlayan kumdaki lezzetli kırıntılar izi bizi okyanusun giderek daha derinlerine çekiyor. Büyülü hazineler, mücevherli deniz kabukları ve sonsuza dek balayı — ya da tercih ederseniz, paralı balayı — vaat eden gizli kaleler ortaya çıkarıyor. O kabukları alın ve sizin için neler yapabileceklerine hayret edin. Onların çirkin adı “tüketici uygulamaları”. Anneniz, sevgiliniz, terapistiniz, doktorunuz olabilirler. Size seçtiğiniz üslupta bir dakikada roman yazabilir ve istediğiniz herhangi bir dile çevirebilirler. Filmlerinizi kurgulayabilir, müziğinizi besteleyebilir, araştırmanızı yapabilir ve hukuki belgelerinizi kaleme alabilirler. Tıp alanında yapabildikleri bir mucizeden başka bir şey değil. (Yoksulların kolera, sıtma ve tüberkülozdan ya da sadece açlık ve yoksulluktan ölmeye devam etmesini engellemeyecek.) Ayrıca size telefonunuz aracılığıyla anında adalet, eğitim ve demokrasi sunma vaadinde bulunuyorlar. Diğer yöne kayarsanız, Nazi selamınızı geliştirebilir ve sizi zihinsel bir testereyle donatabilirler. Sevilmeyecek ne var? Buna nasıl karşı koyabilirsiniz? Ve neden karşı koyasınız?

YZ ve otoriterlik hakkındaki bunca lafa rağmen, en iyi, en sevilen antifaşist YouTuber’larımızın ve yorulmak bilmeyen aktivistlerimizin (kesinlikle Hindistan’da), toplamda on milyonlarca aboneye sahip olanların, YZ’nin sadık savunucuları olduğu doğru değil mi? Ya da Modi hükümetine karşı kavrulmuş toprağa yağmur gibi düşen Z kuşağı Hamamböceği ayaklanmasının, en keyifli, en saygısız YZ videolarıyla yayıldığı?

Doğru.

Ama tehdit değerlendirmesi gerçek tehlikeye işaret ettiğinde, o pencere bir anda kapatılabilir. Bunu yazarken, Delhi’de Hamamböceği protestolarının 2. Sezonu diye adlandırılan dönemde, mahallemdeki internet kesildi. Keşmir ve Manipur gibi eyaletlerdeki diğer protestolar sırasında, Hindistan hükümeti aylarca süren internet kapatma emirleri verdi.

*

Kikloplar, hâlâ bebeklik dönemindeki Makine Tanrısı’nı kansız kollarında tutuyor ve önünde eğilmemiz için bizi davet ediyor. O’na güvenin ve her şeyinizi O’na verin, karşılığında O da size göz alıcı gösterisini sunacak.

Sömürgeleştirme her zaman parlak hediyelerle gelir. Ama YZ, çoğumuzun hayal bile edemeyeceği bir tür sömürgeleştirme. Kapitalizmin son durağı.

Kikloplar, normalde saklı tutulan niyetlerini açıkça dile getirmekten asla çekinmez.

İşte yine Peter Thiel, Palantir’in yönetim kurulu başkanı: “Başlangıçtaki kuruluş vizyonumuz, tüm dünyayı değiştirmek, dünyanın para sistemini altüst etmek için teknolojiyi kullanmaktı… Bir seçim asla kazanamazdık… çünkü biz çok küçük bir azınlığız. Ama belki de dünyayı tek taraflı olarak değiştirebilirdiniz, sürekli insanları ikna etmek, onlara yalvarmak ve asla sizinle aynı fikirde olmayacak insanlara yakarmak zorunda kalmadan.”

Ve işte Shlomo Kramer, İsrailli teknoloji şirketi Cato Networks’ün CEO’su: “Birinci Anayasa Değişikliği’ni korumak için onu sınırlamanın zamanı geldi… Platformları, tüm sosyal platformları kontrol etmemiz gerekiyor. Çevrimiçi kendini ifade eden her kişiyi ne kadar gerçek olduğuna göre derecelendirmemiz ve bu sıralamaya dayanarak ne söylediklerini kontrol altına almamız gerekiyor.”

Bu hak talebi, bu zenginlik, bu güç, bu küstahlık onlara Tanrı tarafından verilmedi. Bizden gasp edildi.

3.

Makine Tanrısı’nı eğitmek için Kikloplar’ın insan uygarlığının bugüne kadar başardığı her şeyi açık ocak madenciliğiyle çıkarıp stoklaması gerekiyor. Milyonlarca insanın binlerce yıl boyunca birleşik emeğinin meyvesi olan birikmiş başarıları — edebiyat, sanat, müzik, matematik, satranç, akademik araştırma — her şeyi — şirket holdinglerine kitlesel olarak aktarmak istiyor. Bu bilgiyi depolayacak, onu kontrol etmenin, sterilize etmenin, siyasileştirmenin yollarını bulacak ve kime erişim hakkı verileceğine, kime verilmeyeceğine karar verecek. Ve hangi fiyattan? Buna insan çabasının, uygarlığın kendisinin tarihinin özelleştirilmesi ve şirketleştirilmesi diyelim. Tek yapmanız gereken ruhunuzun dijitalleştirilip veriye dönüştürülmesine izin vermek. Sizden geriye kalan insan tortusu ve bulamacı olacak. Endüstriyel atık.

İşte yine Sam Altman: “Zekânın elektrik ya da su gibi bir kamu hizmeti olduğu ve insanların bunu bizden sayaçla satın aldığı bir gelecek görüyoruz.”

Ama bu gerçekten onların satacak bir şeyi mi?

Ben, Anthropic’in büyük dil modelini eğitmek için kitapları izinsiz kullandığı yüz binlerce yazardan biriyim. Bir toplu dava sonucunda, bana kitap başına birkaç bin dolar tazminat ödemeyi teklif eden bir bildirim geldi. Bunlar, bir ömür yaşayarak ve birkaç yıl yazarak ortaya çıkardığım kitaplar. Bildirim, şirketin kitapları korsan PDF barındıran iki web sitesinden indirdiğini, ancak “Anthropic’in yanlış bir şey yaptığını reddettiğini” söylüyor. Bana bir talep numarası ve bir PIN kodu sunuyor. Sanki vücudumun organları haberim olmadan alınmış gibi. Makine artık eserimle eğitildiğine göre, çok yakında, on yıllarca kendime özgü kılmak için emek verdiğim bir dilde — kendim gibi — yazdığımda, bana bunun benim eserim gibi görünmediğinin, aslında YZ tarafından yazıldığının söyleneceğinden korkuyorum. Hayatımın geri kalanında ne yapacağım? Kendi yazma biçimimden mi kaçınacağım? Yeni bir dil mi bulacağım? Buna ne diyeceğiz? Kalp madenciliği mi? Beyin madenciliği mi? Yaşam madenciliği mi?

Keskin, hançer gibi kitabı Empire of AI’da Karen Hao, süregiden, topyekûn arazi ve kaynak yağmasını ve Kikloplar’ın hayallerini ayakta tutmak için “veri toplayıcısı” olmak üzere açlık ücretleriyle çalışmaya zorlanan yoksul ülkelerdeki işçileri anlatıyor. Şirketlerinin ve 100 milyar dolarlık süper bilgisayarlarının muazzam enerji iştahını beslemeye yetecek su ya da elektrik olması pek olası olmadığından, Kikloplar özel nükleer santraller ve güvenlik protokollerinin geri alınması için agresif biçimde lobi yapıyor. Yedek olarak, veri merkezlerinin uzaya ya da Ay’a taşınabilmesi için tükenmeyen füzyon enerjisi kaynakları geliştirmeye milyarlarca dolar dökülüyor.

Bu arada, sevgili, eski püskü Dünya’da, Hindistan hükümeti daha fazla enerji yutan veri merkezinin kurulmasını memnuniyetle karşılamak için adım attı. Sadece Visakhapatnam’da altı tane, Google için 15 milyar dolarlık bir merkez dâhil. Neredeyse sıfır çevresel denetimle onay veriliyor, sanki onlar sadece binalar, depolar. Hindistan ile ABD arasında eski bir gelenek bu — bize çöpünüzü, zehirli endüstrilerinizi, zehirli kâsenizi verin. Biz ona sahip çıkarız. Ve ABD’de olduğu gibi, Hindistan’daki aktivistler, önerilen “depoların” yakınında yaşayan on binlerce insanın suyunun ve havasının zehirlenmesini durdurmak için bedenlerini ortaya koyuyorlar.

ABD’deki veri merkezi karşıtı aktivistler, bu devasa tesislerin inşasında iş bulan inşaat işçilerine karşı kışkırtılıyor. Yerel topluluklar adına mücadele eden bu aktivistler, yabancı fonlu hainler, teröristler ya da vatansever ABD şirketlerinde çalışan dürüst, çalışkan Amerikalıların işlerini çalan solcu aşırılıkçılar olarak etiketleniyor. İnsanları birbirine böyle kışkırtmak, öğlen güneşinde leş gibi kokan, o kadar eski bir oyun ki. Bunun Hindistan’ın güney eyaleti Kerala’da, benim geldiğim yerde, nasıl oynandığını izlemek, her şeye yalnızca “sol” ya da “sağ” kutuplaştırıcı prizmasından bakmanın her zaman işe yaramadığını öğrenme biçimim oldu.

İşte hem mekân hem zaman olarak çok uzaklarda olan, ama bugün için hâlâ dersler barındıran küçük bir hikâye.

Kerala’nın ilk demokratik seçimle iş başına gelen Komünist hükümetinin 1950’lerin sonunda yaptığı ilk işlerden biri, büyük bir şirketi eyaletin kuzeyinde, Chaliyar Nehri kıyısında, Calicut şehrinin yukarısında bir suni ipek fabrikası kurmaya davet etmek oldu. Sanayici fabrikanın 3.000 iş yaratacağını vaat ediyor, karşılığında hammadde, elektrik ve su için devlet sübvansiyonu istiyordu. Civardaki ormanlardan tonu bir rupiye bambu verildi, oysa çoğu yerli halktan olan bambu işçileri tek bir bambu sapını bir rupiye satın almak zorundaydı.

Fabrika üretime başladığında, bir günde tüm Calicut şehrinden daha fazla su çekti ve zehirli atığını doğruca nehre boşalttı. Aşağı havzada şehir suyu kirlendi. Balıklar öldü. Binlerce balıkçı geçimini kaybetti. Mevcut tüm bambu tüketildiğinde okaliptüs kullanmaya başladılar. Yoğun, yaşlı ormanların geniş alanları, tek tür okaliptüs plantasyonları kurmak için tamamen kesildi. Binlerce orman sakini, bambu ve sepet işçisi geçimini kaybetti. Ama 3.000 fabrika işçisi sendikalaştı ve refaha kavuştu.

Ta ki zamanla zehirli fabrika dumanları işçiler arasında kanser ve solunum yolu hastalığı salgınlarına yol açana kadar. Tazminat talep ederek greve gittiler. Sanayici özel bir kanser hastanesi inşa etti. Militan fabrika işçileri zam ve diğer haklar talep ederek oturma eylemleri ve lokavtlar düzenlediler. Kendileri için küçük, kademeli zaferler kazandılar ve işe geri döndüler.

Birkaç yıl sonra okaliptüs plantasyonu da yok oldu. Fabrika kapandı. İyi sendikalı işlere sahip işçiler yeniden açılması talebiyle açlık grevine gittiler. Fabrika bir daha açılmadı.

Bu, dünyadaki “veri toplayıcısı” iş gücü için de bir ikilem — neredeyse varoluşsal bir meydan okuma.

Hindistan, muazzam nüfusuyla, Kikloplar’ın doymak bilmez iştahı için bir veri ziyafetidir. En yoksulların en yoksulu, uzak köylerde ve küçük kasabalarda yaşayanlar, çıkarılabilecek her türlü bilgiyi sağlamaya zorlanıyor. İnşaat sahalarındaki ve fabrikalardaki işçilerden, YZ’nin yakında yerlerini alacak robotları eğitmek için hareketlerinden veri devşirebilmesi amacıyla başlarına sabitlenmiş kameralarla çalışmaları isteniyor. İşçiler kendi mezarlarını kazdıklarını biliyorlar ama reddedemiyorlar, çünkü onların yerini almak için bekleyen çok sayıda insan var. İşleri ortadan kalktıktan sonra, dünya milyonlarca “artık insan”ı ne yapacak? Bu, dünyanın sınırlı kaynaklarını tüketen ama topluma katkıda bulunmayanları tanımlayan faşist sınıflandırmadır. Faşistlerin bu konuda uzun zamandır kendi soykırımcı fikirleri vardır.

Kikloplar — ya da Gil Durán’ın aynı adlı kitabında dediği gibi, Nerd Reich — zaman zaman başka bir yolla flört etti. Evrensel Temel Gelir (UBI) fikrini zaman zaman gündeme getirip sonra rafa kaldırıyor. Başkalarının parasıyla. Kendi parasıyla değil. Ne kadar havalı ve antikapitalist bir şey, değil mi? Belki birkaç yıl boyunca kendini aylık bir UBI ödemesiyle geçindirmeyi denemeli. Belki de En Sert Yöntemlerle Düzenle programının ilk adımı bu olmalı.

Şunu kayda geçirelim: Zenginlik daha eşit dağıtılsaydı, dünyadaki herkes bugün, şu anda Evrensel Temel Gelir alabilirdi. Bunun için gezegeni yok etmenize gerek yok. Ve bu arada, UBI’yi kim dağıtacak? Kimin uygun olduğuna, kimin olmadığına kim karar verecek? Sadece soruyorum. Belki de Yoldaş Shlomo Kramer’in temasını geliştirerek, insanlar ırklarına, kastlarına, dinlerine, cinsiyetlerine, siyasi görüşlerine ve itaat katsayılarına göre sıralanabilir?

Ya da belki Hindistan hükümeti yardım eli uzatabilir. Ülkenin seçmen listelerinde yakın zamanda yürüttüğü Özel Yoğun Revizyon’da 130 milyon kişi silindi. Nüfusun neredeyse onda biri. Güzel, büyük bir parça. Uygar bir itlaf biçimi. Evrensel Temel Gelir’e ya da herhangi bir hakka uygun olmayacaklar. Assam gibi eyaletlerde bazıları, kendileri gibi insanları barındırmak için inşa edilen dev gözaltı merkezlerinin yapımında işçi olarak çalıştırılıyor. Hükümet kendi halkını seçiyor. Kikloplar hükümeti kontrol ediyor. Ne âlâ.

Sonra iyi niyetli demokratik sosyalist versiyon var. Bernie Sanders, halkın — en azından Kuzey Amerika halkının — YZ şirketlerinde doğrudan sahiplik payına sahip olmasını istiyor. En büyük YZ şirketlerinin hisselerine, bağımsız denetime sahip bir ulusal varlık fonu oluşturmak üzere bir defaya mahsus yüzde 50 vergi öneriyor. Bu fonun görünüşe göre yaklaşık 7 trilyon dolar değerinde olacağı ve buradan her yıl yüz milyarlarca doların doğrudan ABD vatandaşlarına, ayrıca sağlık, konut ve eğitim programlarına ödeneceği belirtiliyor. (Yine, trilyonlar zaten var. Siyasi irade yok. Ne değişir?) Ama bu demokratik sosyalist seçenekte bile, veriler hâlâ Güney’den — Hindistan, Afrika, Güney Amerika — emilecek, kârlar ise Kuzey’de kalacak.

Elbette, şirketler veri için ödeme yapmalı. Ama buna mı geldik? Kıyametten hisse almak artık tek seçeneğimiz mi?

*

YZ’nin insanlar için neler yapabileceği ve yapamayacağı konusunda bunca tartışma varken, insanlara ne yaptığı hakkında çok az konuşuluyor. Araştırmalar, YZ ile insanlarda bilişsel gerileme arasında bir ilişki olduğu konusunda uyardı. İnsan zekâsı, yapay zekânın yükselişiyle orantılı olarak keskin biçimde gerileyecek gibi görünüyor. Belki kullanılmayan beyinlerimiz körelecek, kafalarımız küçülecek ve parmaklarımız kıvrılıp duran prompt dokunaçlarına dönüşecek.

Hayatını farklı bir dünyada yaşamış olan bizler neyi kaybettiğimizi biliyoruz. Ama yetişkinliğe adım atmak üzere olan kuşak ne olacak? Kendi diline, kendi düşüncelerine, kendi kederine sahip olacak mı? Çabalama hakkına sahip olacak mı? Düşmeye? Başarısız olmaya? Kusurlu olmaya? Ne kadar kusurlu olursa olsun, kendi başına bir matematik denklemini çözmenin ya da sanat, edebiyat veya müzik üretmenin imkânsız acısını ve coşkun hazzını yaşayacak mı?

YZ’nin zaferi insan olma hâline karşı bir suç olacak. Beyinlerimizi formaldehitte şişeleyecek. Bildiğimiz dünyayı yok edecek. Bunu destekleyen ve bundan kâr eden adamlar bunun bilincinde ve çoktan başka bir âleme kaçış için hazırlık yaptılar.

Oligarklar savaş hatlarını yüksek sesle, gururla ilan ediyorlar: Bu, biz ve onlar meselesi. Kikloplar’ın gelişmesi için insanlığın ölmesi gerekebileceğini hiç çekinmeden ima ediyorlar. Buna karşı ayaklanan genç nesil bunu anlıyor. Bu makalede daha önce “en sert yöntemlerle düzenlememiz” gerektiğini önerdiğimi biliyorum. Ama o YZ şirketleri hakkında gerçekten söylemek istediğim şu: En sert yöntemlerle ortadan kaldırın.

*Bu makalenin bir kısmı 19 Ekim’de New York’taki Halkın YZ Meclisi’nde (The People’s AI Assembly) konferans konuşması olarak sunulacaktır.

Kaynak: https://www.equator.org/articles/arundhati-roy-artificial-intelligence