Christopher Ketcham
Bilim gazetecisi ve astrofizik doktoru Adam Becker, son birkaç yılını teknoloji zenginlerinin fütürist vizyonlarını araştırarak geçirdi – ve bunların büyük ölçüde saçmalık olduğunu ortaya koydu.
Yeni kitabı More Everything Forever’da hedef aldığı kişiler, Becker’ın “teknolojik kurtuluş dini” olarak tanımladığı büyük atılımlarla özdeşleşmiş isimler: yapay zekânın dahiyane öncüsü Sam Altman; teknokratların en önde geleni ve SpaceX patronu Elon Musk; uzay kolonizasyonunun gurusu ve Amazon’un tanrısal lideri Jeff Bezos; milyarder yazılım mühendisi, girişim sermayesi yatırımcısı ve açıkça beyan ettiği üzere teknofaşist olan Marc Andreessen; ve Facebook’un kurucu ortaklarından Dustin Moskovitz – ki kendisi, sözde “uzun vadeciliği” (longtermism) savunan düşünce kuruluşlarına yüz milyonlarca dolar bağışlamıştır ve bu yapılar teknolojik kurtuluş ideolojisinin temelini oluşturmaktadır.
Becker ayrıca yazılım mühendisliğinin baş büyücüsü, mucit ve insan yaşamını dijitalleştirerek ölümsüzleştirmeyi amaçlayan “Tekillik” (the Singularity) fikrinin mimarı Ray Kurzweil’i de hedef alıyor; yapay genel zekâya (AGI) – şu anda var olmayan – fantastik güçler atfeden yazar ve araştırmacı Eliezer Yudkowsky’yi; ve Moskovitz ile diğer Silikon Vadisi baronlarının fon sağladığı Oxford Üniversitesi’ndeki uzun vadeci teknoloji savunucularını da.
Bu kişileri birleştiren şey, teknolojinin insanlığın tüm sorunlarını çözeceği ve insan olmanın doğasını aşacağı inancıyla motive olan güç ve kontrol arzusudur. Becker şöyle yazıyor:
“Bu fikirler aşkınlık vaat ediyor. Uzaya giderseniz kaynak kıtlığını görmezden gelebilirsiniz… Uzun vadeci olursanız geleneksel ahlâkı hiçe sayabilirsiniz, çünkü yaptığınız her şeyi insanlığın gelecekteki güvenliği adına meşrulaştırabilirsiniz. Tekilliği hızlandırırsanız, ölümün kendisini görmezden gelebilirsiniz.”
Musk ve Bezos’un uzay kolonizasyonuna dayalı “güç fantezileri” ve “yapay zekâ ölümsüzlüğü” vizyonları, Dünya’nın, Güneş Sistemi’nin ve galaksinin sınırlarının ötesinde sınırsız zenginlik ve kaynaklara sahip bir geleceği müjdeliyor. Ray Kurzweil’in Tekillik hayali, zihinlerin dijital simülasyonlara yüklenmesini ve bu sayede sonsuza dek yaşamayı içeriyor. Tüm bunlar, Becker’a göre, ölüm korkusunun itici gücüyle ortaya atılan ve gerçeklikten kopuk bir satış söylemi. Bunun merkezinde ise “mühendis hastalığı” (engineer’s disease) olarak adlandırılan bir zihinsel bozulma var: mühendisliğin her şeyi – ama her şeyi – çözebileceğine inanmak.
Becker’ın anlatımına göre Kurzweil, örneğin, ölmüş babasını bir yapay zekâ “Baba Bot” (Dad Bot) ile diriltmeye takıntılı, akıl sağlığı yerinde olmayan bir hayalperesttir. Bir Hıristiyan kıyamet peygamberi gibi, teknolojik kurtuluş kilisesinin başrahibi olarak Tekillik’in 2045 gibi erken bir tarihte geleceğini vaat eder – o noktada yapay zekâ hesaplamaları o kadar hızlı ve güçlü hâle gelecektir ki, toplum, Dünya ve evrenin kendisi dönüşerek zaman, yaşlanma, fizik yasaları ve entropi gibi “kozmolojik güçlerin” üstesinden gelinecektir. Tüm varlık, uzayın sonsuzluğuna doğru dönen dev bir bilgisayara dönüşecektir. Becker şöyle yazıyor:
“Amaç, evreni evcilleştirmek, onu yumuşak yastıklarla kaplı bir oyun alanına dönüştürmektir. Kimse yaşlanmaz, kimse hastalanmaz ve – her şeyden öte – kimsenin babası ölmez.”
“Kontrol vaadi mutlak” diye açıklıyor, “özellikle de bilgisayarları kontrol etmeyi bilenler için. Bu, gerçekliğin tüm boyutlarını belirleyen tek şeyin bilgisayar programlaması olduğu bir dünya fantezisidir. Tüm insanlık bir bilgisayarda çalışıyor olacak…”
Bu, “ineklerin intikamının” doruk noktasıdır – ama daha da kötüsü, bizim onların devasa servetlerine ve abartılı etkilerine boyun eğmiş olmamızdır. Peki ne yapmalı? Bu fanatiklerin otoriter doğasını kavramalıyız ki, toplumu ele geçirme girişimlerini püskürtebilelim ve çılgın makinelerinin iskeletlerini parçalayıp dağıtabilelim. Becker, George Orwell’in 1984 romanına atıfla şöyle diyor:
“Geleceğin bir resmini görmek istiyorsanız, bir milyarderin dijital botunun bir insan yüzüne sonsuza dek bastırıldığını hayal edin.”
Yakın zamanda Becker ile Zoom üzerinden kitabı hakkında konuştum. Konuşma, uzunluk ve açıklık açısından düzenlenmiştir.
Ketcham: Bu kitabı yazma fikri sizde nasıl ortaya çıktı, onunla başlayalım. Yani, neden Sam Altman, Ray Kurzweil, Bezos, Musk ve tüm bu teknoloji iyimserlerini hedef aldınız?
Becker: Bu tür alt kültürleri – uzun vadecilik, genel teknoloji iyimserliği, Tekillik (Singularity) meseleleri – çok uzun zamandır takip ediyorum. Tam bir bilim kurgu bağımlısıyım ve bu fikirlerin çoğuyla ilk kez lisede ya da daha önce bilim kurgu eserlerinde karşılaştım. Ray Kurzweil’i sanırım ilk kez üniversitedeyken duydum. Ve düşündüm ki, evet, bu fikirler kötü ama pek de rağbet görmüyorlar. Sonra çok komik bir şey oldu: teknoloji milyarderleri bu şeyleri ciddiye aldı ve bu insanlara yüklü miktarda para vermeye başladı. Yaklaşık 13 yıl önce Bay Area’ya taşındım. Ve tabii ki burası olayın merkez üssü. Tekillik, yapay zekâ heyecanı, teknolojinin her problemi çözeceği fikri, uzaya gideceğimiz ve bunun tüm sorunları çözeceği gibi düşünceler bu kültürün içine ne kadar derinlemesine yerleşmiş, bunu fark ettim. Bu fikirlerin ne kadar eleştirilmeden ve yaygın bir şekilde benimsendiğine çok şaşırdım. Kendi kendime, “Bu saçmalık,” dedim.
Bir diğer mesele de şu: İnsanların bu fikirleri eleştirdiğini gördüğümde, bunların neden işe yaramadığına dair detaylı, bilimsel bir analizle karşılaşmadım. Yudkowsky ya da Kurzweil gibi isimleri doğrudan reddeden birçok insan vardı ama genelde söyledikleri sadece “Bu saçma” oluyordu. Neden? Genellikle verilen cevap şu şekildeydi: “Bu saçma çünkü deli işi bir fantezi.” Evet, bu çılgınca bir fantezi. Ama neden? Dedim ki, demek ki yeterince derinlemesine analiz yok, çünkü bu toplulukların dışındaki insanlar bu fikirleri ciddiye almıyor. Oysa kimse farkında değil ama bu topluluklar büyüyor ve giderek daha fazla etki kazanıyor. Dolayısıyla, bu fikirler ilk bakışta saçma görünse bile, etkileri arttığı için onlarla meşgul olmak zorundayız. Temelde kitabı yazma dürtüsü buradan doğdu.
Ketcham: Peki, ilk bakışta saçma olduğunu söylediğiniz bu fikirleri teknokratların böylesine coşkulu şekilde benimsemesine ne sebep oluyor?
Becker: Çünkü bu fikirler, onların zaten yapmak ve söylemek istedikleri şeyleri yapıp söylemeleri için her türlü bahaneyi sağlıyor ve bu da bu fikirleri onlar açısından gerçekten cazip, ikna edici ve çekici kılıyor. Çünkü insan psikolojisi böyle işler. Eğer zaten yapmak istediğiniz bir şey için size bir bahane sunuluyorsa, o şeye gerçekten inanma olasılığınız artar — çünkü inanması çok kolaydır. Dünyayı basitleştirir. Yön ve anlam duygusu verir. Onların kendilerini insanlığın hikâyesinin kahramanları olarak görmelerine imkân tanır; hepimizi uzaya götürerek ve bir yapay zekâ tanrısıyla birlikte sonsuza dek yaşamamıza izin vererek bizi kurtaracaklarını düşünürler. Onlar, insanlık için kalıcı bir cennet getirecek kişiler olacaklardır. Bundan daha önemli ne olabilir ki?
Ve elbette, tüm bunlar saçmalık. Ama bu, gökten biri inip size “Sen seçilmiş kişisin, sen lanet olası Luke Skywalker’sın, al ışın kılıcını, tek yapman gereken sana söylediklerime inanmak — o zaman herkes seni bir kahraman olarak görecek” dese ne olurdu, gibi bir şey. Sana bu kişinin yalan söylediğini söyleyen olur muydu?
Sen ve ben eleştirel düşünmeye alışığız, ama teknoloji milyarderleri öyle değil. Hatta aslında düşünme alışkanlıkları bile yok. Düşünmek, büyük çaba ve eleştirel bir öz değerlendirme gerektirir — ve eğer hayatınızda olabilecek tüm ihtiyaçlarınız zaten karşılanmışsa, geriye sadece “kim daha çok milyar dolara sahip” yarışması kalıyorsa, neden kendinizi sorgulayasınız ki? Bunun için hiçbir neden yok. Üstelik etrafınızdaki herkes, sırf milyarder olduğunuz için yaptığınız her şeyin doğru olduğunu söyleyecektir. Kendinizi dalkavuklarla kuşatırsınız.
Ketcham: Anlattığınız şey, elbette bir din; çünkü anlam, amaç, yön ve bir tür tanrı gibi zihinsel olarak rahatlatıcı tüm unsurları sağlıyor.
Becker: Hatta bazı durumlarda bir tür topluluk duygusu da sağlıyor.
Ketcham: Doğru. Azımsanacak bir şey değil bu. Haydi teknolojik kurtuluş dininden konuşalım. Bu din, aslında bu hareketten çok daha önceye dayanıyor, değil mi? Neredeyse Descartes’ın dünya görüşüne, Aydınlanma bilimine, yani bilimin ve bilginin dünyayı nihai mükemmelliğe ulaştıracağı fikrine kadar geri gidebiliriz. Bu teknolojik kurtuluş dininin günümüzdeki hali, sanayi toplumunun tarihine nasıl oturuyor, anlatır mısınız?
Becker: Bu gerçekten çok iyi bir soru. Ama açık olmak isterim. Bilimin harika bir şey olduğunu düşünüyorum. Ve gerçekten de bilimin olağanüstü şeyler ortaya çıkardığı doğru. Ama aynı zamanda korkunç şeyler de getirdi. Bize aşıları verdi, ama aynı zamanda termonükleer silahları da. Bence bu aslında ölçekle ilgili: Aşılar muhtemelen bilimin bugüne kadar yaptığı en iyi şey. Termonükleer silahlar ise, bana göre, tartışmasız biçimde bilimin olanak sağladığı en kötü şeydir.
Ama nihayetinde bilim bir araçtır. Ve tıpkı diğer tüm teknolojiler gibi, insan tercihine ve tesadüflere tabidir. Hangi bilimsel gerçekleri keşfedeceğimiz tam olarak bizim elimizde değildir. Ama o bilimsel ilerlemeler üzerine nasıl teknolojiler inşa edeceğimiz tamamen bizim elimizdedir. Teknoloji, önceden belirlenmiş raylar üzerinde ilerleyen ya da bir video oyunundaki teknoloji ağacı gibi sabit bir yol izleyen bir şey değildir.
Bu da, teknolojinin bizi kaçınılmaz olarak belirli bir geleceğe götüreceği fikrinin yanlış olduğu anlamına gelir. Teknoloji, önceden yapamadığımız şeyleri yapmamıza imkân tanıyabilir — ama bu şeylerin hangileri olacağı, doğanın koyduğu sınırlar ile insan tercihleri arasındaki etkileşimle belirlenir.
Teknolojinin bizi mutlaka bir ütopyaya ya da felakete götüreceği yönündeki anlatılar sadece hikâyelerdir. Ve sizin de belirttiğiniz gibi, bu ütopya anlatısı oldukça eskidir. Bugün teknoloji oligarklarının, finanse ettikleri entelektüellerin ve destekledikleri alt kültürlerin savunduğu bu teknolojik kurtuluş ideolojisinin güncel versiyonu, aslında 20. yüzyılın başlarından ortalarına uzanan bilim kurgu ile çeşitli Hristiyan apokaliptik hareketlerinin bir karışımından türüyor. Çünkü bu Hristiyan hareketlerinde, teknolojinin bir tür cenneti ve “ikinci gelişi” getireceği fikrinin oldukça uzun bir geçmişi vardır.
Kitabı yazarken öğrendiğim kelimelerden biri “soterioloji”ydi — yani kurtuluş doktrinlerinin incelenmesi. Bu düşünce hattı, en azından Rus kozmizmi fikrine ve ardından Teilhard de Chardin’e kadar gider; kitapta bu konulardan bahsediyorum.
Bir de teknokrasi hareketi var — Elon Musk’ın dedesi bu harekete dahildi — bu da bir tür faşist teknoloji ütopyası. Hareketin temel varsayımı şuydu: Teknolojiyi geliştiren kişiler, onun ne yaptığını gerçekten anlayabilen tek kişilerdir. Ve madem teknoloji geleceği belirleyecek, o zaman toplumu da yalnızca bu kişilerin yönetmesine izin verilmelidir.
Bunu böyle anlattığınızda kulağa oldukça tanıdık geliyor, değil mi? Marc Andreessen’in tekno-iyimser manifestosuna çok benziyor. Ve gerçekten de, o manifestoda Marinetti’nin Fütürist Manifestosuna atıfta bulunuyor — ki bu metin, Mussolini’nin Faşist Manifestosunun öncüsüydü ve yine Marinetti tarafından yazılmıştı.
Tüm bu fikirlerin o döneme ait yankıları var. Ve dediğim gibi, erken ve orta dönem 20. yüzyıl bilim kurgu eserlerinde de bu izleri net biçimde görebilirsiniz — çünkü o yazarlar da fikirlerini bu kaynaklardan almışlardı. Temel fikir şudur: İdeal gelecek, mühendislerin yönettiği bir gelecektir. Uzay kolonizasyonu ve yapay zekâ sayesinde, dünyanın önlenemez bir ilerleme yoluyla ütopyaya dönüşeceği inancı… Bu, altın çağ bilim kurgu eserlerinin neredeyse tamamında karşımıza çıkar.
Ketcham: Peki neden mühendislerin yönetiminden çekinmeliyiz?
Becker: Çünkü bu tür bir yönetimde hiçbir demokratik hesap verebilirlik yok. Ayrıca mühendisler genellikle “mühendis hastalığı” (engineer’s disease) denilen durumdan muzdariptir — ki bunun birkaç farklı tanımı vardır. Öncelikle, beşeri bilimleri ve STEM dışındaki her şeyi tamamen önemsiz görme eğilimi vardır. Ama esas mesele şudur: Eğer bir teknik alanda uzmansanız ve çok zor bir problemi çözebiliyorsanız, bu sizi her alanda uzman yapar gibi bir yanılgıya kapılırsınız — çünkü her türden karmaşık problemi çözebileceğinizi düşünürsünüz. Ama dünya böyle işlemez. Hangi sorunun en zor olduğu ya da hangi alanın daha karmaşık olduğu konusunda tek bir ölçüt yoktur. Ve uzmanlık bilgisi çoğu zaman bir alandan başka bir alana aktarılamaz.
Mesela sicim teorisinde çok iyiyseniz, bu sizi jeopolitik konusunda da yetkin yapmaz. Ya da bilgisayar bilimi, genetik, genomik, ekoloji gibi diğer teknik alanlarda da başarılı olacağınız anlamına gelmez. Albert Einstein teorik fizik yerine Freudcu psikoterapiye yönelseydi, dünyanın en iyi terapisti olurdu diyemeyiz.
Uzmanlık doğuştan gelen bir şey değildir ve kolayca transfer edilemez. Bu durum özellikle bilgisayar bilimi söz konusu olduğunda daha da belirginleşiyor. Yazılım mühendisliğinde çözmeyi öğrendiğiniz problemler, temelde insan yapımı sistemlerle ilgilidir. Bu sistemler insanlar tarafından tasarlanmıştır, belirli sorulara cevap verebilecek şekilde yapılandırılmışlardır. Genellikle de çözülmesi mümkündür.
Elbette bazen bu sistemlerin doğal dünyayla uyumlu hâle getirilmesi gerekir. Bu zor olabilir ama nihayetinde yapay, insan ürünü bir sistemle uğraşıyorsunuzdur. Doğal evrimle gelişmemiştir, tasarlanmış bir dildir — bir programlama dili.
Şimdi bunu, temel fizik, sosyoloji, dilbilim, siyaset bilimi, biyoloji gibi alanlarla karşılaştırın. Bunların hepsi doğaldır. İnsan dili bile — ki az önce bahsettiğim gibi — doğal yollarla evrimleşmiştir, kimse onu tasarlamamıştır. Diğer sistemler ise bundan da az tasarlanmıştır. Hücrelerimizdeki ribozomları kimse inşa etmedi. Güneş sistemini de kimse kurmadı. İçinde yaşadığımız dünya son derece insan dışı bir dünyadır — ve bu dünyayı yöneten mantık, insan mantığı değildir.
Ketcham: Evet, kitabınız boyunca insan merkezcilik denen dar görüşlülüğe dair örtük bir eleştiri fark ettim. Şu fikirden bahsediyorum: İnsanlar evrenin merkezidir; teknosferde aklımızdan ve baş parmaklarımızdan çıkan her icat, evrenin tanımlayıcı gerçeğidir. Ray Kurzweil’in yaklaşımı bu insan-merkezli körlüğü bence absürd seviyelere taşıyor. Evrenin her yerine yayılan “çoğaltıcı” (replicator) robotlardan söz ediyor; tüm maddeyi dev bir bilgisayara dönüştürecekler ve biz de beyinlerimizi oraya yükleyeceğiz. Bu — sizin de belirttiğiniz gibi — bilinen hiçbir bilime dayanmayan, fiziksel olarak mümkün olmayan bir fantezi. Kurzweil gibi birini bu tür bir söylemle nasıl ciddiye alabiliriz?
Becker: Mükemmel bir dünyada, onu ciddiye almamıza gerek kalmazdı. Ama sorun şu ki, bu fikirleri gerçekten ciddiye alan güçlü ve etkili insanlar var. Mesela Marc Andreessen — hayattaki en güçlü ve zengin kişilerden biri — Kurzweil’in fikirlerine ciddi şekilde inanıyor. Ve maalesef bu da şu anlama geliyor: Bizim de bu fikirleri ciddiye alıp, neden saçma olduklarını ayrıntılı biçimde açıklamamız gerekiyor — bilirsiniz, basit kelimelerle, Marc’ın da anlayabileceği şekilde.
Elbette Marc Andreessen’in kitabımdan bir ders çıkaracağına dair hiçbir umudum yok. Onun böyle dürüst ve eleştirel bir öz değerlendirme yapabilecek kapasitede olduğunu sanmıyorum. Ama buyur Marc, beni haksız çıkar!
Bakın, bu fikirler — söylediğim gibi — güçlü insanlar için fazlasıyla baştan çıkarıcı. Üstelik bu fikirlerin bilimden kaynaklandığını iddia ediyorlar. Ama bu doğru değil. Bu fikirler bilimden gelmiyor. Nereden geliyor peki? Bilimkurgudan ve Hristiyan kıyamet hareketlerinden. Eğer biraz tarih, siyaset, sosyoloji ya da dinler tarihi okumuşsanız, Kurzweil’in fikirlerinin çok daha eski fikirlerin birer yankısı olduğunu hemen fark edersiniz.
Kitabımın sonunda da referans verdiğim çok güzel bir kitap var: God, Human, Animal, Machine (Tanrı, İnsan, Hayvan, Makine). Bu kitap, Kurzweil’in düşünceleriyle Hristiyan eskatolojik (kıyamet sonrası) hareketler arasındaki bağlantıları çok güzel ortaya koyuyor.
Ama bu insanlar böyle analizleri tamamen görmezden gelir. Ve bu bizi sizin bana ilk sorduğunuz soruya geri getiriyor: “Bu kitabı neden yazdınız?” demiştiniz. Ben de şöyle düşündüm: “Tamam, o zaman bu analizleri onların anlayacağı bir dille yapayım.”
Ketcham: Dikkatimi çeken bir ifadeniz var, sık sık kullanıyorsunuz: “Dünya böyle çalışmaz.” Görünüşe göre bu insanlar gerçeklikten tamamen kopmuş durumdalar.
Becker: Evet, öyleler. Dünyanın nasıl işlediğini, bilimin nasıl işlediğini, insanların nasıl işlediğini tamamen yanlış anlıyorlar. Farkındayım, sürekli Andreessen’e yükleniyorum ama bu kitapta en az hoşlandığım kişi o. O saçma manifestosunda, kendisini gerçek bilimsel yöntemin koruyucusu olarak sunuyor — hem de akademik bilim insanlarını küçümseyerek.
Dostum, bak: Eğer söylediklerin gerçekten doğru olsaydı, bu kadar bağırman gerekmezdi.
İkincisi, gerçek bilimsel yöntem bir tür inanç bildirgesi yayınlamak değildir — ne dünyanın nasıl olduğu, ne nasıl işlemesi gerektiği, ne de teknolojinin geleceği hakkında. Gerçek bilimsel yöntem; dünyaya karşı meraklı, sorgulayıcı bir yaklaşım içinde olmak ve her zaman ama her zaman, yanılıyor olabileceğini kabul etmeye açık olmaktır. Hatta çoğu zaman, yanlış olduğunu varsayarak işe başlamaktır.
Ve bu, bu insanların pek becerebildiği bir şey değil.
Ketcham: Bu hareketin her yanına işlemiş bir teknoloji otoriterliği var gibi görünüyor. Mühendislerin yönetiminden neden çekinmemiz gerektiğini daha önce konuşmuştuk — çünkü ortada demokratik bir hesap verebilirlik yok. Bu konuyu biraz daha açar mısınız? Ve bunu, Andreessen’in İtalyan fütürist ve faşist Filippo Tommaso Marinetti’ye duyduğu hayranlıkla ilişkilendirebilir misiniz?
Becker: Şöyle açıklayayım: Eğer teknolojik geleceğin her şeyden daha önemli olduğuna inanıyorsanız — bu da genellikle mühendis hastalığına işaret eder — ve başka hiçbir şeyin anlamlı olmadığını düşünüyorsanız; ayrıca teknolojik geleceğin zaten önceden belirlenmiş bir rotada ilerlediğine inanıyorsanız — yani teknolojik kurtuluş ideolojisine bağlıysanız — o zaman dünyayı bu şekilde görmeyen herkesi ya önemsiz ya da geleceğin önünde bir engel olarak görmeye başlarsınız. İster o gelecek bir ütopya olsun ister sizin engellemeye çalıştığınız bir felaket senaryosu…
Her iki durumda da, karşınızdakiler sizi yavaşlatan kişiler hâline gelir.
Eğer o ütopyanın mutlaka geleceğine inanıyorsanız — ya da yaklaşan kıyameti durdurmanız gerektiğine — o zaman kim karşı çıkarsa çıksın, kaç kişi engellemeye çalışırsa çalışsın, bunun önemi kalmaz. En iyi strateji, ütopyayı hayata geçirmek ve kıyameti önlemek adına mümkün olduğunca çok güç toplamaktır.
Ve bu bakış açısında demokrasi nedir? Yalnızca bilgisizlerin yönetimi demektir, değil mi?
Ve eğer halk sizin kutsal bildiğiniz geleceği göremiyorsa, o zaman onlara güvenilmez.
Ketcham: Demokrasi, ortadan kaldırılması gereken bir engel gibi görülüyor. Teknolojik bir rahipler sınıfı, otoriter bir yapı istiyor.
Becker: Kesinlikle. İşte burada devreye Curtis Yarvin gibi isimler giriyor — mühendis hastalığının adeta vücut bulmuş hâli.
Dünyanın nasıl işlediğini bildiğini sanıyor ama aslında hiçbir şey bilmiyor.
Bahsettiği metinleri nasıl analiz ettiğine baktığınızda, açıkça görülüyor ki ne okumakta başarılı ne anlamakta. Ve bu çevredeki birçok insan gibi, düşünme konusunda da pek başarılı değil.
Ketcham: Yarvin hakkında kısa bir değerlendirme yapabilir misiniz? Dünya görüşü nedir, bu hareket içinde neyi temsil ediyor?
Becker: Curtis Yarvin bir yazılım mühendisi ve aynı zamanda Peter Thiel’den fon alan, J.D. Vance’in gözde “saray filozofu” olarak anılan biri. Thiel’le de oldukça yakın. Kendisi aynı zamanda açıkça bir monarşisttir. Bir kral istiyor — ve bu kralın, temelde bir teknoloji CEO’su olması gerektiğini savunuyor. Çünkü ona göre dünyayı gerçekten anlayan insanlar sadece onlar.
Toplumun kral olmadan işleyemeyeceğini, bugün yaşadığımız tüm sorunların kral eksikliğinin bir sonucu olduğunu söylüyor. Onun ifadelerine göre, çağımızın temel problemi “kronik kralsızlık” ve demokrasi de “ortadan kaldırılması gereken bir hastalık.”
Bu kişi, neredeyse köleliği savunacak noktaya gelmiş durumda. Kölelik ve apartheid hakkında tamamen gereksiz şekilde olumlu yorumlarda bulunmuşluğu var.
Ayrıca insan ırkları arasında zekâ ve diğer yetenekler açısından doğuştan gelen genetik farklar olduğuna inanıyor — ki bu, bilimsel olarak defalarca çürütülmüş bir iddia.
Ve tıpkı diğer örneklerde olduğu gibi, kendisinin genetikçilerden daha iyi genetik bildiğini sanıyor.
Yani yine aynı mesele: Mühendis hastalığı.
Ketcham: Mühendisler, ne pahasına olursa olsun, hayal ettikleri o ütopyayı gerçekleştirmek zorundaymış gibi davranıyorlar. Bezos ve Musk’ın ütopyalarından biri de uzay kolonizasyonu. Siz de kitabınızda çok net bir şekilde gösteriyorsunuz ki bu vizyon, yine, gerçeklikten tamamen kopuk. Ne kadar büyük bir fanteziden söz ediyoruz burada? Ve neden gidip Mars’a yerleşelim ki? Geçenlerde bir arkadaşıma şunu söyledim: Mars’ta ne şarap var, ne kadınlar, ne kır çiçekleri, ne akan su, ne de hava.
Becker: Bu noktada kesinlikle konuşulmayı hak eden bir diğer kişi de Elon Musk. Mars konusundaki vizyonunu ve gerekçesini başından beri tutarlı biçimde ortaya koyuyor. Diyor ki: “Bilinç ışığını korumak için gezegenler arası ve yıldızlar arası bir tür hâline gelmeliyiz; bunun da ilk adımı Mars’a gitmektir.”
Planı şu: 2050 yılına kadar Mars’ta bir milyon kişilik, kendi kendine yeten bir koloni kurmak. Yani, Dünya’dan roket gönderilmediği durumda bile hayatta kalabilecek bir “yedek insanlık.” Bunun amacı da Dünya’da yaşanacak büyük bir felakete karşı önlem oluşturmak.
Bu, hayatım boyunca duyduğum en aptalca fikirlerden biri olabilir. O kadar çok yönden saçmalık barındırıyor ki…
Mars tam anlamıyla berbat bir yer. Radyasyonu çok yüksek. Yerçekimi çok düşük. Evet, atmosfer yok! Toprağı toksik maddelerle dolu. Yaşanması gerçekten korkunç bir yer.
Musk, Mars’ı yaşanabilir kılmak için kutup buzullarını nükleer bombalarla patlatıp atmosfer oluşturmaktan söz ediyor. Ama bu işe yaramaz.
Böyle bir atmosfer, insan yaşamı için yeterli olmaz. Radyasyon ve yerçekimi sorunlarını çözmez. Zehirli toprak sorununu da çözmez.
Musk, Mars’ı, Dünya’ya bir asteroid çarptığında sığınabileceğimiz bir yer olarak sunuyor. Oysa Mars’a, Dünya’dan daha fazla asteroid çarpıyor. Ve dinozorları yok eden o büyük asteroid çarpmasından sonra bile, Dünya hâlâ Mars’tan daha yaşanabilir bir yerdi. Bunu nereden biliyoruz? Çünkü memeliler hayatta kaldı — oysa Mars yüzeyinde, korumasız bir şekilde hiçbir memeli hayatta kalamaz.
Ve bir düşünün: Mars’a bir milyon insan götürmek ne demek? Diyelim ki bir şekilde, bir roketin içine 100 kişiyi sığdırmayı başardınız. Bu sayı, şimdiye kadar uzaya çıkan insan sayısının toplamının on katından fazla olurdu.
Üstelik bu görevler yalnızca Dünya yörüngesine gidiyordu. Birkaç saat içinde geri dönülebiliyordu. Yörüngeye çıkmak bile yalnızca birkaç saat sürüyordu.
Oysa Mars’a gitmek en az altı ila dokuz ay süren bir yolculuk.
Ketcham: Ve o yolculuk boyunca maruz kalınan radyasyon, ya da gemide biriken radyasyon, korkunç kanser vakalarına yol açmaz mı?
Becker: Evet, kanser riskini ciddi ölçüde artırır. Muhtemelen gemideki bazı insanların kısır kalmasına yol açar ya da en azından çocuk sahibi olmalarını son derece zorlaştırır.
Ketcham: Umarız o kişiler Bezos ve Musk olur?
Becker: Musk için biraz geç kaldık, ne yazık ki.
Tüm bu saçmalıkları bir kenara bırakalım. Diyelim ki bir roketin içine 100 kişiyi sığdırdınız ve onları, altı ila dokuz aylık Mars yolculuğu boyunca hayatta tutmayı da başardınız. Tamam, belki gelecekteki bazı roket teknolojileri bu süreyi biraz kısaltabilir — ama 2050’ye kadar mı? Hayır, hiç gerçekçi değil.
Ama diyelim ki her roketle 100 kişiyi gönderebiliyorsunuz. Bir milyon kişiyi Mars’a yerleştirmek istiyorsunuz? Bu, 10.000 roket fırlatışı anlamına gelir. Gerekli sayı bu.
Ve Musk da bunu kabul ediyor: “Evet, yıllar boyunca her gün 100 kişiyi fırlatmamız gerekecek” diyor.
Dostum, senin roketlerin hâlâ sürekli patlıyor.
İnsanlı uzay uçuşları tarihinde başarısız fırlatma oranı %1 ile %5 arasında değişiyor.
Diyelim ki bu oranı %0,1’e kadar düşürdünüz. Diyelim ki SpaceX bir mucize gerçekleştirdi ve uzay yolculukları tarihindeki en güvenli şirket hâline geldi — hem de 10 kat daha iyi olacak şekilde.
Pekâlâ. %0,1 hata oranıyla bir milyon kişiyi gönderecekseniz — ne olur bakalım?
10.000 fırlatmada, bu da 10 başarısız fırlatma demek.
Tebrikler: Bin kişiyi öldürdünüz.
Ketcham: Tüm bu çaba, o büyük ütopyayı gerçekleştirmek uğruna. Diyelim ki Mars’a vardın — büyük ihtimalle yer altında bir kolonide yaşayacaksın. Gökyüzünü hiç görmeyeceksin. Bu kulağa tam anlamıyla bir kâbus gibi geliyor. İnsanların aklını yitireceği bir ortam.
Becker: Cehennem gibi bir yer.
Bakın, Güney Kutbu’nda kışı geçirmek için bile gönüllü insan bulmak yeterince zor. Orada kışı geçiriyorsanız, yine de dışarı çıkabiliyorsunuz. Gökyüzünü görebiliyorsunuz. Evet, çok soğuk, dışarıda fazla kalamıyorsunuz ama en azından çıkılabiliyor.
Kışın, kutup istasyonunu terk edemezsiniz; çünkü hava koşulları ve karanlık nedeniyle uçak ya da helikopter gönderilemez. Aynı insanlarla birlikte mahsur kalırsınız. Ama nefes alacak oksijen vardır. Havayı borularla içeri pompalamak zorunda değilsiniz. Yiyeceğiniz varsa ve aynı insanlarla altı ay boyunca geçinmeyi başarabiliyorsanız mesele çözülür.
Ve yine de — bu kadar oksijen ve gökyüzü varken bile — o kadar psikolojik olarak zorlayıcı bir deneyimdir ki, bunu yapmayı kabul edecek insan sayısı çok azdır.
Birçok insan yapabileceğini sanır ama yapamaz. Çünkü bu gerçekten çok özel bir psikolojik dayanıklılık gerektirir.
Ve bu, Mars’a kıyasla çocuk oyuncağı kalır.
Kitabımda şöyle yazmıştım: Mars, Antarktika’yı Tahiti gibi gösterir.
Birisi — kim olduğunu hatırlamıyorum — bana bu benzetmenin aslında Mars’ın gerçekliğini hafife aldığını söyledi.
Dedi ki: Mars ile kıyaslandığında, Güney Kutbu İstasyonu’nda kutup gecesinin ortasında olmak, Central Park’ta güneşli bir yaz gününde yürüyüş yapmak gibidir.
Şu anda sahip olduğumuz teknolojiyle Mars’ta oluşturulabilecek herhangi bir yaşam koşuluna göre bu durum gerçekten bir lüks.
Ketcham: Kitabınızda açıkça gösterdiğiniz gibi, uzay kolonizasyonu vizyonu aslında büyümeyi sürdürme ve “büyümecilik” ideolojisini meşrulaştırma çabasına hizmet ediyor. Özellikle Limits to Growth (Büyümenin Sınırları) adlı 1972 tarihli Roma Kulübü–MIT raporunu anmanızdan dolayı sizi ayrıca tebrik ederim. Bu belge, 20. yüzyılın en önemli metinlerinden biri ve daha iyi bilmesi gereken birçok kişi tarafından tamamen unutulmuş durumda.
Kitapta belirttiğiniz gibi, hem Musk hem de Bezos, eğer Güneş Sistemi’ni ve ötesini kolonileştirmezsek durağanlığa saplanacağımızı söylüyor. Çünkü gezegenin kaynakları sınırlı. Ekosfer sonlu. Teknolojik gelişim, sınırlı kaynaklar üzerinde sınırsızca devam edemez.
Aslında burada söylenen şu: “Uzaya gideriz, o hâlde şu anda herhangi bir sınır koymamıza gerek yok. Mevcut sistemle devam edebiliriz.”
Becker: Kesinlikle doğru.
Bezos’un açıklamalarında hoşuma giden şeylerden biri de bu konuları çok açık şekilde dile getirmesi. Musk’ın Mars hakkındaki açıklamalarını da bu yüzden biraz seviyorum; çünkü öylesine doğrudan söylüyor ki çürütmesi çok kolay. Çünkü tamamen bir yanılsamadan ibaretler. Bezos da aynı şekilde.
Biliyorsunuz, Bezos Musk’la dalga geçti — ve bu gerçekten hoşuma gidiyor. İkisinin birbirine laf sokmasını izlemek çok keyifli!
Bezos’un Musk’la dalga geçmesi boşuna değil: “Musk Mars’a gitmek istiyor ama Mars berbat bir yer,” diyor. Evet, Mars gerçekten berbat!
Bezos ise Gerard O’Neill’dan ilham aldığı dev uzay istasyonları fikrini savunuyor.
Ve bu konuda çok net: Kişi başına enerji tüketiminin sürekli olarak artmasını istiyor — sonsuza kadar. Bu büyümeyi özellikle vurguluyor.
Ve bu yüzden, kişi başına enerji tüketimini sürdürülebilir biçimde artırmak için uzaya gitmemiz gerektiğine inanıyor — ve bunda haksız da sayılmaz: Dünya’daki kaynaklar en geç birkaç yüzyıl içinde tükenir.
Ama sorun şu ki: Uzaya gitseniz bile, kaynaklar yine tükenir — üstelik uzayda yaşamanın zorluğunu göz ardı etsek bile. Evet, teorik sınırlar çok daha yukarıda olabilir, ama pratikte bu kaynaklara erişim çok daha önce sona erebilir.
Yani teknolojik kurtuluş fikrinin içinde yer alan bu büyüme ideolojisi başlı başına sorunlu. Uzaya gitmek, sizi sınırlı kaynaklardan kurtarmaz.
Çünkü enerji kullanımı, son birkaç yüzyıldaki gibi aynı hızda artmaya devam ederse, yaklaşık bin yıl içinde Güneş’in tüm enerjisini kullanıyor olursunuz.
Birkaç bin yıl sonra, gözlemlenebilir evrendeki tüm yıldızların enerjisini kullanıyor olursunuz.
Ve birkaç yüz yıl daha geçince evrendeki tüm enerjiyi tüketmiş olursunuz.
Ama elbette, bu fiziksel olarak mümkün değil — çünkü ışık hızının bir sınırı var.
O uzak noktalara o kadar sürede ulaşamazsınız. Fizik yasaları sizi kurtarmayacak, anlıyor musunuz?
Işık hızını geçmek yok. Bu olmayacak.
Ketcham: Kitabın ana temalarından biri de, insanlığın en nihai sınır olan ölüme duyulan derin korku. Bu insanlar ölümden korkuyor — hem de feci şekilde. Her şeyin bir sonu var, insanlar ölür. Hepsi bu. Olayın doğası böyle. Senin de dediğin gibi: “Dünya böyle işler.”
Kitaptaki en dokunaklı bölümlerden biri, Kurzweil’in saçma sapan “Baba Bot”uydu.
Ben de babamın kısa süre önce vefat ettiğinden bahsetmiştim. Bilirsin işte, bilinci bir bilgisayara yükleyip sonsuza dek yaşatma şakaları yapıyoruz — ama tamamen saçmalık tabii. Sen ise yazında diyorsun ki, Kurzweil bunu gerçekten inanarak yapıyor. Okuyunca düşündüm: Aman Tanrım, bu adam ciddi bir ruhsal sorun yaşıyor olmalı.
Becker: Ölümden korkmakta hiçbir sorun yok.
Ama onun kaçınılmaz olduğunu inkâr etmekte ve bu korkunun tüm hayatını kontrol etmesine izin vermekte büyük bir sorun var.
Yani biraz yaşa artık, bir hayatın olsun!
Hayatını korkunun yönetmesine izin verirsen, aslında yaşamıyorsun demektir.
Bu düşünce çok da orijinal sayılmaz tabii. Muhtemelen 90’lardan kalma en az altı hüzünlü Hollywood filminde geçen bir klişeyi az önce benimsedim, değil mi?
Ama bu adamlar bunu bile kavrayamıyor.
Dünyadaki tüm para ve gücün seni pek çok şeyden koruyabileceğini ama ölümden koruyamayacağını anlayamıyorlar.
Evet, teknoloji birçok şeyi mümkün kılabilir, bilim pek çok şeyin açıklamasını yapabilir — ama ölümü ne engelleyebilir ne de geri döndürebilir.
Hatta şöyle söyleyeyim: Bilimi ne kadar iyi anlıyorsak — termodinamiği, kimyayı, biyokimyayı, biyolojiyi ne kadar derinlemesine kavrıyorsak — ölümün neden hem kaçınılmaz hem de geri döndürülemez olduğunu da o kadar iyi anlıyoruz.
Ve elimizdeki en sağlam bilimsel veriler şunu söylüyor:
Biz bedenimizin içinde dolaşan bir “ruh” değiliz.
Biz bizzat bedenimizin kendisiyiz.
Ketcham: Beden öldüğünde biz de ölürüz. Beynin çalıştığı fiziksel ortamdan ayrılamayız. Bu yüzden, bilincin bir bilgisayara yüklenmesi fikri baştan sona saçmalık. Yine gelip Descartes’a dayanıyor gibi, değil mi? Aklı ve bedeni yapay biçimde birbirinden ayıran anlayış?
Becker: Bu fikir sadece Descartes’a kadar gitmiyor aslında.
Evet, Descartes bu düşüncenin rasyonel ya da deneyci Batı felsefesi geleneğindeki başlangıç noktalarından biri olabilir ama asıl kökeni orası değil.
Bu düşünce, “ruh” kavramına dayanıyor — yani maddi olanın içinde maddi olmayan bir şeyin bulunabileceği fikrine. Ve bu da pek çok kültürde çok eskiye dayanan bir inanç.
Ama eğer bilim temelli bir dünya görüşünüz varsa, durum farklıdır.
Bilincin bir bilgisayara yüklenebileceğine dair hiçbir sağlam bilimsel kanıt yok.
Bu, olmayacak.
Farz edelim ki bir gün bir şekilde mümkün oldu — bu durumda bile ortada iki büyük sorun var.
Birincisi, bu işlemin gerçekten “siz” olup olmadığı ya da sadece sizin bir “kopyanız” mı olduğu meselesi, felsefede hâlâ çözülememiş bir tartışma konusudur.
İkincisi, bu işlemi mümkün kılacak şeyin bilgisayar teknolojisi olacağına dair elimizde hiçbir garanti yok.
Beynin nasıl çalıştığını açıklamak için kullanılan “hesaplama benzetmesi” sadece bir benzetmedir.
Ve bu, beynin işleyişini anlamaya çalışırken kullandığımız uzun bir teknolojik metafor zincirinin yalnızca son halkasıdır.
Ketcham: Ama beynin nasıl çalıştığı hâlâ — senin de kitapta belirttiğin gibi — büyük ölçüde bir muamma. Gerçekte orada neler olup bittiğini hâlâ bilmiyoruz.
Becker: Evet, hâlâ çözülmemiş çok şey var.
Ama bildiğimiz şu ki, beyin bir bilgisayara pek benzemez.
Bilgisayarlar tasarlanır ve üretilir. Beyinler ise tasarlanmamıştır.
Beyin, dünyadaki uzun bir evrimsel sürecin sonucudur.
Bu, bir gün teknolojik bir aygıtın insan düşüncesine benzer işler yapamayacağı anlamına gelmez.
Ama bu duruma “zeka” dersek, o zeka beynin ürettiği zeka ile aynı şey olmaz.
Ketcham: Peki ya yapay zekâ (AI) ve şu anda “genel yapay zekâ” (AGI) dediğimiz şey etrafında dönen tüm bu abartılar?
Becker: “Yapay zekâ” terimi zamanla büyük ölçüde anlamını yitirdi. Gitgide daha az şey ifade etmeye başladı ve işte bu yüzden “AGI” kavramı ortaya çıktı.
Ben çocukken, AI dediğimizde Star Trek’teki Commander Data gibi şeyleri kastediyorduk. Bugün, bu tür şeyleri AGI, yani “genel yapay zekâ” olarak adlandırıyoruz.
Şu anda AI dediğimiz şey ise, birkaç yıl önce “makine öğrenimi” dediğimiz şeyle neredeyse aynı.
Ondan önce “veri bilimi” diyorduk. Daha da öncesinde adı istatistikti.
Şunu söylemeye çalışmıyorum: Derin öğrenme modelleri, mesela büyük dil modelleri (LLM’ler), yalnızca istatistik yapıyor demiyorum. Ama temelde yaptıkları şey, büyük veri kümelerinde örüntüleri tespit etmek ve sonra o örüntüleri kendi ürettikleri yeni verilerde yeniden üretmek.
Yani, metin için bir sonraki kelimeyi; görsellerde ise bir sonraki pikseli tahmin etmeye çalışıyorlar.
Bazı ilginç şeyler yapabiliyorlar, hatta bilgisayarlardan daha önce görmediğimiz bazı becerileri sergiliyorlar.
Ama temel olarak, bu sistemlerin bir dünya modeli yok.
Dünyanın nasıl işlediğine dair bir kavrayışları yok.
Doğru ya da yanlış kavramlarıyla herhangi bir ilişkileri yok.
Yapabildikleri tek şey, bir sonraki kelimeyi kulağa makul gelecek biçimde tahmin etmek.
Ama bu makinelere “konuşuyor” ya da “hata yapıyor” demek — hepsi onları insansılaştırmanın farklı yolları.
Ve biz insanlar, özellikle dil üreten sistemler söz konusu olduğunda, her şeyi insana benzetmeye fazlasıyla eğilimliyiz.
Bu, yapay zekâ tarihindeki eski örneklerde bile yaşanmış bir durum.
Mesela Eliza… 1960’lardan kalma bir chatbot’tu.
Belirli bir psikoterapi stilini taklit etmesi için tasarlanmış, son derece basit ve şeffaf bir algoritmaydı.
Diyelim ki kullanıcı şöyle dedi:
“Eliza, bugün kendimi kötü hissediyorum.”
Eliza da şöyle yanıt veriyordu:
“Bunu duyduğuma üzüldüm. Bugün neden kendini kötü hissediyorsun?”
Kullanıcı devam ediyordu:
“Eşimle tartıştım, bu beni çok üzdü.”
Eliza şöyle yanıtlıyordu:
“Bunu duyduğuma üzüldüm. Eşinle neden tartıştınız?”
Belki 10–20 kalıp cümlesi vardı, aralara boşluklar yerleştirilmişti.
Ama o dönemde insanlar gerçekten şöyle diyordu:
“Eliza beni anladı, bana yardımcı oldu.”
Ama o program düşünmüyordu.
Ketcham: Kurzweil’in “Baba Bot”uyla yaptığı o konuşmaya benziyor.
Hadi son olarak, bana göre kitabın en rahatsız edici figürleriyle bitirelim: Senin deyiminle “beslemeli entelektüeller.”
Bu kişiler, tüm bu absürt ve kimi zaman tamamen saçma “görkemli teknoloji geleceği” iddialarına ideolojik zemin sağlayan isimler.
Oxford Üniversitesi’nden Toby Ord, William MacAskill ve Nick Bostrom’dan söz ediyorum — hepsi de “uzunculculuk” (longtermism) adı verilen felsefi akımın merkezindeki faydacı ahlakçılar.
Becker: Bu insanların etik yaklaşımı da, diğer fikirleri gibi, dünyanın nasıl işlediğini temelden yanlış anlıyor.
Her şeyin — en azından prensipte — sayısallaştırılabileceğine inanıyorlar.
Ketcham: Mutluluk da ölçülebilir, bütün faydacı teorilerde olduğu gibi.
Becker: Evet, mutluluk ölçülebilir derler.
Hatta bir dünyanın insanlar için ne kadar “iyi” ya da “kötü” olduğu da ölçülebilir, derler.
Ketcham: Sence bu da “mühendis hastalığı”nın başka bir tezahürü mü?
Becker: Bence öyle, evet.
Şöyle bir inanç var: bir şeyi sayıya dökebilirsen, herhangi bir durumda neyin doğru eylem olduğunu da belirleyebilirsin.
Ama ahlâkın neden zor olduğunu açıklayan bir sebep var:
Çünkü biz insanların yaratmadığı, karmaşık ve kaotik bir dünyada yaşıyoruz.
Ve bu dünyada, neyin doğru olduğu belli olmayan birçok durum ortaya çıkıyor.
Faydacılık yüzyıllardır var.
Bu fikrin farklı versiyonları binlerce yıldır dolaşımda.
Ama birçok filozofun bu görüşü ciddiye almamasının temel nedeni şu:
Gerçek bir faydacı olabilmek için, insan mutluluğu ve acısının her türlüsünü — en azından ilkesel olarak — ölçebileceğine ve bunları tüm insan deneyimini kapsayacak şekilde tek bir sayıya indirgemeye inanman gerekir. Üstelik sadece bir yaşam için değil, tüm hayatlar için.
Ve bu adamlar uzunculculuğa yöneldiklerinde, şunu söylüyorlar:
Bu hesaplamayı, evrenin gelecekteki tüm tarihçesi boyunca var olabilecek her bir insan hayatı için yapabilmelisin.
Bu saçma. Ve daha da kötüsü, bu düşünce onları tümüyle saçma sonuçlara götürüyor.
Toby Ord, şöyle diyor:
“Gelecekte öyle çok insan olacak ki, onların mutluluğunu sağlamak adına bir milyon insanı işkenceyle öldürmek mantıklı olabilir.”
Ve ona göre bu “gelecek insan” sayısı gerçekten astronomik.
Bense şöyle düşünüyorum:
Bırak pratikte olmayı, prensipte bile öyle bir insan sayısı yok.
Ketcham: Sence bu adamlar aslında gerçekleri biliyor ama teknoloji milyarderlerinin hoşuna gidecek bir felsefeyi savunmaları için mi para alıyorlar?
Becker: Bence gerçekten inanıyorlar. Bu, onlar hakkında söyleyebileceğim en iyi şey.
Kitapta bahsettiğim herkes arasında şundan eminim: Ord, MacAskill ve Bostrom bu fikirlere samimi şekilde inanıyor.
Evet, fikirlerinin teknoloji milyarderlerinden aldıkları paradan etkilendiğini düşünüyorum — ama bu, bilinçli ve hesaplı bir ikiyüzlülükten değil.
Muhtemelen bu maddi ilişkinin önyargılarını nerede şekillendirdiğini fark etmediler ya da üstünde hiç düşünmediler.
Ve tekrar edeyim: Eğer zaten inandığınız bir şey size para kazandırıyorsa, o şeye daha güçlü biçimde inanma eğiliminiz artar.
Ayrıca şunu da belirtmek gerek:
Bu kişiler genellikle “uzmanlığı” küçümseme eğilimindeler.
Bu da büyük ihtimalle, uzmanlığı küçümseyen teknoloji milyarderlerinden gelen paranın etkisiyle oluşmuş, sorgulanmamış önyargılarla ilgili.
Toby Ord’dan örnek verelim:
Ona göre, insanlığın yapay genel zekâdan (AGI) kaynaklı yok olma ya da geri döndürülemez bir medeniyet çöküşü yaşama ihtimali — ki burada tanımı bile net olmayan, henüz var olmayan bir makineden söz ediyoruz — iklim değişikliği ya da nükleer savaş tehdidinden 50 kat daha büyük.
Bu tam anlamıyla delilik.
Oxford’da profesörlük yapan ve kültürel nüfuzu olan bir insanın bu kadar sorumsuz ve bilgisiz bir açıklama yapması kabul edilemez.
Üstelik bu adam Birleşik Krallık Parlamentosu’na yapay zekâ konusunda danışmanlık yapıyor!
Ketcham: Sorumsuz, bilgisiz — ama iyi maaşlı.
Becker: Evet. Ve gerçek bir inanan.
* Christopher Ketcham yazılarını Christopherketcham.com adresinde yayımlıyor ve yeni gazetecilik girişimi Denatured için bağış topluyor. Kendisine [email protected] adresinden ulaşılabilir.
Kaynak: https://www.counterpunch.org/2025/08/22/the-mad-religion-of-technological-salvation/
