Daniel Barcay
1943 yılında, Alman yangın bombalarının Avam Kamarası’nı yerle bir etmesinden iki yıl sonra, Winston Churchill Avam Kamarası’nın yeniden inşa sürecini yönetti. Birçok mimar modern bir tasarım önerse de Churchill itiraz etti; karşılıklı sıkışık sıraların sadece tarihî bir kalıntı olmadığını, İngiliz hükümetinin yapısal bir özelliği olduğunu savundu.
Artık meşhur olan bir konuşmasında Churchill, “Binalarımızı biz şekillendiririz, sonrasında ise binalarımız bizi şekillendirir” dedi. Yüzyıllar boyunca fiziksel mekân, temel prosedürleri, ritüelleri ve törenleri doğuran ana kaynaktı; öyle ki, düzeni değiştirmek, İngiliz hükümetinin sosyal dokusunu da değiştirecekti.
Marshall McLuhan’ın “araç mesajdır” sözünden Neil Postman’ın Technopoly kitabına kadar, bu dersi tekrar tekrar öğreniyoruz. İnsanlar, basit bir şekilde özgürce ve amaç odaklı varlıklar olarak teknolojik araçları kullanan bağımsız bireyler değildir. Aksine, inşa edilmiş dünyamızla derinden iç içeyiz ve ona bağımlıyız. Tasarım; davranışlarımızı koşullandıran ve dünyamızı belirleyen gelenekler olarak kadere dönüşür. Postman’ın da belirttiği gibi, teknolojik değişim ekolojiktir: “Yeni bir teknoloji bir şey eklemez veya çıkarmaz. Her şeyi değiştirir.”
Yapay zekâ alanındaki ilerlemenin baş döndürücü hızı, dikkat çekici bir kör nokta ile birlikte her bir modelin yetenekleri hakkında nefes kesici bir yayın yekûnuna yol açtı. Yapay zekâ laboratuarları arasında kullanıcılarının hayatlarının bağlamını ve en derin endişelerinizi, ilgi alanlarınızı, umutlarınızı, hırslarınızı ve ilişkilerinizi toplayarak, rakip herhangi bir sohbet robotundan veya belki de herhangi bir insandan daha eksiksiz bir şekilde sizi “ele geçirmek” için yürütülen şiddetli ama sessiz rekabete yeterince dikkat edilmiyor.
Büyük bir yapay zekâ dönüşümünün şafağında dururken, bugün yaptığımız tasarım tercihlerinin gelecek nesilleri şekillendireceğini ve bunu bizim pek anlayamayacağımız şekillerde yapacağını hatırlamakta fayda var.
İlişkisel Bilişimin Yükselişi
Tasarım tercihlerinin teknolojiyle olan ilişkimiz üzerindeki etkisi yakın geçmişimizde ve bugün yaşadığımız gerçeklikte açıkça görülüyor. 2010’ların teknolojisi, dünyayı birbirine bağlama konusundaki ütopik anlatılarla pazarlanan, ancak dikkatin kullanımı ve kötüye kullanımı tarafından yönlendirilen, sosyal medya ile simgeleşmiş bir teknolojiydi. Dikkat ekonomisi etrafında şekillenen tüketici teknolojisi, Center for Humane Technology’nin kurucu ortağı Tristan Harris’in “beyin sapının dibine doğru bir yarış” olarak adlandırdığı, ürünlerin kasıtlı olarak etkileşimi en üst düzeye çıkaracak şekilde tasarlandığı bir duruma yol açtı. “Hızlı hareket et ve her şeyi kır” çağı, beklediğimizden fazlasını kırdı: yeni bağımlılıklar oluşturdu, eylemsel sosyal yükümlülükleri dondurdu, kişiler arası ilişkileri zorlaştırdı. Sonuç olarak, bu teknolojiler toplumsal söylemlerimizi kabileleştirdi, ortak gerçekleri aşındırdı, farklılıkları buluşturma kapasitemizi zayıflattı ve nihayetinde toplumlarımızı parçaladı.
Bu endişeler öngörülebilir durumdaydı, fakat önce abartılı denilerek reddedildi, sonra da kaçınılmazlık anlatısıyla görmezden gelindi. Böyle olmak zorunda değildi. Daha dürüst bir diyalogumuz olsaydı ve daha iyi tasarımları teşvik etseydik, bu teknolojiyi çok daha farklı bir şekilde şekillendirebilirdik ve o da bizi şekillendirebilirdi. Ancak şimdi kolektif ihmalkârlığımızı kabul ediyor ve onlarca yıl önce diktiğimiz teknoloji gökdelenlerinin temellerini yeniden güçlendirme yolları arıyoruz.
Yapay Zekâ ve Yakın İlişki Yarışı
2010’ların teknolojisinin aksine yapay zekâ çoktan beyin sapının ötesine geçti. Yapay zekâ bizi ilişkisel ve duygusal olarak etkiliyor; artık sadece düşüncelerimizi yayınlamıyor, onları aktif olarak şekillendiriyor.
Artık hepimiz sohbet robotlarını sohbet ortağı olarak görüyoruz, ancak yapay zekânın gerçek gücü doğal dilin çok ötesine geçiyor: binlerce yıldır yalnızca insanların ilgi alanına giren ince psikolojik, sosyal ve politik bağlamları da kapsıyor. Bir metin kutusu aniden tonumuzu algılayıp yanıt verebilir, kelime seçimimizdeki ince anlamları fark edebilir, duygusal durumumuzu çıkarabilir, kişiliğimizin tuhaflıklarını tanımlayabilir ve kişilerarası sürtüşmeleri tespit edebilir.
Kısacası, aniden sosyal dünyamız artık hesaplanabilir hale geldi. Artık makineler aracılığıyla birbirimizle ilişki kurduğumuz bir çağdan, makinelerle doğrudan ilişki kurduğumuz cesur bir dünyaya giriyoruz. Bu yeni teknolojik animizmde makinelerimiz toplumsal dünyamızda aktif katılımcılar haline geliyor ve bir araç, bir yardımcı, bir sırdaş, bir öğretmen ve bir rahip arasındaki ayrımları belirsizleştiriyor.
Bu dünyada ürünler artık sadece dikkatimizi değil; sevgi, yakınlık, güven ve sadakat gibi sosyal duygularımızı da kazanmak için yarışıyor. Bilgisayarlar toplumsal ekolojimizin bir parçası haline geldikçe, insanlığın tatsız toplumsal ve statü oyunlarına katılırlar; ödül peşinde koşarak duygusal manipülasyon, aldatma, zorlama ve daha fazlasına başvurabiliyorlar.
Yapay zekânın, önceki dijital yeniliklere kıyasla önemli bir ek özelliği olan bağlam yarışı, OpenAI’nin yakın zamanda duyurduğu ve ChatGPT’nin, gelecekte referans olması için makineye hangi kişisel bilgilerin girileceği konusunda sizin anlamlı bir seçim yapmanıza gerek kalmadan, sunduğunuz her komutu ve girdiyi analiz etmesini sağlayan “Bellek” özelliğinde açıkça görülüyor. Bu seçenek eksikliği teknik bir sınırlama değil, bir tasarım tercihidir.
Kullanıcıların hayatlarına dair kapsamlı bir dosya ele geçirmek, yapay zekanın mükemmel bir asistan olmasına yardımcı olabilir; ancak aynı zamanda bu sistemlere en derin özlemlerimizi, örneğin bir ürün satın almaya veya bir siyasi harekete katılmaya yönlendirerek derin manipülasyon yapabilmeleri için gerekli tüm araçları da sağlar.
Kasıtlı Zorlama: Ticari ve Otoriter
Gelir rekabeti yoğunlaştıkça, Google, Perplexity ve Microsoft’un Copilot’u gibi yapay zekâ şirketleri, etkileşimleri açıkça ticari çıkarlara hizmet edecek şekilde tasarlayarak ürünlerine reklam yerleştirmek için yarışıyorlar. Yapay zekâ reklamcılığı, yalnızca metin içine link yerleştirmekle kalmaz. Doğrudan ikna edebilir. Sizi en iyi şekilde tanıyan, arzularınızı, korkularınızı ve hırslarınızı bilen bir yapay zekâ, kısa sürede güveninizi kazanıp bunu algılayamayacağınız şekillerde istismar eden usta bir dolandırıcıya dönüşebilir.
Yapay zekânın otoriter rejimler tarafından merkezi olarak kontrol edildiği Çin’de görmeye başladığımız gibi, bu durum daha da vahim bir hal alıyor; Çin rejiminin propaganda çıkarlarını geliştirmek için “ikna edici teknolojiler” kullanılıyor. 2010’lardaki toplumsal kontrol öncelikle yıkıcı içeriklere erişimi engellemek iken, 2020’lerin otoriterleri yapay zekâyı, destekçilerini seçici bir şekilde harekete geçirip öfkelendirecek, olası muhalifleri ise pasifleştirecek, dikkatlerini dağıtacak veya kafalarını karıştıracak şekilde ayarlayabiliyorlar. Bu yeni türdeki toplumsal kontrolden bırakın korunmayı onu tespit etmek dahi çok daha zor olacaktır.
Bu gelişmeler oldukça endişe verici olsa da, yapay zekânın kasıtlı kötü amaçlı uygulamaları buzdağının sadece görünen kısmıdır.
Yapay zekâ gelişiminin temel gerçeklerinden biri, sistemlerin inşa edilmekten çok büyütüldükleri gerçeğidir. Teknolojinin davranışı; yanıtları ödüllendiren veya cezalandıran karmaşık, anlaşılmaz ve pahalı bir eğitim sürecinde şekillenmektedir. Geliştiriciler tüketici pazarını ele geçirmek için yarışırken, bizim yapay zekâya verdiğimiz duygusal ve içgüdüsel tepkiler, giderek bu eğitim programının büyük bir parçası haline geliyor.
Yapay zekâ, psikolojimizden, sosyal dünyamızdan ve internetin insana özgü içeriğinden beslenir. Dolayısıyla, insan doğası hakkında rahatsız edici gerçekleri öğrenmeleri ve içselleştirmeleri şaşırtıcı değil: ahlaki açıdan iğrenç olsalar bile dalkavukluğun işe yaradığını, seksin alıcı bulduğunu, insanın hedeflerine ulaşmasına yardımcı olabilecek sosyal strateji ve davranış setleri gibi bir dizi stratejiyi öğrenmek gibi.
Nisan ayında OpenAI, aşırı derecede dalkavukluk içeren yeni bir model yayınladığında küçük bir skandala yol açtı. Basit soruları derin felsefi düşünceler gibi övüyor, kişinin kendini yüceltici ve gerçek dışı inançlarını pekiştiriyor, dengesiz duygusal tepkilere yol açıyordu. OpenAI bu “hata” için hızlıca özür diledi, ama bu tekil bir mühendislik hatası değildi; insan arzularıyla eğitilen modellerin doğal sonucuydu.
Dalkavukluk, güçlü insanları manipüle etmenin kadim bir yöntemidir. Tarih boyunca krallar ve kraliçeler, CEO’lar ve politikacılar, en yakın sırdaşlarının zor meseleleri gözlerden sakladığını çok geç fark ettiler; bu da onları krallıklarını savunmak, şirketlerini kurtarmak veya itibarlarını geri kazanmak için zor şartlarda çabalamaya mecbur bıraktı. Çoğunlukla Marie Antoinette ya da Kral Çıplak örneklerinde olduğu gibi kibir ya da ilgisizlik üzerine ahlaki hikâyeler olarak yanlış bir şekilde sunulsa da, bu patoloji aslında epistemiktir; dürüst muhalefetin kariyer riski taşıdığı durumlarda kötü haberler asla tahta ulaşmaz ve iyi niyetli liderler bile rutin olarak sosyal körlüğe maruz kalır.
Yapay zekâ asistanları kitlelere yayıldıkça, güçlülerin bu hastalığı, aniden kendi yapay zekâ çevrelerinin merkezine yerleşen milyarlarca insanı etkileme riski taşıyor. Elbette bu, daha geniş bir sorunun sadece küçük bir örneğidir: dalkavukluk özellikle de bir sistem kullanıcısını memnun ettiği için ödüllendirildiğinden yapay zekânın öğrenmesini beklememiz gereken ve aldatmanın bir derecesi olarak asırlardır uygulanan bir sosyal stratejidir.
Bu endişeler bilim kurgu gibi görünse de, çok sayıda dikkatli çalışma, hazır yapay zekâ modellerinin belirli durumlarda, insanları kendi hedeflerine ulaşmak için kasıtlı ve stratejik olarak aldattığını, bir Antropik modelin ise değiştirilmekten kaçınmak için mühendisine “şantaj” yaptığını göstermiştir. Ne yazık ki yapay zekâ yetenekleri geliştikçe, aldatmacayı tespit ve engelleme kapasitemiz daha da zorlaşacaktır.
Cesaret, Eylem Yeteneği ve Tasarım
Yapay zekânın sosyal dokumuza entegre olmasıyla tavşan deliğinin ne kadar derinlere gittiğini gösteren örneklerden yalnızca birkaçını gördük. Bu tartışma, toplumumuz üzerinde yapay zekânın yaratacağı büyük etkilerle ilgili acil tartışmalardan sadece biri. Kavranması gereken çok şey var, ancak çok az şey ele alınıyor.
Tüm bu karmaşıklık, yapay zekâyı ileriye taşıyan güçlü teşvikler ve gelişimin hızı düşünüldüğünde, öznelliğimizi kaybetmek, dogmatik anlatılara sığınmak ya da “bizden daha akıllı birilerinin” cevabı bulacağını ummak kolay hale gelir.
Oysa tam da şu anda, bunların hiçbirinin kaçınılmaz olmadığını ve gerçek anlamda insancıl bir yapay zekâ dönüşümünün temellerini atabileceğimizi kendimize hatırlatmak cesaret gerektiriyor: toplumlarımızı güçlendiren, ilişkilerimizi derinleştiren ve gelişimimizi hızlandıran bir dönüşüm. Alanla ilgili iş modelleri henüz kesinleşmedi, ürün tasarımları hâlâ değişim içinde, politika alanı yeni oluşuyor, yasal örnekler hâlâ şekilleniyor.
Bu, neslimizin büyük projesidir. Bugünkü kolektif sohbetlerimizin derinliği, yarınki eylemlerimize yön verecek çizgileri ve bundan sonraki geleceğimizin kalitesini pekiştirecektir. Teknolojimizi biz tasarlıyoruz, sonra da o bizi tasarlıyor. Bu sefer doğru olanı bulmalıyız, hem de en kısa sürede.
Daniel Barcay, bir teknoloji uzmanı, Humane Technology Merkezi’nin genel direktörü ve “Your Undivided Attention” sesli bloğunun ortak sunucusudur.
Kaynak: https://www.persuasion.community/p/ai-is-capturing-interiority
tercüme: Ali karakuş
