Görünmez Kaynak Çarpıklığı

Bilgi akışlarımızı tehdit eden yalnızca kalitesiz içerik veya yabancı aktörler değil. Bilgi akışlarımız, YZ şirketlerinin görünmez kararlarıyla yeniden şekillendiriliyor.

Yabancı aktörlerin yapay zekâ (YZ) ile bilgi ekosistemlerini manipüle etmesi ve YZ tarafından üretilen kalitesiz içeriğin çoğalarak akışları ve arama sonuçlarını kirletmesi hakkında çok şey yazıldı. Ancak bu anlatılar, bilgi ekosistemine hangi içeriklerin eklendiğine odaklanıyor. Gördüklerimizi şekillendiren farklı bir güçler bütününe ise çok daha az dikkat ediliyor: YZ sistemlerinin hangi bilgileri geri çağırmayı seçtiği, hangi kaynakların erişilebilir ve yararlı olacak kadar güncel olduğu ve hangi verilerin giderek yalnızca belirli şirketlerin erişimine açık hâle geldiği.

YZ cevap motorları, dünyaya ilişkin tasavvurlarını en az iki ayrı bilgi hattı aracılığıyla oluşturur. Bunlardan biri eğitimdir: Bir modelin kullanıma sunulmadan önce öğrendiği devasa külliyat. Diğeri ise geri çağırmadır: Bir sistemin cevap üretirken aradığı ve cevaba dahil ettiği güncel bilgiler. Geri çağırma destekli üretim (retrieval-augmented generation, RAG), kısmen modellerin halüsinasyon görmesi veya son eğitim kesim tarihinden sonraki olayları anlayamaması sorununu çözmek için geliştirilmiştir; RAG, sistemlerin cevap üretirken dış kaynaklara başvurmasına olanak tanır.

Dolayısıyla, bir modelin öğrendikleri ile başvurup baktıkları her zaman aynı değildir. Ödeme duvarları, web tarayıcısı kısıtlamaları, ticari düzenlemeler ve ürün tercihleri, YZ tarafından üretilen cevapları şekillendirir. Hem eğitim hem de geri çağırma, giderek bu cevaplara bel bağlayan halkın büyük ölçüde göremediği, önemli sonuçlar doğuran güçler tarafından şekillendirilir.

Biz bu olguya görünmez kaynak çarpıklığı diyoruz: YZ şirketlerinde hangi kaynakların geri çağrıldığı, hangilerinin güncel tutulduğu ve hatta hangi veri kümelerinin edinildiği konusunda alınan rutin ürün kararlarıyla bir bilgi ortamının kademeli olarak şekillendirilmesi. Bu kararların herhangi biri teknik açıdan anlamlı, ticari açıdan rasyonel veya hatta tamamen sıradan olabilir. Ancak bu kararlar birlikte, girdileri kullanıcılar —ve çoğu zaman şirketlerin dışındaki herhangi biri— bu değişiklikleri göremeden, anlayamadan veya bunlara itiraz edemeden dramatik biçimde değişebilen kamusal bir epistemik altyapı oluşturur.

Görünmez kaynak çarpıklığı en az üç şekilde gerçekleşir. Birincisi, geri çağırma katmanında, YZ sistemleri bir zamanlar yoğun biçimde yararlandıkları kaynaklardan hiçbir duyuru veya açıklama olmaksızın sessizce ve aniden yararlanmayı bırakabilir. Bunun Reddit ve ChatGPT ile birden fazla kez gerçekleşmiş olduğu görülüyor.

İkincisi, kaynak katmanında, aşağı akış sistemleri için temel referans materyali hâline gelmiş siteler, güvenilir bir otorite gibi görünmeye devam ederken doğruluk veya güncellik açısından sessizce güncellenmeyi bırakabilir. Bir YZ tarafından oluşturulan Grokipedia, editöryel hattı nisan ayında durduğunda tam olarak bunu yapmış gibi görünüyor.

Üçüncüsü, eğitim verisi katmanında, YZ şirketleri özel erişimli, kendine özgü veri kümeleri edinmektedir: Modellerin öğrendikleri üzerinde orantısız ve temsil edici olmayan bir etki yaratabilecek, dünyaya ilişkin kamuya açık olmayan görünümler. Google’ın iflas mahkemesinde Spirit Airlines’ın kurumsal veri kalıntıları için verdiği teklif bunun çarpıcı bir örneğini sunuyor.

Bu anlatıların hiçbiri bilgi ortamını zehirleyen kötü niyetli aktörlerle ilgili değil. Ancak önemli olmalarının nedeni de tam olarak bu.

Kaynak Geri Çağırma YZ Cevaplarını Nasıl Şekillendirir?

Geri çağırmayla ve Reddit’in ChatGPT tarafından atıf yapılan bir kaynak olarak yaşadığı keskin düşüşle başlayalım.

Reddit, büyük dil modelleri için son derece değerlidir. Giderek sentetik metinle doygun hâle gelen bir internette, çoğunlukla insanlar arasındaki konuşmalardan oluşan son büyük, açık depolardan biridir: İnsanlar bulaşık makinelerindeki sorunları gidermeye çalışıyor, kemoterapi deneyimlerini karşılaştırıyor, imar konusunda tartışıyor ve kendilerinin göt olup olmadığını soruyor. Bu tür organik, özgün içerik, Reddit’i YZ tarafından üretilen cevaplarda en çok atıf yapılan alan adlarından biri hâline getirmiştir. Değerinin bir göstergesi olarak Reddit, hem OpenAI hem de Google ile, her birinin 60 ila 70 milyon dolar civarında olduğu bildirilen veri lisanslama anlaşmaları yaptı.

Ardından, 18 Ağustos’ta, YZ motoru optimizasyonu ve analitik şirketi Promptwatch, Reddit’in atıf ayak izinin altı gün içinde ChatGPT’den büyük ölçüde kaybolduğunu bildirdi. Araştırmasına göre Reddit, 18 Temmuz’dan 7 Ağustos’a kadar ChatGPT Arama atıflarının yüzde 3,83’lük istikrarlı bir ortalamasını elinde tutuyordu; bu, herhangi bir alan adının sahip olduğu en büyük paylardan biriydi. ChatGPT’nin kaynakları geri çağırmak için arama sorgularını nasıl dağıttığının bazı yönlerini değiştirdiği gün olan 8 Ağustos’ta Reddit’in payı düşmeye başladı. 14 Ağustos’ta yüzde 1’in altına geriledi ve o zamandan beri bu seviyede kaldı; 14-17 Ağustos arasındaki yüzde 0,52’lik ortalama, yüzde 86’lık oransal bir düşüşü temsil ediyor.

Bunun neden gerçekleştiğini OpenAI dışındaki hiç kimse kesin olarak bilmiyor.

Bu, Reddit atıflarında yaşanan ilk ani değişim değil. Eylül 2025’te Reddit’in ChatGPT atıflarındaki payı yaklaşık yüzde 10’dan yüzde 2 civarına çakıldı. Yatırımcılar bunun ne anlama geldiğini yorumlamaya çalışırken bu değişim Reddit’in hisse değerinden yüzde 10’dan fazlasını sildi. Değişime ilişkin herhangi bir kamuya açık açıklama bulunmadığından, şirket dışındaki analistler ne olduğunu yeniden yapılandırmaya çalıştı. Yaygın biçimde tartışılan açıklamalardan biri, pek bilinmeyen bir Google Arama değişikliğine odaklandı. Google, 11 Eylül 2025 civarında, kullanıcıların ve otomatik araçların tek seferde 100 sonuç geri çağırmasına olanak tanıyan “num=100” parametresini uygulamayı bıraktı. Sağlayıcıları yalnızca ilk 10 veya 20 sonucu görmekle sınırlayan bu değişiklik, sıralama takibi ve arama verisi sağlayıcılarının işleyişini sekteye uğrattı ve zamanlaması atıflardaki düşüşle kabaca örtüştü.

Ancak diğer analizler bu açıklamayı karmaşıklaştırdı. Semrush, yalnızca parametre değişikliğinin Reddit’teki düşüşün büyüklüğünü muhtemelen açıklayamayacağını ve ChatGPT’nin daha önce yoğun biçimde atıfta bulunduğu kaynakları kasıtlı olarak yeniden dengelemiş de olabileceğini öne sürdü.

Başka bir deyişle, bir şirketin pek bilinmeyen bir değişikliği, ikinci bir şirketin sohbet robotunun üçüncü bir şirketin içeriğine büyük ölçüde atıf yapmayı neden bıraktığına ilişkin başlıca açıklamalardan biri hâline geldi ve bu olasılığı tespit etmek bile şirket dışındaki kişilerin haftalar süren dedektiflik çalışmasını gerektirdi.

YZ ürün haberlerini takip etmeyen veya Cevap Motoru Optimizasyonu panolarını okumayan kullanıcılar ve kamuoyu, cevaplarının daha dün dayandığı bir kaynağın bir gecede dramatik ölçüde daha az etkili hâle geldiğinden büyük ölçüde habersizdir. Markalar ve içerik üreticileri, belirli kaynakların neden yükselip düştüğüne ilişkin çok az görünürlük olmasına rağmen, RAG’ın içeriklerini almasını sağlamak için aktif olarak çalışmaktadır.

Bir şirkette alınan, duyurulmamış tek bir ürün kararı, internetin en büyük insan konuşması arşivlerinden birinin yüz milyonlarca insanın aldığı cevaplardaki rolünü keskin biçimde azaltabilir ve bu kullanıcıların bunun gerçekleştiğini öğrenmesinin neredeyse hiçbir yolu yoktur. Üstelik cevap motorunu terk edip doğrudan Reddit’i ziyaret etmek dışında bu konuda yapabilecekleri pek bir şey de yoktur.

Güncelliğini Yitirmiş Kaynaklar Otoritelerini Koruyabilir

Görünmez kaynak çarpıklığının ikinci biçimi, bir kaynak erişilebilir kalırken sessizce bakımsız veya durağan hâle geldiğinde ortaya çıkar.

xAI’nin Ekim 2025’te Elon Musk’ın Wikipedia’ya yanıtı olarak kullanıma sunduğu YZ tarafından üretilen ansiklopedi Grokipedia, burada önemli bir vaka çalışmasıdır. Birimizin bu ayın başlarında Lawfare’de bildirdiği üzere, Grokipedia 24 Nisan’dan bu yana tek bir makaleyi bile güncellememiş gibi görünüyor. Bir zamanlar önerilen düzenlemeleri yaklaşık üç dakikalık medyan karar süresiyle işleyen model odaklı editöryel hattı, hiçbir duyuru yapılmadan öylece durdu. 225.000’den fazla önerilen düzenlemenin bulunduğu 34.000’den fazla sayfa üzerinde yapılan bir analiz, üç aydan uzun süredir kabul edilmiş veya reddedilmiş hiçbir düzeltme bulunmadığını ortaya koydu. Kullanıcılar tarafından gönderilen 13.000’den fazla öneri ise artık görünüşe göre ne bir insanın ne de YZ’nin izlediği bir kuyrukta, “incelemede” sıkışıp kalmış durumda. Grokipedia’nın evreninde SpaceX hâlâ ilk halka arzını gerçekleştirmiş değil ve Vincent Pastore hâlâ hayatta.

Grokipedia bir hobi projesi veya izole bir site olsaydı, bu merak uyandıran bir durum olurdu. Ama değil. Bağımsız bir analiz, Grokipedia URL’lerinin YZ sistemlerindeki yaklaşık 356.000 atıfta yer aldığını tahmin etti; bunların çoğu ChatGPT ve Google’ın YZ Modu’ndaydı. Dolayısıyla, güncellenmesi durmuş bir ansiklopedi, kendi güncelleme mekanizması çalışmayı bıraktıktan çok sonra bile görünüşte güvenilir ve otorite niteliğinde bilgiler sunarak diğer YZ ürünlerinin yukarı akışında kalabilir.

Wikipedia ile karşılaştırma öğreticidir. Wikipedia da model eğitimi ve geri çağırmada büyük ölçüde Reddit ile aynı nedenle yoğun biçimde kullanılır: İnsanlar tarafından yazılmıştır. Editöryel süreci radikal ölçüde izlenebilirdir: Her düzenleme, geri alma ve tartışma sayfasındaki çekişme kamuya açıktır; dolayısıyla başarısızlıkları veya yanlılıkları bile itiraza açıktır. YZ tarafından oluşturulan bilgi ürünleri son derece yararlı olabilse de Grokipedia, bir ürün o alanı işgal etmeye devam ederken canlı bir referans olarak işlev görmeyi bıraktığında ne olduğunu ve aşağı akış sistemlerinin ona hiçbir şey değişmemiş gibi nasıl davrandığını gösteriyor.

Buradaki tehlike yalnızca bir ansiklopedinin güncelliğini yitirmiş bilgiler içerebilmesi değildir. Ansiklopediler her zaman hatalar içermiştir. Önemli ayrım, kaynağın kendi durumunun algılanmasının zorlaşmış olmasıdır. Aşağı akıştaki bir YZ sisteminin kullanıcıları, bir cevabın Grokipedia’ya dayandığını dahi bilmeyebilir; Grokipedia’nın kendi kendini düzeltme mekanizmalarının aylar önce çalışmayı bıraktığını ise hiç bilmeyebilirler.

Eğitim Verileri Yalnızca Şirketlerin Edinebildiklerini Yansıttığında

Son olarak, özel, dar kapsamlı veri ve bunun eğitim üzerindeki etkisi meselesine geliyoruz. Burada özel kaynak bozulmuyor; ancak içeriği hem potansiyel olarak özel erişimli hem de temsil edici değildir: Temsil edici eğitim külliyatlarının tasarımıyla pek ilgisi olmayan kanallar aracılığıyla tek bir YZ geliştiricisinin erişimine açılan, dünyadan sıra dışı bir kesit.

14 Ağustos’ta Spirit Airlines, artık faaliyet göstermeyen havayolunun dahili verilerinden oluşan büyük bir veri hazinesi için New York Güney Bölgesi’nde gerçekleştirilen iflas müzayedesinin galibi olarak Google’ı belirledi. Google’ın, şirketin ürünlerini ve YZ modellerini geliştirmeye yardımcı olmak amacıyla verdiğini söylediği 10 milyon dolarlık teklif; yaklaşık 100 milyon e-postayı, 500 milyon Teams mesajını, 7,2 milyar rakip uçuş fiyatlandırma kaydını, 2008’e kadar uzanan 7,5 milyar yolcu işlem kaydını, 30 milyon satır kodu ve 175.000’den fazla çalışan kaydını kapsıyordu; bunlara pazarlama, insan kaynakları, strateji, denetim ve dolandırıcılıkla ilgili veriler de dahildi. Yolcu profillerinin, sadakat programı kayıtlarının, ayrıcalıklı materyallerin ve kişiyi tanımlayıcı bilgilerin kapsam dışında bırakılması veya kaldırılması gerekiyor; Google, veri kümesini aktarılmadan önce kişiyi tanımlayıcı tüm bilgilerden arındıracağına söz verdi.

Önerilen satış henüz kesinleşmiş değil (Spirit’in uçuş görevlileri sendikası, çalışanların mahremiyetine ilişkin gerekçelerle itiraz etti). Ancak bu belirli satışın sonucunda ne olursa olsun, müzayede, gerçek dünyaya ilişkin benzersiz bilgi külliyatlarının özel mülkiyete tabi YZ varlıklarına dönüşebileceği yeni bir kanalı gözler önüne seriyor.

Gerçek ve başarısız olmuş bir Amerikan şirketinin eksiksiz dahili kaydı —rekabet stratejisi, tüm çalışanlarının e-posta geçmişi, operasyon kararları— gerçekten nadir bir materyaldir. Ekonomistler, düzenleyiciler veya tarihçiler bunu inceleyebilirdi. Bunun yerine Spirit’in kayıtları, amacı benzersiz bir bilgi kaynağının tek elde toplanmasının aşağı akış etkilerini değerlendirmek değil, alacaklıların tahsilatını azamiye çıkarmak olan bir iflas işlemi aracılığıyla, büyük bir Super Bowl reklamının fiyatına edinilerek yalnızca tek bir YZ geliştiricisine ait özel mülkiyete tabi bir eğitim varlığı hâline gelebilir.

Daha derindeki mesele seçimdir. YZ geliştiricilerinin yüksek kaliteli, sentetik olmayan, özgün veriler edinmek için güçlü teşvikleri vardır. Ancak erişebildikleri verilerde ilginç bir asimetri söz konusudur: Faaliyetini sürdüren hiçbir şirket, 100 milyon dahili e-postayı dışarıdaki YZ şirketlerine teslim etmez; ancak parçaları için satılan ölü bir şirket bunu pekâlâ yapar. Bu da eğitim hatlarına ulaşan kurumsal verilerin tersine işleyen bir hayatta kalma filtresinden geçerek geldiği anlamına gelir: Modeller, “işletmelerin nasıl çalıştığını” orantısız biçimde çökmüş işletmelerin dahili kayıtlarından ve açık artırmaya çıkmış, kendine özgü kurumsal kültürlerden öğrenebilir.

Buradaki iddia, Spirit’in e-postalarının bir modele bir şekilde bütün şirketlerin Spirit gibi faaliyet gösterdiğini öğreteceği değildir. Google’ın —veya nihai olarak satın alacak herhangi bir tarafın— bu tür materyalleri nasıl dahil edeceğini veya bunlara ne kadar ağırlık vereceğini bilmiyoruz. Daha geniş mesele, iflas işlemlerinin, satın almaların, lisanslama müzakerelerinin ve finansal sıkıntıdaki varlıkların satışlarının özel mülkiyete tabi YZ külliyatları oluşturmak için kullanılan kanallar hâline gelmesidir. Bu kanallarda yer alan kurumların hiçbiri, ortaya çıkan külliyatın temsil edici olup olmadığını, bu külliyata erişimin özel olması gerekip gerekmediğini veya bir şirketin başka hiç kimsenin erişemediği sosyal ya da ekonomik tarihin bir parçasını kendi bünyesine özel olarak katmasının ne anlama geldiğini sorgulamak üzere tasarlanmamıştır. Anlaşılan o ki iflas mahkemeleri artık YZ veri politikasının bir kanalı hâline gelmiştir, ancak hiç kimse onları bu şekilde düşünmüyor.

Son kullanıcıların çoğu da bundan büyük ölçüde habersiz kalacaktır. Ortada herhangi bir içindekiler etiketi olmadığı gibi, bir modelin dünyaya ilişkin tasavvurunun nelerden oluşturulduğunu veya belirli bir külliyatın ne ölçüde önemli olduğunu sormanın da bir yolu yoktur. Ancak kamusal bilginin inşasına ilişkin önemli sonuçlar doğuran tercihler artık beklenmedik yerlerde yapılıyor.

Küçük Kararların Toplamı

Bu üç olayın hiçbirinde bilgi ekosistemini kasıtlı olarak kirleten kötü niyetli bir aktör yoktur. Ne bir troll çiftliği, ne koordineli özgün olmayan davranış ne de bir deepfake söz konusudur. Geri çağırma mühendisliğinde küçük bir ayarlama, görünüşe göre terk edilmiş bir YZ referans ürünü ve rutin bir varlık satışı vardır. Ancak bunları önemli kılan tam da bu sıradanlıktır.

YZ’nin bilgi ekosistemine yönelik tehdidine ilişkin hâkim çerçeveler, temeldeki sorunun içeri akan kötü içerik olduğunu varsayar. Ancak bir bilgi ekosistemi, seçimle ilgili sıradan kararlarla da dönüştürülebilir: Neyin geri çağrıldığı, neyin güncel tutulduğu ve neyin edinildiği.

Her karar kendi başına rasyonel olabilir: Google bir arama parametresini değiştirir, OpenAI sohbet robotunun geri çağırdığı kaynakları yeniden dengeler. Bu kararlar birlikte, şirketlerin dışındaki hiç kimsenin anlamlı biçimde inceleyemediği veya itiraz edemediği kamusal bir epistemik altyapıyı yeniden şekillendiriyor.

Eski bilgi ekosisteminin de kapı bekçileri vardı: Gazeteler neyi basacaklarına, kütüphaneler neyi bulunduracaklarına ve ansiklopediler neyin bir madde olmaya uygun olduğuna karar verirdi. Bu kurumlar da tarafsız değildi. Ancak bu tercihler karşılaştırmalı olarak daha görünürdü. Bir okuyucu kaynağı görebilir ve en azından ilke olarak, bu değerlendirmeyi yapan kurumu tespit edebilirdi. YZ tarafından üretilen cevaplar ise giderek her ikisini de görünmez kılıyor.

Mevcut sistemde çarpıcı olan, bilgi üzerindeki gücün ne kadar yoğunlaştığı ve görünüşte küçük, opak kararların ne denli önemli aşağı akış etkileri yaratabildiğidir. Bir kaynak bir cevap motorundan kaybolabilir, bir referans eseri güncellenmeyi bırakabilir veya sıra dışı yeni bir külliyat, kullanıcılar herhangi bir şey olduğunu hiç bilmeden bir modelin eğitim verilerine girebilir. Bilgi ortamı giderek bu şekilde değişiyor: Dramatik manipülasyon eylemleriyle değil, şirket dışındaki neredeyse hiç kimsenin göremediği şirkete özel kararlarla.

*Kate Klonick, St. John’s Üniversitesi Hukuk Fakültesi’nde Doçenttir; Brookings Enstitüsü, Yale Hukuk Fakültesi Bilgi Toplumu Projesi ve Harvard Berkman Klein Merkezi’nde araştırmacı, İnsani Araştırmalar Enstitüsü’nde ise Seçkin Araştırmacıdır. Çevrimiçi söylem, ifade özgürlüğü ve özel internet platformlarının yönetişimi üzerine yazıları Harvard Law Review, Yale Law Journal, The New Yorker, New York Times, The Atlantic, Washington Post ve çok sayıda başka yayında yayımlanmıştır. 2023-2024 akademik yılında Avrupa Birliği’nde Fulbright Schuman İnovasyon Bilgini olarak görev yapmış; SciencesPo ve Amsterdam Üniversitesi’nde Misafir Profesör olarak Dijital Hizmetler Yasası ve Dijital Piyasalar Yasası üzerine araştırma yapmış ve yazılar kaleme almıştır.

** Renée DiResta, Georgetown McCourt Kamu Politikası Okulu’nda Doçent Araştırma Profesörüdür. Lawfare’de yardımcı editördür.

Kaynak: https://www.lawfaremedia.org/article/invisible-source-skew