Deepfake’ler bu yılki Victoria seçimlerini çarpıtıyor
Bunlara karşı en savunmasız olanların kimler olduğunu araştırdık
Rory Mulcahy, Aimee Riedel, Asha Worsteling, Lucas Whittaker, Renee Barnes
Victoria seçimlerine daha aylar var, ancak seçmenlere şimdiden hiç yaşanmamış olaylar gösteriliyor. Bir benzin istasyonunda palalı saldırı, yol kenarında doğum yapan bir kadın, parlamento binasının merdivenlerinden aşağı akan sel suları: Bunların hepsi yapay zekâ (YZ) tarafından üretilmiş “deepfake”ler ve seçmenler sandığa gitmeden önce hepsinin ücretli reklam olarak gösterildiği bildiriliyor.
Daha önce Avustralya siyaseti açısından potansiyel bir “uyuyan mesele” olarak tanımlanan siyasi deepfake içerikleri, hızla gerçek bir seçim sorununa dönüşüyor.
Victoria eyalet seçimlerine yaklaşırken siyasi deepfake’leri ve insanların bunlara nasıl tepki verdiğini inceliyoruz. Ön bulgularımız, insanların deepfake’leri tespit etme becerisine ilişkin önemli bilgiler sunuyor ve seçim kampanyaları hız kazanırken seçmenlerin giderek daha sorunlu hâle gelen bilgi ekosisteminde yollarını bulmalarına yardımcı olacak.
Bunun etkisi ne olabilir?
Deepfake’leri inandırıcı biçimde üretmek bir zamanlar uzman düzeyinde teknik bilgi ve yazılım gerektiriyordu. Bugün ise ticari ve açık kaynaklı YZ araçlarını kullanan herkes bunları üretebiliyor. Üstelik tespit edilmeleri de giderek zorlaşıyor.
Siyasi deepfake’leri daha iyi anlamak ve bunların yaklaşan seçimler açısından ne anlama gelebileceğini görmek için, 2018 ile 2026 yılları arasında yayımlanmış önceki çalışmaların bulgularını bir araya getiren bir meta-analiz gerçekleştirdik.
19 çalışmayı ve 24.000’den fazla kişiyi kapsayan sonuçlar (henüz yayımlanmadı), deepfake’lerin otantik görüntüler ve geleneksel yanlış bilgi de dâhil olmak üzere diğer siyasi içerikler kadar ikna edici görünebildiğini ortaya koydu.
Ayrıca deepfake’lerin haberlere ve demokratik kurumlara duyulan güvenin azalmasıyla ilişkili olduğunu bulduk. Bu durum, insanların yalnızca neyin sahte olduğunu değil, neyin gerçek olduğunu da sorgulamasına yol açabilir ve nihayetinde demokrasinin kendisine duyulan güvene zarar verebilir.
Daha geniş ölçekte bu belirsizlik, “yalancının temettüsü”ne katkıda bulunabilir. Bu, insanların gerçek içeriği sahte diye reddetmesi durumudur.
Gerçeğin reddi
411 Avustralyalıyla yaptığımız bir deneyde katılımcılar otantik bir siyasi video, düşük kaliteli bir deepfake veya yüksek kaliteli bir deepfake izledi. Ön bulgularımız kaygı verici.
Daha fazla haber tüketen kişiler düşük kaliteli deepfake’leri tespit etmede daha başarılıydı, ancak daha gelişmiş olanları tespit etmede değildi. Daha da çarpıcı olanı, haber tüketimi arttıkça insanların otantik içeriği doğru biçimde tespit etme isabetliliği azaldı.
Örneklemimizin yaklaşık yüzde 75’inin, yüksek veya düşük kaliteli olmalarına bakılmaksızın, deepfake’leri doğru biçimde tespit edebildiğini gördük. Ancak bu, yine de yaklaşık her dört kişiden birinin bir deepfake’i doğru biçimde tespit edemediği veya gerçek olup olmadığından emin olmadığı anlamına geliyor.
Daha da kaygı verici olanı, katılımcıların neredeyse yüzde 29’u gerçek videoyu yanlışlıkla sahte olarak nitelendirirken, yüzde 18’i de emin olamadı.
Başka bir deyişle, katılımcıların neredeyse yarısı gerçek siyasi içeriğin gerçek olduğunu hem kendinden emin hem de doğru biçimde tespit edemedi.
O hâlde tehlike yalnızca seçmenlerin sahte içeriğe inanabilmesi değil, aynı zamanda gerçek içeriğe inanmamaya giderek fazlasıyla hazır hâle gelebilmeleridir.
Deepfake’i tespit etmede kim daha başarılı? İşler karmaşık
Bazı kişilerin deepfake’lere karşı diğerlerinden daha savunmasız olması muhtemel.
Önceki araştırmalar, siyasi deepfake’leri tespit etme becerisinin yaşla birlikte azaldığına işaret ediyor. Yaşlı seçmenlerin Avustralya’daki seçmenlerin önemli bir bölümünü oluşturduğu düşünüldüğünde, bu özellikle önemli olabilir.
Siyasi yönelim de önemli olabilir.
ABD’de yapılan araştırmalar, sol eğilimli kişilerin siyasi deepfake’leri tespit etmede daha isabetli olabildiğine işaret ediyor.
Ön deneysel bulgularımız ise önemli bir ayrıntıyı ortaya koyuyor: Farklar yalnızca deepfake’te, izleyicinin kendi siyasi yönelimiyle uyumlu bir siyasi aktör tasvir edildiğinde ortaya çıktı.
Örneğin İşçi Partisi destekçisiyseniz, mevcut başbakanın yer aldığı bir videonun deepfake olduğunu anlayabilme olasılığınız daha yüksek. Bu, deepfake’lere karşı savunmasızlığın yalnızca kişinin siyasi görüşlerine değil, aynı zamanda videoda kimin tasvir edildiğine ve bu kişinin izleyiciyle siyasi açıdan uyumlu olup olmadığına da bağlı olabileceğine işaret ediyor.
Kendinizden emin olmanız haklı olduğunuz anlamına gelmez
Araştırmalar, deepfake’leri tespit etmede özgüvenin rolü konusunda farklı sonuçlar ortaya koyuyor.
Bazı çalışmalar daha fazla özgüvenin insanların deepfake’leri tespit etmesine yardımcı olabileceğine işaret ederken, diğerleri özgüven ile doğru tespit arasında çok az ilişki olduğunu ortaya koyuyor.
En son bulgularımız tabloya yeni bir boyut ekliyor.
Orta ve daha yüksek düzeyde haber tüketenler arasında özgüven ile isabetlilik giderek birbirinden koptu. Bu katılımcılar siyasi içerikleri değerlendirme konusunda kendilerini yeterli donanıma sahip hissetmiş olabilir, ancak bu özgüven her zaman doğru sonuca ulaştıkları anlamına gelmiyordu.
Bu nedenle, bir şeyin YZ tarafından üretildiğinden emin olmak, gerçekten öyle olduğunun kanıtı değildir. Özgüven bir zayıflığa bile dönüşebilir.
Bu meselenin önemi, tek bir videonun doğru sınıflandırılıp sınıflandırılmamasının ötesine geçiyor. Seçmenler, sırf YZ tarafından üretilmiş olabileceği için otantik kanıtlardan giderek daha fazla şüphe duymaya başlarsa, deepfake’ler ortada olmadıklarında bile güveni sarsabilir.
Siyasi bir deepfake’i nasıl tespit edebilirsiniz?
Bir deepfake’i tespit etmenin kusursuz bir yolu yok. YZ geliştikçe seçmenler, bir şeyin “sahte görünüp görünmediğine” daha az güvenmeli; kaynağını ve onu destekleyen kanıtları doğrulamaya daha fazla önem vermeli.
Birincisi, görünüşe güvenmeyin. Görsel veya işitsel kusurlar daha düşük kaliteli deepfake’leri ele verebilir, ancak bu ipuçları giderek daha az güvenilir hâle geliyor.
İkincisi, kaynağın izini sürün. İçeriğin nereden çıktığını bulun ve kaynağın güvenilir olup olmadığını değerlendirin.
Üçüncüsü, diğer kanıtları kontrol edin. İçeriği doğrulayan bağımsız haberler veya resmî kaynaklar arayın.
Dördüncüsü, özgüveninizi sorgulayın. Bir şeyin sahte olduğundan emin olmanız, haklı olduğunuz anlamına gelmez.
Son olarak, yayılmasına katkıda bulunmayın. Şüpheli bir içeriğin gerçek olup olmadığını sormak için onu paylaşmaktan kaçının. Önce doğrulayın.
Siyasi deepfake’ler daha gelişmiş hâle geldikçe görsel kusurları tespit etmek giderek zorlaşacak. Bu nedenle seçmenlerin karşı karşıya olduğu zorluk da değişiyor. Gördüklerimizi sorgulama konusunda daha iyi olmalıyız, ancak onları otomatik olarak reddetmemeliyiz.
Giderek daha inandırıcı hâle gelen YZ çağında sağlıklı bir kuşkuculuk önemli. Ancak bu kuşkuculuğun ne zaman fazla ileri gittiğini bilmek de aynı derecede önemli.