Martin Armstrong
İnsanların hâlâ mahrem bir şekilde konuşabildiği bir dönem vardı. Bir terapistin karşısına oturabilir, evliliğinizin dağılmasını, depresyonunuzu, korkularınızı, mali durumunuzu ya da hayatınızın en karanlık anlarını, bu konuşmaların iki insan arasında kalacağına inanarak anlatabilirdiniz. O dünya hızla yok oluyor; çünkü artık her şeyin dijitalleştirilmesi, depolanması, analiz edilmesi ve paraya dönüştürülmesi gerekiyor.
Terapi uygulaması Talkspace’i kullanan bir kadın, terapi seanslarına ait transkriptlerin eski işverenini ilgilendiren bir dava sırasında mahkemeye sunulduğunu keşfetti. Bunun ne anlama geldiğini bir an için düşünün. Bunlar bir terapist tarafından karalanmış belirsiz notlar değildi. Bunlar, kadının kişisel yaşamını, duygusal durumunu, ilişkilerini ve mali durumunu ele alan ayrıntılı dijital kayıtlardı. Makine her şeyi hatırlıyordu.
Toplumun geldiği nokta işte budur. İnsanlara yardım almalarını, içlerini açmalarını, sisteme güvenmelerini, uygulamaları kullanmalarını ve dijitale geçmelerini söylüyorlar; ardından da insan kırılganlığını sessizce aranabilir verilere dönüştürüyorlar.
İnsanlar, bu teknoloji şirketlerinin yalnızca hizmet sunduğuna inanmaya devam ettikleri için tehlikeyi hâlâ kavrayamıyorlar. Öyle değiller. İnsan davranışını endüstriyel ölçekte topluyorlar. Her tıklama, her mesaj, her konum, her arama, her duygusal çöküş, sonsuza kadar saklanacak verilere dönüşüyor.
Talkspace yöneticilerinin, hastalar ile terapistler arasındaki yaklaşık 140 milyon iletişimi içeren, mevcut en büyük ruh sağlığı veri bankalarından birini kurmakla yatırımcılara övündükleri bildirildi. İnsan ıstırabının kendisi artık bir varlık sınıfı haline geldi. Depresyon veriye dönüştü. Travma, makine öğrenimi malzemesi haline geldi. Özel düşünceleriniz artık kurumsal sunucularda duran bir envanterdir.
Eskiden biri terapiye gittiğinde, terapist el yazısıyla tuttuğu notları bir dolapta kilitli tutabilirdi. O notlar eksik, geçici ve insaniydi. Bugün ise her kelime yazıya dökülebilir, arşivlenebilir, aranabilir, kopyalanabilir, mahkeme celbi ile istenebilir, sızdırılabilir veya yapay zekâ sistemlerine beslenebilir. Konuşma asla ölmez; çünkü makine asla unutmaz. Ve insanlar toplumun neden daha soğuk ve daha az insani hissettirdiğini merak ediyor.
İnsanlar en karanlık düşüncelerinin bir gün mahkemede ortaya çıkabileceğini fark ettiklerinde ne olur? İşverenler, sigorta şirketleri, hükümetler veya yapay zekâ sistemleri son derece kişisel psikolojik bilgilere erişebildiğinde ne olur? Güvenin kendisini yok edersiniz. İnsanlar dürüstçe konuşmayı bırakır. Kurumlara güvenmeyi bırakırlar. Her kelimenin bir gün kendilerine karşı silah olarak kullanılabileceğini bildikleri için temkinli yaşamaya başlarlar.
Dijital çağın tamamı en başından beri işte bu yöne doğru ilerliyordu. Önce alışveriş alışkanlıklarını topladılar. Sonra tarama geçmişini. Ardından konum verilerini. Sonra biyometrik verileri. Şimdi ise bireyin içsel psikolojik yaşamını topluyorlar. Artık hiçbir şey kutsal değil; çünkü her şeyin bir bedeli var.
Kısa süre önce, sanal bir ruh sağlığı şirketiyle bağlantılı güvenliği sağlanmamış bir veritabanı aracılığıyla terapi videolarının, transkriptlerin ve 1,7 milyondan fazla hasta aktivite günlüğünün çevrimiçi ortamda ifşa edildiğine ilişkin başka bir rapor yayımlandı. Modern dünya, insan yaşamının her yönünü sızıntılara, hacklemelere, mahkeme celplerine ve gözetime karşı savunmasız dijital sistemlerde merkezileştirmekte ısrar ettiği için, milyonlarca son derece kişisel kayıt açıkta duruyor.
Rahatsız edici olan kısım, bunun yalnızca başlangıç olmasıdır. Yapay zekâ sistemleri artık duygu, stres, kırılganlık, davranış ve psikolojik kalıpları analiz etmek üzere eğitiliyor. Makine, insanların en zayıf anlarında nasıl düşündüğünü öğreniyor. Yeterli veri biriktiğinde, sistem davranışın kendisini tahmin etmeye başlayabilir.
İnsanlar bu konuda uyarıda bulunduğumda gülüyorlar; çünkü gözetimi hâlâ bir devlet binasında telefon görüşmelerini dinleyen yaşlı adamlar olarak hayal ediyorlar. Bu artık geçerliliğini yitirdi. Yeni sistem çok daha tehlikeli; çünkü insanlar uygulamalar, abonelikler, sadakat programları, terapi platformları, fitness takipçileri, akıllı cihazlar ve sosyal medya aracılığıyla her gün gönüllü olarak ona veri sağlıyorlar.
Sistem nereye gittiğinizi, ne satın aldığınızı, nelerden korktuğunuzu, sizi neyin üzdüğünü, sizi neyin heyecanlandırdığını, kimi sevdiğinizi, ne kadar paranız olduğunu, hangi ilaçları kullandığınızı ve giderek artan ölçüde duygusal olarak ne kadar dengeli olduğunuzu biliyor.
Bu, tarih boyunca hükümetlerin sahip olduğu her şeyin ötesinde bir güçtür ve bu bilgiler bir kez merkezileştirildiğinde, eninde sonunda kötüye kullanılacaktır; çünkü tarih, kolaylık için inşa edilen sistemlerin kaçınılmaz olarak kontrol sistemlerine dönüştüğünü defalarca göstermiştir.
