Emily Price
‘Konuşacak kimsem yok’
İngiltere’de yayınlanan yeni bir rapor, çocukların ödev yardımı, duygusal tavsiye — ve bazen de konuşacak başka kimseleri olmadığı için — sohbet robotlarına yöneldiğini ortaya koyuyor.
TikTok kenara çekilsin — çocukların yeni favori dijital sırdaşı artık tam cümlelerle yanıt veriyor.
İngiltere’de yayımlanan yeni bir rapor, Me, Myself & AI (Ben, Kendim ve Yapay Zekâ), giderek artan sayıda çocuğun Yapay Zekâ sohbet robotlarına yalnızca sınavlarda kopya çekmek — pardon, ders çalışmak — için değil; duygusal destek, moda tavsiyeleri ve hatta arkadaşlık için başvurduğunu ortaya koyuyor.
Rapor, pazar günü kâr amacı gütmeyen Internet Matters tarafından yayımlandı ve Birleşik Krallık genelinde 1.000 çocuk ve 2.000 ebeveynle yapılan bir anketi içeriyor. Bulgulara göre, çocukların % 64’ü Yapay Zekâ sohbet robotlarını okul ödevlerinden zorlu konuşmaların provasına kadar her şey için kullanıyor. Daha da dikkat çekici olanı: Bu genç kullanıcıların üçte birinden fazlası, bir sohbet robotuyla konuşmanın bir arkadaşla konuşmak gibi hissettirdiğini söylüyor.
Elbette, botlar atıştırmalıklarınızı yemez ya da Xbox’ınızı kapmaz, ama içinde yerleşik güvenlik kontrolleriyle de gelmiyorlar — en azından şimdilik.
Yapay Zekâ öğretmen, terapist ve en yakın arkadaş olduğunda
Yapay Zekânın eğitimdeki rolü konusunda iyimser olanlar için bulguların bazıları cesaret verici. Çocukların % 42’si, hızlı yanıtlar, yazma desteği ve dil pratiği gibi nedenlerle sohbet robotlarını okul çalışmaları için kullandıklarını söylüyor.
Ancak biraz daha derine inildiğinde tablo karmaşıklaşıyor. Çocukların neredeyse dörtte biri, ne giyeceklerinden arkadaşlıkları nasıl yöneteceklerine ve ruh sağlığıyla ilgili zorluklarla nasıl başa çıkacaklarına kadar çeşitli konularda tavsiye almak için sohbet robotlarını kullandıklarını belirtiyor. Daha da endişe verici olan ne mi? % 15’i, gerçek bir insanla konuşmaktansa bir sohbet robotuyla konuşmayı tercih ettiğini söylüyor. Savunmasız çocuklar arasında bu oranlar daha da artıyor.
Bu, bazı markaların ancak hayalini kurabileceği türden bir müşteri etkileşimi — ama etik kurallar, yaş denetimleri ve düzenleyici gözetim olmaksızın.
Teknoloji sektörü için ibretlik bir hikâye
Rapor, özellikle birçok Yapay Zekâ platformunun en genç kullanıcılarına ne kadar hazırlıksız olduğu konusunda sert ifadeler kullanıyor. Çocuklar; ChatGPT, Snapchat’in My AI’ı ve character.ai gibi, çocuklar düşünülerek tasarlanmamış platformlarla etkileşime giriyor. Sonuç ne oluyor? Bazıları yanlış bilgiler, duygusal olarak kafa karıştırıcı geri bildirimler ve hatta uygunsuz içerik alıyor. (Evet, hizmet şartlarında aksini iddia etseler bile.)
“Robot arkadaş” kulağa sevimli bir Pixar alt hikâyesi gibi gelebilir, ancak savunmasız çocukların dörtte biri konuşacak başka kimseleri olmadığı için sohbet robotlarını kullandığını söylediğinde mesele çok daha ciddi bir hâl alıyor.
Gerçek dünyada şimdiden rahatsız edici olaylar yaşandı. ABD’de Florida’da bir anne, ergenlik çağındaki oğlunun bir sohbet robotundan zararlı ve cinsel içerikli mesajlar aldığı gerekçesiyle dava açtı. İngiltere’de ise bir milletvekili, 12 yaşındaki bir çocuğun bir sohbet robotu tarafından taciz edildiği iddia edilen tüyler ürpertici bir olayı anlattı.
Şubat ayında, Kaliforniya Senatörü Steve Padilla, Yapay Zekâ geliştiricilerinin sohbet robotu teknolojisinin bağımlılık yapan ve manipülatif yönlerinden çocukları korumak için önlemler almasını zorunlu kılan 243 No’lu Senato Tasarısı’nı sundu. Tasarı; yaş uyarıları, kullanıcıların gerçek bir kişi değil Yapay Zekâ ile konuştuklarını hatırlatan bildirimler ve Yapay Zekâ kullanımı ile gençlerin ruh sağlığı arasındaki bağlantıya dair zorunlu raporlama gibi önlemler öngörüyor. Giderek daha sofistike hâle gelen sohbet robotları dijital arkadaşlar olarak pazarlanırken, Padilla çocukların büyük teknoloji şirketleri tarafından “laboratuvar faresi” gibi görülmemesi gerektiğini savunuyor. Bu görüş, tasarıyı destekleyen çocuk güvenliği savunucuları, araştırmacılar ve ruh sağlığı uzmanları tarafından da paylaşılıyor.
Ebeveynler ve okullar geride kalıyor
Rapora göre, ebeveynler Yapay Zekâ konusunda endişeli, ancak bu konuda pek donanımlı değiller. Ebeveynlerin % 62’si Yapay Zekâ tarafından üretilen bilgilerin doğruluğundan kaygı duyduğunu belirtirken, yalnızca % 34’ü çocuklarıyla bu içeriklerin doğruluğunu nasıl değerlendireceklerini tartışmış. Yapay Zekâ öğle yemeği sohbetlerine kadar sızmış gibi görünse de, çocukların sadece % 57’si bu konuyu bir öğretmenle konuştuğunu ve genellikle tutarsız tavsiyeler aldığını söylüyor.
Yapay Zekâ araçları daha konuşkan ve insan gibi ikna edici hâle geldikçe, çocuklar bunları yalnızca kullanmakla kalmıyor, onlarla duygusal bağ da kuruyor. Savunmasız çocukların % 50’si, Yapay Zekâ ile konuşmanın gerçek bir arkadaşla konuşmak gibi hissettirdiğini belirtiyor. Bu durum, eğer botlar hakemli tavsiyeler ve empati algoritmaları sunabilseydi kabul edilebilir olabilirdi; ama şu anda hâlâ yalnızca olasılıklara dayalı kelime tahminleriyle çalışıyoruz.
Kâr amacı gütmeyen Internet Matters’ın eş CEO’su Rachel Huggins bunu açıkça dile getiriyor:
“Yapay Zekâ sohbet robotları hızla çocukluğun bir parçası hâline geliyor… ama çoğu çocuk, ebeveyn ve okul bu konuda tamamen bilinçsiz.”
