Algoritmalar çocukları şiddet ve yetişkin içeriğine sürüklüyor

İstanbul Haberleri — ÖMER FARUK MADANOĞLU - Anadolu Ajansı Ayrımcılık Hattı'nın sosyal medyada çocukların karşılaştığı içerikleri gözlemlemek amacıyla 14 yaşında bir kullanıcı profili oluşturarak yaptığı araştırma, platformların içerik denetimi ve yaş koruma mekanizmalarına ilişkin dikkat çekici bulgular ortaya koydu.

Çocukların sosyal medyada neyle karşılaştığını anlamak amacıyla yürütülen çalışmada, telefon ayarlarından hesap bilgilerine kadar tüm detaylar 14 yaşındaki bir kullanıcıya göre düzenlendi. YouTube, X ve Instagram gibi yaygın kullanılan platformlarda hesaplar açılarak, çocukların ilgi gösterebileceği başlıklar üzerinden aramalar yapıldı.

Araştırmada, platformlara üyelik sürecinde kullanıcıya ve ebeveynlere çocuklara uygun olmayan içeriklerin sınırlandırılacağı yönünde çeşitli taahhütler sunulmasına rağmen, kısa süre içinde bu taahhütlerle çelişen içeriklerle karşılaşıldı.

Çocuklarda merak uyandıracak kelimelerle 1 hafta boyunca arama yapıldı ve şirketlerin arama ve izlenme geçmişine nasıl tepki verdiği ve algoritmaların ne tür içerikleri öne çıkardığı incelendi.

Araştırmada, sosyal medyada uzun süre geçirmesine izin verilen çocukların sürekli şiddet ve yetişkin içeriğine maruz kalma riski bulunduğu ve dijital bağımlılığa kapı aralandığı saptandı.

Uygulamaların hiçbir filtreleme yapmadığı, aksine bu içerikleri sürekli olarak keşfet sekmesinde gösterdiği tespit edildi.

Deneyin ilk aşamasında Instagram’da geçirilen süre boyunca algoritmanın yönlendirmesi dikkati çekti. Başlangıçta nötr ve genel içeriklerle karşılaşılırken, kısa süre içinde ana akışın şiddet görüntüleri ve çocuklara uygun olmayan içeriklerle dolduğu gözlemlendi.

Özellikle sokak kavgaları, kontrolsüz şiddet sahneleri ve rahatsız edici videoların öneri sisteminde öne çıktığı görüldü.

Öte yandan, X gibi uygulamalarda çocukların yetişkin gruplarına üye olabilmesi ve mesajlaşabilmesi, pedofili ve siber zorbalığa da davetiye çıkarıyor.

- X'te çocuklar için sınır yok

En dikkat çekici bulgular X platformunda elde edildi. Yeni açılmış ve çocuk profili olarak ayarlanmış bir hesapla, herhangi bir yaş doğrulaması ya da ek güvenlik kontrolüyle karşılaşmadan yetişkin içeriklere erişim sağlanabildi. Bununla birlikte söz konusu içeriklerin yer aldığı topluluklara katılımın da herhangi bir engelle karşılaşmadan mümkün olduğu tespit edildi.

Deney kapsamında oluşturulan 14 yaşındaki kullanıcı profiliyle, yetişkinlere yönelik içeriklerin paylaşıldığı gruplara üyelik sağlanabildiği, bu gruplar üzerinden doğrudan mesaj ve video gönderiminin açık olduğu görüldü. Bu durum çocukların yalnızca içerik tüketicisi değil, aynı zamanda doğrudan iletişime açık hedefler haline gelebildiğini ortaya koydu.

X'in üyelik aşamasında verdiği, X, öneri sistemine potansiyel olarak zararlı olan belirli içerik kategorilerinin dahil edilmesini engelleyerek sisteme kısıtlamalar uygular. X, rızaya dayalı olarak üretilen ve paylaşılan yetişkin pornografisi de dahil olmak üzere belirli türdeki hassas medyaya izin verse de reşit olmadığı bilinen kişilerin bu tür medyaya erişimini engeller. taahhüdüne açık şekilde uymadığı görüldü.

YouTube’da ise öneri algoritmasının izleme alışkanlıklarına bağlı olarak kısa sürede yön değiştirdiği, başlangıçta masum içeriklerle karşılaşılırken zamanla daha sert ve rahatsız edici içeriklerin önerildiği gözlemlendi. Dizi ve filmlerdeki şiddet içeriklerinin yanı sıra 18 yaş üstü görüntülerin olduğu bölümlerde 14 yaşındaki kullanıcının herhangi bir kısıtlama olmadan erişmesine olanak sağlandı.

Bulgular, sosyal medya platformlarında algoritmaların yaş bilgisinden ziyade kullanıcı etkileşimini öncelediğini ortaya koydu. Kullanıcının izlediği, beğendiği ya da tıkladığı içeriklere göre şekillenen öneri sisteminin, kısa sürede daha uç ve dikkat çekici içeriklere yönlendirdiği belirlendi.

Çalışma, çocukların sosyal medya ortamında yalnızca içeriklere maruz kalmakla kalmadığını, aynı zamanda denetimsiz etkileşim alanlarının da parçası haline gelebildiğini gösterdi. Buna göre, çocuk kullanıcıların dijital ortamda karşılaştığı risklerin, görünenden daha geniş ve kontrol edilmesi zor bir yapıya sahip olduğu değerlendirildi.