TikTok'un çocukları zararlı içeriklerden korumak için geliştirdiği Kısıtlı Mod özelliğinin yetersiz kaldığı iddia edildi. 14 yaş sınırıyla açılan ve Kısıtlı Mod'un aktif edildiği bir hesapta yapılan incelemede, çocuklara yönelik içerikler izlenmesine rağmen şiddet ve cinsel istismar temalı yapay zeka videolarına ulaşılması dikkat çekti.
TikTok'ta Kısıtlı Modun Etkinliği Sorgulanıyor
The Mail on Sunday tarafından gerçekleştirilen araştırmada, Kısıtlı Mod aktif olan 14 yaşındaki bir hesap incelendi. Hesaba çocuk programları ve benzeri güvenli içerikler izletilmesine rağmen, kısa süre içinde rahatsız edici ve uygunsuz videoların karşısına çıktığı bildirildi. Araştırmada, küfür, silah, uyuşturucu, şiddet, tehdit ve cinsel içeriklere yönelik kısıtlamaların da devrede olduğu belirtildi.
Yapay Zeka ve Animasyon İçeriklerde Filtreleme Açıkları
İddialara göre TikTok'un içerik kurallarındaki bazı boşluklar, gerçekçi şiddet görüntülerini engelleyen sistemlerin animasyon ve yapay zeka üretimi içeriklerde yetersiz kalmasına sebep oluyor. Örnek olarak, bir videoda çizgi karakter şeklindeki bir doktorun estetik operasyon sırasında hastanın yüzüne müdahale ettiği sahneler yer aldı. Başka bir videoda ise bir hırsızın bir kadına saldırıp tehdit ettiği görüntüler yer aldı.
Çocukların Platformda Daha Fazla Kalması Amaçlanıyor
Araştırmada, bazı uygunsuz videoların milyonlarca kez izlendiği ve çocukların platformda daha uzun süre kalmasını sağlamak amacıyla tasarlandığı öne sürüldü. Bu durum, TikTok'un Kısıtlı Mod özelliğinin çocukları zararlı içeriklerden koruma işlevini zayıflattığına işaret ediyor.
Reel AI Uygulaması ve İçerik Üretimi
Çalışmada ayrıca Reel AI isimli yapay zeka uygulamasının kullanıldığı içeriklere de dikkat çekildi. Bu uygulama ile oluşturulan videoların, TikTok'un filtreleme sistemlerinden kaçabildiği ve çocukların karşısına çıktığı bildirildi.
TikTok'un Kısıtlı Mod özelliğinin çocukları koruma konusunda yetersiz kalması, platformun güvenlik politikalarının yeniden gözden geçirilmesi gerektiğini ortaya koyuyor. Gelişmeler takip ediliyor.
