Dijital platformların kullanıcı deneyimini iyileştirmek, etkileşimi artırmak ya da algoritmik güvenlik mekanizmalarını test etmek amacıyla yürüttüğü deneyler, teknoloji dünyasında uzun süredir bilinen bir uygulama. Ancak yakın zamanda sızdırılan şirket içi belgeler ve kamuoyuna yansıyan vakalar, bu deneylerin sınırlarının etik ilkelerin çok ötesine taşındığını ve doğrudan insan hayatını tehdit eden bir boyuta ulaştığını gözler önüne seriyor.

TikTok’un belirli bir kullanıcı grubunda güvenlik filtrelerini tamamen kaldırarak gerçekleştirdiği gizli deney ve bu sürecin yıkıcı çıktıları, dijital platformların denetimsiz gücünü ve algoritmik yönetim anlayışının etik sorumluluklarını yeniden tartışmaya açıyor.

Deneyin Kapsamı: Filtresiz Bir Algoritma Laboratuvarı

Sızdırılan iç yazışmalara ve raporlara göre TikTok, platformun güvenlik filtrelerinin etkinliğini ve kullanıcı davranışlarını ölçmek amacıyla seçilen bir kullanıcı grubunu (kullanıcı kitlesinin yaklaşık %10’u ile %1’i arasında değişen bir oran) adeta bir laboratuvar deneyi grubuna dönüştürdü.

Bu deney kapsamında:

• Güvenlik Filtreleri Kaldırıldı: İntihar, şiddet, taciz, kişisel zararlar ve rahatsız edici içeriklerin engellenmesini sağlayan standart algoritmik süzgeçler devre dışı bırakıldı.

• Yoğun Maruziyet Oluşturuldu: Kullanıcılara, arama yapmasalar dahi akış algoritmaları üzerinden doğrudan güvenlik ihlali barındıran içerikler servis edildi.

Ağır Bilanço: Bir Gencin Yaşamı ve Algoritmik Tetikleme

Deneyin en trajik çıktısı, bilinen hiçbir psikolojik geçmişi veya intihar eğilimi bulunmayan genç bir kullanıcının hayatını kaybetmesi oldu.

Yaklaşık iki haftalık süre zarfında 7.000’den fazla videoyu kaydıran gencin akışına, tespit edilen oranlara göre %80 civarında intihar ve kendine zarar verme temalı içeriklerin düştüğü belirlendi. Zaten doğası gereği yüksek bağımlılık yapıcı bir yapıya sahip olan “akış” (feed) mekanizması, filtrelerin kaldırılmasıyla birleştiğinde gencin zihinsel sağlığı üzerinde yıkıcı bir etki yarattı ve süreç acı bir intihar vakasıyla sonuçlandı.

Deneyin Gösterdiği Temel Çıktılar ve Etik Sorunlar

Bu vaka ve sonrasındaki süreç, sosyal medya devlerinin çalışma prensiplerine dair çok sayıda kritik noktayı gözler önüne serdi:

1. Etik Onay ve Onam Eksikliği

Tıbbi, psikolojik veya sosyolojik araştırmalarda katılımcıların bilgilendirilmiş onayı (informed consent) zorunluyken; teknoloji şirketlerinin milyonlarca insanı haberleri olmadan psikolojik riskler barındıran deneylere dahil etmesi büyük bir etik ihlaldir.

2. Kurumsal Şeffaflık Yetersizliği ve Bilgi Gizleme

Vakanın hemen ardından şirket içi AR-GE ve güvenlik ekiplerinin olayı raporlamasına karşın, bu bilginin kamuoyundan, Senato incelemelerinden ve denetleyici kurumlardan gizlendiği iç yazışmalarla ortaya kondu.

3. Ekran Bağımlılığı ve Algoritmik Manipülasyon

Psikolojide ve medyada bilinen “Werther Etkisi” (kopya intiharlar/şiddet vakalarının tetiklenmesi), sosyal medyanın kişiselleştirilmiş algoritmalarıyla birleştiğinde katlanarak büyümektedir. Kullanıcının dikkattini platformda tutmak üzerine kurgulanan tavsiye sistemleri, filtresiz kaldığında en hassas bireyleri dahi yıkıcı bir psikolojik spiralin içine çekebilmektedir.

Sonuç: Şeffaflık ve Bağlayıcı Regülasyon İhtiyacı

TikTok’un yürüttüğü bu deney, sosyal medya platformlarının kapalı kapılar arkasında çalışan algoritmalarının ve araştırma modellerinin toplum sağlığı üzerinde nasıl doğrudan bir risk oluşturabileceğinin somut bir kanıtıdır.

Gerek Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) gibi yasal düzenlemeleri gerekse ulusal düzeydeki bağımsız denetim mekanizmaları, sosyal medya şirketlerinin algoritma kodlarını, deney protokollerini ve içerik filtreleme süreçlerini şeffaf bir şekilde kamu denetimine açmasını zorunlu kılmalıdır. Aksi halde, etkileşim ve veri toplama uğruna yürütülen kontrolsüz “dijital deneyler”, insan hayatına mal olmaya devam edecektir.