iahaber Dış Haberler

Sosyal medya platformları Meta ve TikTok, kullanıcı etkileşimini artırmak amacıyla daha fazla zararlı içeriğin görünmesine izin verdikleri yönünde iddialarla gündeme geldi. BBC’ye konuşan farklı kaynaklar, bu şirketlerin algoritmalarının öfke ve tartışma yaratan içerikleri öne çıkardığını gösteren iç araştırmalara rağmen, bu yönde kararlar aldıklarını ifade etti.

BBC tarafından hazırlanan “Inside the Rage Machine” belgeselinde, bir düzineden fazla ihbarcı, sosyal medya devlerinin kullanıcı dikkatini kazanmak için şiddet, cinsel şantaj ve terör gibi riskli konularda güvenliği göz ardı ettiğini belirtti.

Meta’da çalışan bir mühendis, üst yönetimin kendilerine kullanıcı akışlarında daha fazla “sınırda zararlı içerik” göstermeleri için talimat verdiğini aktardı. Bu içerikler arasında mizojini, komplo teorileri ve ayrımcı paylaşımlar yer alıyor.

BBC’ye konuşan mühendis, bu kararın arkasında TikTok ile rekabetin yattığını vurgulayarak, “Bize bu durumun sebebinin şirketin hisse fiyatının düşmesi olduğu söylendi,” dedi.

TikTok’ta “politik ilişkiler öncelikli” iddiası

TikTok’taki bir güvenlik ekibi üyesi, BBC’ye şirketin kullanıcı şikayetlerini takip ettiği dahili panelleri gösterdi. İhbarcı, bazı durumlarda politikacılarla ilgili şikayetlerin, çocuklara zarar veren içeriklere dair raporların önüne geçtiğini öne sürdü.

TikTok çalışanı, bunun nedeninin platformun siyasi figürlerle iyi ilişkiler kurarak olası düzenlemeleri veya yasakları önlemeye çalışmak olduğunu savundu.

“TikTok’un yükselişi sektörü değiştirdi”

İhbarcılar, sosyal medya sektöründeki bu yaklaşımın özellikle TikTok’un kısa video öneri algoritmasıyla hızlı bir şekilde büyümesinden sonra ortaya çıktığını belirtti. TikTok’un yüksek etkileşim sağlayan algoritması, sosyal medya dengesini değiştirdi ve diğer platformlar kullanıcıların dikkatini çekmek için yeni yöntemler arayışına girdi.

Instagram Reels güvenlik önlemleri olmadan mı çıktı?

Meta’da kıdemli araştırmacı olarak görev yapan Matt Motyl, TikTok’a rakip olarak geliştirilen Instagram Reels’in 2020 yılında yeterli güvenlik önlemleri olmaksızın piyasaya sürüldüğünü iddia etti. Şirket içi araştırmalara göre, Reels paylaşımlarındaki yorumlarda zorbalık ve taciz oranı yüzde 75, nefret söylemi yüzde 19 ve şiddet veya şiddete teşvik içeriği yüzde 7 daha fazla görülüyor.

Motyl, Meta’nın Reels’i büyütmek için 700 kişilik bir ekip kurduğunu, ancak çocuk güvenliği ve seçim güvenliği için talep edilen küçük ekiplerin reddedildiğini dile getirdi.

Facebook algoritmasının kâr önceliği

BBC’ye sunulan başka bir şirket içi araştırma, Facebook algoritmasının “kullanıcıların iyiliği pahasına içerik üreticileri için kârı maksimize eden bir yol sunduğunu” ortaya koydu.

Meta, BBC’ye yaptığı açıklamada zararlı içeriklerin bilerek öne çıkarıldığı iddialarının yanlış olduğunu belirtti. TikTok ise bu iddiaların “uydurma” olduğunu ifade ederek, zararlı içeriklerin önüne geçmek için teknolojilere yatırım yaptıklarını açıkladı.

Algoritma “kara kutu”

TikTok’ta 2020-2024 yılları arasında öneri algoritması üzerinde çalışan makine öğrenimi mühendisi Ruofan Ding, algoritmaların dışarıdan incelenmesinin oldukça zor olduğunu ifade etti. Ding, mühendislerin çoğu zaman içerik türüne göre değil, sadece veriye odaklandığını belirtti ve “Bizim için içerikler sadece bir kimlik numarası” dedi.

Zararlı içeriklerin kaldırılmasının güvenlik ekiplerinin sorumluluğunda olduğunu vurgulayan Ding, farklı ekiplerin birlikte çalıştığını ve bu sürecin karmaşık olduğunu aktardı.

Algoritmalar gençleri etkileyebiliyor, terör ve aşırı içerik normalleşiyor

BBC’ye konuşan bazı genç kullanıcılar, istemeseler bile platformlarda şiddet veya nefret içeriklerinin karşılarına çıkmaya devam ettiğini anlattı. 19 yaşındaki Calum, algoritmalar tarafından önerilen içeriklerin onu ırkçı ve kadın düşmanı görüşlere yönlendirdiğini ifade etti.

İngiltere’de sosyal medya paylaşımlarını inceleyen terörle mücadele polisleri, son dönemde antisemitik, ırkçı ve aşırı sağ içeriklerin normalleştiğini belirtti.

TikTok çalışanından ebeveynlere çağrı

BBC’ye konuşan ve kimliği gizli tutulan bir TikTok güvenlik ekibi çalışanı, platformda incelenen şikayetlerin sayısının ekiplerin kapasitesini aştığını söyledi. Moderasyon ekiplerindeki bazı kesintilerin ve yapay zekâya geçiş planlarının içerik denetimini zorlaştırdığını ifade etti.

“TikTok’u silin. Çocuklarınızı mümkün olduğunca uzun süre uygulamadan uzak tutun,” dedi.

TikTok ise genç kullanıcılar için 50’den fazla güvenlik ayarı ve koruma özelliği sunduğunu açıkladı.

Rekabet güvenliğin önüne mi geçti?

Meta’nın eski araştırmacısı Motyl, sosyal medya şirketleri için en önemli hedefin kullanıcıların platformda geçirdiği süre olduğunu belirtti. “Platformda ne kadar uzun kalırsanız, o kadar çok reklam satılır ve şirket o kadar para kazanır,” şeklinde konuştu.

BBC’nin incelediği şirket içi araştırmalar, kullanıcıların ahlaki değerlerine dokunan veya öfke yaratan içeriklerin daha fazla etkileşim aldığını ortaya koydu.