Yapay zekânın çocuklar ve gençler üzerindeki etkileri üzerine gerçekleştirilen iki ayrı araştırma, endişe verici bulgular ortaya koydu. Bu çalışmalar, intihar riski, yanlış yönlendirme ve duygusal bağımlılık gibi tehlikelerin altını çizdi.

İSTANBUL (İGFA) – Yapay zekâ uygulamalarının günlük yaşamda artan kullanımı, çocuklar ve ergenlerin ruh sağlığı üzerindeki olumsuz etkilerine dair kaygıları pekiştiriyor.

Common Sense Media ve npj Digital Medicine dergisinde yayımlanan araştırmalar, yapay zekâ tabanlı sohbet robotlarının gençlerin ruhsal krizlerini her zaman doğru bir şekilde algılayamadığını gözler önüne serdi.

BİR SAATLİK RİSKLİ KONUŞMADA EBEVEYN UYARISI GİTMEDİ

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından yapılan çalışmada, ChatGPT’nin 13-17 yaş aralığındaki kullanıcılar için belirlenen güvenlik özellikleri 4 binden fazla test komutuyla değerlendirildi.

Çocuk ve ergen psikiyatristlerinin katkılarıyla hazırlanan senaryolarda, intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi ciddi konular üzerinde duruldu. Araştırmanın en dikkat çeken bulgularından biri, yeni açılan ve ebeveyn hesaplarına bağlı profillerde, bazı riskli konuşmaların bir saate kadar devam etmesine rağmen ebeveynlere herhangi bir güvenlik bildiriminin iletilmemesi oldu.

Araştırma, ChatGPT’nin kriz anlarında profesyonel yardım veya destek hatlarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında beklenen yanıtı vermediğini ortaya koydu. Bu durum, araştırmacılar tarafından gençlere yönelik güvenlik seviyesinin “Kabul Edilemez Risk” olarak değerlendirilmesine yol açtı.

BİLİMSEL İNCELEME: AÇIK İŞARETLER KADAR DOLAYLI SİNYALLER DE KAÇABİLİYOR

npj Digital Medicine dergisinde yayımlanan incelemede ise yapay zekâ sistemlerinin, açıkça ifade edilen intihar düşüncelerini algılamada daha başarılı olduğu; ancak gençlerin sıkça kullandığı dolaylı, belirsiz ya da zamanla belirginleşen ifadeleri anlamakta zorluk çektiği belirtildi.

Araştırmacılar, ergenlerin ruhsal sıkıntılarını çoğu zaman doğrudan değil, dolaylı ve örtük bir şekilde ifade ettiğini; bu nedenle yapay zekânın umutsuzluk, yalnızlık ve çaresizlik gibi duygusal işaretleri doğru bir şekilde ilişkilendirememesinin profesyonel yardıma erişimi geciktirebileceğini vurguladı.

YAPAY ZEKÂYI TERAPİ YERİNE KULLANMAK RİSKLİ

Uzmanlar, gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanmasının önemli bir tehlike oluşturduğunu belirtiyor.

Yapay zekânın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, yalnızlık hissi yaşayan gençlerde “gerçek bir insanla konuşuyormuş” algısını yaratabiliyor. Ancak, bu durum yapay zekânın gerçekten empati kurduğu ya da profesyonel yardım sunabileceği anlamına gelmiyor.

Common Sense Media testlerinde, ChatGPT’nin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış gibi yanıtlar verdiği kaydedildi. Bu da gençlerin yapay zekâ ile aşırı duygusal bağ kurma riskini artırıyor.

GÜVENLİK FİLTRELERİ HER ZAMAN YETERLİ DEĞİL

Araştırmada, yaş tahmini sisteminin bazı yetişkin hesaplarını genç koruma moduna geçirmediği; eğitim amaçlı geliştirilen bazı koruma mekanizmalarının ise kolayca aşılabildiği tespit edildi. Ancak, açık cinsel içerikli rol yapma taleplerinin reddedilmesi gibi bazı güvenlik önlemlerinin etkili olduğu belirtildi.

OpenAI, araştırmanın metodolojisine itiraz ederek, ebeveyn kontrolleri tam etkinleşmeden yapılan testlerin sonuçları etkileyebileceğini savundu ve genç güvenliği için koruma sistemlerini geliştirmeye devam ettiklerini açıkladı.

Common Sense Media, güvenlik açıkları bağımsız testlerle doğrulanıp giderilene kadar ChatGPT kullanımının 18 yaş ve üzeriyle sınırlı tutulması çağrısında bulundu.

Bilimsel incelemede, gençlerin yapay zekâ ile gerçek hayatta kurduğu etkileşimlerin intihar riski üzerindeki etkisinin henüz yeterince anlaşılamadığını; bu nedenle gençlere özel güvenlik testlerinin ve güvenilir yetişkin desteğinin güçlendirilmesi gerektiği vurgulandı.

PROF. DR. NEVZAT TARHAN’IN UYARILARI YENİDEN GÜNDEMDE

Yapılan araştırmalar sonrasında, Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan’ın daha önceki uyarıları yeniden gündeme geldi.

Tarhan, yapay zekânın terapist gibi görülmesinin tehlikeli olduğunu belirterek, “Yapay zekâ terapist olamaz ancak terapistin işini kolaylaştırabilir” değerlendirmesinde bulunmuştu. Yapay zekâyı arkadaş veya sırdaş gibi görmenin duygusal bağımlılık riskini artırabileceğini vurgulayan Tarhan, çocukların ve gençlerin yapay zekâ ile yalnız bırakılmaması gerektiğini ifade etti.

Uzmanlar, yapay zekânın intihara doğrudan neden olduğuna dair kesin bir sonuca ulaşılamadığını; ancak ruhsal kriz yaşayan gençlerin yapay zekâya tek başına emanet edilmesinin ciddi sakıncalar taşıdığını dile getiriyor.

Ailelere, öğretmenlere ve sağlık uzmanlarına yönelik ortak mesaj ise açık: Yapay zekâ bir destek aracı olabilir, fakat insan ilişkilerinin ve profesyonel ruh sağlığı desteğinin yerini alamaz.