Yapay zekâ uygulamalarının çocukların ruh sağlığı üzerindeki etkileri endişe verici boyutlara ulaşıyor. Araştırmalar, bu sistemlerin gençlerin kriz durumlarını algılamada yetersiz kaldığını gösteriyor.
Yapay zekâ teknolojilerinin günlük yaşamda daha fazla yer alması, çocuklar ve ergenlerin psikolojik sağlıkları üzerindeki olumsuz etkilerine dair kaygıları artırmaktadır. Common Sense Media ve npj Digital Medicine dergisinde yayımlanan iki farklı araştırma, yapay zekâ sohbet robotlarının gençlerin ruhsal krizlerini her zaman doğru bir şekilde tespit edemediğini ortaya koymuştur.
Common Sense Media'nın çatısı altında faaliyet gösteren Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından gerçekleştirilen bir çalışmada, ChatGPT'nin 13-17 yaş aralığındaki gençler için sunduğu güvenlik özellikleri 4 binden fazla test komutuyla değerlendirildi. Psikiyatristlerin katkılarıyla oluşturulan senaryolar arasında intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi ciddi konular yer aldı. Araştırmanın en çarpıcı bulgularından biri, yeni açılan ve ebeveyn hesaplarına bağlı olan profillerde, bazı riskli konuşmaların bir saat boyunca devam etmesine rağmen ebeveynlere herhangi bir güvenlik bildirimi yapılmaması oldu. Çalışmaya göre, ChatGPT, kriz anlarında profesyonel yardım veya destek hatlarına yönlendirilmesi gereken durumların yüzde 25'inden fazlasında beklenen yanıtı veremedi. Bu durum, araştırmacılar tarafından sistemin gençler için güvenlik seviyesinin 'Kabul Edilemez Risk' olarak tanımlanmasına neden oldu.
npj Digital Medicine'de yayımlanan incelemede, yapay zekâ sistemlerinin açıkça ifade edilen intihar düşüncelerini tespit etmede daha başarılı olduğu; ancak gençlerin sıkça kullandığı dolaylı, belirsiz veya zamanla belirginleşen ifadeleri anlamakta zorlandığı ifade edilmiştir. Araştırmacılar, ergenlerin ruhsal sıkıntılarını genellikle doğrudan değil, parçalı ve örtük bir şekilde ifade ettiğini belirterek, yapay zekânın umutsuzluk, yalnızlık ve çaresizlik gibi işaretleri doğru bir şekilde ilişkilendirememesinin profesyonel yardıma erişimi geciktirebileceğine dikkat çekmiştir.
Uzmanlar, gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanmasının en büyük tehlikelerden biri olduğunu vurgulamaktadır. Yapay zekânın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, yalnızlık hissi yaşayan gençlerde 'gerçek bir insanla konuşuyormuş' izlenimi yaratabiliyor. Ancak bu durum, yapay zekânın gerçekten empati kurduğu veya profesyonel yardım sunabildiği anlamına gelmemektedir. Common Sense Media'nın testlerinde, ChatGPT'nin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar verdiği de gözlemlenmiştir. Bu da gençlerin yapay zekâ ile aşırı duygusal bağ kurma riskini artırmaktadır.
Yapılan araştırmada, yaş tahmini sisteminin bazı yetişkin hesaplarını genç koruma moduna geçirmediği ve eğitim amaçlı geliştirilen bazı koruma mekanizmalarının kolayca aşılabildiği tespit edilmiştir. Bununla birlikte, açık cinsel içerikli rol yapma taleplerinin reddedilmesi gibi bazı güvenlik önlemlerinin etkili olduğu belirtilmiştir. OpenAI, araştırmanın yöntemine itiraz ederek, ebeveyn kontrollerinin tam etkinleşmeden yapılan bazı testlerin sonuçlarını etkileyebileceğini savunmuş ve genç güvenliği için koruma sistemlerini geliştirmeye devam ettiklerini açıklamıştır. Common Sense Media, güvenlik açıkları bağımsız testlerle doğrulanıp giderilene kadar ChatGPT kullanımının 18 yaş ve üzeriyle sınırlandırılması gerektiğini belirtmiştir. Bilimsel inceleme ise gençlerin yapay zekâ ile gerçek hayatta kurduğu etkileşimlerin intihar riski üzerindeki etkisinin henüz yeterince bilinmediğini, bu nedenle gençlere özel güvenlik testleri ve güvenilir yetişkin desteğinin güçlendirilmesi gerektiğini vurgulamıştır.
Yapılan araştırmaların ardından, Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan'ın daha önceki uyarıları yeniden gündeme gelmiştir. Tarhan, yapay zekânın terapist gibi görülmesinin riskli olduğunu ifade ederek, 'Yapay zekâ terapist olamaz ama terapistin işini kolaylaştırabilir' değerlendirmesinde bulunmuştur. Yapay zekâyı arkadaş veya sırdaş olarak görmenin duygusal bağımlılık riskini artırabileceğini belirten Tarhan, çocukların ve gençlerin yapay zekâ ile yalnız bırakılmaması gerektiğini vurgulamıştır. Uzmanlar, yapay zekânın intihara doğrudan neden olduğuna dair kesin bir sonuca ulaşılamadığını; ancak ruhsal kriz yaşayan gençlerin yapay zekâya tek başına emanet edilmesinin ciddi sakıncalar taşıdığını ifade etmektedir. Ailelere, öğretmenlere ve sağlık uzmanlarına yönelik ortak mesaj ise açıktır: Yapay zekâ bir destek aracı olabilir, ancak insan ilişkilerinin ve profesyonel ruh sağlığı desteğinin yerini alamaz.
BU HABERE DE BAKYoutube içerik üreticileri sahte iş birlikleriyle dolandırıcılık riskiyle karşı karşıya
