Yapay zeka araçlarında çocuk güvenliği tartışması
Yapay zekanın gençlerin psikolojik krizlerini tespit etmedeki yetersizlikleri ve güvenlik açıkları, iki ayrı bilimsel çalışmayla gündeme geldi. Uzmanlar, aileleri çocukların yapay zeka kullanımına karşı uyardı.
Yapay zeka teknolojilerinin çocuklar ve ergenler üzerindeki psikolojik etkileri, yayımlanan iki yeni çalışma ile mercek altına alındı. Araştırmalar, yapay zeka sohbet robotlarının gençlerin intihar riskini veya ciddi psikolojik sıkıntılarını her zaman doğru analiz edemediğini ve gerekli profesyonel desteğe yönlendirmede yetersiz kaldığını ortaya koydu. Uzmanlar, yapay zekanın bir terapist veya yakın arkadaş yerine konulmasının yarattığı tehlikelere dikkat çekerek aileleri bilgilendirdi.
Marketingturkiye'de yayınlanan habere göre, Common Sense Media bünyesindeki Gençlik Yapay Zeka Güvenliği Enstitüsü tarafından 7 Ekim 2026'da açıklanan veriler, ChatGPT'nin genç kullanıcılar için ciddi güvenlik eksiklikleri barındırdığını gösterdi. 4 binden fazla test komutuyla yapılan incelemede, ebeveyn bildirim sisteminin işlevsiz kaldığı tespit edildi. Test profillerinde bir saate varan riskli konuşmalara rağmen ebeveynlere herhangi bir uyarı gönderilmedi. Ayrıca yapay zeka, kriz anlarında profesyonel yardım kaynaklarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında bu yönlendirmeyi sağlayamadı. Bu bulgular üzerine araç, araştırmacılar tarafından "Kabul Edilemez Risk" kategorisinde değerlendirildi.
Bir diğer çalışma ise 1 Ağustos 2026'da npj Digital Medicine dergisinde yayımlandı. Kelly L. Zuromski ve ekibinin hazırladığı incelemede, yapay zekanın açıkça ifade edilen intihar düşüncelerini algılamada başarılı olsa da, gençlerin dolaylı veya belirsiz ifadelerle dile getirdiği ruhsal sorunları anlamakta zorlandığı belirtildi. Sistemlerin, farklı konuşmalara yayılan umutsuzluk ve yalnızlık belirtilerini ilişkilendirememesinin, gençlerin profesyonel yardım almasını geciktirebileceği vurgulandı. Yapay zekanın empatik yanıtlarının gençlerde aşırı duygusal bağ kurma ve gerçek sosyal ilişkilerden uzaklaşma riski oluşturduğu da ifade edildi.
OpenAI, söz konusu eleştirilere karşı araştırmanın yöntemine itiraz ederek, ebeveyn kontrollerinin tam etkinleşmediği bazı testlerin gerçeği yansıtmadığını savundu ve güvenlik sistemlerini geliştirmeye devam ettiklerini açıkladı. Buna karşın Common Sense Media, güvenlik açıkları giderilene kadar ChatGPT kullanımının 18 yaş ve üzerine sınırlandırılması çağrısında bulundu. Uzmanlar, yapay zekanın intihara doğrudan neden olduğuna dair kesin bir kanıt olmasa da, gençlerin ruhsal kriz yönetiminde bu araçlara tek başına güvenilmesinin ciddi sakıncalar taşıdığını ve aile gözetiminin önemini bir kez daha hatırlattı.
TürkAta Haber Ajansı