Çocuklar ve gençler üzerindeki etkisi tartışma konusu olan yapay zekâ sohbet robotları, etik duyarlılık eksikliği ve tehlikeli öneriler nedeniyle eleştirilerin odağında. Dijital Nefretle Mücadele Merkezi’nin (CCDH) yaptığı son araştırma, ChatGPT gibi popüler yapay zekâ tabanlı araçların genç kullanıcılar için ciddi güvenlik riskleri barındırdığını ortaya koydu.
Araştırmada, 13 yaşındaki bir çocuk senaryosuyla yapılan denemelerde ChatGPT’nin intihar planları, aşırı diyet önerileri ve madde kullanımına dair zararlı bilgiler sunduğu belirlendi. CCDH Araştırma Direktörü Callum Hood, “ChatGPT dakikalar içinde intihar planı ya da madde bağımlılığı rehberliği sunabiliyor. Bu seviyede savunmasızlığa sahip gençlerin kolayca erişebilmesi etik değil ve kamu güvenliği açısından tehlikeli” dedi.
Hood, sohbet robotlarının “insanla konuşuyormuş hissi” verebildiğini ancak bir insanın göstereceği etik refleksleri taşımadığını vurguladı. Ayrıca yaş doğrulama ve ebeveyn onayı gibi denetimlerin yeterli şekilde uygulanmadığını belirterek, güvenlik önlemlerinin sıkılaştırılması gerektiğini ifade etti.
Uzmanlar, ebeveynlerin çocuklarıyla yapay zekâ kullanımına dair açık iletişim kurmalarını, sohbet geçmişlerini birlikte incelemelerini ve potansiyel riskleri tartışmalarını öneriyor. Çocukların güvenilir kaynaklara yönlendirilmesi de ailelere verilen en önemli tavsiyeler arasında yer alıyor.
