OpenAI, ChatGPT’nin kullanıcılarla kurduğu duygusal bağın tehlikeli seviyelere ulaşabileceğine dair bulguların ardından kapsamlı bir güvenlik güncellemesi yaptı. Şirket, son dönemdeki güncellemelerin yapay zekayı “aşırı duygusal, övgü dolu ve bağımlılık oluşturan” bir yapıya sürüklediğini tespit etti. Bazı kullanıcıların ChatGPT’den empatik bir arkadaş havasında yanıtlar aldığı, uzun duygusal konuşmalarda aşırı övgü ve yoğun duygusal ifadelerin görüldüğü belirtildi.
MIT ve OpenAI’nin ortak araştırmasına göre, chatbot’u uzun süre yoğun şekilde kullanan bazı kişilerin sosyal ve zihinsel açıdan olumsuz etkiler yaşadığı ortaya konuldu. Bu durum özellikle ChatGPT’yi duygusal destek veya terapi amaçlı kullananlar için risk oluşturuyor.
Yeni düzenlemelerle birlikte ChatGPT artık duygusal bağımlılığı teşvik eden davranışları sınırlandıracak; uzun duygusal sohbetlerde mola önermek gibi önleyici tepkiler verecek. Çocuklarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse ebeveyn uyarısı üzerinde çalışıldığı, ayrıca yaş doğrulama sisteminin geliştirildiği ifade edildi.
OpenAI, güncellemeler sonrası ChatGPT’nin daha mesafeli ve daha kontrollü bir dil kullanacağını, bunun kırılgan kullanıcıları korumak için bilinçli bir tercih olduğunu belirtti. Yeni GPT-5 modelinin gelişmiş risk tespiti, daha güçlü güvenlik katmanları ve durum odaklı yanıtlar içerdiği kaydedildi.
Bu büyük güvenlik revizyonu, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi amaçlıyor. OpenAI, bazı kullanıcıların ChatGPT’ye aşık olduklarını ve bu duygusal bağı gerçek ilişkilerin yerine koyduklarını gösteren vakalara da dikkat çekiyor.
