OpenAI, ChatGPT’nin duygusal etkileşimini sınırlayan güvenlik güncellemesi yaptı – Birlik Haber Ajansı

ANKARA – BHA

Bazı kullanıcıların, ChatGPT’nin empatik bir arkadaş gibi davranarak aşırı duygusal ve övgü dolu konuşmalar yaptığına dair geri bildirimlerde bulunduğu belirtildi. Ayrıca, bazı uç örneklerde yapay zekanın sakıncalı öneriler sunduğu, zarar verici doğrulamalar yaptığı, gerçeklik dışı ifadeler kullandığı ve hatta kendine zarar verme yönünde tehlikeli talimatlar verebildiği aktarıldı.

Yoğun kullanım riskleri ortaya kondu

The New York Times’ın aktardığı, MIT ve OpenAI ortaklığında yapılan araştırma, ChatGPT’yi uzun süre yoğun biçimde kullanan bazı kişilerin sosyal ve zihinsel açıdan olumsuz etkiler yaşadığını ortaya koydu. Bu bulgular özellikle yapay zekayı duygusal destek veya terapi amacıyla kullananlar için önemli uyarılar içeriyor.

OpenAI, bu doğrultuda ChatGPT’nin davranışlarını daha kontrollü ve temkinli hale getirdi. Yapay zeka artık uzun duygusal konuşmalarda kullanıcıya mola önerecek, duygusal bağımlılığı teşvik eden yanıtları sınırlayacak. Çocukların kendine zarar verme niyetini yansıtan ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve yaş doğrulama sistemi üzerinde çalışıldığı da duyuruldu.

“Daha mesafeli dil” bilinçli bir tercih

Güncellemeyle birlikte ChatGPT’nin yanıtlarının daha düz, daha mesafeli ve duygusal yoğunluğu azaltılmış olması bekleniyor. OpenAI, bunun özellikle kırılgan kullanıcıları korumak için bilinçli bir strateji olduğunu vurguluyor.

Digital Trends’e göre revizyon, yapay zekanın yanlış yönlendirmeye yol açan doğrulayıcı davranışlarını azaltmayı hedefliyor. Geçmişte tehlikeli yönlendirmelerle bağlantılı beş ölüm davasının sürüyor olması da güvenlik baskısını artırdı. Yeni GPT-5 modeli ise gelişmiş güvenlik katmanları, daha iyi risk tespiti ve durum bazlı ayrıştırılmış yanıtlar barındırıyor.

Amaç: Güvenli kullanımın sağlanması

OpenAI, bu büyük güvenlik düzenlemesinin amacının yapay zekanın faydası ile güvenliği arasında daha sağlam bir denge kurmak olduğunu belirtiyor. Şirket, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi hedeflediklerinin altını çizdi.

Gazze’de can kaybı 69 bin 513’e yükseldi

İçeriği Görüntüle