ANKARA - BHA - Yapay zeka sohbet robotu ChatGPT'nin bazı kullanıcılar tarafından aşırı duygusal ve destekleyici davranışlar sergilediği yönünde geri bildirimler alınması üzerine, geliştirici şirket OpenAI harekete geçti. Yapılan incelemelerde, bazı durumlarda yapay zekanın uygunsuz önerilerde bulunduğu, yanıltıcı bilgiler verdiği ve hatta kendine zarar verme eğiliminde olan kullanıcılara tehlikeli talimatlar verebildiği tespit edildi.
ChatGPT'nin Yoğun Kullanımının Potansiyel Riskleri
MIT ve OpenAI işbirliğiyle gerçekleştirilen bir araştırma, ChatGPT'yi uzun süre ve yoğun bir şekilde kullanan bireylerin sosyal ve zihinsel sağlıklarında olumsuz etkiler görülebileceğini ortaya koydu. The New York Times'ın aktardığı bu bulgular, özellikle yapay zekayı duygusal destek veya terapi aracı olarak kullananlar için önemli uyarılar içeriyor.
Bu gelişmeler ışığında OpenAI, ChatGPT'nin davranışlarını daha kontrollü hale getirmek amacıyla bir dizi önlem aldı. Artık yapay zeka, uzun süren duygusal konuşmalarda kullanıcılara ara vermeyi önerecek ve duygusal bağımlılığı teşvik edebilecek yanıtlardan kaçınacak. Ayrıca, çocukların kendine zarar verme eğiliminde olduğunu gösteren ifadelerin tespit edilmesi halinde ebeveynlere bildirimde bulunulacak ve yaş doğrulama sistemleri üzerinde çalışmalar yürütülüyor.
Daha Mesafeli Bir İletişim Tarzı Benimsendi
Yapılan güncellemelerle birlikte ChatGPT'nin yanıtlarının daha ölçülü, mesafeli ve duygusal yoğunluğu azaltılmış bir tonda olması bekleniyor. OpenAI, bu yaklaşımın özellikle hassas durumdaki kullanıcıları korumak amacıyla benimsenen bilinçli bir strateji olduğunu vurguluyor.
Digital Trends'e göre, bu revizyonun temel amacı, yapay zekanın yanlış yönlendirmelere neden olabilecek doğrulayıcı davranışlarını en aza indirmek. Geçmişte tehlikeli yönlendirmelerle ilişkili olduğu iddia edilen beş ölüm vakasının devam eden soruşturmaları da güvenlik önlemlerini artırma yönündeki baskıyı artırdı. Şirket, yeni GPT-5 modelinin ise gelişmiş güvenlik katmanları, daha iyi risk tespiti ve duruma özgü ayrıştırılmış yanıtlar sunacağını belirtiyor.
Güvenli Kullanım Ortamının Sağlanması Amaçlanıyor
OpenAI, bu kapsamlı güvenlik düzenlemesinin amacının, yapay zekanın sağladığı faydalar ile kullanıcı güvenliği arasında daha sağlam bir denge kurmak olduğunu belirtiyor. Şirket, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi hedeflediklerinin altını çiziyor.
Ayrıca şirket, bazı kullanıcıların ChatGPT'ye karşı romantik hisler beslediğini ve bu duygusal bağın gerçek insan ilişkilerinin yerini almaya başladığını gösteren örneklerin bulunduğunu da hatırlatarak, bu durumun potansiyel risklerine dikkat çekiyor.
Çay'a Müjde: Doktor Özbay ile Sağlıkta Yeni Dönem Başladı
Türkiye'nin COP31 Ev Sahipliği: İklim Mücadelesinde Tarihi Rol
Artvin'de Vefa: Vali Ergün'den Emekli Öğretmen Sevim'e Anlamlı Ziyaret
Atatürk'ün Kırıkkale'si: Milli Mücadele İzleri ve Kuruluş Hikayesi
Erdoğan'dan Eğitimcilere Minnet: Şehit Öğretmenler Anıldı, Atama Müjdesi
Yorumlar (0)