Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı
Tehlikeli tavsiyeler veren chatbot’u devre d... Resmi bir sosyal medya gönderisine göre, ABD Ulusal Yeme Bozukluğu Derneği (NEDA), Tessa chatbot’unu “programla ilgisi olmayan ve zararlı bilgiler vermiş olabileceği” gerekçesiyle kaldırmak zorunda kaldı.
Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı.
Basitçe söylemek gerekirse, AI sohbet robotu, duygusal sıkıntılarla uğraşan insanlara yardım etmeyi amaçlıyordu ancak yardım yerine diyet önerileri sunarak ve kullanıcıları kendilerini tartmaya ve ölçmeye teşvik ederek işleri daha da kötüleştirdi.
Yeme bozuklukları alanındaki çok sayıda kullanıcı ve uzman, botun “Vücudumdan nefret ediyorum” gibi basit uyarılara yanıt vermediğini ve sürekli olarak diyet yapmanın ve fiziksel aktiviteyi artırmanın önemini vurguladığını iddia ederek sorunları ilk elden deneyimledi. Ancak bu bir kilo verme destek grubu değil, yeme bozukluğu olanlar için bir yardım hattıydı.
Organizasyon, bunun, sohbet robotunun Dr. Öz’den bir randevu alınması gibi tehlikeli bilgiler vermesine yol açan “hatalar” ve “tetikleyiciler” düzeltilene kadar geçici bir kapatma olduğunu söylüyor. Böylesine aşırı bir sonuçla, projeyi tamamen çöpe atmayı düşünürdünüz ancak hikayenin arka planında daha fazlası var gibi görünüyor.
Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı
NEDA’nın en başta chatbot’a güvenmesinin tüm nedeni, başlangıçta, çalışanları sendikalaşmaya çalışmalarından sonra kovduğu iddiasıydı. Uzun süredir hizmet veren telefon yardım hattında hem ücretli personel hem de gönüllüler vardı ve eski personel toplu işten çıkarmanın sendika yanlısı çabaların doğrudan bir sonucu olduğunu iddia ediyor.
NEDA, bunun uzun zamandır beklenen bir değişiklik olduğunu ve AI’nın yeme bozukluğu olanlara daha iyi hizmet edebileceğini iddia ediyor. Ancak buna aldanmayın zira bu gerçekten bir sohbet robotuyla ilgili değil. Bu sorun herkesin dikkatini çekmeden önce NEDA, gönüllüleri hastalarla bire bir görüşmelerden uzaklaştırıp sohbet robotlarını eğitmeye yönlendiriyordu. Bunun değişip değişmeyeceğini göreceğiz. Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı.
"Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı" haberi, 05 Haziran 2023 tarihinde yazılmıştır. 05 Haziran 2023 tarihinde de güncellenmiştir. Teknoloji kategorisi altında bulunan Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı haberi 2023 yılına aittir. Bu haberin yanı sıra sayfamızda birçok güncel bilgi ve son dakika haberler yer almaktadır. Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı 2024 konusundaki bu haber içeriği objektif bakış açısının yansımasıdır. Teknoloji konusunda 29 Mart 2024 tarihlidir, bugüne ait güncel gelişmelerden haberdar olmak için bizi Twitter ve Facebook sayfalarımızdan takip edin.
YORUM YAZ
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.