Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı

Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı

Tehlikeli tavsiyeler veren chatbot’u devre d... Resmi bir sosyal medya gönderisine göre, ABD Ulusal Yeme Bozukluğu Derneği (NEDA), Tessa chatbot’unu “programla ilgisi olmayan ve zararlı bilgiler vermiş olabileceği” gerekçesiyle kaldırmak zorunda kaldı.

Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı.

Basitçe söylemek gerekirse, AI sohbet robotu, duygusal sıkıntılarla uğraşan insanlara yardım etmeyi amaçlıyordu ancak yardım yerine diyet önerileri sunarak ve kullanıcıları kendilerini tartmaya ve ölçmeye teşvik ederek işleri daha da kötüleştirdi.

yapay zeka borsa

Yeme bozuklukları alanındaki çok sayıda kullanıcı ve uzman, botun “Vücudumdan nefret ediyorum” gibi basit uyarılara yanıt vermediğini ve sürekli olarak diyet yapmanın ve fiziksel aktiviteyi artırmanın önemini vurguladığını iddia ederek sorunları ilk elden deneyimledi. Ancak bu bir kilo verme destek grubu değil, yeme bozukluğu olanlar için bir yardım hattıydı.

Organizasyon, bunun, sohbet robotunun Dr. Öz’den bir randevu alınması gibi tehlikeli bilgiler vermesine yol açan “hatalar” ve “tetikleyiciler” düzeltilene kadar geçici bir kapatma olduğunu söylüyor. Böylesine aşırı bir sonuçla, projeyi tamamen çöpe atmayı düşünürdünüz ancak hikayenin arka planında daha fazlası var gibi görünüyor.

ChatGPT-5

Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı

NEDA’nın en başta chatbot’a güvenmesinin tüm nedeni, başlangıçta, çalışanları sendikalaşmaya çalışmalarından sonra kovduğu iddiasıydı. Uzun süredir hizmet veren telefon yardım hattında hem ücretli personel hem de gönüllüler vardı ve eski personel toplu işten çıkarmanın sendika yanlısı çabaların doğrudan bir sonucu olduğunu iddia ediyor.

microsoft

NEDA, bunun uzun zamandır beklenen bir değişiklik olduğunu ve AI’nın yeme bozukluğu olanlara daha iyi hizmet edebileceğini iddia ediyor. Ancak buna aldanmayın zira bu gerçekten bir sohbet robotuyla ilgili değil. Bu sorun herkesin dikkatini çekmeden önce NEDA, gönüllüleri hastalarla bire bir görüşmelerden uzaklaştırıp sohbet robotlarını eğitmeye yönlendiriyordu. Bunun değişip değişmeyeceğini göreceğiz. Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı.

"Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı" haberi, 05 Haziran 2023 tarihinde yazılmıştır. 05 Haziran 2023 tarihinde de güncellenmiştir. Teknoloji kategorisi altında bulunan Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı haberi 2023 yılına aittir. Bu haberin yanı sıra sayfamızda birçok güncel bilgi ve son dakika haberler yer almaktadır. Tehlikeli tavsiyeler veren chatbot’u devre dışı bıraktı 2024 konusundaki bu haber içeriği objektif bakış açısının yansımasıdır. Teknoloji konusunda 29 Mart 2024 tarihlidir, bugüne ait güncel gelişmelerden haberdar olmak için bizi Twitter ve Facebook sayfalarımızdan takip edin.

Ecevit Bıktım Teknoloji Editörü

YORUM YAZ

UYARI: Küfür, hakaret, rencide edici cümleler veya imalar, inançlara saldırı içeren, imla kuralları ile yazılmamış,
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.
SON HABERLER
  1. 08:06 Fehmi Koru yazdı: Cumartesi akşamı seçim yasakları başlayacak, fakat şapkadan tavşan hala çıkacak
  2. 08:03 İsmail Saymaz: İmamoğlu, AK Parti’nin anketinde 5.3 puan önde
  3. 08:01 Meteoroloji uyardı: Meteoroloji’den yağış ve toz uyarısı
  4. 05:24 Instagram'a yeni özellik: Blend ile Reels algoritması değişiyor!
  5. 05:14 Ev sahipleri için 1 Nisan son gün: Kira gelirlerinizi bildirin!
  6. 04:18 2024 YDS-1 sonuç tarihi ne zaman?
  7. 04:03 Şarkı Sözlerindeki Evrim: 1980'den 2020'ye İngilizce Müziğin Dönüşümü
  8. 01:19 Yavaş, Altınok'a Cumhuriyet Kulesi'ni sordu
  9. 01:18 Yavaş’tan Altınok’a çağrı: "Çocuklarınızın KPSS’de kaç puan aldıklarını bir açıklayın"
  10. 00:35 Korkunç kaza: 45 kişi hayatını kaybetti
  11. 00:28 Oy Kullanmayanlara 31 Mart'ta 475 TL Para Cezası Geliyor!
  12. 00:19 YSK duyurdu: “Oy sayımında iftar molası olmayacak”
  13. 00:13 Fed, faiz indirmek için aceleye gerek olmadığını belirtti
  14. 00:13 Bakan Vedat Işıkhan'dan Emeklilere Maaş Açıklaması Geldi!
  15. 00:05 Lahana: Faydaları ve zararları hazırlama yöntemine göre değişiyor!
  16. 00:04 250 Bin TL'ye yatırım yapın, maaşınız iki katına çıksın!
  17. 00:03 Endişe verici artış: Gençlerde kolon kanseri vakaları patlıyor!
  18. 00:03 Dikkat! Gelir Vergisi Beyanname Süresi Değişti!
  19. 00:03 Erdoğan'dan seçmene çağrı: Sandıklar namusumuza emanet
  20. 00:03 Ekrem İmamoğlu, 14. Kent Lokantası'nın açılışını gerçekleştirdi: "Cumhurbaşkanı bile gelebilir"
Teknoloji Haberleri