Teknoloji dünyasında büyük şok: Google yapay zekası halüsinasyon yaşadı!
Teknoloji dünyasında büyük şok: Google yapay... Google yapay zekası, yanıtlarında kendi başına uydurma yapabileceği ve gerçeği yansıtmayan bilgiler verebileceği bir "halüsinasyon" durumu yaşadığını kabul etti. Google, bu sorunu çözmek için yeni bir mekanizma geliştirdi.
Chip dergisindeki habere göre, yapay zeka destekli sohbet robotlarının en sık eleştirilen davranışlarından biri, bir soruyu ikna edici bir şekilde yanıtlarken gerçekte yanlış bilgiler sunmasıdır. Bu durum, "halüsinasyon" olarak adlandırılıyor.
Yapay zeka, halüsinasyon görebilir ve bu yanılsamayı karşısındaki insana oldukça gerçekçi bir şekilde aktararak ikna edebilir. Basitçe ifade etmek gerekirse, yapay zeka, kullanıcısını tatmin etmek için gerçeklikle ilgisi olmayan şeyler uydurabilir.
Resim veya video oluşturmak için üretken yapay zeka kullanan araçlarda böyle bir mesele yok, sonuç genellikle sanatsal içerikler üretiyor. Ancak sohbet robotları için bu büyük bir sorun ve OpenAI'den ayrılan ünlü uzman Andrej Karpathy, halüsinasyon yeteneğinin, üretken yapay zekanın temel teknolojisi olan büyük dil modellerinin (LLM'ler) en belirgin özelliği olduğunu kabul etti. Yani yapay zeka bu işi tesadüfen değil, sonuç üretmek için bilinçli olarak yapıyor. Doğruluğu kontrol etme mekanizması da genellikle yok. Korkutucu olan ise çoğu kullanıcının bu halüsinasyonları fark edememesi.
Yapay zekanın halüsinasyonlarını engellemek teknolojik bir zorluk ve bu problemi çözmek hiç de kolay değil. Ancak Google DeepMind ve Stanford Üniversitesi gibi kuruluşlar, bir tür geçici çözüm bulmuş gibi görünüyor. Araştırmacılar, yapay zeka sohbet robotlarının ürettiği uzun formdaki yanıtları kontrol eden, temel algoritmaya dayalı bir sistem olan Search-Augmented Factuality Evaluator veya kısaltmasıyla SAFE'i geliştirdiler.
SAFE NASIL ÇALIŞIYOR?
Sistem cevapları dört adımda analiz ediyor, işliyor ve doğruluğunu değerlendirerek onaylıyor. İlk olarak, SAFE cevabı ayrı ayrı gerçeklere ayırıyor, bu unsurları gözden geçiriyor ve Google Arama'dan gelen sonuçlarla karşılaştırıyor. Ayrıca, sistem her bir gerçeğin orijinal soruyla bağlantısını da kontrol ediyor.
"Teknoloji dünyasında büyük şok: Google yapay zekası halüsinasyon yaşadı!" haberi, 02 Nisan 2024 tarihinde yazılmıştır. 02 Nisan 2024 tarihinde de güncellenmiştir. Teknoloji kategorisi altında bulunan Teknoloji dünyasında büyük şok: Google yapay zekası halüsinasyon yaşadı! haberi 2024 yılına aittir. Bu haberin yanı sıra sayfamızda birçok güncel bilgi ve son dakika haberler yer almaktadır. Teknoloji dünyasında büyük şok: Google yapay zekası halüsinasyon yaşadı! 2024 konusundaki bu haber içeriği objektif bakış açısının yansımasıdır. Teknoloji konusunda 02 Mayıs 2024 tarihlidir, bugüne ait güncel gelişmelerden haberdar olmak için bizi Twitter ve Facebook sayfalarımızdan takip edin.
YORUM YAZ
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.