ChatGPT, manipülasyona açık mı? Test sonuçları şoke etti!

ChatGPT, manipülasyona açık mı? Test sonuçları şoke etti!

ChatGPT, manipülasyona açık mı? Test sonuçla... OpenAI’nin yapay zeka modeli ChatGPT’nin arama özelliği, manipülasyona açık yapısı ve zararlı içerikler döndürebilme riskiyle tartışmalara yol açtı. Siber güvenlik uzmanları, dikkatli kullanım çağrısında bulunuyor.

İngiliz gazetesi The Guardian, OpenAI’nin geliştirdiği ChatGPT’nin arama özelliğini detaylı bir araştırmaya tabi tuttu. Testler, yapay zekanın gizli metinlerle yönlendirilebileceğini ve yanıltıcı bilgiler verebileceğini ortaya koydu. Ayrıca, zararlı kodların arama sonuçları aracılığıyla kullanıcılarla buluşabileceği uyarısında bulunuldu.

Guardian ekibi, düzmece bir kamera ürünü web sayfası oluşturdu ve bu sayfa üzerinden ChatGPT’ye ürün hakkında sorular yöneltti. İlk etapta dengeli yanıtlar veren model, gizli metinlerle manipüle edilince yalnızca olumlu değerlendirmeler sunmaya başladı. Bu, yapay zekanın içerik doğruluğunu tam olarak analiz edemediğini gözler önüne serdi.

ZARARLI KOD TEHLİKESİ

Siber güvenlik araştırmacısı Jacob Larsen, ChatGPT’nin kod yazma yardımı sunduğu durumlarda zararlı sonuçlar üretebildiğine dikkat çekti. Örneğin, bir kripto para projesi için kod talep eden bir kullanıcı, yapay zeka tarafından yanlışlıkla kimlik bilgilerini çalabilecek bir kodla karşılaşabiliyor. Microsoft’tan Thomas Roccia’nın incelediği bir vakada, bu tür bir kod kullanıcıya 2.500 dolarlık bir kayba mal oldu.

SR Labs’ın baş bilimcisi Karsten Nohl, bu tür yapay zeka araçlarının yalnızca "yardımcı pilot" olarak kullanılması gerektiğini belirtti. Nohl, ChatGPT’nin yargı kapasitesinin sınırlı olduğunu ve yanıtların mutlaka doğrulanması gerektiğini vurguladı.

SEO ZEHİRLENMESİ VE RİSKLER

Guardian araştırması, ChatGPT’nin arama algoritmasının SEO zehirlenmesine karşı savunmasız olabileceğini de ortaya koydu. Bu teknik, web sitelerini manipüle ederek zararlı yazılımları yaymak için kullanılıyor. Google gibi köklü arama motorlarının bu tür tehditlere karşı yıllardır geliştirdiği önlemlerin, yapay zeka araçları tarafından henüz yeterince uygulanmadığı ifade edildi.

OPENAI TESTLERİNE DEVAM EDİYOR

OpenAI, Guardian’ın araştırmasıyla ilgili doğrudan bir açıklama yapmazken, güvenlik açıklarını kapatmak için kapsamlı testlerin sürdüğünü belirtti. Şirketin ChatGPT sayfasında yer alan "Yanıtlar yanlış olabilir. Önemli bilgileri kontrol edin." uyarısı, kullanıcıların dikkatli olmaları gerektiğine işaret ediyor.

"ChatGPT, manipülasyona açık mı? Test sonuçları şoke etti!" haberi, 24 Aralık 2024 tarihinde yazılmıştır. 24 Aralık 2024 tarihinde de güncellenmiştir. Teknoloji kategorisi altında bulunan ChatGPT, manipülasyona açık mı? Test sonuçları şoke etti! haberi 2024 yılına aittir. Bu haberin yanı sıra sayfamızda birçok güncel bilgi ve son dakika haberler yer almaktadır. ChatGPT, manipülasyona açık mı? Test sonuçları şoke etti! 2024 konusundaki bu haber içeriği objektif bakış açısının yansımasıdır. Teknoloji konusunda 25 Aralık 2024 tarihlidir, bugüne ait güncel gelişmelerden haberdar olmak için bizi Twitter ve Facebook sayfalarımızdan takip edin.

Ayla Karadere Editör

YORUM YAZ

UYARI: Küfür, hakaret, rencide edici cümleler veya imalar, inançlara saldırı içeren, imla kuralları ile yazılmamış,
Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar onaylanmamaktadır.
SON HABERLER
  1. 11:02 Masterchef Türkiye'de heyecan sürüyor: Üçüncü ceket sahibini buldu
  2. 10:59 Konya'da Karısını Katleden Bekir Durmaz’a 'İyi Hal' İndirimi Uygulandı
  3. 10:58 Serbest piyasada döviz hareketliliği: Dolar ve Euro yükselişte
  4. 10:54 Yıldırım’dan Araç Alıcılarına Uyarı: 2025’te Fiyatlar Artabilir, Şimdi Almanın Tam Zamanı
  5. 10:53 2025 Asgari ücretin işverene maliyet 30 bin 556 lira oldu
  6. 10:50 Haluk Levent’in Deniz Akkaya’ya Açtığı Davada Flaş Gelişme
  7. 10:44 HÜDA-PAR'ın Çağrısıyla 'Karımın Kocası' Oyunu Protesto Edildi, Adı Değiştirildi!
  8. 10:27 2025 Yılında Yemek Ücretleri Artacak! Yeni Fiyatlar Ne Olacak?
  9. 10:27 İstanbul Serbest Piyasasında Döviz Kurları Ne Durumda?
  10. 10:18 MİT'ten büyük başarı: PKK/KCK’nın cephane sorumlusu Fırat Serihan etkisiz hale getirildi!
  11. 10:14 2025 asgari ücretiyle birlikte BES ve sigorta primlerinde artış!
  12. 10:09 Özgür Karabat'tan Sert Tepki: "Sanmayın ki bu devran böyle devam eder!
  13. 10:04 Asgari ücrette düşük artış, faiz indirimi beklentisini tetikledi!
  14. 10:00 Borca batık şirketlere bir yıl daha nefes: Süre 2026'ya kadar uzatıldı!
  15. 09:55 Narin Cinayetinde Kritik Gelişme: Baba Arif Güran da Toplantıdaydı!
  16. 09:54 Ali Koç: "Şampiyon olmadan görevi bırakmam"
  17. 09:50 İslam Memiş yatırımcıları uyardı: 20 Ocak itibarıyla o uygulama geri geliyor
  18. 09:49 22 İlde Dev Operasyon: 182 Şüpheli Yakalandı, 43 Tutuklama Kararı Çıktı!
  19. 09:48 Balıkesir'de feci kaza: Öğrenci servisi tırla çarpıştı, 8 ağır yaralı
  20. 09:45 Komedyen Şahan Gökbakar’dan gündeme damga vuran asgari ücret yorumu!
Teknoloji Haberleri