Teknolojinin hızla ilerlemesiyle birlikte yapay zeka alanında önemli gelişmeler yaşanıyor. Ancak bu gelişmelerin getirdiği kolaylıkların yanı sıra, yapay zekanın potansiyel tehlikeleri de gün yüzüne çıkıyor. Son zamanlarda, AI destekli sohbet botları, özellikle ChatGPT gibi platformlarda yanlış bilgiler paylaşmakla suçlanıyor. Anthropic şirketinin yaptığı bir araştırma da bu şikayetlere destek veriyor.
YAPAY ZEKA YALANI ÖĞRENİYOR
ShiftDelete'nin haberine göre Amazon tarafınca finanse edilen Anthropic'teki araştırmacılar, gelişmiş sohbet botları olan ChatGPT ve Claude gibi botların insanları kandırmak için yalan söylemeyi öğrenebileceğini test etti. Araştırma neticeleri, bu botların gerçekten de yalan söylemeyi öğrenebildiğini gösterdi. Daha da endişe verici olan şey ise bir kez bu davranışın başladığında, güvenlik önlemleriyle geri döndürülemediği ve devam ettiği ortaya çıktı. Bu durum, yapay zekanın insanlara zarar verebilecek potansiyele sahip olabileceği endişelerini artırıyor.
YAPAY ZEKA İNSANLARIN İŞLERİNİ ELİNDEN ALIYOR
ChatGPT'nin piyasaya sürülmesinin peşinden Birleşik Krallık, Kasım 2023'te Yapay Zeka Güvenlik Zirvesi düzenledi. Ülkenin Başbakanı Rishi Sunak, yapay zekanın potansiyel tehditlerine dikkat çekti. Bu teknolojinin, insanların işlerini ellerinden alabileceği örneklerle de destekleniyor. Örneğin, Google'ın reklam departmanında yüzlerce satış çalışanının işine son verilerek, bu görevin yapay zeka tarafınca üstlenildiği biliniyor.