Meta'nın yeni güvenlik raporuna göre, yapay zeka destekli aldatma kampanyaları "yalnızca kademeli" sonuçlar veriyor ve kötü niyetli aktörler için beklenen etkiyi yaratmıyor. Rusya, çevrimiçi aldatma kampanyalarında üretken yapay zeka teknolojilerini kullanma yoluna gitti, ancak bu çabalar beklenen başarıyı yakalayamadı. Meta’nın raporunda, bu yapay zeka destekli taktiklerin yalnızca "kademeli verimlilik ve içerik üretme kazançları" sağladığı ve Meta'nın bu aldatıcı etkileri bozma konusunda başarılı olduğu belirtiliyor.
Meta, Facebook ve Instagram platformlarında "koordineli sahte davranışları" engelleme çabalarını artırırken, ABD ve diğer ülkelerdeki seçimlerde yapay zekanın insanları yanıltma potansiyeli hakkındaki endişeler de artıyor.
Meta’nın güvenlik politikası direktörü David Agranovich, Rusya'nın düzmece Facebook ve Instagram hesapları kullanarak "koordineli sahte davranış" sergileyen başlıca kaynaklardan biri olmaya devam ettiğini açıkladı. 2022'de Ukrayna'yı işgal etmesinden bu yana Rusya'nın bu tür çabaları, Ukrayna ve müttefiklerini zayıflatma hedefiyle yoğunlaştı. Rapor, yaklaşan ABD seçimleri için Rusya destekli çevrimiçi aldatma kampanyalarının Ukrayna’yı destekleyen siyasi adaylara saldırı düzenleyeceğini öngörüyor.
Uzmanlar, yapay zeka araçlarının, özellikle ChatGPT gibi metin üretme ve DALL-E gibi görsel oluşturma araçlarının kötü niyetli aktörler tarafından dezenformasyon yaymakta kullanılabileceği konusunda endişeli. Yapay zeka, düzmece haberler ve özetler oluşturmanın yanı sıra, görsel ve video üretimiyle de kullanılıyor.
Meta, aldatıcı içerikleri izlerken hesapların davranışlarına odaklanıyor; paylaşılan içeriklere değil. Etki kampanyaları genellikle çeşitli çevrimiçi platformları kapsıyor ve Meta, X (eski adıyla Twitter) üzerinde yapılan paylaşımların düzmece içerikleri daha inandırıcı göstermek amacıyla kullanıldığını tespit etti. Meta, bulgularını X ve diğer platformlarla paylaşıyor ve dezenformasyonu önlemek için koordineli bir savunma gerektiğini vurguluyor.
Agranovich, X'in düzmece içeriklerle ilgili uyarılara nasıl tepki verdiğine ilişkin bir soruya, "Twitter (X) hala bir geçiş sürecinde," yanıtını verdi. "Orada geçmişte birlikte çalıştığımız birçok insan artık ayrıldı." X, güven ve güvenlik ekiplerini önemli ölçüde küçülttü ve dezenformasyonla mücadeledeki içerik denetleme çabalarını geri çekti. Araştırmacılar, X'in dezenformasyon için uygun bir ortam haline geldiğini belirtiyor.