Dolandırıcıları ayırmak için bir dizi önlem alıyor. Yeni mekanizmaya göre Messenger kullancıları tanıdıkları bir kişiden mesaj aldığında, Facebook devreye girecek. Yapay zeka, mesajı atan kişinin sosyal medya platformundaki “sabıkasına” bakarak değerlendirme yapacak. Bu değerlendirmeye göre, mesaj atan kişinin dolandırıcılık şüphesi uyandıran hareketleri varsa, mesajı alan kişiye uyarı yapılacak.
Bu uyarılarda, mesajı atan kişinin şüpheli olduğu, para isteme gibi taleplere karşı uyanık olunması hatırlatılacak.
Facebook ayrıca, “sahte hesap” sorunuyla da boğuşuyor. Bu hile için, hedef alınan kişini arkadaş listesindeki insanlardan birinin profiline benzeyen sahte bir hesap açılıyor.
Ardından bu sahte hesaptan, hedefteki kişiye mesaj atılıyor. Mesajı atan kişi yeni bir hesap açmış gibi bir izlenim yaratılıyor. Hedef alınan kurban ise tanıdığı bir dostuyla konuştuğunu düşünürken dolandırıcıların eline düşüyor. Kurban kişiden para talep edilebiliyor veya mahrem/özel bilgileri hakkında veriler alınıyor. Kişiler mağdur edilebiliyor.
Bu sorun o kadar büyük ki, Facebook yöneticileri sorunu çözmek için yıllardır önlemler geliştirmeye çalışıyor ancak tam anlamıyla başarılı olamıyorlar. Yeni önlem paketiyle artık bu konuda da uyarı yapılacak. Kullanıcı yeni açılmış ve “arkadaşı” sandığı bir hesaptan mesaj aldığında, Facebook uyarı yapacak ve mesajı atanın dolandırıcı olabileceğini hatırlatacak. Böylece mesajı alan kişi, arkadaşı ile alternatif yollardan teyitleşmek gibi önlemler alabilecek.
Sosyal medya devi ayrıca 18 yaşından küçük kişilere atılan mesajları da ağır kontrol altına alacak. Yapay zeka, bu mesajlarda küçük çocuklara cinsel istismar ve maddi amaçlı dolandırıcılık girişimi olup olmadığını anlamaya çalışacak.