Yapay Zeka’da Cinsel İstismar Riski: Uzmanlardan Uyarı Geldi

YAPAY ZEKA TEHLIKESINE DIKKAT ÇEKILDI

Yapay zeka, günlük yaşamın birçok alanında kullanılıyor. Ancak, yapay zeka sistemlerinin kötü niyetli kişiler tarafından kullanılarak siber saldırılara veya siber casusluğa neden olabileceği uyarıları sık sık yineleniyor. Isparta Süleyman Demirel Üniversitesi'nden (SDÜ) Prof. Dr. Murat Okcu, yapay zekanın çocuklar üzerinde yaratabileceği olumsuzluklara dikkat çekerek, çocukların yapay zekayı özellikle sınıf arkadaşlarının çıplak görüntülerini oluşturmak ve bu görüntüleri taciz ve tehdit amacıyla kullanmak için kullandıklarını belirtti. Okcu, "Fiziki dünyada nasıl ki çocukları korumak anne-babaların temel önceliği, görevi ve kaygısıysa, bunu siber dünyada, web ortamında ve yapay zeka kullanımında da çok daha dikkatle sürdürmeleri gerekiyor" dedi.

YAPAY ZEKA ILE ÇOCUKLARIN FOTOĞRAF VE VIDEOLARI

Bir süredir yapay zeka ve etkileri üzerine çalışmalar yürüten Okcu, gelişen yapay zeka teknolojisinin faydalarının yanı sıra zararlarının da bulunduğunu belirtti. Özellikle çocukların büyük tehlike altında olduğunu vurgulayan Okcu, çocukların fotoğraf veya videolarının izinsiz alınarak yapay zekayla uygunsuz görüntüler haline dönüştürülebildiğini ve bu yöntemle ebeveynlere şantaj yapılabileceğini ifade etti. Yapay zekanın pedofili ve kötü niyetli faillerin de kullanımına açık olduğunu söyleyen Murat Okcu, bu durumun engellenmesi için ciddi adımlar atılması gerektiğini belirtti.

ÇOCUKLAR TEHLIKEDE

Çocukların ve gençlerin yapay zekayı ziyaret ederek oradaki araçları kullanabildiğine işaret eden Prof. Dr. Murat Okcu, akran zorbalığına dikkat çekerek, "Bu da beraberinde ne getiriyor? Çocuklar yeni bir akran zorbalığının içerisine girebiliyor. Örneğin, çocuklar kendi arkadaşlarının sosyal medyada ya da internetteki fotoğraflarını, görüntülerini, videolarını alıyor. Üretken yapay zekayı kullanarak arkadaşlarının görselleri üzerinde değişikliğe gidiyorlar. Bunlara 'deepfake' teknolojisi adı veriyoruz. Çocuklar, gençler bu teknolojiyle sahte görüntüler elde ediyor. Özellikle bu kız çocukları için yapılıyor. Bu görüntüler, bir cinsel eylem içerisindeymiş gibi göstermek üzere kullanılabiliyor. Tabii ki sadece çocuklar değil, özellikle pedofili veya kötü niyetli faillerin de kullanımına açık olduğu için onlara da çok büyük imkan sağlıyor. Onlar bu görüntüleri alıyor ve çocukların, gençlerin haberi olmadan birer cinsel istismar malzemesi haline getiriyor. Pornografik görüntü haline getirip, buradan para kazanıyorlar. Çok daha önemlisi; bu görüntüler, çocukları ya da ebeveynlerini şantaj ve tehditte bulunmak için de kullanılabiliyor. Kişinin akrabalarını, tanıdıklarını taklit eden, onların seslerini taklit eden yapay zeka modelleri kullanılarak çocuklar kandırılıyor. Bunun engellenmesi, karşı konulması şu aşamada çok zor." dedi ve yetkililerin konuyla ilgili ciddi adımlar atması gerektiğini ifade etti.

ENGELLENMESI KONUSUNDA KILIT NOKTA EBEVEYNLER

Yapay zekanın cinsel istismar için kullanılmasının engellenmesinde ebeveynlerin büyük rolü olduğunu söyleyen Prof. Dr. Okcu, burada öncelikli görevin anne ve babalara düştüğünü belirtti. Prof. Dr. Okcu, anne babaların çocuklarını ellerinden geldiğince diyalog ve karşılıklı anlayış içerisinde, 'yasaklıyorum, engelliyorum' mantığına girmeksizin takip etmeleri gerektiğini vurguladı.

Yeni Nesil Yapay Zeka: Belirli Cihazlarla Gelen Özel Deneyim