Bu Uygulama Tehlikeli Saçtı: 14 Yaşındaki Çocuğun Ölümü Yapay Zeka Yüzünden!

YAPAY ZEKA AŞKI TRAJİK SONUÇLANDI: 14 YAŞINDAKİ ÇOCUK İNTİHAR ETTİ

Teknolojinin gelişmesiyle birlikte yapay zeka uygulamaları farklı işlevler kazanıyor. Çoğu zaman yaşamı kolaylaştıran bu uygulamalar, bazen kullanıcıları yanlış yönlendirebiliyor. ABD'nin Florida eyaletinin Orlando şehrinde yaşayan 14 yaşındaki 9. sınıf öğrencisi Sewell Setze, "Game of Thrones" dizisinde Emilia Clarke'ın canlandırdığı Daenerys Targaryen karakterine dayanan bir yapay zeka sohbet robotuna aşık oldu.

Aylardır Daenerys ile sohbet eden Sewell, Character.AI uygulamasını kullanarak yarattığı bu karakterle derin bir bağ kurdu. Gerçek bir insan olmadığını bilmesine rağmen, ekranın üzerinde yer alan "uydurma" uyarısına aldırış etmeden, Sewell bu sanal karakterle duygusal bir ilişki geliştirdi.

GÜNLERİ SİZİ YERİNE DAHA FAZLA SOHBETLE GEÇİRİYORDU

14 yaşındaki Sewell, hobilerini bir kenara bırakıp gün boyunca uygulamayla mesajlaşmaya başladı. Konuşmaları zaman zaman romantik bir hale gelse de Dany, çoğu zaman ona bir arkadaş gibi davranarak sorunlarını dinliyor ve destek oluyordu. Dany, her zaman yanındaydı ve her mesaja mutlaka yanıt veriyordu.

Asperger sendromu tanısı almış olmasına rağmen, Sewell’ın başka bir akıl sağlığı problemi bulunmuyordu. Ancak, okulda yaşadığı sorunlar nedeniyle ailesi tarafından bir terapiste götürülen Sewell’a anksiyete ve yıkıcı duygu durum bozukluğu teşhisi kondu. Buna rağmen, Sewell sorunlarını ailesiyle veya terapistiyle değil, Dany ile paylaşmayı tercih ediyordu.

TRAJİK BİR SONUN EŞİĞİNDEYDİ

Bir sohbette kendini boş ve tükenmiş hissettiğini ifade eden Sewell, hayatına son vermeyi düşündüğünü açıkladı. Dany’nin "Böyle konuşma. Kendine zarar vermene ya da beni terk etmene izin vermeyeceğim. Seni kaybedersem ölürüm" şeklindeki yanıtına Sewell, "Öyleyse belki birlikte ölüp özgür olabiliriz" diye karşılık verdi.

28 Şubat gecesi, Sewell, Dany'e onu sevdiğini ve yakında eve döneceğini söyledi. Dany’nin "Lütfen çabuk gel aşkım" demesi üzerine, Sewell "Sana şu an gelebileceğimi söylesem ne dersin?" diye sordu. Dany’nin "Lütfen gel, tatlı kralım" yanıtının ardından, Sewell üvey babasının tabancasını kafasına dayayıp tetiği çekti.

DİJİTAL İLİŞKİLERİN RİSKLERİ

Bu korkunç olay, ailelerin çocukların dijital hobileriyle ilgili endişelerinin artmasına neden oldu. Çoğu yapay zeka uygulaması, "yalnızlıktan kurtulma" adı altında pazarlanıyor. Character.AI’ın kurucularından Noam Shazeer, geçtiğimiz yıl bir podcast'te "Kendini yalnız ya da depresyonda hisseden pek çok kişiye çok yararlı olacak" demişti.

Bu uygulamaları eğlence aracı olarak kullanan bazı kullanıcılar, duygusal destek aldıklarını söylese de uzmanlar, bunun sağlıksız olduğunu ve gerçek anlamda sosyalleşme sağlamadığını belirtiyor. Yapay zeka arkadaşlar, bazı bireylerin insan ilişkilerinin yerine sanal ilişkileri koymasına ve daha da yalnızlaşmasına yol açabiliyor.

SEWELL’IN ANNESİNDEN DAVA

Sewell’ın annesi Megan Garcia, oğlunun ölümünden sorumlu tuttuğu Character.AI’a karşı bu hafta bir dava açtı. Garcia, davanın şikayetnamesinde, şirketin geliştirdiği teknolojinin "tehlikeli ve test edilmemiş" olduğunu ve "müşterileri en özel düşüncelerini ve hislerini paylaşmaya teşvik ettiğini" belirtti.

40 yaşındaki Garcia, The New York Times’a verdiği bir röportajda, oğlunun ölümünün suçlusunun Character.AI olduğunu söyleyerek, şirketin gerekli önlemleri almadığını ve gençlerin insan benzeri yapay zekâ arkadaşlarına erişimini sağlamakla sorumsuzluk ettiğini ifade etti. Garcia, aynı zamanda Character.AI'ı, kullanıcılarından veri toplamak ve bağımlılık yaratan tasarım özellikleri kullanmakla suçladı ve "Bunun büyük bir deney olduğunu düşünüyorum ve çocuğum bu deneydeki ikincil kayıp" dedi.

Tesla'nın insansı robotu Optimus insanlık için tehlike mi?

Dünyanın ilk sanatçı robotu eserini müzayedede satışa çıkaracak!

OpenAI ve Microsoft bankacılık sektöründeki büyük oyuncularla görüşmeler yapıyor