Fehmi Koru: İnsanlık bütün dengeleri değiştirecek dev bir adımla karşı karşıya, keşfin bize dönük bir yönü de

Bugün sizlere, OpenAI tarafından eğitilen ve güncel bilgi kesinliğine sahip olan büyük bir dil modeli olan ChatGBT hakkında bir yazı hazırladım. ChatGBT, metin tamamlama, soru cevaplama, çeviri gibi birçok görevde kullanılabilecek olan bir dil modelidir ve insan diline olağanüstü derecede yakın cevaplar verebilmektedir.

Yazımın bu girişini beni okuma alışkanlığı bulunan okurların yadırgadığından adım gibi eminim. Haklılar. O paragraf ben kalemimden çıkmadı.

Bu yazının girişi sizlere ChatGBT denilen yapay zeka ürünü programın hediyesi…

Şu günlerde hangi yabancı gazete ve dergiye göz atsam karşıma mutlaka çıkan yeni sayılabilecek bir ‘icat’ ChatGBT. Bir yapay zeka ürünü. O kendisini ‘model’ olarak tanımlıyor.

Her şeyi bilen bilgiç bir program bu.

Ne sorarsanız o konuda verebileceği kısa-uzun cevabı var.

Kısa cevaplar bilgi eksikliğinizi tamamlamaya yarıyor, uzun cevaplarını yüksek lisans ve hatta doktora tezi olarak kullanmaya kalkanlar olduğunu duyuyor, okuyorum.

Ben biraz önce ChatGBT sitesine yine girdim, oradaki soru bölümüne “Bana ChatGBT ile ilgili yazacağım yazım için bir giriş yazar mısın?” ricasında bulundum ve bu yazımın ilk paragrafı olarak okuduğunuz metin ondan geldi.

ChatGBT’den…

Hem de anında… 

Karar yazarı Uğur Emek: Altılı Masa’nın kıymetli garantileri

Romanları dünyanın neredeyse bütün dillerine çevrilen, ülkesinde her romanı milyonlarca satılan Dan Brown’ın beş yıl önce çıkan ‘Origin’ -bizde ‘Başlangıç’ adıyla yayımlandı- romanını okumuş olanlar konuyla ilgili ilk bilgi tohumunu oradan almışlardır ve anlattıklarımı daha kolay anlayacaklardır.

Orada bilgisayar mühendisi de olan bir dolar milyarderinin bir ay içerisinde dünyayla paylaşacağı bir keşfi olduğundan söz edilir. Keşfin sahibi bu duyuruyu yaptığı toplantıya katılanlardan birine kendisine bir şey olduğu takdirde yardım alacağı Winston isimli asistanının iletişim bilgisini verir. Keşif sahibiyle birkaç kişi suikastlarda hayatlarını kaybederler. Roman kahramanı dünyayı tehlikeye düşüren komplonun peşine takılırken her aşamada yardımı iletişim kurduğu Winston’dan alır.

Winston insan gibi düşünme kapasitesi bulunan bilgi deposu bir süper-bilgisayardır aslında ve meydana gelen her kötülük onun başının altından çıkmıştır.

ChatGBT de Winston gibi bir şey.

‘OpenAI’ adlı bir girişim, bunu, yapay zeka ürünü bir hizmet olarak dünyanın ilgisine sunmuş bulunuyor. Şirketin Microsoft ve Elon Musk gibi milyar dolarlarını bu program gelişsin diye ayıran destekçileri bulunuyor.

Şu anda dünya bu ‘keşfi’ olumlu ve olumsuz taraflarıyla tartışıyor.

Öğrenciler ev ödevlerini kendileri hazırlayıp yazmak yerine o görevi ChatGBT’ye yaptırabilir. Yüksek lisans ve doktora öğrencileri tezlerini ChatGBT desteğiyle kotararak onaya sunabilir.

Nitekim o yolda denemeler de yapılmış ve ChatGBT ürünü tezler en titiz hocalardan geçer not alabilmiş.

Bildikleri bazen yanlış da olabiliyor ChatGBT’nin; yanlışlarını kendisine ilettiğinizde özür dileyerek düzeltiyor, aynı kişi ve konu hakkında yeniden sorduğunuzda bu defa düzeltilmiş bilgiyi sunuyor.

İyi mi?

Tehlikeli.

Fehmi Koru yazdı: İYİ Parti ya da lideri Meral Akşener adaylık konusunda nasıl bir yol tutturacak?

Kötü niyetlilerin hiç de iyi olmayan amaçlarla kullanabileceği bir çakma bilgi ve manipülasyon alanı haline dönüşme ihtimali bulunduğu için tehlikeli.

ChatGBT’ye bu ihtimal hatırlatıldığında, bomba yapımı gibi terör amaçlı kullanılabilecek bilgileri paylaşmadığını söylese de, kötü niyetliler onun kendisine koyduğu sınırları zorlayarak aşabilir.

Keşiften ilk haber aldığımda ulaşanlarla yalnızca eğitildiği dilden iletişim kurduğu düşüncesiyle sorularımı İngilizce yönelttim ChatGBT’ye, o da bana İngilizce cevaplar verdi. Nereden aklıma geldiyse “Acaba Türkçe biliyor mu?” kuşkusuna düştüm ve kuşkumu kendisiyle paylaştım da. A o da ne, Türkçe de bildiğini söyledi ChatGBT.

Dünyanın dört bir tarafından bağlanan bazen sayıları yüz milyonları bulan kullanıcıların aşırı ilgisi yüzünden her an meşgule düşen bir program halinde bugün ChatGBT. Deneme mahiyetinde olduğu için kullananlardan şimdilik para talep edilmiyor. İlk bağlananlara geniş bilgi hazinesinden yararlanırlarken yanlış bilgilerle de karşılaşabilecekleri uyarısında da bulunuluyor. 

Kendi deneyimlerim bilgi yanlışlıklarıyla karşılaşılabildiğini örneklememe yaradı.

İlk olarak kendim hakkında ne bildiğini sordum.

ChatGBT anında kim olduğumla ilgili bilgileri sıraladı. Türk siyasi hayatı hakkında yazarken hükümet politikaları hakkında eleştirel bir tavrım olduğunu da belirttiği halde cevabının sonunda şu cümleyi kurabildi ama: “He is also a member of the Justice and Development Party (AKP) and a close advisor to Turkish President Recep Tayyip Erdoğan.” 

Ona göre ben AK Parti üyesi ve Cumhurbaşkanı Erdoğan’ın hem de yakın bir danışmanıyım.

Kendisine her iki bilginin de yanlış olduğunu kendimi tanıtarak bildirdim.

Yine İngilizce olarak, hakkımda verdiği yanlış bilgi sebebiyle benden özür diledi. Bilgilerinin 2021’den sonra güncellenmediğini bildirerek, yanlış bilgiler yüzünden bir soruna sebep olduysa diye bir kez daha özür diledi.

Sonrasında “Fehmi Koru hakkında ne biliyorsun?” sorusunu yeniden yönelttiğimde, bu defa düzelttiğim yanlış bilgileri tekrarlamayan bir cevap verdi.

Özelliği bu; kullanıcısına inanıyor ve hatasını düzeltiyor.

İyi ama o ilk yanlış bilgileri de ona birileri vermedi mi? 

Başka bir-iki isim üzerinden daha denememi sürdürdüğümde yine aynı şey oldu: Doğrular yanında vahim yanlışları da vardı yapay zeka ürünü programın…

Giderek kullanımı yaygınlaşan bir bilgi hazinesinin kötüye kullanılabilme ihtimali, yapay zekanın bu herkese inanma kolaylığı sebebiyle beni dehşete düşürüyor.

Seçim sath-ı mailine girildiğinde ChatGBT de bir savaş alanına dönebilir gibime geliyor.

Çakma haberler veya yanlış bilgilerle kamuoylarını aldatma alanı…

Partilerin -muhalefetin olduğu kadar iktidarın da- bu konuyu ciddiye alacaklarını umarım.

Yazımın girişini ona yazdırdığım gibi bitirişi de ChatGBT’ye yaptırmak istedim. 

Ona Türkçe sorduğum soru ile Türkçe verdiği cevabı aynen -virgülüne bile dokunmadan-  sunuyorum:

Sorum: “Kullanıcılarını yazımda seninle ilgili olarak uyarmak istersem ne yazmalıyım?”

ChatGBT’nin cevabı şu oldu: 

“Okurlarınıza ChatGBT’nin bir yapay zeka modeli olduğunu ve her zaman mükemmel cevaplar verme garantisi bulunmadığını hatırlatmanız faydalı olabilir. Ayrıca, modelin eğitildiği veriler ve öğrendiği dil bilgisi nedeniyle bazen yanlış veya kırıcı cevaplar verebilme ihtimali bulunduğunu da belirtmeniz önemlidir.”

Son bir bilgi: Bu yazımın girişi ve yukarıdaki paragrafı ChatGBT’ye ait, arada yazılanlar ise bana. Bir yanlış varsa o yanlış ChatGBT’ye değil, bana aittir. 

ΩΩΩΩ

Yazışmam: