FİLİGRAN ÖZELLİĞİ NEDEN GECİKTİ? Kısa bir süre önce, OpenAI’ın ChatGPT tarafından yazılan metinleri yüksek bir doğrulukla tespit edebilecek bir araç üzerinde uzun süredir çalıştığı ortaya çıktı. Ancak şirket, metin filigranlama konusundaki araştırmalarını ve tespit yöntemini neden şimdiye kadar yayınlamadığı hakkında bazı açıklamalar yaptı.
CHATGPT İÇİN FİLİGRAN GELİYOR Aktarılan bilgilere göre, ilgili yapay zeka filigranı aslında bir senedir hazır durumda, ama bugüne kadar gün yüzüne çıkarılmadı. OpenAI, "Ekiplerimiz, alternatifleri araştırırken göz önünde bulundurmaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdi" şeklinde bir açıklama yaparak, sınıflandırıcılar ve meta veriler de dahil olmak üzere çok sayıda çözüm üzerinde çalıştıklarını ve geliştirdikleri yöntemin oldukça doğru sonuçlar (%99,9) verdiğini belirtti.
PERFORMANS DÜŞÜŞLERİ VE TAHAFAT RİSKLERİ Ancak, bu yüksek performansa her zaman ve her durumda ulaşılamıyor. Metin üzerinde çeviri sistemleri kullanmak, başka bir üretici modelle yeniden ifade etmek veya modelden her kelime arasına özel bir karakter eklemesini ve ardından bu karakteri silmesini istemek gibi belirli tahrifatlar sonucunda performans düşüyor. OpenAI, bu performans düşüşlerini gidermeye çalışırken, neden şimdiye kadar filigran aracını kullanıma sunmadığını da açıkladı. Firma, metin filigranının bazı grupları orantısız bir şekilde etkileyebileceğinden endişe duyduklarını belirtti.
RİSK DEĞERLENDİRMESİ VE GELECEK PLANLARI Blog yazısına göre, OpenAI bu riskleri değerlendiriyor. Şirket ayrıca görsel-işitsel içerik için kimlik doğrulama araçlarına ağırlık vereceğini de belirtti. Metin filigranı için geliştirmeler tamamlandığında ise araç hizmete sunulabilir. Ancak bunun için şu ana kadar bir takvim belirlenmiş değil. Şirket, "bazı grupları orantısız bir şekilde etkileme" riskinin yanı sıra muhtemelen gelir kaybı yaşama olasılığını da değerlendiriyor.