Yapay zekâ alanında yeni bir uygulama gündeme geldi. OpenAI, Avrupa Birliği’nin şeffaflık kuralları kapsamında ChatGPT ve Codex’in oluşturduğu metinlere, gözle fark edilemeyen istatistiksel işaretler ekleyecek.
Şirketin açıklamasına göre “textGrain” adı verilen teknoloji, metinlerdeki kelime seçimlerine özel sinyaller yerleştirerek içeriğin yapay zekâ tarafından üretilip üretilmediğinin anlaşılmasına yardımcı olacak. Uygulamanın önümüzdeki haftalarda Avrupa Birliği’ndeki kullanıcılar için devreye alınması planlanıyor. Bazı API kullanıcıları ise sistemi belirli modellerde isteğe bağlı olarak kullanabilecek.
Metin değiştirildiğinde tespit zorlaşabiliyor
OpenAI’nin değerlendirmelerine göre görünmez işaretlerin tespit edilebilmesi, metnin yapısı ve uzunluğu gibi etkenlere bağlı. İçeriğin yeniden yazılması, bazı ifadelerin değiştirilmesi ya da metnin kısaltılması ise sistemin bu işaretleri belirlemesini güçleştirebiliyor.
Şirket, yanlış sonuç verme ihtimali nedeniyle doğrulama aracını şimdilik doğrudan herkesin kullanımına açmayacak. Araca ilk aşamada başvuru yoluyla onaylanan araştırmacılar ve uzman kuruluşlar erişebilecek.
Filigran metnin doğruluğunu göstermeyecek
Yeni teknoloji, metnin yapay zekâ tarafından oluşturulup oluşturulmadığına ilişkin bir işaret sunmayı amaçlıyor. Ancak içeriğin doğru olduğunu, kimin tarafından yazıldığını veya insan katkısının ne ölçüde bulunduğunu belirlemiyor.
OpenAI, yaptığı testlerde filigranın metin kalitesinde önemli bir düşüşe yol açmadığını da bildirdi.
Yapay zekâ şirketleri, içeriklerin kaynağının anlaşılmasını kolaylaştırmaya yönelik yöntemler üzerinde çalışırken benzer bir uygulama daha önce Anthropic tarafından da gündeme getirilmişti.
