ChatGPT Metinlerine Görünmez Filigran Geliyor: İşte Yeni Sistem
OpenAI, AB Yapay Zeka Yasası kapsamındaki şeffaflık kurallarına uyum için ChatGPT metinlerine görünmez istatistiksel filigran ekleyecek.
Sesli Dinle
Bu ses, tarayıcınızın konuşma sentezi ile üretilir; insan sesi değildir. Sesin niteliği cihazınıza göre değişir.
OpenAI, AB Yapay Zeka Yasası kapsamındaki şeffaflık kurallarına uyum için ChatGPT metinlerine görünmez istatistiksel filigran ekleyecek.
ChatGPT metinlerinde yeni dönem
Yapay zeka tarafından oluşturulan içeriklerin belirlenmesini kolaylaştıracak yeni bir sistem devreye giriyor. OpenAI, Avrupa Birliği'nin yapay zeka düzenlemelerine uyum sağlamak amacıyla ChatGPT ve Codex üzerinden oluşturulan metinlere görünmeyen istatistiksel işaretler eklemeye hazırlanıyor.
Şirketin “textGrain” adını verdiği sistemin önümüzdeki haftalarda AB'deki kullanıcıların metin çıktılarında uygulanması planlanıyor. API kullanan müşteriler ise belirli modellerde bu özelliği isteğe bağlı olarak etkinleştirebilecek. Ancak sistem API tarafında başlangıçta varsayılan olarak kapalı tutulacak.
Kelime değişiklikleri tespiti zorlaştırıyor
Görünmez filigran, metindeki kelime seçimlerine insan gözüyle fark edilemeyen istatistiksel sinyaller yerleştiriyor. Ancak yapılan testler, metin üzerinde değişiklik yapıldığında sistemin tespit gücünün önemli ölçüde azalabildiğini ortaya koyuyor.
Örneğin belirli uzunluktaki metinlerde kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesi, tespit oranında belirgin düşüşe yol açıyor. Değişiklik oranı yükseldikçe filigranın belirlenmesi daha da zorlaşıyor. Kelime seçeneklerinin sınırlı olduğu teknik alanlarda da tespit başarısının daha düşük olduğu belirtiliyor.
Her metin kesin olarak belirlenemeyecek
Yeni sistemin yapay zeka tarafından oluşturulan her içeriği kesin biçimde ortaya çıkaracağı anlamına gelmediği vurgulanıyor. Kısa metinler, çeviriler, yoğun biçimde düzenlenen içerikler veya desteklenmeyen modellerden alınan çıktılar tespit sürecini zorlaştırabiliyor.
Filigran ayrıca metni kimin yazdığını, hangi hesabın kullandığını veya içeriğin doğruluğunu göstermeyecek. Filigranın bulunmaması da metnin kesinlikle insan tarafından yazıldığını kanıtlamayacak.
OpenAI, sistemin değerlendirme aracını ilk aşamada yalnızca onaylı araştırmacılar ve uzman kuruluşların kullanımına açmayı planlıyor.
Düzeltme ve cevap hakkı — bu haberde şeref ve haysiyetinizi ihlal eden ya da gerçeğe aykırı bir husus olduğunu düşünüyorsanız, yayım tarihinden itibaren iki ay içinde başvurabilirsiniz.
Yazar TV, 2018 yılında yayın hayatına başladı. Yazar Medya Anonim Şirketi bünyesinde tarafsız, hızlı ve güvenilir haber yayıncılığı faaliyetlerini sürdürüyor.
İlgili Haberler
Yorumlar (0)
Bu habere henüz onaylanmış bir yorum yok. İlk yorumu siz yazın; yorumlar editör onayından sonra yayımlanır.
