Yapay zeka alanında öne çıkan OpenAI’nin ünlü sohbet robotu ChatGPT’nin yeni versiyonlarının, oluşturduğu metinlere gizli bir filigran eklediği anlaşıldı.
Rumi Technologies araştırma ekibi, bu filigranların özellikle ChatGPT’den uzun metinler, örneğin makaleler üretme talep edildiğinde belirdiğini tespit etti.
Filigranlama süreci, normal boşluklara benzer fakat farklı ASCII kodlarına sahip olan Dar Kesintisiz Boşluk (NNBSP) gibi özel Unicode karakterleri ile gerçekleştiriliyor. Bu karakterler, metnin yapay zeka tarafından yaratıldığına dair gizli bir iz bırakıyor.
GİZLİ KARAKTERLERİN TESPİTİ
Araştırmacılar, GPT-4o gibi eski ChatGPT modellerinde bu tür bir filigranın bulunmadığını ifade ediyor.
Kullanıcılar, bu gizli karakterleri çeşitli çevrimiçi araçlar veya Sublime Text gibi gelişmiş metin düzenleyicileri yardımıyla tespit edebilirler.
Özel karakterlerin metin içindeki dağılımının rastgele olmadığı, aksine sistematik bir desene sahip olduğu gözlemlendi.
Bu tablo, filigranlama uygulamasının OpenAI geliştiricileri tarafından bilinçli bir şekilde yapıldığına dair bir işaret olarak değerlendiriliyor.
Bu durum, OpenAI’nin yapay zeka ile oluşturulan görsellere filigran eklemeyi denemeye başlamasından kısa bir süre sonra meydana geldi.
FİLİGRANIN AMACI
Metinlere eklenen filigranların temel işlevi, içeriğin yapay zeka tarafından üretilip üretilmediğini belirlemeye yardımcı olmaktır.
Ancak bu yöntemin bazı sınırlamaları söz konusu; kullanıcılar, filigranların varlığını öğrendikten sonra bunları kolaylıkla kaldırabiliyorlar.
Basit bir “bul ve değiştir” işlemi ile metindeki özel Unicode karakterler, standart karakterlerle değiştirilerek fiili durumdan çıkartılabilir.
Bu durum, ChatGPT’nin 31 Mayıs’a kadar öğrenciler için ücretsiz olduğu ve final projeleri ile ödevlerin yoğun bir şekilde yapıldığı bu süreçte daha da önem kazanıyor.
