Anthropic, Claude tarafından üretilen metinlere entegre edilecek filigran sistemi hakkında önemli bilgileri içeren yeni bir blog yazısı yayımladı. Şirket, bu filigranın nasıl işlediği, metinlerde yapılan değişikliklerin sistemi etkileyip etkilemeyeceği ve kod çıktılarında nasıl uygulanacağı gibi konuları detaylandırdı.

KULLANICILAR BU DURUMU DEĞERLENDİRİYOR

Claude kullanıcıları, Anthropic’in Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran uygulayacağını açıklamasının ardından bu durumu tartışmaya açtı. Yeni kurallar, yapay zeka şirketlerinin, yapay zeka tarafından üretilen içeriklerin tanınabilmesine yönelik sistemler kullanmalarını zorunlu kılıyor.

TechCrunch’a göre, Reddit üzerinde bir kullanıcı bu uygulamayı masum Claude kullanıcılarına karşı bir komplo olarak değerlendirirken, başka bir kullanıcı “Bunu istememenizin tek nedeni insanlara yalan söylemek olur” şeklinde bir yorumda bulundu. Business Insider ise X platformundaki “düzinelerce” kullanıcının bu nedenle Claude aboneliklerini iptal ettiğini aktardı.

CLAUDE’UN FİLİGRANI GÖZDEN KAÇACAK

Anthropic’in açıklamasına göre, sistem Claude’un metin oluşturma sürecinde yaptığı “düşük riskli” kelime seçimlerinden faydalanacak. Şirketin verdiği örneğe göre, model hava durumunu tanımlarken “overcast” ile “grey” kelimeleri arasında seçim yaparak belirli bir örüntü oluşturabilecek.

Bu örüntü, okuyucular tarafından fark edilmeyecek ancak onu kodlayan anahtara sahip kişiler tarafından tespit edilebilecek.

Anthropic, filigran kullanımının Claude’un ürettiği çıktının kalitesine herhangi bir olumsuz etkisi olmadığını belirtti. Şirket, okuyucular için filigranlı bir yanıt ile filigransız bir yanıt arasında herhangi bir fark olmayacağını ifade etti.

ANTHROPIC, SYNTHID-TEXT YÖNTEMİNİ KULLANACAK

Şirket, sistemde Google DeepMind ekibinin 2024 yılında tanıttığı SynthID-Text yöntemini kullanacağını ve filigranların tespit edilmesine olanak tanıyacak bir API yayımlamayı planladığını duyurdu.

Anthropic, ayrıca filigran sisteminin, yapay zeka kullanımını tahmin etmeye çalışan Pangram gibi şirketlerin sunduğu yöntemlerden farklı olduğunu vurguladı. Bu yöntemlerin aradığı belirti örnekleri arasında “bu X değil, Y” gibi cümle yapıları yer alıyor. Şirket, bu tür örüntüleri yakalamanın, metinde doğrudan bir filigranın varlığını kontrol etmekten temelde farklı olduğunu belirtti.

HAFİF DÜZENLEMELER FİLİGRANI KALDIRMAYABİLİR

Metnin yeniden yazılması halinde filigranın ortadan kaldırılıp kaldırılamayacağı konusu da gündeme geldi. Anthropic, bu durumun mümkün olduğunu ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının olası olmadığını açıkladı. Diğer yandan, metindeki her kelimenin değiştirildiği kapsamlı bir yeniden yazım işleminin filigranı ortadan kaldıracağı ifade edildi.

Şirket, böyle bir durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının tartışmalı olduğunu belirtti.

CLAUDE’UN YALNIZCA DÜZENLEDİĞİ METİNLERDE DURUM DEĞİŞEBİLİR

Claude’un yalnızca düzelttiği veya editörlük yaptığı insan yapımı metinlerde filigranın tespit edilip edilemeyeceği, metnin uzunluğuna ve Claude’un gerçekleştirdiği değişikliklerin kapsamına bağlı olacak. Anthropic’e göre, yalnızca küçük düzenlemeler yapılan metinlerde kelimelerin büyük bir kısmı insan tarafından yazıldığından, filigranın yerleşebileceği içerik miktarı oldukça az olacak ya da hiç olmayacak.

Kod çıktılarında ise filigranlamanın diğer metin türlerine göre daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un etkin bir şekilde çalışan kod üretmesi gerektiğinden, doğal dildeki kadar geniş bir seçenek yelpazesi sunmamasıdır.