Yapay zekâ şirketi Anthropic, ürettiği metinlerin kaynağını belirlemeyi kolaylaştıracak yeni Claude filigran sistemi detaylarını kamuoyuyla paylaştı. Geliştirilen bu yeni teknoloji, üretilen metinlerin içine gözle görülür bir işaret ya da gizli karakter yerleştirmeden, kelime seçimlerindeki istatistiksel örüntüler sayesinde içeriğin yapay zekâ tarafından yazılıp yazılmadığını tespit etmeyi mümkün kılıyor. Kopyala-yapıştır işlemlerinden etkilenmeyen bu sistem, metin üzerinde yapılacak ufak düzenlemelerle de tamamen ortadan kaldırılamıyor.
Google DeepMind Teknolojisiyle Görünmez İşaretleme
Anthropic, bu yenilikçi altyapıyı kurarken Google DeepMind tarafından geliştirilen SynthID-Text yaklaşımından yararlanıyor. Google’ın metin, ses, görsel ve video içeriklerinde de tercih ettiği bu teknoloji, Claude’un kelime seçimleri sırasında arka planda istatistiksel bir şablon oluşturması esasına dayanıyor. Sistem, modelin çalışma hızını yavaşlatmadığı gibi ekstra token üretimine yol açmadığı için kullanıcılara herhangi bir ek maliyet de yansıtmıyor. Üstelik bu Claude filigran sistemi, metin başka bir dile çevrildiğinde de geçerliliğini koruyarak çeviri metne de uygulanıyor. Ancak kod yazımlarında ve kesin doğruların kritik önem taşıdığı olgusal metinlerde, hata payını sıfıra indirmek amacıyla filigran örüntüsü çok daha seyrek ve sınırlı bir şekilde kullanılıyor.
Kişisel Veri Barındırmayan Güvenli Yapı ve API Desteği
Geliştirilen sistem, kullanıcı gizliliğini korumak adına hesap, kullanıcı veya sohbet geçmişine dair hiçbir tanımlayıcı bilgi içermiyor. Yapılan analizler doğrudan kesin bir yargı bildirmek yerine, incelenen içeriğin Claude tarafından oluşturulma olasılığını hesaplıyor. Metin uzunluğu arttıkça tespit mekanizmasının güvenilirliği yükselirken, çok kısa içeriklerde bu olasılığı hesaplamak zorlaşıyor. Anthropic, gelecekte bu örüntüleri kontrol edebilmek amacıyla harici bir tespit API’si sunmayı planlıyor. Ayrıca sistem sadece metinlerle sınırlı kalmayıp; PNG, JPG ve SVG biçimindeki görsel dosyaların metadata bölümlerine de C2PA standardına uygun kriptografik içerik kimlik bilgileri ekliyor.
Kaynak: Technopat Teknoloji — Orijinal haberi görüntüle