Anthropic, Claude’un Yeni Su İşaretleriyle Yapay Zeka İçeriklerini Koruyor

Anthropic, son yapay zeka modelinin –Claude‑3‑ün‑su‑işaretleri (watermark) özelliğini ayrıntılı olarak açıkladı. Şirket, bu yeni güvenlik katmanının, modelin ürettiği metin, görsel ve kod çıktılarının orijinal kaynağını otomatik olarak belirlemek için nasıl çalıştığını anlattı.

Temel prensip, modelin ürettiği her token (kelime ya da sembol) içinde düşük seviyeli bir bit dizisi gömmek. Bu dizi, insan gözüyle fark edilmeyecek şekilde, kelime seçimleri ve cümle yapısına ince ayarlarla entegre ediliyor. Su işareti, istatistiksel bir imza oluşturuyor; bu imza, özel bir analiz aracıyla %99,9 doğrulukla tespit edilebiliyor.

Birçok endişe, bu işaretin metin düzenlemeleriyle silinebileceği yönündeydi. Anthropic, su işaretinin sadece bireysel kelimelerle sınırlı kalmadığını, aynı zamanda cümle yapısı ve bağlam içinde dağıtıldığını vurguluyor. Bu sayede, bir paragrafın bir kısmı silinse ya da yeniden yazılsa bile, kalan bölümlerdeki dağıtılmış imza sayesinde bütünlüğü koruyor. Ayrıca, model çıktısının %30’u rastgele bir şekilde işaretli olduğundan, bir saldırganın tüm işaretli bölümleri bulup silmesi pratikte imkânsız hale geliyor.

Kod üretimine gelince, Claude‑3’ün su işaretleri, sadece doğal dil değil, aynı zamanda programlama dillerinde de geçerli. Kod satırları içinde yorum satırları ve boşluk karakterleri aracılığıyla gizli bir işaret bırakılıyor. Bu, geliştiricilerin bir kod parçasının AI tarafından mı yoksa insan tarafından mı yazıldığını tespit etmelerini sağlarken, telif hakkı ihlallerini önlemeye yardımcı oluyor.

Anthropic, su işaretlerinin açık kaynaklı bir API üzerinden sunulacağını ve geliştiricilerin bu özelliği isteğe bağlı olarak etkinleştirebileceklerini belirtti. Şirket, aynı zamanda üçüncü taraf doğrulama araçları için bir standart belirleyerek, ekosistemin güvenliğini artırmayı hedefliyor. Bu adım, AI‑generated içeriklerin sahtecilik ve yanlış bilgi yayma riskine karşı önemli bir savunma hattı olarak görülüyor.

Kaynak: TechCrunch

ETİKETLER