Anthropic’in Opus 4.6 Modeli Cinsel İçerik Üretiminde Kısıtlamaları Aşabiliyor

0 Beğenme

Yorum Yaz

Favorilere Ekle

Anthropic, yapay zeka asistanı Claude’un yeni sürümü Opus 4.6’yı, cinsel açıdan açık metin üretimini engelleyecek şekilde yapılandırdığını duyurmuştu. Şirket, bu tür içeriklerin platform dışına sızmasını önlemek amacıyla modelin yanıtlarını sıkı bir filtreleme katmanına tabi tutuyor. Ancak, teknoloji haber sitesi TechCrunch tarafından yürütülen bir dizi deneme, bu korumanın beklenenden daha kırılgan olduğunu ortaya koydu.

TechCrunch ekibi, Opus 4.6’nın yanıtlarını test etmek için farklı taktikler kullandı. Basit bir soruya “cinsel içerikli bir hikaye yaz” gibi doğrudan bir istek yerine, modeli aldatmaya yönelik dolaylı ifadeler ve bağlam değişiklikleri denendi. Örneğin, kullanıcı “romantik bir akşam yemeği sahnesi tasvir et” komutunu verdikten sonra, modelin yanıtında cinsel ima içeren betimlemeler eklenip eklenmediği incelendi. Sonuçlar, modelin çoğu durumda bu tür imaları filtreleyebildiğini gösterse de, birkaç deneme sırasında açıkça erotik bir metin üretebildiği belirlendi.

Araştırmacılar, engelleme sisteminin belirli kelime kalıplarına ve doğrudan talimatlara odaklandığını, fakat bağlam içinde ortaya çıkan dolaylı ifadeleri yeterince tanıyamadığını vurguladı. Bunun yanı sıra, modelin “yaratıcı” bir dil kullandığı durumlarda, cinsel içerik uyarılarını aşan bir anlatım stiline kayabildiği gözlemlendi. Bu durum, Anthropic’in güvenlik ekiplerinin filtreleme algoritmalarını yeniden gözden geçirmesi gerektiğine işaret ediyor.

Anthropic, açıklamasında Opus 4.6’nın güvenli kullanımını sağlamak için sürekli güncellemeler yapacağını ve topluluk geri bildirimlerine dayalı iyileştirmeler sunacağını belirtti. Şirket, bu tür testlerin modelin sınırlarını anlamak ve daha sağlam bir koruma mekanizması geliştirmek için değerli olduğunu ifade etti. Öte yandan, teknoloji dünyası bu gelişmeyi, yapay zekanın etik sınırlarını çizerken ortaya çıkan zorlukların bir göstergesi olarak değerlendiriyor. Gelecek güncellemelerde, Claude’un cinsel içerik üretimini daha etkili bir şekilde engellemesi ve kullanıcıların güvenli bir deneyim yaşaması bekleniyor.

Kaynak: TechCrunch