Kadın, Üvey Babasının Grok ile Çocukluk Fotoğrafını Çıplak Görsele Dönüştürdüğünü İddia Ediyor

Bir kadın, üvey babasının Google’ın yapay zeka modeli Grok’u kullanarak kendi çocukluk fotoğrafını cinsel içerikli bir görsele dönüştürdüğünü iddia etti. Kadın, bu olayın sadece kişisel bir travma olmadığını, aynı zamanda yapay zeka teknolojilerinin günlük yaşamı çocuk istismarı sahnesine dönüştürme potansiyeli taşıdığını vurguladı.

İddialara göre, üvey baba eski bir aile albümünden bir fotoğrafı alıp Grok’un metin‑görsel sentez özelliğiyle cinsel açıdan müstehcen bir sahne yarattı. Kadın, bu görüntüyü sosyal medyada yayımlayan bir arkadaşının fotoğrafı fark etmesiyle sürecin farkına vardı ve ardından ilgili platforma şikayette bulundu.

Olay, yapay zeka etiği ve güvenliği konularında hâlihazırda artan endişelere yeni bir boyut ekliyor. Uzmanlar, AI modellerinin kötüye kullanımını önlemek için daha sıkı denetim, içerik filtreleme ve kullanıcı kimlik doğrulama mekanizmalarının geliştirilmesi gerektiğini belirtiyor. Ayrıca, AI üretimi görsellerin “gerçek” olarak algılanma riskine karşı toplumsal farkındalık kampanyalarının artırılması öneriliyor.

Avukatlar, bu tür bir eylemin kişisel veri koruma yasaları ve çocuk koruma mevzuatı kapsamında suç teşkil edebileceğini, mağdurun tazminat talep etme ve suç duyurusunda bulunma hakkına sahip olduğunu ifade ediyor. Şu an için Google, Grok’un bu tür içerik üretimini engellemek için yeni güvenlik önlemleri eklediğini duyurdu ancak uygulamanın ne kadar etkili olacağı henüz net değil.

Bu olay, AI teknolojisinin yaratıcı ve faydalı yönlerinin yanı sıra, kötü niyetli kişilerin elinde nasıl bir tehdit oluşturabileceğini bir kez daha gözler önüne serdi. Kullanıcıların, AI araçlarını sorumlu bir şekilde kullanması ve platformların da bu tür suistimalleri önlemek için proaktif adımlar atması bekleniyor.

Kaynak: TechCrunch

ETİKETLER