OpenAI ve Anthropic, New York’un AI Güvenlik Yasasıyla Yeni Denetimle Karşı Karşıya

0 Beğenme

Yorum Yaz

Favorilere Ekle

New York, yapay zekâ alanında ABD’nin en kapsamlı güvenlik düzenlemesini yürürlüğe koydu ve bu düzenleme, sektördeki dev oyunculara doğrudan yöneliyor. Açıkça belirtildiği gibi, OpenAI ve Anthropic gibi büyük modeller geliştiren şirketler, devlete kayıt yaptırmak, güvenlik prosedürlerini ayrıntılı olarak belgelemek ve kritik bir olay meydana geldiğinde yetkililere rapor sunmak zorunda. Yasa, şeffaflığı artırarak olası riskleri önceden tespit etmeyi ve kamu güvenliğini korumayı amaçlıyor.

Kayıt süreci, şirketlerin New York’taki bir veri tabanına temel bilgiler, geliştirdikleri modellerin teknik özellikleri ve kullanım alanları gibi verileri girmesini içeriyor. Bu bilgiler, denetim birimlerinin modelin olası zararlı etkilerini değerlendirmesine yardımcı olacak. Ayrıca, firmaların güvenlik protokollerini, test sonuçlarını ve risk azaltma stratejilerini düzenli olarak güncellemeleri isteniyor. Bu sayede, bir modelin hatalı çıktısı ya da kötüye kullanım riski ortaya çıktığında, ilgili otoriteler hızlıca müdahale edebilecek.

Yasaya göre, kritik bir olay—örneğin bir modelin beklenmedik bir şekilde yanlış bilgi yayması, ayrımcılık yapması ya da güvenlik açığı oluşturması—derhal raporlanmalı ve detaylı bir inceleme sürecine tabi tutulmalı. Raporlamada eksik bilgi ya da gecikme durumunda, şirketler yüksek para cezalarıyla karşılaşabilir. İlk açıklamalara göre, ihlaller için günlük 10.000 dolar ile 1 milyon dolar arasında değişen para cezaları öngörülüyor.

OpenAI ve Anthropic, bu yeni denetim çerçevesine uyum sağlamak için ekiplerini genişletiyor ve iç denetim mekanizmalarını güçlendiriyor. Şirketler, güvenlik raporlamasını otomatikleştiren platformlar geliştirmeyi ve bağımsız denetçilerle iş birliği yaparak şeffaflığı artırmayı planlıyor. Bu adımlar, sadece New York’taki yasal zorunlulukları karşılamakla kalmayıp, aynı zamanda küresel ölçekte AI güvenliğine dair standartları da yükseltmeyi hedefliyor.

New York’un bu hamlesi, diğer eyaletler ve ülkeler için bir örnek teşkil edebilir. AI teknolojisinin hızla evrimleştiği bir ortamda, düzenleyici çerçevelerin de aynı hızda güncellenmesi, sektördeki inovasyonun sorumlu bir şekilde ilerlemesi için kritik öneme sahip.

Kaynak: TechCrunch