OpenAI, Kaliforniya’nın AI Güvenlik Yasasını Güçlendirmeyi Savunuyor

OpenAI, son günlerde Kaliforniya eyaletinin AI güvenliği üzerine hazırladığı SB 53 tasarısının daha sıkı bir çerçeveye alınması gerektiğini açıkladı. Şirket, daha önce tasarıya karşı çıkmıştı; ancak yapay zekâ teknolojisinin hızla evrimleşmesi ve potansiyel risklerin artması, OpenAI’nin tutumunu değiştirmesine yol açtı.

OpenAI’nin yöneticileri, SB 53’ün temel amacının yüksek riskli yapay zekâ sistemlerinin geliştirilmesi ve dağıtımında şeffaflık, sorumluluk ve risk değerlendirmesi sağlamak olduğunu belirtti. Ancak mevcut metnin, büyük ölçekli modellerin güvenliğini sağlamak için yeterli denetim mekanizmalarını içermediği ve bazı kritik güvenlik standartlarını dışarıda bıraktığı iddia edildi.

Şirket, tasarıya eklenmesi gereken başlıca maddeler arasında, model eğitimi sırasında kullanılan veri setlerinin denetlenmesi, gerçek zamanlı izleme sistemlerinin kurulması ve olası zararlı çıktılar için zorunlu geri bildirim döngülerinin oluşturulması yer alıyor. Ayrıca, AI sistemlerinin toplumsal etkilerini ölçmek amacıyla bağımsız denetim kurumlarının görevlendirilmesi talep ediliyor.

Kaliforniya Senatosu, SB 53’ün ilk taslağını 2025 yılında kabul etmişti; tasarı, yapay zekâ şirketlerinin risk raporları sunmasını ve yüksek riskli uygulamalar için lisans almasını öngörüyordu. OpenAI, bu çerçeveyi genişleterek, özellikle jeneratif modellerin yanlış bilgi üretimi ve manipülasyon potansiyeline karşı daha güçlü önlemler alınmasını istiyor.

Endüstri gözlemcileri, OpenAI’nin bu tavrının, şirketin hem düzenleyici otoritelerle iş birliği yapma isteğini hem de sorumlu inovasyon vizyonunu yansıttığını belirtiyor. Kaliforniya’nın teknoloji politikalarında öncü rol oynamaya devam etmesi, diğer eyaletler ve ülkeler için de bir model oluşturabilir.

OpenAI, SB 53’ün revize edilmesi sürecinde eyalet yetkilileriyle yakın temas içinde olduğunu ve önerilen değişikliklerin kamuoyu ile paylaşılacağını duyurdu. Şirket, yapay zekâ güvenliğinin sadece teknik bir sorun değil, aynı zamanda toplumsal bir sorumluluk olduğunu vurguluyor.

Kaynak: TechCrunch

ETİKETLER