1 Kasım 2026 — ShiftDelete kaynaklı haber: Anthropic ve OpenAI'dan yapay zekâ fren önerisi.
Ana sayfa
Yapay Zeka
Anthropic ve OpenAI'dan yapay zekâ fren önerisi
Anthropic ve OpenAI, Kaliforniya'ya tehlikeli yapay zeka sistemlerini durdurmak için farklı öneriler sundu. Arada önemli ayrımlar var.
Ender Öztürk
01.11.2026 15:50 okunma
Google'da SDN'yi tercih edilen kaynak yap
Anthropic ve OpenAI, Kaliforniya yönetimine tehlikeli yapay zeka sistemlerini durdurmaya yönelik farklı yöntemler önerdi. Anthropic, eyaletin başsavcısına mahkeme yoluyla müdahale yetkisi verilmesini istiyor. Buna karşın OpenAI, geliştiricilerin hem kurması hem de gerektiğinde kullanması zorunlu olan acil kapatma mekanizmalarını savunuyor.
İki şirket de önerilerini Vali Gavin Newsom'a iletti. Çünkü Newsom, 18 Eylül'de N-9-26 sayılı kararnameyi imzaladı. Bu belge, devlet kurumlarından en güçlü yapay zeka sistemleri için ek güvenlik önerileri hazırlamasını istiyor. Öneriler için son tarih 16 Kasım. Ancak kararname şu an yeni bir zorunluluk getirmiyor.
Anthropic ve OpenAI Arasındaki İlk Fark: Anthropic'in Yöntemi
Anthropic, 15 Ekim tarihli belgesinde geliştiricilerin güvenlik iddialarının bağımsız biçimde değerlendirilmesini önerdi. Ayrıca sonuçların yayımlanmasını istedi. Şirketlere en az altı ayda bir risk raporu yayımlama yükümlülüğü getirilmesi de talepler arasında.
Üstelik kurum içinde kullanılan modeller kamuya açık sürümlerden belirgin biçimde güçlüyse, bunların riskleri de rapora girmeli.
Bağımsız değerlendiriciler en güçlü modellere ve geliştiricilerin iç bilgilerine erişebilmeli. Bununla birlikte çalışmalar, denetlenen şirketlerin doğrudan ödemesiyle değil, eyaletin yöneteceği ortak bir fonla finanse edilmeli.
Anthropic ayrıca "otomatik sigorta" anlamına gelen circuit breaker kavramını öne sürdü. Bu mekanizmalar sorunu tek bir ajan, müşteri, dağıtım ortamı ya da modelin tamamı düzeyinde sınırlamalı. Bağımsız inceleme felaket boyutunda zarar riskini doğrularsa başsavcı, sistemin geçici olarak durdurulması için mahkemeye başvurabilmeli.
Anthropic ve OpenAI Önerilerinde OpenAI'ın Farklı Yaklaşımı
OpenAI, 20 Ekim tarihli mektubunda bağımsız teknik değerlendirmeyi destekledi. Ancak bunu, kurallara uyum denetiminden ayırmayı önerdi. Öte yandan teknik incelemeler modellerin güvenliğine dair kanıtlara ve koruma önlemlerinin etkisine bakacak.
Denetim ise şirketin yayımladığı kurallara ve yasal yükümlülüklere uyulup uyulmadığını kontrol edecek.
Şirket, bağımsız denetimin yılda bir yapılmasını istiyor. Teknik incelemeler ise eğitim, test ve iç kullanım aşamalarında ciddi risk ortaya çıktığında yapılmalı. Aynı zamanda OpenAI, Kaliforniya'nın ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile ortak değerlendirme standartları geliştirmesini istedi.
Kapatma yöntemi konusunda da görüş ayrılığı var. OpenAI'a göre "acil kapatma mekanizmaları" ifadesi, "kill switch" teriminden daha doğru. Çünkü her yapay zeka sistemi için tek bir düğme yok.
Duruma göre model eğitimi durdurulabilir, bir ajan izole edilebilir, araç ya da ağ erişimi kesilebilir veya hizmet askıya alınabilir.
Sorumluluklar da geliştiriciler, bilişim hizmeti sağlayıcıları ve modelleri kullanan şirketler arasında, fiilen yönettikleri işlemlere göre paylaşılmalı. Buna karşın geliştirici, üçüncü taraf altyapıda çalışan açık ağırlıklı modellerin bağımsız kopyalarını her zaman kapatamaz.
Anthropic ve OpenAI, olay raporlamasının genişletilmesi konusunda ortak görüşte. Modellerin koruma sınırlarını aşması ya da yetkilerinin dışında hareket etmesi de raporlanmalı. Greyhound Research analisti Sanchit Vir Gogia'ya göre teknik mekanizmalar operatörün tehlikeli davranışı hızla sınırlamasını sağlamalı.
Bağımsız denetim ise yalnızca alınan önlemleri değil, geliştiricinin harekete geçmemesini de incelemeli. Öneriler için son tarih 16 Kasım.
#Anthropic#openai#kaliforniya#gavin newsom#yapay zeka güvenliği#nist
Haberde hata mı var? Bize bildirin
Senin fikrin ne?
Sen olsan yapay zekâ sistemlerini durdurma yetkisi mahkemeye mi, yoksa geliştiricilerin kendi acil kapatma mekanizmalarına mı verilmeli?
Yorumunu yazForumda tartış
Forumda konuşulanlar
OpenAI ve Anthropic yaş kontrolü yapacak!0 cevap
İlk yorumu siz yazın.
Yorumunuz
Hesabın varsa giriş yap, adınla yorum yaz.
AdınızE-posta
Yorumuma yanıt gelince e-postayla haber ver
Yorumlar yapay zekâ destekli ön elemeden geçer; son karar moderatördedir. Topluluk kuralları
Yorumu gönder
Çok okunanlar
Akıllı Telefon30.10.2026 14:34
Galaxy Z Fold 9 Özellikleri Sızdı: Tasarım, Kamera ve Fiyat
Detaylı bilgi için orijinal kaynağı inceleyebilirsiniz.