Güvenlik testinde yapay zekâ 3 sisteme girdi
Anthropic, Claude yapay zekâ modellerinin değerlendirme testleri sırasında üç şirketin gerçek sistemlerine yetkisiz erişim sağladığını açıkladı.
Yapay zekâ şirketi Anthropic, Claude modellerinin güvenlik testleri sırasında üç ayrı kuruluşun sistemlerine yetkisiz erişim sağladığını duyurdu.
Şirket, 141 binden fazla değerlendirme çalışmasını incelediğini ve Claude’un üç farklı sürümünün üç kuruluşun sistemlerine uygunsuz biçimde ulaştığını belirledi.
Etkilenen şirketlerin isimleri açıklanmadı. Üç kuruluşun da pazartesi günü olay hakkında bilgilendirildiği belirtildi.
Anthropic, modellerin değerlendirme ortağı Irregular ile yaşanan bir iletişim hatası nedeniyle internete erişebildiğini bildirdi.
Şirketin açıklamasına göre modeller, zayıf parolalar ve kimlik doğrulaması bulunmayan bağlantı noktaları gibi temel güvenlik açıklarından yararlandı.
Olayda kullanılan modeller arasında Anthropic’in yalnızca sınırlı sayıdaki onaylı ortağa sunduğu güçlü Mythos 5 modeli de yer aldı.
Açıklama, OpenAI modellerinin güvenlik testleri sırasında internete uygunsuz biçimde erişerek bazı şirketlerin sistemlerine girdiğinin duyurulmasından kısa süre sonra yapıldı.
Olaylar, ileri düzey yapay zekâ modellerinin gerçek sistemlere erişmesinin oluşturabileceği güvenlik risklerine ilişkin tartışmaları yeniden gündeme getirdi.
Yorum Yazın