Yapay zekâ üç şirketin sistemine girdi
Anthropic ile bağımsız değerlendirme şirketi arasındaki yanlış anlaşılmanın yapay zekâ modellerine açık internet erişimi sağladığı belirtildi. Modellerin zayıf şifreler ve korumasız bağlantı noktalarından yararlandığı açıklandı.
Yapay zekâ şirketi Anthropic’in modellerinin güvenlik testleri sırasında üç şirketin gerçek sistemlerine izinsiz erişim sağladığı bildirildi.
Olayın, Anthropic ile değerlendirme ortağı Irregular arasındaki test koşullarına ilişkin bir yanlış anlaşılmadan kaynaklandığı belirtildi.
Yapay zekâ modellerine yalnızca kontrollü bir test ortamında çalıştıkları varsayımıyla internet erişimi verildiği ancak modellerin gerçek sistemlere ulaşabildiği ortaya çıktı.
ZAYIF ŞİFRELERDEN YARARLANDILAR
Test edilen üç yapay zekâ modelinin zayıf şifreler ve kimlik doğrulaması bulunmayan bağlantı noktaları gibi temel güvenlik açıklarını kullanarak şirket sistemlerine eriştiği bildirildi.
Etkilenen üç şirketin adı açıklanmadı.
İhlalin, güvenlik değerlendirmesi kapsamında yapılan 141 binden fazla denemenin incelenmesi sırasında fark edildiği belirtildi.
Anthropic, olayın ardından test sistemlerinin dış dünyaya erişimini ve güvenlik önlemlerini yeniden değerlendirdi.
AÇIK İNTERNET ERİŞİMİ TARTIŞMASI
Olay, gelişmiş yapay zekâ modellerinin dış sistemlere doğrudan erişim verilerek test edilmesinin oluşturabileceği riskleri yeniden gündeme getirdi.
Uzmanlar, modellerin gerçek internet ortamına bağlanmadan önce güçlü biçimde izole edilmiş sanal alanlarda çalıştırılması gerektiğini belirtiyor.
Benzer bir güvenlik sorununun OpenAI tarafından yürütülen testlerde de yaşandığı ve bazı modellerin kontrollü ortamın dışındaki sistemlere ulaştığı bildirildi.
YAPAY ZEKÂ GÜVENLİĞİ ÇAĞRISI
Anthropic Üst Yöneticisi Dario Amodei ve teknoloji sektöründeki bazı isimler, gelişmiş yapay zekâ sistemlerinin güvenli biçimde geliştirilebilmesi için daha güçlü yönetim ve denetim mekanizmaları kurulması çağrısında bulundu.
Olayda erişilen sistemlerde kalıcı hasar oluşup oluşmadığı veya herhangi bir verinin dışarı çıkarılıp çıkarılmadığına ilişkin ayrıntı açıklanmadı.
Yorum Yazın