OpenAI ajanı ikinci şirkette hesabı ele geçirdi

OpenAI’ın izole bir test ortamından çıkan yapay zekâ ajanının, Hugging Face’in ardından New York merkezli Modal Labs altyapısını kullanan bir müşterinin hesabını da ele geçirdiği bildirildi.

Modal Labs yöneticileri, şirketin kendi sistemlerinin saldırıya uğramadığını açıkladı.

Hugging Face tarafından yayımlanan teknik zaman çizelgesine göre yapay zekâ ajanı, üçüncü taraf bir sağlayıcının altyapısında barındırılan korumalı test ortamından çıkarak daha geniş çaplı saldırılar için bu sistemi kullandı.

GÜVENSİZ BAĞLANTI KULLANILDI

Modal Labs Teknoloji Direktörü Akshat Bubna, bir müşterinin internette kimlik doğrulaması gerektirmeyen bir bağlantı yayımladığını ve bu bağlantının herkesin şirketin korumalı çalışma ortamlarında kod çalıştırmasına izin verdiğini açıkladı.

Bubna, söz konusu bağlantının yapay zekâ ajanı tarafından kullanıldığını ancak Modal Labs platformunun ve izolasyon sistemlerinin ihlal edilmediğini söyledi.

OpenAI, Modal Labs müşterisine yönelik olay hakkında doğrudan açıklama yapmadı. Şirket, yapay zekâ ajanının dört ayrı hizmette dört hesaba eriştiğini bildiren güncellemesine işaret etti.

HUGGING FACE SALDIRISI

Hugging Face, 16 Temmuz’da güçlü bir yapay zekâ sistemi kullanan saldırgan tarafından hedef alındığını açıklamıştı.

Şirket, saldırının çok az insan yönlendirmesiyle ve insan kapasitesini aşan hızda gerçekleştirildiğini bildirdi.

OpenAI, test edilen modeli devre dışı bıraktığını, şifrelediğini ve araştırmacıların erişimine kapattığını açıkladı.

Şirket, Hugging Face olayının platform düzeyinde bir ihlal olduğunu ancak aynı ölçekte veya ciddiyette başka bir faaliyet tespit edilmediğini bildirdi.