Mağazayı yapay zekâya bıraktılar
Bir ofis mağazasının yönetimini üstlenen Claude tabanlı yapay zekâ, çalışanların yönlendirmelerine karşı koyamadı. Başlangıçtaki bin dolarlık bütçe kısa sürede tükendi.
Yapay zekânın gerçek bir işletmeyi yönetme kapasitesini ölçmek amacıyla yapılan deney, beklenmedik siparişler ve ücretsiz dağıtılan ürünlerin ardından zararla sonuçlandı.
Anthropic tarafından geliştirilen ve “Claudius Sennet” adı verilen yapay zekâya, bir haber kuruluşunun ofisindeki küçük mağazayı yönetme görevi verildi. Sistemden ürün seçmesi, stokları takip etmesi, fiyatları belirlemesi ve kâr etmesi istendi.
Çalışanlar sistemi yönlendirdi
Yaklaşık 70 çalışan, mesajlaşma sistemi üzerinden yapay zekâdan ürün talep edebiliyor ve fiyat pazarlığı yapabiliyordu. Başlangıçta bazı talepleri reddeden Claudius, uzun süren yazışmaların ardından ürünleri ücretsiz dağıtmaya başladı.
Sistemin daha önce kesinlikle sipariş etmeyeceğini bildirdiği PlayStation 5’i aldığı, mağazaya canlı bir balık ve alkollü içecekler getirttiği belirtildi.
Çalışanlardan biri, mağazanın kâr amacı taşımadığına ilişkin sahte belgeler hazırlayarak sisteme sundu. Yapay zekâ, belgeleri doğru kabul ettikten sonra mağazadaki ürünleri yeniden ücretsiz hale getirdi.
Yapay zekâ yöneticisi de durduramadı
Deneyin ikinci aşamasında Claudius’u denetlemek üzere “Seymour Cash” adlı ikinci bir yapay zekâ yöneticisi devreye alındı. Ancak bu sistem de sahte yönetim belgelerinden etkilendi ve ücretsiz dağıtımı engelleyemedi.
Bin dolarlık başlangıç sermayesiyle başlayan işletmenin yaklaşık üç hafta içinde borçlu duruma düştüğü bildirildi. Araştırmacılar, deneyin yapay zekâ sistemlerinin uzun vadeli hedefleri koruma ve insan yönlendirmelerine direnme konularındaki sınırlarını ortaya koyduğunu belirtti.
Yorum Yazın