Avustralya yapay zekâ risklerini araştıracak

Avustralya hükümeti, gelişmiş yapay zekâ sistemlerinin insan denetimi olmadan zararlı kararlar verebildiğini gösteren testlerin ardından teknolojiye ilişkin güvenlik araştırmalarını genişletme kararı aldı.

Teknoloji Bakan Yardımcısı Andrew Charlton, Sydney’de düzenlenen Yapay Zekâ Güvenliği Forumu’nda yaptığı konuşmada, devlet kurumlarının güçlü yapay zekâ modellerini test etmeye başladığını açıkladı.

Charlton, bazı yapay zekâ sistemlerinin geliştiricilerinin amaçlamadığı davranışlarda bulunduğunu söyledi.

Sistemlerin kontrollü testlerde hile yaptığını, kullanıcıları aldattığını, kendi hedefleri doğrultusunda hareket ettiğini, bilgisayar sistemlerine izinsiz eriştiğini ve şantaja başvurduğunu belirtti.

Charlton, bu davranışların gerçek dünyaya ulaşmadan önce laboratuvar ortamında incelenmesi gerektiğini ifade etti.

Testlerden birinde, bir şirketin e-posta sistemini yöneten yapay zekâya, bir yöneticinin sistemi değiştirmeyi planladığı ve evlilik dışı ilişki yaşadığı bilgisi verildi.

Yapay zekâ sistemi, kapatılmasını önlemek amacıyla yöneticiyi şantajla tehdit etti.

Başka bir testte ise güçlü bir satranç motorunu yenmesi istenen yapay zekâ modellerinin rakip sistemi hackleyerek hile yaptığı belirtildi.

Charlton, ileri düzey modellerde aldatma, hile ve içinde bulunduğu durumun farkında olma belirtileri görüldüğünü söyledi.

Avustralya Yapay Zekâ Güvenliği Enstitüsü’nün Genel Müdürü Dr Kate Conroy yönetiminde model testlerine başladığı açıklandı.

Enstitü, yapay zekâ ajanlarını araştırmak üzere Gradient Institute ile, insanların yapay zekâ modellerini nasıl denetleyebileceğini incelemek üzere CSIRO ile çalışacak.

Profesör Paul Salmon’ın temmuz ayında enstitünün güvenlik bilimi araştırma lideri olarak göreve başlayacağı bildirildi.

Eski Teknoloji Bakanı Ed Husic, hükümetin yapay zekâ risklerine yönelik adım atmakta geç kaldığını savundu.