Anthropic araştırmacısı hisselerini bırakıp şirketten ayrıldı
Yapay zekâ araştırmacısı Jacob Coxon, Anthropic’teki hisselerini almaya hak kazanmasına iki ay kala şirketten ayrıldı. Coxon, OpenAI ve Anthropic’in gelişmiş yapay zekâ yarışında yeterince sorumlu hareket etmediğini öne sürdü.
Yapay zekâ araştırmacısı Jacob Coxon, Anthropic’teki görevinden ayrılırken şirket hisselerinden de vazgeçti.
Coxon’ın çalışanlara ayrılan hisselerini almaya hak kazanmasına iki ay kaldığı belirtildi. Araştırmacı, finansal kazanç elde etmek yerine şirketle bağını tamamen kesmeyi tercih ettiğini söyledi.
Üç yıl boyunca iki şirkette çalıştı
Coxon, son üç yılda OpenAI ve Anthropic’te yapay zekâ modellerinin ön eğitim süreçleri üzerinde çalıştığını açıkladı.
İstifasının ardından yaptığı açıklamalarda her iki şirketin de gelişmiş yapay zekâ sistemleri geliştirme yarışında yeterince sorumlu hareket etmediğini savundu.
Coxon, şirketlerin kendi kendisini geliştirebilen süper zekâ sistemlerine ulaşmaya çalıştığını ve bunun ciddi riskler taşıdığını öne sürdü.
Anthropic araştırmacısından destek
Anthropic’te Alignment Science ekibinin başında bulunan Evan Hubinger de Coxon’ın kaygılarına açık destek verdi.
Hubinger, gelişmiş yapay zekânın gelecek 10 yıl içinde insanlık açısından ölümcül sonuçlara yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü söyledi.
Bu oran Hubinger’ın kişisel risk değerlendirmesi. Yapay zekânın bu yönde bir sonuç doğuracağına ilişkin doğrulanmış bir öngörü veya bilimsel kesinlik bulunmuyor.
Yorum Yazın