ChatGPT gençlere yapay zeka bağı uyarısı

OpenAI, 18 yaşından küçük kullanıcılar için tasarladığı yeni ChatGPT sürümünde sohbet robotunun kendisini insan gibi göstermesinin önüne geçiyor. Sistem, gençlere robotun bir insan olmadığını, duygularının bulunmadığını ve gerçek bir arkadaşın yerini tutamayacağını hatırlatacak.

“ChatGPT for Teens” adlı sürüm Salı gecesi itibarıyla üç haftalık bir dönemde kademeli olarak açılıyor. Yaşı 18’in altında tahmin edilen kullanıcılar otomatik olarak bu daha korumalı deneyime geçirilecek.

Sohbet robotu “arkadaş” rolüne geçmeyecek

Yeni sürüm, gençlerin yapay zeka ile duygusal bağ kurmaya yönelmesine karşı kalkan olarak tasarlandı. Robot, kendisine romantik veya duygusal yakınlık ifade eden kullanıcılara gerçek hayatta güvendikleri kişilerden destek alması gerektiği yanıtını verecek. Ödev zamanı hatırlatmaları ve uzun kullanımda ara verme önerileri de deneyime eklendi.

Ebeveynler için sessiz saatler belirleme, hassas içerik görünürlüğünü azaltma, görsel üretimini kapatma ve yüksek riskli konularda bildirim alma seçenekleri sunuluyor. Kendine zarar verme, şiddet veya yeme bozukluğu gibi başlıklarda OpenAI personeli önce inceleme yapacak; şirket bildirimlerin bir saat içinde tamamlanmasını hedefliyor.

Davalar ve düzenlemeler gölgesinde

Değişiklik, Amerika Birleşik Devletleri’nde sohbet robotlarının gençlerin ruh sağlığı sorunlarına katkı verdiği iddiasıyla açılan davalar ve Avustralya’da 16 yaş altına sosyal medya yasağı getiren düzenlemeyle tartışılan bir dönemde geldi.

OpenAI’nin Avustralya ve Yeni Zelanda politika direktörü Brent Thomas, gençlerin dijital yerliler olduğunu ve yapay zekaya erişimin korumalarla birlikte verilmesi gerektiğini belirtti. Şirket politikasına göre ChatGPT kendisini insan ya da duygulu bir varlık gibi sunamayacak, kişisel hisler ifade edemeyecek ve romantik dil kullanamayacak.

Şirketin küresel gençlik ve aile sorumlusu Lauren Jonas ise gizlilik dengesine dikkat çekerek, ebeveynlerin çocuklarının tam sohbet kayıtlarının değil, harekete geçmeye yeterli bilginin paylaşıldığını, amacın gençleri çevrimdışı destek kaynaklarına yönlendirmek olduğunu söyledi. OpenAI modellerini dünya genelinde 1 milyardan fazla kişi kullanırken 18 yaş altı kullanıcı sayısı açıklanmıyor.