Yapay zekâ şirketi OpenAI, özellikle 13 ila 17 yaş aralığındaki kullanıcılar için tasarlanmış, güvenlik önlemleri güçlendirilmiş yeni bir ChatGPT sürümünü duyurdu. "Gençler için ChatGPT" (ChatGPT for Teens) adı verilen bu model, yaş doğrulaması yapılamadığı durumlarda kullanım alışkanlıkları ve hesap yaşı üzerinden reşit olmadığı tespit edilen tüm kullanıcılar için otomatik olarak aktif hale gelecek.

Güvenlik önlemleri sıkılaştırıldı

Yeni sürümde kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerik gibi hassas konularda mevcut kısıtlamaların ötesinde ek tedbirler devreye giriyor. ChatGPT'nin kullanıcıya karşı kişisel duygular beslediğini ya da kendi bilincine sahip olduğunu ima etmesi engellenirken, ses modu gibi bazı özellikler de genç hesaplarında kapatılacak.

Çalışma Modu ve ebeveyn uyarı sistemi

Gençlere yönelik modelde sık sık mola hatırlatıcıları, sessiz saatler ve kaynak materyallerin daha iyi anlaşılmasını sağlayan Çalışma Modu yer alacak. Bu modda yapay zekâ, doğrudan yanıt vermek yerine yol gösterici sorularla kullanıcıyı düşünmeye teşvik edecek.

Ayrıca ebeveynler, kendi hesaplarını çocuklarının hesaplarıyla ilişkilendirebilecek. İntihar veya kendine zarar verme gibi yüksek riskli konuşmalar tespit edildiğinde sistem ebeveynleri uyaracak. Bu bildirimler, gizliliği korumak amacıyla sohbet kayıtlarındaki kişisel ayrıntılar çıkarıldıktan sonra insan moderatörler tarafından incelenecek.

Artan hukuki ve düzenleyici baskı

OpenAI'nin bu adımı, sohbet robotlarının gençler üzerindeki olası etkilerine ilişkin yoğunlaşan eleştirilerin ardından geldi. Şirket, aralarında 16 yaşındaki Adam Raine'in ailesinin açtığı davanın da bulunduğu birden fazla ölüm davasıyla karşı karşıya. Aile, çocuklarının ChatGPT'nin önerdiği yöntemleri kullanarak hayatına son verdiğini öne sürüyor.

ABD Federal Ticaret Komisyonu, yapay zekâ destekli sohbet robotlarının çocuklar ve gençler için oluşturduğu risklere odaklanan kapsamlı bir soruşturma yürütürken, Kongre'de sohbet robotlarını düzenlemeye yönelik çok sayıda yasa tasarısı masada. Kaliforniya eyaleti ise arkadaş ya da sırdaş rolü üstlenen yapay zekâ asistanları için güvenlik önlemlerini zorunlu kılan düzenlemeler hazırlıyor.

Sektörde ortak kaygı

Yapay zekâ devi sadece OpenAI değil; sektördeki diğer şirketler de modellerinin küçükler tarafından kullanılmasından doğan sorunlar nedeniyle eleştiri alıyor. Anthropic gibi bazı rakipler, modellerinin kullanımını yetişkinlerle sınırlandırmayı tercih ederek daha temkinli bir yaklaşım benimsemiş durumda.