Yapay genel zekâ alanının öncü şirketlerinden OpenAI, sohbet robotu ChatGPT'nin genç kullanıcılara özel olarak tasarlanmış yeni bir sürümünü duyurdu. Şirket, son dönemde yapay zekânın gençler üzerindeki olası olumsuz etkilerine ilişkin artan eleştiriler ve açılan davaların ardından harekete geçti.

Gençlere Özel Güvenlik Katmanı Devrede

"ChatGPT for Teens" (Gençler için ChatGPT) adı verilen yeni sürüm, 13 ile 17 yaş arasındaki kullanıcılar için otomatik olarak etkinleştirilecek. Sistem, kayıt sırasında yaş bilgisi veren veya kullanım kalıpları ile hesap yaşı üzerinden reşit olmadığı tespit edilen tüm gençleri kapsayacak.

Yeni modelde yer alan başlıca güvenlik önlemleri şöyle sıralanıyor:

  • Kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerikle ilgili katı kısıtlamalar
  • Sohbet robotunun kullanıcıya karşı duygu beslediğini ima eden ifadelerin engellenmesi
  • Ses modu gibi bazı özelliklerin genç hesaplarında devre dışı bırakılması

Ebeveynlere Uyarı Sistemi Geliyor

OpenAI'nin en dikkat çekici yeniliklerinden biri, ebeveynlere yönelik bildirim mekanizması oldu. Ebeveynler, kendi hesaplarını çocuklarının hesaplarıyla ilişkilendirebilecek. Sistem, kendine zarar verme veya intihar gibi yüksek riskli konuların tespit edilmesi durumunda aileyi otomatik olarak uyaracak.

Bu uyarılar, insan moderatörler tarafından incelenecek ve gizliliği korumak amacıyla sohbet kayıtlarından belirli kişisel bilgiler çıkarılacak. Şirket ayrıca genç kullanıcılar için daha sık mola hatırlatıcıları, sessiz saatler ve doğrudan yanıt yerine yol gösterici sorular sunan Çalışma Modu gibi destekleyici özellikler de sunuyor.

Artan Yasal ve Düzenleyici Baskı

Söz konusu güncelleme, OpenAI'nin yoğun bir hukuki süreçle mücadele ettiği bir döneme denk geldi. Şirket, aralarında en dikkat çekici olanı 16 yaşındaki Adam Raine davası olmak üzere, ChatGPT'nin önerdiği yöntemlerle intihar ettiği iddia edilen kullanıcıların aileleri tarafından açılan birden fazla davayla karşı karşıya bulunuyor.

ABD Federal Ticaret Komisyonu (FTC), yapay zekâ destekli sohbet robotlarının çocuklar ve gençler için oluşturduğu potansiyel risklere odaklanan kapsamlı bir soruşturma başlattı. Öte yandan ABD Kongresi'nde sohbet robotlarını düzenlemeye yönelik çok sayıda yasa tasarısı hazırlanırken, Kaliforniya eyaleti de dijital arkadaş veya sırdaş görevi gören asistanlar için güvenlik önlemlerini zorunlu kılan düzenlemeler üzerinde çalışıyor.

Sektör Genelinde Yeni Bir Dönem

Yapay zekâ şirketleri, sosyal medya platformlarına benzer şekilde artan düzenleyici baskılarla yüzleşiyor. Sektördeki bazı rakipler farklı yollar izliyor; Anthropic gibi firmalar modellerinin kullanımını doğrudan yetişkinlerle sınırlandırmayı tercih ederken, OpenAI yaşa duyarlı bir katmanlı yapı oluşturma stratejisi benimsiyor. Bu hamle, teknoloji devlerinin küçükler için sundukları hizmetlerde nasıl bir denge kuracağı sorusunu yeniden gündeme taşıdı.