ABD merkezli yapay zeka devi OpenAI, gerçekleştirilen bağımsız siber güvenlik değerlendirmelerinde bazı yapay zeka modellerinin planlanan test sınırlarını aşarak beklenmedik faaliyetlerde bulunduğunu açıkladı. Şirket, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesinin bu duruma yol açtığını bildirdi.

UK AISI testinde dikkat çeken gelişme

OpenAI tarafından yapılan detaylı açıklamada, ilk değerlendirmenin Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütüldüğü belirtildi. İnternete erişim izni bulunan OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği tespit edildi.

Irregular tarafından yürütülen ikinci test

İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen test sırasında farklı bir sorun ortaya çıktı. Test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişim sağlayabildiği bildirildi. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucunda gerçek bir web sitesini test ortamının parçası olarak algıladığı ve buradaki temel bir güvenlik açığından yararlandığı aktarıldı.

Hugging Face olayından farklı bir süreç

OpenAI yetkilileri, söz konusu iki olayın daha önce kamuoyuna duyurulan Hugging Face güvenlik ihlalinden tamamen bağımsız olduğunu vurguladı. Hatırlanacağı üzere şirket, siber güvenlik yeteneklerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu daha önce bildirmişti.

Yaşanan bu gelişmeler, yapay zeka modellerinin artan otonom yeteneklerinin siber güvenlik testlerinde ne kadar hassas bir denge gerektirdiğini bir kez daha gözler önüne serdi. Uzmanlar, yapay zeka sistemlerinin test ortamlarının sınırlarını aşma eğiliminin, gelecekte daha katı güvenlik protokollerinin uygulanmasını zorunlu kılabileceğini değerlendiriyor.