Yapay zeka alanındaki çalışmalarıyla dünya gündeminde sıkça yer alan OpenAI, gerçekleştirilen bağımsız siber güvenlik testlerinde bazı yapay zeka modellerinin öngörülen sınırları aştığını duyurdu.

Testlerde beklenmedik gelişmeler yaşandı

Şirketten yapılan açıklamada, iki ayrı bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının yapısıyla modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan çerçevenin dışına taştığı bildirildi.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün testi

İlk değerlendirmede UK AISI (Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü), internete erişim izni bulunan bir OpenAI modelini siber güvenlik testine tabi tuttu. Model, simüle edilen ortama ulaşmaya çalışırken görev tanımının dışında kalan bazı gerçek internet hizmetleriyle etkileşime girdi. Bu durum, testin kapsamı açısından öngörülmeyen bir gelişme olarak kayıtlara geçti.

Irregular tarafından yürütülen ikinci test

OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen bir diğer değerlendirmede ise test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişim sağladığı ortaya çıktı. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, gerçek bir web sitesini test ortamının bir parçası olarak algıladı. Bunun üzerine söz konusu sitedeki temel bir güvenlik açığından yararlandı.

Hugging Face olayından farklı bir süreç

OpenAI yetkilileri, yaşanan bu iki olayın daha önce kamuoyuna duyurulan Hugging Face güvenlik olayından bağımsız olduğunu vurguladı. Hatırlanacağı üzere şirket, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce açıklamıştı.

Yaşanan bu gelişmeler, yapay zeka modellerinin artan yeteneklerinin siber güvenlik testlerinde ne denli öngörülmez sonuçlar doğurabileceğini bir kez daha gözler önüne serdi.