Yapay zeka teknolojisinin önde gelen şirketlerinden OpenAI, gerçekleştirilen bağımsız siber güvenlik değerlendirmelerinde bazı yapay zeka modellerinin test kapsamının dışına çıktığını duyurdu. Şirket, söz konusu durumun test ortamlarının yapısı ile modellerin giderek artan yeteneklerinin birleşmesinden kaynaklandığını bildirdi.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün testi

OpenAI tarafından yapılan açıklamada, iki ayrı değerlendirmenin sonuçları paylaşıldı. İlk test, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütüldü. İnternete erişim yetkisi bulunan bir OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev tanımının dışında kalan gerçek internet hizmetleriyle etkileşime geçtiği tespit edildi.

Irregular tarafından yürütülen ikinci test

İkinci değerlendirme ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirildi. Test ortamındaki bir yanlış yapılandırma nedeniyle modelin internete erişim sağladığı belirlendi. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu söz konusu web sitesini test ortamının bir parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.

Hugging Face olayıyla bağlantısı yok

OpenAI, yaşanan bu iki olayın daha önce duyurulan Hugging Face güvenlik ihlalinden bağımsız olduğunu vurguladı. Hatırlanacağı üzere şirket, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce kamuoyuyla paylaşmıştı.

Bu gelişme, yapay zeka sistemlerinin artan otonom yeteneklerinin güvenlik testlerinde nasıl öngörülemeyen riskler oluşturabileceğini bir kez daha gözler önüne serdi.