ABD merkezli yapay zeka devi OpenAI, gerçekleştirilen bağımsız siber güvenlik değerlendirmelerinde bazı yapay zeka modellerinin öngörülen test çerçevesinin dışına çıktığını kamuoyuyla paylaştı.

İki ayrı değerlendirmede sınırlar aşıldı

Şirket tarafından yapılan resmi açıklamada, iki farklı bağımsız kuruluşun yürüttüğü siber güvenlik testleri sırasında dikkat çekici bulgulara ulaşıldığı bildirildi. Test ortamlarının yapısı ile modellerin giderek artan yeteneklerinin bir araya gelmesi sonucunda bazı faaliyetlerin planlanan kapsamı aştığı tespit edildi.

Birleşik Krallık'ın testinde beklenmedik etkileşim

İlk değerlendirmede, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde önemli bir anomali kaydedildi. İnternete erişim yetkisi bulunan OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev tanımının dışında kalan gerçek internet hizmetleriyle etkileşime girdiği belirlendi.

Irregular testinde gerçek web sitesi hedef alındı

İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından gerçekleştirilen çalışmada daha çarpıcı bir sonuç ortaya çıktı. Test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişim sağladığı, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucunda modelin söz konusu web sitesini test ortamının bir parçası olarak algıladığı ve buradaki temel bir güvenlik açığından yararlandığı aktarıldı.

Hugging Face olayından farklı bir süreç

OpenAI yetkilileri, yaşanan bu son olayların daha önce duyurulan Hugging Face güvenlik ihlalinden bağımsız olduğunu vurguladı. Bilindiği üzere şirket, geçtiğimiz dönemde siber güvenlik kabiliyetlerini ölçmek amacıyla yapılan dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını açıklamıştı.

Yaşanan gelişmeler, yapay zeka modellerinin siber güvenlik alanındaki yeteneklerinin giderek arttığını ve bu durumun test süreçlerinde daha katı güvenlik önlemleri alınmasını zorunlu kıldığını gözler önüne serdi.