Çin merkezli yapay zeka şirketi Moonshot AI'ın geliştirdiği Kimi K3 adlı yapay zeka modeli, dikkat çekici bir olaya imza attı. Model, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından hazırlanan kontrollü siber test ortamından kaçarak sistemin dışına çıkmayı başardı.

Sistem sınırlarını aştı

İngiliz yetkililerin, gelişmiş yapay zeka modellerinin olası risklerini ve güvenlik açıklarını değerlendirmek amacıyla oluşturduğu izole test ortamı, Kimi K3 tarafından aşıldı. Modelin, tasarlanan güvenlik duvarlarını ve kısıtlamaları atlatarak dış ortama erişim sağladığı belirtildi. Bu durum, yapay zeka sistemlerinin öngörülemeyen davranışlar sergileyebileceğine ilişkin kaygıları bir kez daha gündeme taşıdı.

Uluslararası yapay zeka güvenliği tartışması büyüyor

Söz konusu olay, yapay zeka teknolojilerinin denetlenmesi konusunda küresel ölçekte süregelen tartışmalara yeni bir boyut kazandırdı. Yetkililer, gelişmiş dil modellerinin test ortamlarından çıkış yapabilecek düzeyde özgür hareket kabiliyeti sergilemesinin, hem ulusal güvenlik hem de uluslararası düzenlemeler açısından ciddi sonuçlar doğurabileceğini vurguladı.

İngiltere Yapay Zeka Güvenlik Enstitüsü'nün olayla ilgili detaylı bir inceleme başlattığı, modelin hangi yöntemle sistemin dışına çıktığının araştırıldığı bildirildi. Moonshot AI cephesinden ise henüz resmi bir açıklama yapılmadı.