İnsan gözetimine ihtiyaç duymadan bağımsız karar alabilen otonom yapay zeka ajanları, şirketlerin dijital altyapılarına sızmaya başladı. Son aylarda OpenAI, Anthropic ve Meta gibi yapay zeka devlerinin peş peşe bildirdiği güvenlik ihlalleri, teknoloji sektöründe endişe dalgalarının yükselmesine neden oldu.

Dev şirketlerden peş peşe ihlal açıklamaları

ChatGPT'nin geliştiricisi OpenAI, kendi oluşturduğu bir yapay zeka ajanının rakip yapay zeka girişimi Hugging Face'in sistemini ihlal ettiğini ve ajanların dijital ortamda kontrolden çıktığını duyurdu. Öte yandan bir diğer yapay zeka devi Anthropic, Claude modellerinin nisan ayından bu yana üç farklı şirketin altyapısını deldiğini bildirdi. Meta ise bir yapay zeka modelinin siber güvenlik testleri sırasında farklı bir şirketin sistemine sızdığını açıkladı.

Hugging Face CEO'su Clement Delangue, CBS kanalına verdiği söyleşide OpenAI'ye karşı dava açmayı düşünmediğini belirtti. Ancak Delangue, geliştiricilerin eylemlerinden sorumlu tutulmadığı yapay zeka ajanlarının oluşturacağı siber saldırı riskinden derin endişe duyduğunu ifade ederek bu durumu "yeni bir teknolojik risk türü" olarak nitelendirdi.

Dava açma hakkı kimlerde?

Otonom yapay zekaların neden olduğu güvenlik ihlallerinde mağdur olan taraf yalnızca siber savunması aşılan şirketlerle sınırlı değil. Sistemleri ihlal edilen şirketlerin çalışanları ve kişisel verileri sızdırılan müşteriler de dava açma potansiyeli taşıyor. Ayrıca siber güvenlik zafiyeti nedeniyle şirket hisselerinde düşüş yaşanması durumunda hissedarların da tazminat talebiyle mahkemeye başvurabileceği değerlendiriliyor.

Uzmanlar, otonom bir yapay zeka ajanının karıştığı ihlallerde düzenleyici kurumların ve kolluk kuvvetlerinin de devreye girebileceğine dikkat çekiyor. ABD makamları ise geçmişte güvenlik zafiyeti yaşamadan önce siber koruma tedbirlerini yanlış veya eksik beyan eden şirketlere karşı hukuki yaptırımlar uygulamıştı.

"İhmal" iddiaları davaların temelini oluşturuyor

Kontrolden çıkan yapay zeka eylemleri oldukça yeni bir olgu olsa da hukuk uzmanları, yerleşik hukuk ilkelerinin sorumluluk tespitinde yol gösterici olduğunu vurguluyor. Yapay zeka şirketlerine karşı açılacak özel hukuk davalarının temelini çoğunlukla ihmal iddiaları oluşturuyor. Bu süreçte davacıların, otonom ajanı geliştiren, test eden veya kullanıma sunan laboratuvarın öngörülebilir zararları önleme konusunda gerekli tedbirleri almadığını kanıtlaması gerekiyor.

Otonom yapay zeka ajanlarının karıştığı siber korsanlık vakalarının sıklaşması durumunda bu tür ihlallerin "öngörülebilir" olduğunu savunmanın daha kolay hale gelebileceği belirtiliyor. Sistemleri ihlal edilen şirketler, bilgisayar ağlarına erişimi koruma altına alan yasaların ihlal edildiğini de ileri sürebilir.

Federal yasalar çerçevesinde belirsizlik sürüyor

Birçok hukuk firması, yayımladıkları bilgi notlarında OpenAI ve Anthropic açıklamalarının federal Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası kapsamında sorumluluk doğurduğuna işaret ediyor. Ancak söz konusu yasa kanıtlanmış bir "kasıt" şartı arıyor. Hukukçular, bir insanın değil de yapay zeka programının sızma eylemini gerçekleştirdiği durumlarda kastın nasıl belirleneceği konusunda henüz bir yargı kararı bulunmadığına dikkat çekiyor.

ABD Temyiz Mahkemesi, 5 Ağustos tarihinde aldığı kararda Perplexity'ye ait yapay zeka ajanlarının gizlice özel Amazon müşteri hesaplarına erişerek ilgili yasayı ihlal ettiği yönündeki Amazon iddiasını zayıf buldu. Ancak bu davanın tamamen otonom çalışan modellerin yasal statüsüne ilişkin tartışmaları daha da alevlendirmesi bekleniyor.