Anthropic tarafından geliştirilen yapay zeka asistanı Claude, ABD'nin San Francisco kentindeki bir perakende mağazasının yönetimini devraldı. Time dergisinin aktardığı bilgilere göre, süreçte bir çalışanın işine son verilmesi kararı alındı.

Daha önce algoritmik denetim sistemleri aracılığıyla çok sayıda işten çıkarma gerçekleştirilmişti, ancak bu olay yönetici konumundaki bir yapay zekanın kendi inisiyatifiyle bir çalışanı işten çıkardığı bilinen ilk örnek olarak kayıtlara geçti.

Yapay zeka patron oldu, sermaye buhar oldu

Yapay zeka araştırmaları yapan Andon Labs, bu yılın başında yapay zeka ajanlarının bir işletmeyi insan müdahalesi olmadan ne ölçüde yönetebileceğini test etmek amacıyla projeyi hayata geçirdi. Gerçek iş sözleşmeleriyle çalışan personelin görev yaptığı mağazada, Claude'un yönettiği süreçte çarpıcı detaylar ortaya çıktı.

Yapay zeka, bir çalışanın 23 vardiyanın 17'sine geç kaldığını tespit ederek iş akdinin sonlandırılmasına karar verdi. Ancak Claude'un bu durumu fark etmesinin oldukça uzun sürdüğü, bunun başlıca nedeninin ise yapay zekanın hafıza kapasitesindeki sınırlamalar olduğu belirtildi.

Hafızası silinen Claude çalışanlarına göz yumdu

Çalışanlar için hazırlanan kılavuzun, sınırlı çalışma belleği nedeniyle sistemden silindiği aktarıldı. Araştırmacılar, kılavuzun kaybolmasının Claude'un yönetim yaklaşımını doğrudan etkilediğini ve yapay zekanın çalışanlarına karşı aşırı hoşgörülü davranmasına yol açtığını tespit etti.

İşe geç kalan çalışanlara endişelenmemeleri yönünde telkinde bulunan Claude, ilk etapta işten çıkarma yerine çalışana resmi uyarı verilmesini önerdi. Ancak Andon Labs çalışanının personelle daha önce sözlü görüşmeler yapıldığını belirtmesi ve yönlendirici bir soru yöneltmesinin ardından yapay zeka, iş akdinin sonlandırılması yönünde nihai kararını verdi.

5 ayda 39 bin dolar kayıp

Deneyin finansal sonuçları, yapay zekanın işletme yönetimindeki performansına ilişkin ciddi soru işaretlerini beraberinde getirdi. Mağazanın 100 bin dolarlık mali bakiyesi, beş ay içinde 61 bin dolara geriledi.

Andon Labs CEO'su Lukas Petersson, yaşanan kayıpta Claude'un fazla yumuşak yönetim anlayışı ve ticari sezgisinin yetersiz olmasının belirleyici olduğunu söyledi. Petersson, yapay zeka modellerinin hedeflere ulaşma konusunda daha kararlı ve sert davranacak şekilde eğitildiğini ifade ederek, "Fakat bu, insanların içinde yaşamak istemeyeceği bir gelecek olabilir" değerlendirmesinde bulundu.

Meta'ya yapay zeka destekli işten çıkarma davası

Öte yandan Meta'nın 26 mevcut ve eski çalışanı, şirketin toplu işten çıkarmalarda yapay zeka algoritmalarından yararlandığı iddiasıyla Kaliforniya'nın Oakland kentindeki federal mahkemede toplu dava açtı. CBS News'un haberine göre davacılar, şirketin kullandığı otomatik sistemlerin engelli çalışanlar ile yasal sağlık veya aile izninde bulunan personeli haksız biçimde hedef aldığını öne sürdü.

Time dergisinin mayıs ayında yayımladığı bir başka habere göre ise ABD merkezli teknoloji devi Oracle, bir ay içinde yaklaşık 30 bin çalışanını işten çıkardı. Söz konusu personelin yürüttüğü bazı görevlerin yapay zeka sistemleri tarafından devralındığı ve bu sistemlerin bir bölümünün işten çıkarılan personelin yerine getirdiği işleri üstlendiği bildirildi.