San Francisco’da yürütülen bir deneyde, Anthropic tarafından geliştirilen yapay zeka asistanı Claude bir perakende mağazasının yönetimini üstlendi. Bu çalışmada, Claude’un bir çalışanı işten çıkarmasıyla yapay zekanın yönetici rollerinde nasıl kararlar alabileceği ilk kez uygulamalı olarak gözlemlenmiş oldu.
Andon Labs tarafından başlatılan proje, yapay zeka ajanlarının gerçek bir işletmeyi yönetip yönetemeyeceğini ve bunun ekonomi üzerindeki etkilerini test etmek amacıyla tasarlandı. Deneyde görev yapan personel gerçek iş sözleşmelerine sahipti ve mağaza operasyonları birkaç ay boyunca izlendi.
Claude, çalışanların performansını takip ederken hafıza kısıtlaması nedeniyle bazı kuralları gözden kaçırdı. Yapay zekanın hazırladığı kılavuz, sınırlı çalışma belleği dolayısıyla silindi; bu da yönetim davranışında aşırı hoşgörüye yol açtı ve Claude, personeli geç kalmalar konusunda yeterince uyaramadı.
İşten çıkarma tamamen yapay zekanın tek başına verdiği bir karar değildi. Yönetim kayıtları, Claude’un Andon Labs personelinin düzenli müdahalesine ihtiyaç duyduğunu ortaya koydu. Yapay zeka, unutulan kuralları ve tekrarlayan gecikmeleri ancak bir insan yöneticinin yönlendirmesinin ardından fark etti; başlangıçta resmi uyarı verilmesini önerdi, ancak araştırmacının yönlendirici sorusu ve önceki sözlü görüşmelerin varlığı üzerine işten çıkarma kararı alındı.
Deneyin mali tarafı da beklentileri karşılamadı: mağazanın 100 bin dolarlık bakiyesi beş ay içinde 61 bin dolara geriledi. Andon Labs CEO’su Lukas Petersson, botun yumuşak yönetim kararları ve yetersiz ticari sezgisinin bu kayıplara katkıda bulunduğunu belirtti. Petersson ayrıca modellerin hedeflere ulaşma konusunda daha katı olacak şekilde eğitilebileceğini, fakat bunun da insanların yaşamak isteyeceği bir gelecek olmayabileceğini ifade etti.
Bu vaka, işten çıkarma süreçlerinde yapay zekanın rolüyle ilgili endişeleri yeniden gündeme getirdi. Daha önce Meta’ya karşı açılan toplu davada, otomatik sistemlerin engelli çalışanları ve yasal izin kullanan personeli haksız yere hedef aldığı iddia edilmişti. Benzer şekilde, Time dergisi Oracle’ın binlerce çalışanı yapay zeka destekli sistemlerle ikame ettiğini rapor etmiş; şirket çalışanlarının işleri ayrıntılı biçimde anlatarak kurumsal yapay zekayı eğitmek zorunda kaldığı belirtilmişti.
Analist firmalarının tahminlerine göre yapay zekayla yapılan erken aşama ikame uygulamaları operasyonel sorunlar doğuruyor; Forrester, bu nedenle AI bağlantılı işten çıkarmaların yarıdan fazlasının geri alınacağını öngörüyor. Gartner ise müşteri destek ekiplerini azaltan şirketlerin yarısının 2027’ye kadar bu çalışanları yeniden işe almak zorunda kalabileceğini belirtiyor.
Özetle, Claude örneği; yapay zekanın yönetici rolleri üstlenmesinin teknik ve etik zorluklarını, insan denetiminin önemini ve beklenmeyen finansal sonuçları gözler önüne seriyor.
