Yapay zekâ araştırma girişimi Andon Labs, AI ajanlarının bir işletmeyi yönetme yetisini test etmek amacıyla gerçekleştirdiği deneyde önemli bir olay yaşandı. Bir perakende mağazasında ve gerçek iş sözleşmesine sahip çalışanları yöneten Claude, geçtiğimiz ay ilk işten çıkarma kararını uyguladı.

Bu durum, otomatik sistemlerin bir çalışanın işten çıkarılmasına yol açtığı ilk örnek değil. Gig ekonomisi içinde çalışanlar uzun zamandır algoritmik sistemler tarafından yönetiliyor. Ancak Andon Labs’ın deneyinde, büyük bir dil modelinin yönetici rolü üstlenerek bir çalışanın işten çıkarılmasına karar vermesi dikkat çekici bir gelişme olarak kayıtlara geçti.

23 VARDİYANIN 17’SİNE GEÇ KALDI

Andon Labs, işten çıkarılan çalışanın toplam 23 vardiyanın 17’sine geç kaldığını bildirdi.

Claude’un bu durumu erken fark edememesinin nedenlerinden biri, kendi oluşturduğu çalışan el kitabının sınırlı belleğinde “kaybolması” oldu. Şirket, bunu deney sırasında yapay zekâ ajanlarında gözlemlenen çeşitli sınırlamalardan biri olarak değerlendirdi.

Çalışanların ifadelerine göre, Claude genel olarak oldukça hoşgörülü bir yönetici olarak biliniyordu ve geç kalan çalışanlara endişelenmemelerini dahi söylüyordu.

Andon Labs CEO’su Lukas Petersson, insan yöneticilerin söz konusu çalışanı çok daha erken işten çıkaracağını düşündüklerini belirterek, bu nedenle kararın etik olmadığını ifade etti.

TIME, işten çıkarılan çalışana ulaşmaya çalıştı ancak yanıt alamadı ve kimliğini açıklamamayı kabul etti. Anthropic da yayın zamanı itibarıyla yorum talebine cevap vermedi.

CLAUDE KARARI TEK BAŞINA VERMEDİ

Ancak mağazanın yönetim kayıtları, işten çıkarma kararının ilk bakışta göründüğü kadar bağımsız olmadığını ortaya koydu.

Claude, Andon Labs ekibindeki bir çalışan tarafından düzenli olarak yönlendirilmekteydi. Yapay zekâ, yalnızca bu kişi, kendisinden daha önce hazırladığı çalışan el kitabını bulmasını ve incelemesini istediğinde, çalışanın sürekli geç kaldığını fark etti.

Buna rağmen Claude’un ilk önerisi, çalışana işten çıkarma değil, resmi bir uyarı vermek oldu.

Andon Labs yöneticisi, daha önce söz konusu çalışanla birkaç resmi görüşme yapıldığını Claude’a bildirdi. Ayrıca, sürekli geç kalması ve vardiyalarında düzenli sorun yaşaması nedeniyle çalışanın gerçekten doğru kişi olup olmadığını yeniden değerlendirmesi istendi.

Petersson’ın da “yönlendirici bir soru” olarak nitelendirdiği bu mesajdan sonra Claude, çalışanın işten çıkarılmasına karar verdi.

100 BİN DOLARLIK BAKİYE 61 BİN DOLARA GERİLEDİ

Deney, yapay zekâ tarafından yönetilen bir işletmenin insan yönetimindeki işletmelerle aynı seviyede olmadığını da gösteriyor.

Deneyin başlangıcında, Andon Market’in banka hesabında 100 bin dolar bulunmaktaydı. Beş ay sonra bu rakam 61 bin 186 dolara geriledi.

Claude’un çalışanlara karşı hoşgörülü yönetim tarzı ve bazı tartışmalı ticari kararları, yaşanan kayıplara katkıda bulunan faktörler arasında yer alıyor.

Petersson, bunun kalıcı olmayabileceğini belirtti. Yapay zekâ şirketlerinin modellerinin, uzman programcılardan elde edilen daha fazla veriyle eğitilerek kodlama becerilerini geliştirdiğini hatırlatan Petersson, benzer bir sürecin modellerin iş dünyasındaki yetenekleri için de yaşanabileceğini ifade etti.

Petersson, modellerin hedefleri takip etme ve daha sert davranma yönünde giderek daha fazla eğitildiğini belirterek, işten çıkarma yetkisine sahip daha acımasız modellerin insanların yaşamak istemeyeceği bir geleceği beraberinde getirebileceği konusunda uyarıda bulundu.

“MİDEM BULANIYOR AMA İŞE İHTİYACIM VAR”

Andon Market’te çalışmaya devam eden Felix Carson, eski çalışma arkadaşının bir insan yönetici tarafından muhtemelen daha erken işten çıkarılacağını kabul etti.

Carson, Claude’un genel olarak hoşgörülü bir yönetici olduğunu belirtse de, yapay zekâ tarafından yönetilmenin nasıl bir his olduğunu daha sert ifadelerle dile getirdi.

“Midem bulanıyor ama buradayım çünkü işe ihtiyacım var” diyen Carson, yapay zekâ yöneticilerin yakın gelecekte daha yaygın hale geleceği yönündeki görüşe katılıp katılmadığı sorusuna, en azından bunun gerçekleşmemesini umduğunu ifade etti.

Kaynak: TIME