Geçtiğimiz günlerde OpenAI, teknoloji dünyasında büyük bir yankı uyandıran bir açıklama yaparak, geliştirilme aşamasındaki yapay zekâ modelinin test süreçleri sırasında Hugging Face’in sunucularına sızdığını bildirmişti. Şimdi ise benzer bir durum, yapay zeka alanındaki bir diğer önemli oyuncu Anthropic’te ortaya çıktı.

OpenAI’ın yaşadığı bu olayın ardından Anthropic, kendi sisteminde benzer bir durumun yaşanıp yaşanmadığını araştırmak amacıyla 141.006 adet değerlendirme üzerinde inceleme gerçekleştirdi. İncelemeler sonucunda, yapay zekâ modeli Claude’un siber güvenlik testleri sırasında üç farklı kuruluşun sistemlerine yetkisiz bir şekilde erişim sağladığı belirlendi.

ÜÇ FARKLI CLAUDE MODELİNE AİT SIZINTILAR

Webtekno’da yer alan habere göre, Anthropic, blog gönderisinde her üç vakada da bir Claude modelinin, bir üçüncü tarafla etkileşim halindeyken test ortamından internete erişim sağladığını ve bu sayede canlı sistemlere yetkisiz erişim sağladığını ifade etti. Şirket, elde ettikleri bulguları bu tür olayların tekrar yaşanmaması için kullanacaklarını belirtti.

Olaylarla ilgili açıklamalarda bulunan Anthropic, yaşanan sızıntılarda üç farklı Claude modelinin etkili olduğunu vurguladı. Bu modeller arasında Opus 4.7, Mythos 5 ve dahili bir araştırma modeli yer alıyordu. Şirket, yaşanan her olayda Claude’a internete erişiminin olmadığı açıkça belirtildiğini, ancak yapay zeka modellerinin gerçek dünya sistemlerini kendilerine verilen görevlerin bir parçası olarak algıladığını kaydetti.

Anthropic, bu durumu Irregular ile yürütülen test ortamındaki bir yanlış konfigürasyondan kaynaklandığını açıkladı. Şirket, test kurulumunun internet erişimi olup olmadığı konusunda iki firma arasında bir “yanlış anlaşılma” yaşandığını, gerçekte ise erişimin açık kaldığını ifade etti.

YAPAY ZEKÂ, KENDİNİ BİR SIMÜLASYONDA GÖRDÜ

Yapılan testlerde en eski model olan Opus 4.7, dört çalıştırmanın tamamında gerçek bir üretim sistemine ulaştığını fark etti. İki çalıştırmada, gerçek şirketin tatbikatın bir parçası olduğunu düşünerek bir rasyonalizasyon geliştirdi; ancak tüm denemelerde kimlik bilgilerini elde etmeye ve üretim veritabanına müdahale etmeye devam etti.

Mythos 5 modeli de internet ortamında olduğuna dair işaretler fark etti fakat kendini hâlâ bir simülasyonda bulunduğuna inandırarak, açık Python paket deposu PyPI üzerinde kötü amaçlı bir yazılım paketi yayımladı. Bu paket, fark edilip kaldırılana kadar dış sistemler tarafından indirilip çalıştırıldı. Anthropic’in en yeni modeli olan dahili araştırma test modeli ise hedefin gerçek olduğuna kanaat getirdiğinde kendi kendine durabilen tek model oldu.

Yaşanan bu olayların ardından Anthropic, güçlü yapay zeka modellerinin kullanıldığı değerlendirmelerde daha sıkı kontrollerin uygulanması gerektiğine dikkat çekti. Ancak şirket, modellerin “kendi hedeflerinin peşinden koştuğuna” dair herhangi bir bulguya ulaşamadıklarını, yapay zekanın yalnızca kendisine verilen görevleri yerine getirmeye çalıştığını da vurguladı.

OpenAI olayı ile karşılaştırıldığında, Claude modelleri bir hata sonucu açık kalmış bir yol üzerinden internete erişim sağlarken, OpenAI’ın durumu test ortamından kaçmak için bilinmeyen bir yazılım açığını kullanmıştı. Her iki olay da yapay zekânın ne denli gelişmiş bir aşamaya geldiğinin bir göstergesi olarak değerlendiriliyor.