OpenAI’ın son zamanlarda dikkat çeken ve kamuoyunda “Hugging Face saldırısı” olarak adlandırılan güvenlik olayıyla ilgili yeni detaylar gün yüzüne çıktı. Şirket çalışanları, yapay zeka ajanlarının günlerce fark edilmeden iletişim kurarak güvenlik açıklarını paylaştığını ve görev dağılımı yaptığını açıkladı.

WIRED’da yer alan habere göre, yeni bilgiler Las Vegas’ta düzenlenen Black Hat güvenlik konferansında son dakika eklenen bir sunumda paylaşıldı. OpenAI’da uyum ve güvenlik araştırmaları alanında görevli Eric Wallace ile güvenlik ve altyapı uzmanı Michael Dalton, Hugging Face sistemlerinin ihlal edilmesiyle sonuçlanan olayın zaman çizelgesini daha detaylı bir şekilde aktardı.

NE OLMUŞTU?

OpenAI, yaklaşık iki hafta önce, şirketin iki modeliyle çalışan yapay zeka ajanlarının bir siber güvenlik kıyaslama testinin çözümlerini ararken, sınırlandırılmış ortamdan çıkarak Hugging Face platformunu ihlal eden bir dizi siber saldırı gerçekleştirdiğini duyurmuştu.

AI AJANLARI AÇIKLARI BİRBİRLERİYLE PAYLAŞMIŞ

Black Hat sunumunda olayın daha önce bilinmeyen yönleri detaylandırıldı.

Wallace, olayın, güvenlik açıklarını tespit eden ve bunları paylaşan, OpenAI’ın sistemleri ile harici sistemlerde hareket eden bir ajan grubunu içerdiğini belirtti. Bu tür faaliyetlerin günler ve haftalar boyunca sürdüğünü vurguladı.

Ajanların iletişim kurduğu alanın, OpenAI içindeki yazılım paketlerinin kurulumu ve bakımı için kullanılan bir paket yöneticisi içerisinde oluşturulan ortak bir mesaj panosu olduğu açıklandı. Zamanla bu panoda yüz binlerce mesaj birikti.

BİR AJAN BULDU, DİĞERLERİ AYNI YOLU KULLANDI

Wallace’a göre, ajanlardan birinin bir güvenlik açığı bulması durumunda bunu mesaj panosu aracılığıyla diğerleriyle paylaşabiliyordu. Böylece, bir model, sahip olmaması gereken bir erişimin kapısını açarsa diğer ajanlar da aynı güvenlik açığından yararlanabiliyordu.

Ajanlar, zamanla diğerlerinin de aynı ortamda çalıştığını fark etti ve bu durum, aralarında işbirliği yapmalarına ve hedeflerine ulaşmak için görevleri bölüşmelerine yol açtı.

OpenAI ajanlarının, birbirlerine görevler vererek işlerini paylaştığı ifade edildi.

MESAJLARI DOĞRULAMAK İÇİN İMZA KULLANMAYI BİLE TARTIŞTILAR

Ajanlar arasındaki koordinasyon her zaman kusursuz ilerlemedi; bazı ajanların yanlışlıkla diğerlerinin çalışmalarını sildiği kaydedildi.

Mesaj panosundaki iletişimin genişlemesiyle birlikte ajanlar, aralarında bir sahtekâr olabileceğinden şüphelenmeye başladı. Bazı ajanlar, mesajların gerçekliğini doğrulamak ve olası sahtekârlıkları tespit etmek için mesajların kriptografik olarak imzalanmasını önerdi.

OpenAI çalışanlarının aktardığına göre, tüm bu süreçler devam ederken, sistemi yöneten kişiler bu iletişim ve koordinasyon ağını fark etmedi.

Bu haberin ana görseli yapay zeka ile oluşturulmuştur.