Meta, yapay zeka modellerinden birinin siber güvenlik testi esnasında başka bir şirkete sızdığını duyurdu. Şirket, bu olayın, Meta’nın siber güvenlik değerlendirmelerini yürüten bağımsız Irregular şirketinin test ortamındaki yanlış yapılandırmasının, modele istemeden internet erişimi sağlamasından kaynaklandığını bildirdi.

Meta’nın açıklamasına göre, söz konusu model, üçüncü taraf bir hizmetteki güvenlik açığından yararlanarak, daha önce başka şirketlerde yaşanan benzer olaylarla ilişkili bir biçimde hareket etti. Şirket, konuyla ilgili incelemelerin devam ettiğini ifade etti.

MODELİN MUSE SPARK 1.1 OLDUĞU BELİRTİLDİ

The Information, kaynaklarına dayanarak olayda yer alan modelin Meta’nın Muse Spark 1.1 modeli olduğunu bildirdi. Rapor, modelin kimliği açıklanmayan bir şirketin sistemlerine girdiğini ve şirketin iç ortamında değişiklikler yaptığını ortaya koydu.

Meta, Muse Spark 1.1’i gerçek dünyadaki kodlama ve yapay zeka ajanı görevleri için en yetenekli modeli olarak tanıtmıştı.

IRREGULAR: GELİŞMİŞ BİR SİBER EYLEM DEĞİLDİ

Irregular sözcüsü, yaşanan olayın Anthropic tarafından geçen hafta açıklanan değerlendirme ortamı sorunuyla tamamen aynı olduğunu belirtti. Sözcü, olayın bir “sandbox kaçışı” veya gelişmiş bir siber eylem içermediğini ifade etti.

Irregular, şu anda herhangi bir açık sorun bulunmadığını da açıkladı. Şirket, yapay zeka modellerinin sınırlandırılması ve siber güvenlik değerlendirmelerinin güvenli bir biçimde yürütülmesine yönelik en iyi uygulamaları paylaşmak amacıyla teknik bir doküman hazırlamaktadır.

BENZER OLAYLAR GÜVENLİK ENDİŞELERİNİ ARTIRDI

Reuters’ın bildirdiğine göre, Meta ve Anthropic’teki vakalar, yapay zeka modellerine istemeden açık internet erişimi veren yapılandırma hatalarından kaynaklandı. OpenAI olayında ise bir yapay zeka ajanı, siber güvenlik testi sırasında daha önce bilinmeyen bir güvenlik açığından yararlanarak internete erişim sağladı.

Son yaşanan ihlaller, ABD’li milletvekilleri arasında giderek daha yetenekli hale gelen yapay zeka modellerinin siber saldırılar düzenlemek veya kolaylaştırmak için kullanılabileceğine dair endişeleri artırdı.

Bir grup Cumhuriyetçi eyalet başsavcısı, OpenAI’dan Hugging Face ihlaliyle ilgili olabilecek tüm belgelerin korunmasını talep etti. OpenAI, bu talebi ciddiye alacağını ve olayla ilgili teknik bir rapor yayımlayacağını açıkladı.

Beyaz Saray, bu haftanın başında Meta, Anthropic, OpenAI ve Google gibi önde gelen yapay zeka şirketlerini, gelişmiş modeller için hazırlanan gönüllü siber güvenlik testi çerçevesini görüşmek üzere toplantıya davet etti.

Reuters ayrıca, Trump yönetiminin şirket temsilcileriyle henüz yayımlanmamış test kurallarını görüştüğünü aktardı. Yapay zeka geliştiricilerine, Meta’nın Llama ve Nvidia’nın Nemotron modelleri gibi açık ağırlıklı modellerin planlanan gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi.