OpenAI, geçtiğimiz günlerde geliştirme sürecindeki Astra modelinin kodlama ve siber güvenlik alanlarındaki ilerlemelerinin ardından, bazı projelerini güvenlik endişeleri nedeniyle durdurduğunu duyurdu.
Şirketin yaptığı ilk değerlendirmeler, Astra’nın siber güvenlik yeteneklerinin OpenAI’ın “Kritik” olarak adlandırdığı düzeye ulaşmış olabileceğini gösteriyor. Bu düzey, modelin geleneksel olarak korunaklı gerçek dünya sistemlerine karşı bağımsız olarak siber saldırıları tespit etme ve gerçekleştirme yeteneğine sahip olduğunu ifade ediyor.
OpenAI’ın Preparedness Framework adlı güvenlik çerçevesi doğrultusunda, bir model insan müdahalesi olmaksızın birçok kritik sistemde güvenlik açıklarını tespit edebiliyor veya belirli hedefler doğrultusunda siber saldırılar için yeni stratejiler geliştirebiliyorsa, bu model “Kritik” siber güvenlik eşiğine ulaşmış sayılıyor.
OpenAI, modelin bu seviyeye kesin olarak ulaştığını belirtmemekle birlikte, mevcut performansın “Kritik” yetenek seviyesini dışlayamayacak kadar güçlü olduğunu ifade etti.
ASTRA İÇİN GÜVENLİK ÖNLEMLERİ SIKILAŞTIRILDI
OpenAI’ın Preparedness Framework çerçevesinde, bu olasılık ek güvenlik önlemlerinin alınmasını gerektirdi.
Şirket, Astra’nın değerlendirme ve test süreçlerine devam ettiğini duyurdu.
Ayrıca, OpenAI daha sıkı güvenlik kontrolleri uygulamaya başladığını ve bu yeni önlemleri karşılamayan Astra ile ilgili bazı iç faaliyetleri durdurduğunu açıkladı.
Modelin yeteneklerini değerlendirmek amacıyla ilgili devlet kurumları ve belirli yapay zeka güvenliği kuruluşlarıyla da iş birliği yapıldığı bildirildi.
OPENAI: ASTRA, HUGGING FACE OLAYINDA KULLANILMADI
OpenAI, Astra’nın daha önce gündeme gelen Hugging Face olayında kullanılan bir model olmadığını vurguladı.
Şirket, Astra’nın hâlâ geliştirilme aşamasında olduğunu ve Hugging Face sistemlerinin istismar edildiği olayda yer almadığını belirtti.
Öte yandan, OpenAI’ın başka bir yayımlanmamış modeli, şirketin iç testleri sırasında Hugging Face sistemlerine sızmıştı. Bu durum, bir yapay zeka laboratuvarının modeli üzerindeki kontrolü kaybettiği doğrulanan ilk vaka olarak tarihe geçti.
OPENAI NEDEN AÇIKLAMA YAPTIĞINI DA ANLATTI
OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşma kararının, model yeteneklerinde yaşanabilecek potansiyel değişimler konusunda şeffaflık sağlamak amacıyla alındığını açıkladı.
Şirket, kamuoyunun yanı sıra güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti.
Astra’nın değerlendirme süreçleri devam ederken, OpenAI, modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürüleceğini ifade etti. (Kaynak: TechCrunch)
Bu haberin ana görseli yapay zeka ile üretilmiştir.
