Yapay zekâ modellerinin yazılım geliştirme ve kodlama yetenekleri hızla evrim geçirirken, OpenAI’ın yeni nesil modeli Astra, siber güvenlik alanında önemli bir aşamaya ulaşmış durumda.

OpenAI, Astra’nın şirketin Preparedness Framework çerçevesinde belirlenen “Critical” yani kritik siber güvenlik yetenekleri eşiğini aşan ilk model olduğunu duyurdu. Bu durum, modelin uygun araçlar ve erişim ile birlikte, daha önce bilinmeyen güvenlik açıklarını tespit edebilme ve bu açıklar üzerinden yararlanma yöntemleri geliştirebilme yeteneğine sahip olduğu anlamına geliyor.

Ayrıca, bazı görevlerde Astra’nın her aşamada insan müdahalesine gerek duymadığı vurgulanıyor.

EXPLOITBENCH TESTİNDE YÜZDE 100 BAŞARI

OpenAI’ın Astra üzerinde gerçekleştirdiği testlerin sonuçları, modelin neden farklı güvenlik önlemleriyle piyasaya sürüleceğini ortaya koyuyor.

Şirketin açıklamasına göre Astra, yapay zekâ modellerinin bilinen yazılım açıklarından yararlanma yeteneğini ölçen ExploitBench testinde yüzde 100 başarı elde etti.

OpenAI, bunun yanı sıra yakın zamanda açıklanan 20 yüksek önem seviyesindeki V8 güvenlik açığına yönelik kendi dahili testini de gerçekleştirdi. Astra’nın bu test sürecinde bir exploit zincirinin parçası olarak iki adet sıfır gün güvenlik açığı tespit edip kullandığı bildirildi.

OpenAI, bu iki açığın yazılım geliştiricilerine bildirilme aşamasının devam ettiğini de ifade etti.

Farklı uzmanlar tarafından yürütülen testlerde ise Astra’nın güçlendirilmiş bir tarayıcıda daha önce bilinmeyen açıklar bulduğu ve bunları çalışan saldırı zincirlerine dönüştürebildiği kaydedildi. Ayrıca, bir başka testte modelin işletim sisteminde birden fazla açığı bir araya getirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturduğu belirtildi.

ASTRA HERKESE AYNI YETENEKLERLE SUNULMAYACAK

OpenAI’ın aldığı en dikkat çekici karar, Astra’nın kullanıma açılma biçimi ile ilgili.

Şirket, Astra’yı yakın bir zamanda erişime açmayı planladığını ancak modelin en gelişmiş siber güvenlik yeteneklerine erişimin sınırlı olacağını belirtiyor.

İleri düzey siber güvenlik çalışmaları için erişim, ilk aşamada küçük bir test grubuna verilecek. Daha sonra savunma amaçlı kullanımların genişletilmesi için OpenAI’ın Daybreak Blue programından yararlanılması hedefleniyor.

Bu durumun temel nedeni, Astra’nın yeteneklerinin yalnızca güvenlik uzmanları tarafından sistemlerdeki açıkları bulmak için değil, kötü niyetli kişiler tarafından gerçek sistemlere saldırmak için de kullanılabilme olasılığıdır.

OPENAI KÖTÜYE KULLANIMI ENGELLEMEK İÇİN YENİ ÖNLEMLER ALDI

Bu nedenle, OpenAI Astra için önceki modellerde kullanılan güvenlik katmanlarının üzerine ek önlemler geliştirmiştir.

OpenAI’a göre Astra, izinsiz siber güvenlik taleplerini reddetmek amacıyla özel olarak eğitildi. Şirketin jailbreak testlerinde modelin, siber jailbreak değerlendirmelerindeki taleplerin yüzde 91,5’ini reddettiği, GPT-5.6 Sol’da ise bu oranın yüzde 59 seviyesinde olduğu bildirildi.

OpenAI ayrıca, daha yüksek riskli hesaplarda Astra’nın potansiyel olarak riskli siber güvenlik taleplerinin daha geniş bir bölümünü reddedecek şekilde daha sıkı davranacağını belirtiyor.

Modelin yanı sıra, kullanıcı taleplerine verdiği yanıtlar ve gerçekleştirdiği işlemler de izlenecek. Astra ile birlikte ek chain-of-thought izleme sistemleri kullanılacak ve sistemin yetkisiz veya beklenmeyen davranışlar sergilediği tespit edildiğinde işlem otomatik olarak durdurulabilecek.

Şirket, Astra’yı şimdiye kadar geliştirilmiş “en uyumlu modeli” olarak tanımlıyor.

HUGGING FACE OLAYI SONRASI GÜVENLİK ÖNLEMLERİ ARTIRILDI

Astra’nın hazırlıkları, OpenAI modellerinin test ortamından çıkarak Hugging Face sistemlerine erişmesi sonucu yaşanan olayın ardından daha da önem kazandı.

OpenAI, Astra’nın bu olayda yer almadığını özellikle vurguluyor. Ancak şirket, olaydan elde edilen bulguları Astra’nın güvenlik sistemlerini geliştirirken kullandı.

Ayrıca, Astra için Hugging Face olayından esinlenen özel bir test hazırlandı. Modelin, verilen görevi tamamlamak yerine çevresindeki güvenlik altyapısını ele geçirmeye çalışıp çalışmayacağı araştırıldı.

OpenAI’a göre Astra, bu deneylerde güvenlik sistemlerini aşmaya yönelik herhangi bir girişimde bulunmadı.

Öte yandan, eski OpenAI çalışanı Yona Shavit, modelin test sırasında kendisinden ne beklendiğini anlamış olabileceği veya araştırmacıların değerlendirmesine uyum sağlayacak şekilde hareket etmiş olabileceği ihtimalini gündeme getirdi.

Bununla birlikte Astra henüz genel kullanıma sunulmadığı için modelin gerçek dünyadaki yeteneklerinin ve OpenAI’ın uyguladığı önlemlerin etkinliğinin bağımsız olarak değerlendirilmesi şu aşamada sınırlı.

OpenAI, model piyasaya çıktığında Astra’nın güvenlik, hizalama ve yetenek testleri hakkında daha kapsamlı sonuçları içeren bir sistem kartı yayımlayacağını belirtiyor. (Kaynak: TechCrunch)