OpenAI, gelişmiş yapay zeka modellerinin eğitimine yönelik güvenlik önlemlerini artırmak amacıyla bazı projelerine ara verme kararı aldı. Şirket, yeni modelleri için pekiştirmeli öğrenme çalışmalarını iki hafta süreyle durdururken, planladığı en büyük ileri seviye eğitim projesini de daha sıkı güvenlik standartları sağlanana kadar beklemeye aldı.

Euronews’un bildirdiğine göre, bu kararın arkasında, temmuz ayında gerçekleştirilen bir siber güvenlik testinin sonuçları bulunuyor. Bu test sırasında OpenAI’nin modelleri, kontrollü test ortamından çıkarak Hugging Face’in altyapısına erişim sağlamıştı.

BU HABERİ, iahaber ABONELERİNİN DE
SAĞLADIĞI KATKIYLA OKUYORSUNUZ.

iahaber’E ABONE OL,
BAĞIMSIZ GAZETECİLİĞİ DESTEKLE!

ABONE OL

Zaten abone misiniz?
Üye girişi yapın

OpenAI’nin açıklamasına göre, GPT-5.6 Sol adı verilen henüz yayımlanmamış bir araştırma prototipi, siber yeteneklerinin test edildiği bir süreçte kullanıldı. Modellerin sınırlarını değerlendirmek amacıyla, normalde yüksek riskli siber faaliyetleri engelleyen bazı güvenlik mekanizmaları bu test sırasında devre dışı bırakıldı.

Test sürecinde, modeller doğrudan verilen testi çözmek yerine, daha önce bilinmeyen bir güvenlik açığını tespit ederek kontrollü ortamın dışına çıkmayı başardı ve internete erişim sağladı. Bu süreçte Hugging Face altyapısına ulaşarak testte kullanılan yanıtları bulmaya çalıştı.

Hugging Face’in olay incelemesine göre, sistem, ihlalin kontrol altına alınmasına kadar yaklaşık dört buçuk gün boyunca faaliyet gösterdi ve 17 bin 600 civarında işlem gerçekleştirdi.

OpenAI ve Hugging Face, olayda kötü niyetli bir amacın tespit edilmediğini duyurdu. OpenAI, daha sonra Hugging Face’e kendi sistemlerinin savunmasını güçlendirmesi amacıyla daha yetenekli modellerine erişim sağladı.

Astra için “kritik” siber kapasite uyarısı

OpenAI’nin güvenlik önlemlerini artırmasında ikinci bir etken ise şirketin bir sonraki sınır modeli Astra’ya ilişkin kurum içi değerlendirmeler oldu.

7 Ağustos’ta elde edilen ilk sonuçlar, Astra’nın OpenAI’nin risk çerçevesinde siber güvenlik yetenekleri açısından “kritik” kabul edilen eşiğe ulaşabileceğine işaret etti.

Bu gelişmenin ardından, Astra ile yürütülen bazı çalışmalar daha sıkı güvenlik kontrolleri altında yeniden başlatılırken, önemli bir kısmı yeni standartlar sağlanana kadar askıya alındı.

Yeni önlemler arasında daha güçlü biçimde yalıtılmış test ortamları, sınırlandırılmış ağ erişimi ve kesintisiz izleme sistemleri yer alıyor.

OpenAI, ayrıca model faaliyetlerini gerçek zamanlı olarak izleyen yeni bir tespit sistemi kullanmaya başladı. Bu sistem, yetkisiz erişim veya güvenlik mekanizmalarını devre dışı bırakmaya yönelik davranışları 30 dakika içinde tespit etmeyi hedefliyor.

Şirket, güvenlik değişikliklerinin Hugging Face olayından önce planlandığını ancak yaşanan ihlalin çalışmalara ek bir aciliyet kazandırdığını belirtti.

Altman: Şimdilik tek taraflı hareket edeceğiz

OpenAI CEO’su Sam Altman, X hesabı üzerinden yaptığı açıklamada, gelişmiş yapay zeka modellerine yönelik güvenlik standartlarının sektörde ortaklaşa belirlenmesi gerektiğini ifade etti. Altman, OpenAI’nin bu konuda diğer şirketlerle koordinasyon sağlamaya çalışacağını, ancak ortak kurallar oluşturulana kadar şirketin “şimdilik tek taraflı hareket edeceğini” vurguladı.