TechCrunch’ın haberine göre, OpenAI’ın yeni geliştirdiği Astra modelinin, çoğu akıl yürütme sisteminin izlediği sıralı düşünme yöntemini aşmayı amaçlayan “recurrent depth” adlı bir teknik kullanacağı belirtiliyor.

Genellikle bir akıl yürütme modelinin düşünce zinciri, bir problemi çözme sürecinde takip edilen adımları yansıtır. Her ne kadar mükemmel bir temsil olmasa da, bu süreçler modeldeki istenmeyen davranışların veya tutarsızlıkların analizi için önemli bir kaynak oluşturuyor.

AYNI SORGUYU BİRDEN FAZLA KEZ İŞLİYOR

“Opaque recurrence” adı verilen yöntemde, model daha az doğrusal bir şekilde hareket ederek aynı sorguyu bir döngü içinde birden fazla kez işliyor. Bu durum, geleneksel düşünce zincirine göre daha az belirgin izlerin kalmasına neden oluyor.

Astra modelinin bu tekniği kullanma potansiyelinin henüz sınırlı olduğu ifade ediliyor. Düşünce zincirinin hâlâ anlaşılır olması beklenirken, OpenAI, sistemin insanların tamamen anlamadığı bir iç akıl yürütme sürecine geçeceği yönündeki görüşlere karşı çıktığını bildirdi.

Redwood Research CEO’su Buck Shlegeris, bu tekniğin daha da ilerletilmesi durumunda OpenAI’ın yineleme miktarını artırarak düşünce zincirinin izlenebilirliğini tamamen ortadan kaldırabileceği uyarısında bulundu. Yapay zekâ güvenliği savunucusu Zvi Mowshowitz ise laboratuvarlar arasında bir “dibe doğru yarışı” engellemek için yasal düzenlemelere ihtiyaç duyulabileceğini savundu.

Redwood Research Baş Bilim İnsanı Ryan Greenblatt, bu yaklaşımın ölçeklendirilmesi durumunda modelin akıl yürütme süreçlerinin büyük oranda insanların göremediği bir yapıya dönüşme olasılığından endişe duyduğunu dile getirdi.

TechCrunch, The Information’ın haberine atıfta bulunarak, Anthropic ve Google DeepMind’ın da bu tekniği değerlendirdiğini aktardı.