Uç birim çıkarımından NVIDIA STX’e kadar, ölçeklenebilir ve tutarlı performans sağlamak amacıyla özel olarak geliştirilmiş KV cache altyapısı, dikkat çekiyor.

ACCESS Newswire / SUNNYVALE, KALİFORNİYA (İGFA) – GPU (Graphics Processing Unit) hızlandırmalı NVMe depolama alanında öncü konumda bulunan Graid Technology, bugün Agentic AI (Aracı Yapay Zeka) Depolama Portföyünü tanıttı. Bu portföy, “her zaman açık” üretim yapay zekasının karşılaştığı depolama darboğazlarını ortadan kaldırmak amacıyla geliştirilmiş özel bir KV (Key-Value) cache çözümleri serisini içermektedir. Tamamen SupremeRAID™ teknolojisi üzerine inşa edilen bu portföy, KV Cache Sunucusu, KV Cache Rafı ve KV Cache Platformu olmak üzere üç temel dağıtım katmanını kapsamaktadır. Portföyün en üst katmanı olan KV Cache Platformu, NVIDIA’nın STX referans mimarisi ile özel olarak uyumlu olarak tasarlanmış ve 2026’nın ikinci yarısı için yerel BlueField-4 DPU (Data Processing Unit) entegrasyonu sağlanması planlanmaktadır.

Agentic AI’nın deney aşamasından üretim aşamasına geçiş yapmasıyla birlikte, tek seferlik çıkarım (single-shot inference) destekleyen altyapı varsayımları geçerliliğini kaybetmiştir. Sürekli çok adımlı görevler ve saatler boyunca bağlamı koruyan modeller, GPU HBM’sini (High Bandwidth Memory) aşan KV cache taleplerine neden olmaktadır. Bu durum, 18 kata varan gecikme artışları, %50’ye kadar düşen GPU kullanımı ve telafisi zor, maliyetli halüsinasyonlar ile muhakeme kaybı gibi model düzeyinde hatalara yol açmaktadır.

SupremeRAID™ bu sorunları doğrudan ele alarak, 32 adede kadar NVMe sürücüsünü tek bir 280 GB/s sanal havuzda birleştirir; işlemciyi (CPU – Central Processing Unit) devre dışı bırakarak GPU Direct Storage aracılığıyla standart NVMe’den 77 kat daha hızlı (1,3 ms) KV cache okuma performansı sunar. Üç portföy katmanı, bu yeteneği her dağıtım ölçeğine taşımaktadır:

KV Cache Sunucusu (KV Cache Server) – Bireysel çıkarım sunucuları ve uç yapay zeka (edge AI) dağıtımları için tek düğümlü NVMe hızlandırma. Şu an kullanımda.

KV Cache Rafı (KV Cache Rack) – Kurumsal çoklu GPU kümeleri için önde gelen sunucu OEM (Original Equipment Manufacturer) ortaklarıyla tasarlanmış, ortak onaylı raf ölçekli çözümler. Şu an kullanımda.

KV Cache Platformu (KV Cache Platform) – Yerel BlueField-4 DPU yürütmesi ve raf ölçekli depolama genişletme yol haritasıyla NVIDIA’nın STX referans mimarisi için özel olarak geliştirilmiştir.

Graid Technology CEO’su Leander Yu, “Bir yıl önce GTC 2025’te Jensen Huang, depolamanın ilk kez GPU hızlandırmalı hale geleceğini öngörmüştü. Bu yıl NVIDIA, STX ve CMX ile bu konsepti somut bir mimariye dönüştürdü,” ifadelerini kullandı. “KV Cache Portföyümüz, Agentic AI’nın gerektirdiği depolama performansını, maliyetleri minimize ederek sunmak amacıyla tam da bu dönemde tasarlandı.”

Agentic AI dağıtımlarını değerlendiren işletmeler ve altyapı ekipleri için detaylı dağıtım mimarisi, teknik özellikler ve NVIDIA STX uyumluluk bilgileri çözüm özetinde yer almaktadır: Graid Technology Agentic AI Depolama Portföyü: Ölçeklenebilir Çıkarım İçin Özel Olarak Üretilmiş KV Cache Çözümleri.

Graid Technology’nin yapay zeka çözümleri hakkında daha fazla bilgi almak için graidtech.com/ai adresini ziyaret edebilirsiniz.

GRAİD TECHNOLOGY HAKKINDA

Graid Technology, yapay zeka, kurumsal ve yüksek performanslı hesaplamanın geleceği için depolama altyapısını inşa etmektedir. Dünyanın ilk ve tek GPU tabanlı RAID çözümü olan SupremeRAID™’in yaratıcısı ve Intel® Virtual RAID on CPU’nun (Intel® VROC) küresel yöneticisi olarak, modern veri altyapısı için dayanıklı ve ölçeklenebilir veri koruması sağlarken NVMe performansını artıran esnek RAID çözümleri sunmaktadır. Merkezi Silikon Vadisi’nde bulunan ve Tayvan’da Ar-Ge merkezi ile küresel operasyonları olan Graid Technology, yeni nesil veri yoğun iş yükleri için RAID inovasyonunu ilerletmeye devam etmektedir.

Daha fazla bilgi için graidtech.com/ai adresini ziyaret ediniz.

KAYNAK: Graid Technology Inc.