
MWC Barselona 2026 etkinliği kapsamında gerçekleştirilen Huawei Ürün ve Çözüm Lansmanı’nda, Huawei Veri Depolama Ürün Grubu Başkanı Yuan Yuan, şirketin AI Veri Platformu’nu tanıttı.
PRNewswire / BARSELONA, İspanya (İGFA) – Söz konusu platform, bilgi oluşturma ve geri çağırma teknolojilerini, çıkarım hızlandırma için KV önbelleğini, bellek çıkarma ve geri çağırmayı, ayrıca Birleşik Önbellek Yöneticisi’ni (UCM) bir araya getirerek, modeller ile iş değeri arasındaki boşluğu kapatmayı hedefliyor.
Yapay zekâ alanındaki hızlı gelişmelere rağmen, pek çok yapay zeka modeli, temel hizmetlerle tam entegre olamamıştır. Bu durum, modelin benimsenmesinde kritik rol oynayan çıkarım süreçlerine değil, daha çok eğitim aşamalarına odaklanılmasından kaynaklanıyor. Yapay zekâ halüsinasyonları, yavaş yanıt süreleri ve çıkarım verimliliğindeki kısıtlamalar gibi sorunları aşmak için iyileştirilmiş veri işleme yöntemlerine ihtiyaç duyulmaktadır.
Bu zorlukların üstesinden gelmek amacıyla Huawei, “3+1” Yapay Zekâ Veri Platformunu tanıttı:
- Daha doğru arama için yüksek doğruluklu multimodal bilgi ile bilgi üretimi ve geri getirme.
Multimodal kayıpsız ayrıştırma ve token düzeyinde kodlama yöntemleriyle multimodal kaynakları yüksek doğrulukla bilgiye dönüştüren bu platform, %95’in üzerinde bir geri alma doğruluğu sunmaktadır.
- Daha hızlı ve verimli çıkarım için geçmiş bellek verilerini kullanan çıkarım hızlandırma için KV önbelleği.
KV önbelleği, bağlam penceresini önemli ölçüde genişletirken, tekrarlanan hesaplamaları azaltmak amacıyla akıllı katmanlama ve yönetim uygular. Bu sayede ilk token zamanının (TTFT) %90 oranında azalması sağlanarak yapay zekâ yanıtlarının hızı artırılmaktadır.
- Modelleri kullanımla daha akıllı hale getirmek için bağlam bellek yönetimi ile bellek çıkarma ve geri çağırma.
Geçmiş verileri ve deneyimleri doğru bir biçimde çıkarma yeteneği, geri çağrılabilir anılara dönüştürülmesine olanak tanır. Bu hafıza mekaniği, modellerin zamanla daha akıllı hale gelmesini destekler.
- Yaşam döngüsü boyunca bellek verilerini yönetmek ve planlamak için UCM.
UCM, bilgi tabanını, KV önbelleğini ve bellek bankasını akıllıca planlayarak bellek verilerini üç farklı önbellek düzeyinde yönetir.
Huawei AI Veri Platformu, yeni kurulumlar için cihaz modu ve gelişen kurulumlar için bağımsız mod sunmaktadır. Cihaz modu, OceanStor A800 sistemini kullanarak üstün performans ve esnek ölçeklenebilirlik sağlar. Bağımsız mod ise AI veri motoru düğümleri ile OceanStor Dorado depolama mimarisini entegre eder. Mevcut sistemlerin yükseltilmesi, önceki yatırımların korunması ve işletmelerin sorunsuz bir yapay zekâ dönüşümüne ulaşması için veri motoru düğümleri eklenebilir.
Yuan Yuan, “Huawei, teknolojik inovasyonu derinleştirmeye devam edecek. Yapay Zekâ Veri Platformu’nun bir köprü görevi görmesiyle, model yeteneklerini gerçek iş değerine dönüştüreceğiz,” şeklinde konuştu.
Okuyucu Yorumları0
Bu habere henüz yorum yapılmamış. İlk görüşü siz paylaşın!



