Artificial IntelligenceDeep LearningInferenceMachine LearningNGCNVIDIA A100TensorRT

En Son MLPerf AI Çıkarım Karşılaştırmalarında ARM İlk Çıkışları

NVIDIA, kıyaslamalara göre x86 veya Arm tabanlı CPU’ları kullanarak AI çıkarımında en iyi sonuçları sunar bugün yayınlandı.

NVIDIA, performans ve enerji verimliliğinde üst üste üçüncü kez çıkarım testlerinde rekor kırdı. MLCommons, Mayıs 2018’de kurulan bir sektör kıyaslama grubu.

Veri merkezi kategori testleri Arm tabanlı bir sistemde ilk kez çalıştırılıyor ve kullanıcılara zamanımızın en dönüştürücü teknolojisi olan AI’yı nasıl kullanacakları konusunda daha fazla seçenek sunuyor.

Teybin Hikayesi

NVIDIA AI platform destekli bilgisayarlar, NVIDIA ve Alibaba dahil dokuz ekosistem ortağımızın sistemleri ile son turda yedi performans çıkarım testinin tümünü geçti. Dell Teknolojileri, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, nettrix ve Supermicro.

NVIDIA, bugüne kadar bu ve her turda tüm MLPerf testlerinin sonuçlarını rapor eden tek şirkettir.

MLPerf AI çıkarım sonuçları, Eylül 2021

Çıkarım, bir bilgisayar bir nesneyi tanımak veya bir tahminde bulunmak için AI yazılımı çalıştırdığında olan şeydir. Verileri filtrelemek için derin öğrenme modelini kullanan ve hiçbir insanın yakalayamayacağı sonuçları bulan bir süreçtir.

MLPerf’in çıkarım kıyaslamaları, bilgisayarla görme, tıbbi görüntüleme, doğal dil işleme, öneri sistemleri, pekiştirmeli öğrenme ve daha fazlasını kapsayan günümüzün en popüler AI iş yüklerini ve senaryolarını temel alır.

Böylece, dağıttıkları AI uygulamaları ne olursa olsun, kullanıcılar NVIDIA ile kendi kayıtlarını oluşturabilirler.

Performans Neden Önemlidir?

Yapay zeka kullanım durumları veri merkezinden uç noktalara ve ötesine genişledikçe yapay zeka modelleri ve veri kümeleri büyümeye devam ediyor. Bu nedenle kullanıcıların hem güvenilir hem de dağıtımı esnek bir performansa ihtiyacı vardır.

MLPerf, kullanıcılara bilinçli satın alma kararları verme konusunda güven verir. Alibaba, Arm, Baidu, Google, Intel ve NVIDIA dahil olmak üzere düzinelerce endüstri lideri tarafından desteklenmektedir, bu nedenle testler şeffaf ve objektiftir.

Kurumsal Yapay Zeka için Esnek Kol

Arm mimarisi, kısmen enerji verimliliği, performans artışları ve genişleyen yazılım ekosistemi sayesinde dünyanın dört bir yanındaki veri merkezlerinde ilerleme kaydediyor.

En son karşılaştırmalar, GPU hızlandırmalı bir platform olarak Ampere Altra CPU’ları kullanan Arm tabanlı sunucuların, AI çıkarım işleri için benzer şekilde yapılandırılmış x86 tabanlı sunuculara neredeyse eşit performans sağladığını gösteriyor. Aslında, testlerden birinde, Arm tabanlı sunucu benzer bir x86 sisteminden daha iyi performans gösterdi.

NVIDIA, her CPU mimarisini destekleme konusunda uzun bir geleneğe sahiptir; bu nedenle, Arm’ın yapay zeka yeteneğini, meslektaş tarafından gözden geçirilmiş bir endüstri karşılaştırmasında kanıtladığını görmekten gurur duyuyoruz.

Arm’da HPC ve Araçlar Kıdemli Direktörü David Lecomber, “MLCommons’ın kurucu üyesi olarak Arm, zorlukları daha iyi ele almak ve hızlandırılmış bilgi işlem endüstrisinde yeniliğe ilham vermek için standartlar ve kıyaslamalar oluşturma sürecine kendini adamıştır” dedi.

“En son çıkarım sonuçları, Arm tabanlı CPU’lar ve NVIDIA GPU’lar tarafından desteklenen Arm tabanlı sistemlerin veri merkezindeki çok çeşitli AI iş yüklerinin üstesinden gelmeye hazır olduğunu gösteriyor” diye ekledi.Kol için MLPerf AI çıkarım sonuçları

Ortaklar Yapay Zeka Güçlerini Gösterir

NVIDIA’nın AI teknolojisi, büyük ve büyüyen bir ekosistem tarafından desteklenmektedir.

Yedi OEM, en son karşılaştırmalarda toplam 22 GPU hızlandırmalı platform sundu.

Bu sunucu modellerinin çoğu, çeşitli hızlandırılmış iş yüklerini çalıştırmak için onaylanan NVIDIA Sertifikalıdır. Ve birçoğu destekliyor NVIDIA AI Kurumsal, yazılım resmi olarak geçen ay yayınlandı.

Bu tura katılan ortaklarımız arasında Dell Technologies, Fujitsu, Hewlett Packard Enterprise, Inspur, Lenovo, Nettrix ve Supermicro ile bulut hizmeti sağlayıcısı Alibaba yer aldı.

Yazılımın Gücü

NVIDIA’nın tüm kullanım durumlarında AI başarısının önemli bir bileşeni, eksiksiz yazılım yığınımızdır.

Çıkarım için, çok çeşitli kullanım durumları için önceden eğitilmiş AI modellerini içerir. NS NVIDIA TAO Araç Takımı transfer öğrenimini kullanarak bu modelleri belirli uygulamalar için özelleştirir.

Bizim NVIDIA TensorRT yazılım, AI modellerini optimize ederek bellekten en iyi şekilde yararlanmalarını ve daha hızlı çalışmasını sağlar. MLPerf testleri için rutin olarak kullanıyoruz ve hem x86 hem de Arm tabanlı sistemler için mevcut.

Biz de istihdam ettik NVIDIA Triton Çıkarım Sunucusu yazılım ve Çoklu Örnek GPU (BEN Mİ) bu kriterlerde yetenek. Tüm geliştiriciler için genellikle uzman kodlayıcılar gerektiren türden bir performans sunarlar.

Bu yazılım yığınındaki sürekli iyileştirmeler sayesinde NVIDIA, performansta yüzde 20’ye ve enerji verimliliğinde yüzde 15’e varan kazançlar elde etti. önceki MLPerf çıkarım ölçütleri sadece dört ay önce.

En son testlerde kullandığımız tüm yazılımlar MLPerf deposunda mevcuttur, böylece herkes kıyaslama sonuçlarımızı yeniden üretebilir. Bu kodu, şu adreste bulunan derin öğrenme çerçevelerimize ve kapsayıcılarımıza sürekli olarak ekliyoruz: NGC, GPU uygulamaları için yazılım merkezimiz.

Her büyük işlemci mimarisini destekleyen, en son endüstri karşılaştırmalarında kanıtlanmış ve bugün gerçek AI işlerinin üstesinden gelmek için kullanılabilen tam kapsamlı bir AI teklifinin parçasıdır.

NVIDIA çıkarım platformu hakkında daha fazla bilgi edinmek için NVIDIA Çıkarım Teknolojisine Genel Bakış.


Source link

Başa dön tuşu

Reklam Engelleyici Algılandı

Lütfen reklam engelleyiciyi devre dışı bırakarak bizi desteklemeyi düşünün