nvmath-python | NVIDIA Geliştiricisi

4


img-alt-metin

nvmath-python (Beta) bir açık kaynak kütüphanesi Python uygulamalarına, Python’da uygulanan temel matematiksel işlemlere yüksek performanslı Python erişimi sağlayan NVIDIA CUDA-X™ Matematik Kütüphaneleri hızlandırılmış kütüphane, çerçeve, derin öğrenme derleyicisi ve uygulama geliştirme için.

Pip’ten Yükle:

Daha fazla bilgi edin

Diğer Bağlantılar:

Kaynaktan OluşturGitHub


Ana Özellikler

nvmath-python, Python uygulamalarında aracı C veya C++ bağlamalarına gerek kalmadan, yüksek oranda optimize edilmiş NVIDIA matematik kütüphanelerini kullanmak için Python ana bilgisayar ve cihaz API’leri sağlar. Bu, derin öğrenme, veri işleme ve daha fazlasındaki Python uygulamalarının, NVIDIA donanımının gücünden, kullanıma hazır hesaplamalar için yararlanmasını sağlar.

nvmath-python, bir kullanıcının ifade gücü üzerinde ne kadar kontrol istediğine bağlı olarak, durumsuz (işlev stili) veya durumlu (sınıf stili) API’leri kullanma özgürlüğü sağlar. Kütüphane ayrıca hesaplama ayrıntılarına görünürlük sunmak için standart günlükçü kütüphanesiyle entegrasyon sağlar.

nvmath-python, popüler Python paketleriyle birlikte çalışır. Bunlara CuPy, PyTorch ve RAPIDS gibi GPU tabanlı paketler ve NumPy, SciPy ve scikit-learn gibi CPU tabanlı paketler dahildir. nvmath-python ile hızlandırılmış matematikten faydalanırken tanıdık veri yapılarını ve iş akışlarını kullanmaya devam edebilirsiniz.

Numba gibi Python derleyicileriyle birlikte, nvmath-python davranışını özelleştirmek için aygıt geri çağırma işlevlerini uygulayabilirsiniz.

nvmath-python, temeldeki C kütüphanelerine benzer performans sunar. API’ler, Python uygulamaları için yerele yakın performansa izin veren minimum ek yük için tasarlanmıştır. Geri aramalar, bir ana bilgisayarın ek ek yükleri olmadan cihaz çekirdeklerinin birleştirilmesine izin verir.


nvmath-python Desteklenen İşlemler

Gelişmiş matris-matris çarpımı, bir önyargı, farklı ölçekleme faktörleri ve epilog fonksiyonları ile birleştirilmiş çekirdek matris-matris çarpımlarının gerçekleştirilmesine olanak sağlar.

İşlem, hem ana bilgisayar API’si hem de cihaz API’si olarak çeşitli hassasiyetlerde kullanılabilir.

Belgeleme

nvmath-python, Python uygulamalarında aracı C veya C++ bağlamalarına gerek kalmadan, yüksek oranda optimize edilmiş NVIDIA matematik kütüphanelerini kullanmak için Python ana bilgisayar ve cihaz API’leri sağlar. Bu, derin öğrenme, veri işleme ve daha fazlasındaki Python uygulamalarının, NVIDIA donanımının gücünden, kullanıma hazır hesaplamalar için yararlanmasını sağlar.

nvmath-python, bir kullanıcının ifade gücü üzerinde ne kadar kontrol istediğine bağlı olarak, durumsuz (işlev stili) veya durumlu (sınıf stili) API’leri kullanma özgürlüğü sağlar. Kütüphane ayrıca hesaplama ayrıntılarına görünürlük sunmak için standart günlükçü kütüphanesiyle entegrasyon sağlar.

nvmath-python doğrusal cebir performansı

Gelişmiş matmul performansı H100 PCIe’de matrisler A için gösterilmiştir[m×n]B[n×k]ön yargı[m]m=65536, n=16384, k=8192. İşlenenlerin ve sonucun veri türü bfloat16’dır, hesaplama için float32 türü kullanılır.

NVIDIA cuFFT kütüphanesi tarafından desteklenen nvmath-python, N boyutlu ayrık Fourier Dönüşümleri gerçekleştirmek için güçlü bir API seti sağlar. Bunlara karmaşıktan karmaşığa, karmaşıktan gerçeğe ve gerçekten karmaşığa durumlar için ileri ve ters dönüşümler dahildir. İşlemler, hem ana bilgisayar hem de cihaz API’leri olarak çeşitli hassasiyetlerde mevcuttur.

nvmath-python ayrıca FFT planları için kullanıcıya özel önbelleğe alma uygulamasını kolaylaştırmak amacıyla bir dizi yardımcı fonksiyon API’si de sağlar.

Belgeleme

nvmath-python FFT performansı

512 boyutundaki FFT’ler için 1048576 (220) toplu olarak complex64 veri türü kullanılarak hesaplanan H100 PCIe üzerinde hızlı fourier dönüşüm performansı gösterilmektedir.

Kullanıcı, FFT gibi seçili nvmath-python işlemlerine Python’da yazılmış geri çağırma işlevleri sağlayabilir, bu da birleşik bir çekirdekle sonuçlanır ve önemli ölçüde daha iyi performansa yol açabilir. Gelişmiş kullanıcılar, FFT ve matris çarpımı gibi temel matematiksel işlemleri tek bir çekirdekte birleştirmeyi sağlayan ve performansı teorik maksimuma yakınlaştıran nvmath-python aygıt API’lerinden yararlanabilir.


Kaynaklar

nvmath-python’a başlayın

Şimdi İndirin

Kaynak: Nvidia

Doğrudan cihazınızda gerçek zamanlı güncellemeleri alın, şimdi abone olun.

Yorumlar