Systèmes de serveurs ASUS avec GPU NVIDIA L40S

Réglage fin du LLM

4h

GPT-175B 860M Tokens

Inférence LLM :

1.1X

Performance vs. HGX A100

Inférence AI :

1.5X

vs. A100 80GM SXM2

Le GPU NVIDIA L40S offre des performances multicharges exceptionnelles : 

• Associant un puissant calcul d'IA à une accélération graphique et multimédia de premier ordre, le GPU L40S est conçu pour alimenter la nouvelle génération de charges de travail des datacenters (IA générative, inférence, entraînement de grands modèles de langage (LLM), graphiques 3D, rendu & vidéo)

• Performance Tensor : 1 466 TFLOPS
• Performance RT Core : 212 TFLOPS
• Performance en simple précision : 91,6

Cœurs tensoriels de quatrième génération

• La prise en charge matérielle de la sparsité structurelle et le format TF32 optimisé offrent des gains de performances immédiats pour accélérer l'apprentissage des modèles d'IA et de science des données.
• Accélérez les capacités graphiques améliorées par l'IA avec DLSS pour augmenter la résolution avec de meilleures performances dans certaines applications.

Cœurs RT de troisième génération

Un débit amélioré et des capacités de ray-tracing et d'ombrage simultanées améliorent les performances de ray-tracing, accélérant les rendus pour la conception de produits et les flux de travail d'architecture, d'ingénierie et de construction.

• Voyez des conceptions réalistes en action grâce au flou de mouvement accéléré par le matériel et à des animations en temps réel époustouflantes.

Cœurs CUDA

Le débit accéléré en virgule flottante simple précision (FP32) et l'efficacité énergétique améliorée augmentent considérablement les performances des workflows tels que le développement de modèles 3D et la simulation d'ingénierie assistée par ordinateur (IAO).

• Utilisez les capacités mathématiques 16 bits améliorées (BF16) pour les charges de travail en précision mixte.

Transformer Engine

Transformer Engine accélère considérablement les performances de l'IA et améliore l'utilisation de la mémoire pour l'apprentissage et l'inférence.

• Exploitant la puissance des Tensor Cores de quatrième génération d'Ada Lovelace, Transformer Engine analyse intelligemment les couches des réseaux neuronaux de l'architecture Transformer et recompose automatiquement entre les précisions FP8 et FP16 pour offrir des performances d'IA plus rapides et accélérer l'entraînement et l'inférence.

DLSS 3

Cette technologie révolutionnaire de génération d'images s'appuie sur le deep learning et les dernières innovations matérielles de l'architecture Ada Lovelace et du GPU L40S, notamment les Tensor Cores de quatrième génération et l'Optical Flow Accelerator, pour booster les performances de rendu, augmenter le nombre d'images par seconde (FPS) et améliorer de façon significative la latence.

Efficacité & Sécurité

Le GPU L40S est optimisé pour les centres de données d'entreprise fonctionnant 24 heures sur 24 et 7 jours sur 7.

• Il est conçu, fabriqué, testé et pris en charge par NVIDIA pour garantir des performances, une durabilité et une disponibilité maximales.
• Le GPU L40S répond aux dernières normes des datacenters, est conforme au niveau 3 du NEBS (Network Equipment-Building System) et dispose d'un démarrage sécurisé avec la technologie root of trust, ce qui apporte une couche de sécurité supplémentaire aux centres de données.

ESC4000 

ESC8000

ESC4000-G4X

ESC8000-G4/10G

ESC4000-E10

ESC8000-E12