Shenzhen, China - juli 2025 - In een doorbraak voor AI en Large Language Model Computing heeft Nvidia deH100 141GBNVL Original, een oplossing van de volgende generatie die is ontworpen om de grenzen van AI-prestaties, geheugencapaciteit en energie-efficiëntie te verleggen. De H100 NVL 141GB-module is gebouwd met AI-werklast op enterprise-schaal in gedachten, is afgestemd op de eisen van de huidige geavanceerde datacenters, training voor taalmodel en opleiding op ongekende snelheid en schaal.
3x sneller LLM -inferentie - aangedreven door NVL -architectuur
In tegenstelling tot standaard SXM- of PCIE GPU's, is de H100 NVL een unieke vormfactor met twee H100 GPU's die via NVLink zijn aangesloten en verpakt als een dual-GPU-oplossing met 141 GB gedeeld HBM3-geheugen en een geheugenbandbreedte van meer dan 7TB/s. Dit maakt het de ideale GPU voor:
GPT-3, GPT-4 en LLAMA 3 Training
Grootschalige transformator inferentie werklast
Multimodale AI-taken (visietaal, spraak, enz.)
Volgens de interne tests van NVIDIA biedt H100 NVL tot 12x snellere conclusie voor grote taalmodellen in vergelijking met de A100 80 GB.
