Voor LLM's met maximaal 175 miljard parameters maakt de PCIe-gebaseerde NVIDIA H100 NVL met NVLink bridge gebruik van de Transformer Engine, NVLink en 188 GB HBM3-geheugen om optimale prestaties en eenvoudig schalen in elk datacenter mogelijk te maken en LLM's naar de mainstream te brengen. Servers die zijn uitgerust met H100 NVL GPU's verbeteren de prestaties van het GPT-175B model met wel 12x in vergelijking met NVIDIA DGX A100 systemen, met behoud van lage latency in datacenter omgevingen met beperkte stroomtoevoer.