A NVIDIA revelou uma unidade de processamento gráfico (GPU) mais avançada, a H200, que é quase duas vezes mais rápida do que o seu acelerador autónomo H100. Baseada na arquitetura Hopper, a H200 é uma poderosa atualização destinada a acelerar a computação de elevado desempenho (HPC) e os modelos que alimentam o boom da inteligência artificial generativa.
Um salto no desempenho da memória
A NVIDIA trocou a memória HBM3 pela HBM3E, que oferece um aumento de 25% na frequência. A principal melhoria deste “superchip de IA” é a sua memória de 141 GB que fornece 4,8 terabytes/segundo, melhorando o desempenho para gerar texto, imagens ou previsões, e fornecendo quase o dobro da capacidade e 2,4x mais largura de banda do que o seu antecessor, o A100.
Para criar inteligência com IA generativa e aplicações HPC, grandes quantidades de dados devem ser processadas de forma eficiente a alta velocidade utilizando memória GPU grande e rápida.
Com a NVIDIA H200, a principal plataforma de supercomputação de IA de ponta a ponta do setor ficou mais rápida para resolver alguns dos desafios mais importantes do mundo.
Disse Ian Buck, vice-presidente de hiperescala e HPC da NVIDIA.
A NVIDIA anunciou também que a HGX H200 é perfeitamente compatível com os sistemas HGX H100, o que significa que a H200 pode ser utilizada nos sistemas concebidos para os chips H100. Também está disponível o NVIDIA GH200 Grace Hopper Superchip com HBM3e, que a empresa anunciou em agosto.
O H100 tem agora um desempenho 11 vezes superior ao do A100 no GPT-3 Inference… O H200 medido atualmente tem um desempenho 18 vezes superior ao do A100 no mesmo GPT-3.
Acrescentou Buck.
A NVIDIA também revelou na sua apresentação a próxima GPU denominada B100, como se pode ver num diapositivo, que teria um desempenho mais avançado do que a H200. A empresa poderá revelar a B100 até ao final deste ano.
Espera-se que a H200 seja lançada no segundo trimestre de 2024
No próximo ano, os populares fornecedores de serviços em nuvem, como a Amazon Web Services, a Google Cloud, a Microsoft Azure e a Oracle Cloud Infrastructure, estão a planear utilizar a H200. Isto significa que irão incorporar servidores ou recursos de computação alimentados pela tecnologia H200 nos seus serviços de nuvem.
A NVIDIA juntou-se ao clube de avaliação de biliões de dólares no início de maio, aproveitando o boom da IA. A empresa está a gerar lucros, com arrecadação de 13.5 mil milhões de dólares no segundo trimestre de 2023.