A Nvidia Corp. revelou um processador AI aprimorado que aumenta a capacidade e o desempenho do chip, com o objetivo de solidificar a supremacia da empresa em um campo em crescimento. NVIDIA GH200 Grace Hopper estará disponível no segundo trimestre de 2024.
A Nvidia disse na terça-feira na conferência Siggraph em Los Angeles que o Grace Hopper Superchip, um chip gráfico híbrido e CPU, se beneficiará de uma nova forma de memória. O dispositivo é baseado na memória de alta largura de banda 3, ou HBM3e, que pode acessar dados a incríveis 5 gigabytes por segundo.
O último anúncio da Nvidia segue o anunciado anteriormente GH200 com HBM3, que está atualmente em produção e estará disponível ainda este ano. Isso implica que a NVIDIA produzirá duas versões do mesmo dispositivo, a primeira usando HBM3 e a segunda incorporando HBM3e. A Nvidia também diz que o GH200 de próxima geração será capaz de executar modelos AI 3,5 vezes mais rápido que o modelo atual, graças à memória HBM3e.
Nvidia GH200 Grace Hopper: construído em uma CPU Grace de 72 núcleos
O novo GH200 Grace Hopper Superchip é baseado em uma CPU Grace de 72 núcleos com 480 GB de memória ECC LPDDR5X e uma GPU computacional GH100 com 141 GB de memória HBM3E em seis pilhas de 24 GB e uma interface de memória com largura de 6.144 bits. A NVIDIA instala fisicamente 144 GB de memória, no entanto, apenas 141 GB está acessível para maiores rendimentos.
O atual superchip GH200 Grace Hopper da NVIDIA apresenta 96 GB de memória HBM3 com largura de banda inferior a 4 TB/s. Em comparação, o novo modelo aumenta a capacidade de memória em cerca de metade e a largura de banda em mais de um quarto. Esses aprimoramentos importantes permitem que a nova plataforma execute modelos de IA maiores do que a iteração anterior, resultando em aumentos consideráveis de desempenho.
Microsoft e NVIDIA assinam acordo para trazer Passe de jogo para Nvidia GeForce agora
A Nvidia afirma que isso se deve a diferentes configurações do mesmo componente, semelhantes às versões de 40 GB e 80 GB do A100 de alguns anos atrás. Na verdade, o carregamento de RAM é a principal distinção aqui, pelo menos por enquanto. Em vez dos 96 GB de HBM3 vRAM e 480 GB de LPDDR5x DRAM encontrados no GH200 de geração atual, o GH200 de “próxima geração” tem 141 GB de HBM3e e 500 GB de LPDDR5x de 400 GB/s mais lento. 512 GB/s LPDDR5x DRAM foi usado na iteração anterior.
A Nvidia está trabalhando nos superchips Grace Hopper há algum tempo
Desde pelo menos 2021, quando a empresa divulgou os planos preliminares, os superchips Grace Hopper têm sido um assunto polêmico para o CEO da Nvidia.
O Superchip é construído sobre a arquitetura Arm, que é amplamente utilizada em dispositivos móveis e compete com a tecnologia baseada em x86 da Intel e da AMD. É referido como um “superchip” pela Nvidia, uma vez que combina a CPU Nvidia Grace baseada em Arm com a arquitetura Hopper GPU.
O Grace Hopper Superchip recebe um impulso da memória mais rápida do mundo, HBM3e, na mais recente iteração do Nvidia GH200 Grace Hopper. De acordo com a Nvidia, a memória HBM3e é até 50% mais rápida que a tecnologia HBM3 incluída na iteração atual do GH200.
Nvidia Computex 2023 traz o futuro dos jogos
“Estamos muito entusiasmados com este novo GH200. Ele contará com 141 gigabytes de memória HBM3e. O HBM3e não apenas aumenta a capacidade e a quantidade de memória anexada às nossas GPUs, mas também é muito mais rápido”, disse Ian Buck, vice-presidente e gerente geral de hiperescala e HPC da Nvidia, durante uma reunião com a imprensa e analistas, de acordo com Venture Beat.
A Nvidia não está apenas desenvolvendo hardware mais rápido, mas também dimensionando-o em um novo design de servidor.
Buck afirmou que a Nvidia está trabalhando em um novo sistema de servidor Nvidia MGX baseado em dual-GH200 que teria dois Grace Hopper Superchips da próxima geração. Ele continuou dizendo que o novo GH200 será conectado usando NVLink, a tecnologia de interconexão da Nvidia.
Ambas as CPUs e GPUs no novo servidor dual-GH200 serão acopladas a uma conexão de memória completamente coerente graças ao NVLink.
Nvidia GH200 Grace Hopper data de lançamento
De acordo com a NVIDIA, a plataforma GH200 Grace Hopper com HBM3 já está em produção e estará disponível comercialmente no próximo mês. Em contraste, a plataforma GH200 Grace Hopper com HBM3e agora está em fase de amostragem e deve estar pronta no segundo trimestre de 2024.
O novo GH200 Grace Hopper, de acordo com a NVIDIA, emprega a mesma tecnologia Grace CPU e GPU GH100 da iteração anterior, portanto, nenhuma modificação ou revisão adicional é necessária.
Crédito da imagem em destaque: nvidia
Source: Aqui está o novo Nvidia GH200 Grace Hopper