GPUs H100 da NVIDIA e a Fúria da Inteligência Artificial: um Resumo da Situação Atual

Nós estamos totalmente cientes da NVIDIA e de sua inteligência artificial “meu ouro” que desencadeou uma grande onda de interesse recentemente. No centro de tudo estão as GPUs de IA H100 da Equipe Green, que são, na realidade, o dispositivo de hardware para IA mais buscado no momento, com todos almejando obter uma para suprir suas necessidades de IA.

A RTX 100 GPU da NVIDIA é o processador ideal para inteligência artificial neste momento, e todos desejam ter mais desses.

Este artigo não tem características de notícia, mas informa os leitores sobre a atual realidade da indústria de Inteligência Artificial bem como como as empresas estão investindo nas GPUs H100 para sua “sobrevivência”.

A AMD informa que os modelos MI400 da nova geração de aceleradores de Inteligência Artificial já estão em operação.

Resumo: Em 2022, tudo estava indo bem. No entanto, em novembro, a aplicação “ChatGPT” emergiu, ajudando a estabelecer o hype da Inteligência Artificial. Esta aplicação não é a fundadora do boom da IA, mas foi um catalisador para a corrida à IA generativa, liderada por Microsoft e Google.

Onde vem a NVIDIA? O pilar da Inteligência Artificial (IA) gerativa abrange treinamentos extensos de LMM (Modelo de Linguagem de Maquina) e as GPUs de IA NVIDIA são a chave para isso. A fim de evitar que as coisas fiquem chatas e sem divertimento, vamos evitar entrar em especificações técnicas e fatos. No entanto, se você quiser conhecer detalhes, vamos destacar cada versão de GPU AI da NVIDIA, desde os modelos Tesla.

Las tarjetas gráficas NVIDIA HPC/AI ofrecen un rendimiento óptimo para tareas de computación de alto rendimiento y aprendizaje automático.

Ainda não há resposta para a pergunta: “Por que os H100s?” Mas estamos chegando lá. Os H100 da NVIDIA são a linha de produtos mais avançada da empresa, oferecendo alta capacidade de computação. Apesar do preço mais alto, as empresas costumam encomendar grandes lotes, e a prioridade é o “desempenho por watt”. Ainda assim, quando comparado com o A100, o H100 é mais vantajoso, pois oferece 3,5 vezes mais capacidade de inferência em 16 bits e 2,3 vezes mais desempenho de treinamento em 16 bits, tornando-se a escolha lógica.

Espera-se que seja óbvia a superioridade da GPU H100. Vamos agora para o próximo tópico, por que existe escassez? Há vários motivos para isso, um deles é devido ao grande volume de H100 necessário para aprimorar um único programa. É impressionante que o modelo de inteligência artificial GPT-4 da OpenAI exigiu entre 10.000 e 25.000 GPUs A100 (naquele momento, os H100 ainda não haviam sido lançados).

As startups de IA modernas, como Inflection AI e CoreWeave, obtiveram enormes valores para H100s, totalizando bilhões em contas. Isso indica que é necessária uma grande quantidade de recursos para treinar um modelo AI relativamente básico, explicando a demanda significativa.

Se você questionar a abordagem da NVIDIA, pode-se dizer: “A NVIDIA poderia aumentar a produção para satisfazer a demanda.” Expressar essa ideia é muito mais fácil do que realmente executá-la. Ao contrário das GPUs de jogos, as GPUs NVIDIA AI requerem processos complexos, com a maior parte da fabricação designada ao taiwanês gigante TSMC. O TSMC é o fornecedor exclusivo da GPU AI da NVIDIA, supervisionando todos os passos do processo, desde a adquirir wafers à embalagens avançadas.

As GPUs H100 são baseadas no processamento 4N do TSMC, uma atualização renovada da família 5nm. Desde que a Apple anteriormente empregou o chipset biônico A15, NVIDIA se tornou o maior consumidor desta tecnologia, mas foi substituída pelo A16 Bionic. A fabricação de memória HBM é a etapa mais complexa, tendo como requisito equipamentos sofisticados, atualmente em uso por alguns fabricantes.

A HBM conta com SK Hynix, Micron e Samsung como seus fornecedores, mas o TSMC tem mantido seus provedores em segredo. Além disso, o TSMC tem problemas para manter sua capacidade CoWoS (Chip-on-Wafer-on-Substrate), que é necessária para a produção de H100s, o que resultou em um aumento dos backlogs de encomendas da NVIDIA para dezembro.

Quando as pessoas mencionam “escassez de GPU”, isso se refere a uma escassez de componentes na placa, e não ao próprio chip gráfico. A produção mundial é limitada, mas tentamos prever o que o mercado precisa e o que o mundo pode produzir.

O Vice-Presidente e Gerente-Geral da DGX da NVIDIA, Charlie Doyle, foi nomeado.

Nós omitimos muitos detalhes, mas focamos no objetivo de fornecer informações ao usuário médio sobre a situação. A escassez não deve diminuir e pode aumentar. A AMD fez uma mudança de cenário para solidificar sua presença no mercado de Inteligência Artificial.

DigiTimes informa que “TSMC está particularmente entusiasmada com a demanda para a próxima série Instinct MI300 da AMD, relatando que será equivalente a 50% da quantidade de chips embalados pela CoWoS da Nvidia”. Para alcançar essa meta, a AMD teria que oferecer aos fabricantes uma oferta extremamente atraente, dada a tendência de lucro da Team Green no passado.

Reinvocando nossa conversa, o H100 da NVIDIA GPUs está elevando o hype AI a patamares mais altos, o que explica o frenesi ao seu redor. Nós pretendíamos encerrar nosso bate-papo transmitindo aos leitores uma noção geral do cenário. Créditos a GPU Utilis por ter fornecido a ideia por trás deste trabalho; não deixe de conferir o relatório deles também.

Fontes de informação: GPU usada para aumentar a velocidade de processamento de informações