Startups e companhias de IA consideram placas gráficas usadas em jogos como uma solução para o déficit de chips.

Parece que estamos prestes a experimentar outra falta de GPUs para jogos, desta vez devido ao aumento da procura por IA. A escassez de GPUs para IA na China levou as empresas a se concentrarem em GPUs para jogos, o que pode acabar se mostrando benéfico aqui também.

A aquisição de GPUs específicas para Inteligência Artificial tem se tornado um problema para startups de tecnologia, estimulando a procura por GPUs de videogames.

Relatamos que a disponibilidade da H100 da NVIDIA está cada vez mais diminuindo. A NVIDIA não tem capacidade de atender à crescente procura de suas GPUs de inteligência artificial, fazendo com que elas sejam comercializadas a preços altíssimos, chegando próximos aos US$ 70.000. Com o aumento desta barreira de compra, algumas organizações encontraram uma solução para a escassez: usar placas gráficas de uso doméstico.

AMD destaca novamente a vantagem da memória de vídeo (VRAM) de seus GPUs Radeon em relação aos GeForce, com 16 GB de VRAM disponíveis por US$ 499.

Embora não houvesse muitas provas de que algo mudou, um recém-lançado tweet do diretor da Comma AI deu a entender que GPUs de jogos da AMD foram instaladas nos laboratórios da empresa.

AMD (ao contrário de Qualcomm) é ótimo para adquirir chips. 7,38 PFLOPS de computação foram distribuídos hoje, com exaflops adicionais a caminho.

É animador ver-vos mais animados no ROCm GitHub, estamos trabalhando no nível superior @_tinygrad_ pic.twitter.com/5yE11TVA5F

George Hotz (@realGeorgeHotz) em 1º de agosto de 2023

A imagem compartilhada acima apresenta um grande lote de GPUs AMD, que, quando ampliada, é identificada como o Radeon RX 7900 XTX da XFX “MERC 310”. Embora o número de unidades não tenha sido especificado, com base na imagem e no desempenho calculado, pode-se dizer que são 60 GPUs usando FP16 e 120 GPUs usando FP32. Como a IA é principalmente baseada em FP16, o total de unidades deve ser de 60, fornecendo um total de 7,38 PTFLOPS, como sugerido por George. Os Radeon RX 7900 XTX custam cerca de US $900-1000, o que totaliza até US$ 60.000. George mencionou que haverá ainda mais Exaflops no futuro.

Você pode se questionar por que escolher GPUs de jogos AMD. Bem, existem duas principais explicações. A primeira delas é a grande quantidade de VRAM. As cargas de trabalho de AI necessitam de memória considerável, e considerando que o Radeon RX 7900 XTX é o topo de linha da AMD, é considerado a melhor escolha. O VRAM de 24 GB é muito mais barato que o top de linha da NVIDIA, que custa acima de US$ 1599.

Em segundo lugar, como George sugeriu (“AMD (em comparação à Qualcomm) é uma alegria para comprar chips”), a aquisição de GPUs para IA tem sido um problema para startups de tecnologia, pois os principais participantes da indústria, como OpenAI e Microsoft, têm acesso exclusivo ao inventário da NVIDIA. As GPUs de jogos AMD não têm tanta procura de compras quanto a linha de Ada Lovelace da NVIDIA; portanto, ofertas de alto nível da AMD são mais fáceis de obter, e quem sabe, talvez George tenha um bom desconto também.

Não se pode afirmar de maneira conclusiva que a inteligência artificial provocará escassez de GPU, mas é fato que existem atrasos e filas de espera quanto ao abastecimento deste tipo de dispositivo. A oportunidade de usar as GPUs usadas para jogos tem sido explorada por empresas e, como todos sabem, a NVIDIA e a AMD não perdem tempo quando se trata de aproveitar esta chance. Não se sabe se haverá a criação de uma nova classificação, “LHR” e “NON-LHR”, voltada à computação AI, mas é uma hipótese que deve ser considerada.

Puget Systems lançou benchmarks de GPUs de nível de consumidor de AMD e NVIDIA como parte da Estabilização de Lançamento, e os resultados têm sido muito interessantes. Pode-se observar que as mais recentes placas de vídeo Radeon e GeForce para jogos oferecem desempenho surpreendente, o que dá às empresas de Inteligência Artificial ainda mais motivação para procurar GPUs de jogos que oferecem maior valor do que as placas Pro e HPC, que estão prontamente disponíveis em lojas de varejo.

No decorrer, a verdade é que o mercado de computadores pessoais está em uma crise agora, e qualquer corporação, NVIDIA e AMD incluídas, precisam de algo que possa aumentar as vendas de componentes. É possível que até mesmo o RTX 4060 Ti 16 GB se torne uma conquista no ramo de inteligência artificial (apesar de não ser tão proeminente no setor de jogos).

Uma matéria divulgada pela Tom’s Hardware sugere que …