Procurando uma GPU Nvidia H100 AI? Você pode fazer isso um pouco mais rápido agora, diz Dell

Hoje em dia, a IA está na frente e no centro, especialmente quando se trata de ChatGPT, Copilot e Gemini, mas poucos conhecem o poder de processamento bruto necessário para mantê-los em constante funcionamento. As GPUs H100 AI da Nvidia são um ótimo exemplo disso, sendo uma das principais unidades de processamento gráfico usadas em IA.

Mas não há muitos deles por aí e a demanda está aumentando constantemente. Tomemos, por exemplo, Sora AI, que precisa de cerca de 4.200 a ten.500 GPUs Nvidia H100 por um mês apenas para treinar um modelo. Considere a recente escassez de GPUs H100 e você pode imaginar como o tempo de espera por novo {hardware} disparou.

Os tempos de espera das GPUs H100 AI foram significativamente reduzidos.

Think about um cenário em que empresas e entusiastas da tecnologia enfrentassem uma espera cansativa de 40 a 52 semanas por seus pedidos de GPU no remaining de 2023. Avançando até o presente, o cenário mudou drasticamente, com os prazos de entrega caindo para apenas 8 horas. -12 semanas. De acordo com o DigiTimes, esta mudança, conforme relatada por Terence Liao, Diretor Geral da Dell Taiwan, marca um momento essential na indústria tecnológica, especialmente para aqueles investidos em inteligência synthetic (IA) e computação de alto desempenho.

Mas o que está por trás dessa súbita facilidade na disponibilidade da GPU? As restrições de fornecimento que antes limitavam a disponibilidade das GPUs H100 AI da Nvidia estão aparentemente se dissipando. A jornada de uma espera impressionante de 11 meses para um período mais acessível de 2 a 3 meses é simplesmente notável. Esta melhoria não é apenas uma vitória para a Dell, mas um farol de esperança para todo o ecossistema tecnológico, sinalizando um potencial fim para os problemas da cadeia de abastecimento que têm atormentado a indústria.

Apesar da diminuição das restrições de oferta, a procura de {hardware} com capacidade de IA continua altíssima. As empresas optam cada vez mais por servidores de IA em vez de servidores de uso geral, apesar do alto preço associado aos primeiros. Esta tendência sublinha o papel crítico da IA ​​na definição do futuro da tecnologia e das estratégias empresariais. A redução nos prazos de entrega é uma prova da resiliência e adaptabilidade da indústria.

Parece que o estoque anterior do H100 também desempenha um papel neste

Curiosamente, esta mudança positiva na disponibilidade de GPU é parcialmente atribuída ao facto de as empresas terem um excedente de GPUs H100 e optarem por revender parte do seu inventory para mitigar os elevados custos de manutenção do inventário não utilizado. Além disso, a Amazon Internet Companies (AWS) desempenhou um papel importante no alívio de parte da pressão da demanda, facilitando o aluguel de GPUs Nvidia H100 por meio da nuvem.

Para grandes empresas como a OpenAI, que estão na vanguarda do desenvolvimento dos seus grandes modelos de linguagem (LLMs), a flexibilização das restrições de oferta não poderia vir em melhor hora. Essas empresas exigem milhares de GPUs para treinar seus modelos de maneira eficiente e eficaz. A redução contínua dos prazos de entrega é um sinal promissor de que em breve poderão ter todos os recursos necessários para ampliar ainda mais os limites da IA.

Em essência, o cenário da GPU está passando por uma transformação significativa, e essa mudança não só beneficia os grandes gamers da área, mas também abre novas possibilidades para inovadores e criadores em todo o mundo.

Vlad Turiceanu

Editor do Home windows

Apaixonado por tecnologia, janelas, e tudo que tem botão liga / desliga, ele passou a maior parte do tempo desenvolvendo novas habilidades e aprendendo mais sobre o mundo da tecnologia. Vindo de uma sólida experiência em construção de PCs e desenvolvimento de software program, com uma experiência completa em dispositivos baseados em toque, ele está constantemente de olho no que há de melhor e mais recente!