A NVIDIA revelou otimizações e integrações inovadoras de desempenho de IA para Home windows, aprimorando significativamente os recursos dos PCs NVIDIA GeForce RTX AI e das estações de trabalho NVIDIA RTX. Esses avanços, anunciados no Microsoft Construct, prometem oferecer desempenho até 3x mais rápido para modelos de linguagem grandes (LLMs) usando ONNX Runtime (ORT) e DirectML com o novo driver NVIDIA R555 Sport Prepared. Este desenvolvimento é um grande avanço para aplicações de IA, permitindo uma execução mais rápida e eficiente de modelos de IA localmente em PCs com Home windows.
IA aprimorada do Home windows para jogadores, criadores e desenvolvedores
- Desempenho até 3x mais rápido para LLMs com ONNX Runtime (ORT) e DirectML
- Driver pronto para jogos NVIDIA R555
- Suporte para metacomando DQ-GEMM para quantização somente de peso INT4
- Novos métodos de normalização RMSNorm para modelos Llama 2, Llama 3, Mistral e Phi-3
- Mecanismos de atenção de grupo e multi-consulta
- Atenção janela deslizante para Mistral
- Atualizações KV no native para melhor desempenho de atenção
- Suporte para GEMM de tensores não múltiplos de 8
- Aceleração WebNN com DirectML e ORT Net
- Desempenho até 4x mais rápido para modelos como Secure Diffusion, SD Turbo e Whisper no WebNN
As mais recentes GPUs da NVIDIA, equipadas com aceleração de IA dedicada, oferecem até 1.300 trilhões de operações por segundo de desempenho de IA. Esse poder é aproveitado em vários aplicativos, desde o aumento das taxas de quadros em jogos com NVIDIA DLSS até o aprimoramento de personagens de jogos com diálogos e animações orientados por IA por meio do NVIDIA ACE. Os criadores de conteúdo se beneficiam de fluxos de trabalho de produção assistidos por IA em aplicativos populares como Adobe Premiere e Blender, simplificando tarefas como remoção de ruído 3D e geração de texto para imagem. Para desenvolvedores, a NVIDIA fornece ferramentas como NVIDIA AI Workbench e CUDA no subsistema Home windows para Linux, permitindo a construção e o ajuste fino de modelos de IA diretamente em seus dispositivos.
O novo driver NVIDIA R555 Sport Prepared, que inclui essas otimizações de desempenho de IA, já está disponível para obtain. Este driver é compatível com uma ampla variedade de GPUs NVIDIA RTX, garantindo que usuários novos e existentes possam se beneficiar dessas melhorias. Além disso, PCs Copilot+ equipados com sistemas em um chip com baixo consumo de energia e GPUs RTX serão lançados nos próximos meses, oferecendo maior desempenho para cargas de trabalho exigentes de IA. Os preços desses novos sistemas variam de acordo com a configuração e as especificações, mas espera-se que tenham preços competitivos para atender jogadores, criadores e desenvolvedores.
Para aqueles interessados em explorar ainda mais os recursos de IA da NVIDIA, a empresa oferece uma variedade de ferramentas e estruturas de desenvolvedor, como NVIDIA TensorRT, NVIDIA Maxine e RTX Video. Essas ferramentas fornecem suporte adicional para o desenvolvimento e otimização de modelos de IA, facilitando aos desenvolvedores a criação de aplicativos de IA de ponta. Além disso, a colaboração da NVIDIA com a Microsoft garante melhorias e inovações contínuas no desempenho da IA nas plataformas Home windows, prometendo um futuro emocionante para a tecnologia de IA. Aqui estão alguns outros artigos que você pode achar interessantes sobre o assunto da nova linha Copilot PC da Microsoft projetada especificamente para IA.
Últimas ofertas de devices geeks
Divulgação: Alguns de nossos artigos incluem hyperlinks afiliados. Se você comprar algo por meio de um desses hyperlinks, o lifetechweb Devices poderá ganhar uma comissão de afiliado. Conheça nossa Política de Divulgação.
