Tech

IA de código aberto Google Gemma otimizada para rodar em GPUs NVIDIA

O Google fez um movimento significativo unindo forças com a NVIDIA, uma gigante na dimensão de hardware de lucidez sintéticopara aumentar as capacidades dos seus Modelos de linguagem Gemma. Esta colaboração visa aumentar a eficiência e a rapidez para quem trabalha com Aplicações de IAtornando-se um desenvolvimento notável no mundo da tecnologia.

Os modelos Google Gemma AI foram atualizados e agora vêm em duas versões, uma com 2 bilhões de parâmetros e outro com 7 bilhões de parâmetros. Esses modelos são projetados especificamente para aproveitar ao sumo as plataformas de IA de ponta da NVIDIA. Esta atualização é benéfica para uma ampla gama de usuários, desde aqueles que administram grandes data centers até indivíduos que usam computadores pessoais, já que os modelos Gemma agora estão otimizados para oferecer desempenho de cumeeira nível.

No meio desse aprimoramento está o TensorRT-LLM da NVIDIA, uma livraria de código desimpedido que é fundamental para otimizar a inferência de modelos de linguagem grande em GPUs NVIDIA. Esta utensílio é principal para prometer que o Gemma opere com desempenho sumo, oferecendo aos usuários interações de IA mais rápidas e precisas.

Google Gema

Uma das principais melhorias é a compatibilidade do Gemma com uma ampla gama de Hardware NVIDIA. Agora, mais de 100 milhões de GPUs NVIDIA RTX em todo o mundo podem oferecer suporte ao Gemma, o que aumenta muito seu alcance. Isso inclui as poderosas GPUs encontradas em data centers, as instâncias A3 na nuvem e as GPUs NVIDIA RTX em computadores pessoais.

No domínio da computação em nuvem, o Google Cloud planeja empregar GPUs Tensor Core H200 da NVIDIA, que possuem recursos avançados de memória. Espera-se que esta integração melhore o desempenho dos modelos Gemma, particularmente em aplicações baseadas em nuvem, resultando em serviços de IA mais rápidos e confiáveis. As contribuições da NVIDIA não se limitam ao hardware; a empresa também fornece um conjunto abrangente de ferramentas para desenvolvedores corporativos. Essas ferramentas foram projetadas para ajudar no ajuste fino e na implantação do Gemma em diversos ambientes de produção, o que simplifica o processo de desenvolvimento de serviços de IA, sejam eles complexos ou simples.

Para aqueles que desejam personalizar ainda mais seus projetos de IA, a NVIDIA oferece aproximação a pontos de verificação de protótipo e uma versão quantizada do Gemma, todos otimizados com TensorRT-LLM. Isso permite um refinamento e eficiência ainda mais detalhados em projetos de IA. O Parque de IA da NVIDIA serve porquê uma plataforma fácil de usar para interagir diretamente com os modelos Gemma. Esta plataforma foi projetada para ser alcançável, eliminando a urgência de processos de formato complexos, e é um supimpa recurso para quem deseja explorar rapidamente o que Gemma tem a oferecer.

Um elemento intrigante dessa integração é a combinação de Gemma com o Chat da NVIDIA com mostra de tecnologia RTX. Esta mostra utiliza os recursos generativos de IA do Gemma em PCs com tecnologia RTX para fornecer uma experiência de chatbot personalizada. É rápido e mantém a privacidade dos dados ao operar localmente, o que significa que não depende de conectividade na nuvem.

No universal, os modelos Gemma do Google fizeram um progressão significativo na otimização para GPUs NVIDIA. Esse progresso traz desempenho polido, grande suporte de hardware e ferramentas poderosas para desenvolvedores, tornando o Gemma um poderoso concorrente para aplicativos baseados em IA. A parceria entre o Google e a NVIDIA promete oferecer uma experiência de IA robusta e alcançável para desenvolvedores e usuários finais, marcando um passo importante na evolução da tecnologia de IA. Cá estão alguns outros artigos que você pode encontrar interessantes sobre o tema Google Gemma:

Últimas ofertas de gadgets geeks

Divulgação: Alguns de nossos artigos incluem links afiliados. Se você comprar um pouco por meio de um desses links, o lifetechweb Gadgets poderá lucrar uma percentagem de afiliado. Conheça nossa Política de Divulgação.

Artigos relacionados

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button