O Google anunciou a versão mais recente de seu LLM, Google Gemini 1.5, que traz desempenho bem-educado e uma série de outros recursos. O Gemini 1.5 Pro vem com uma janela de contexto de 128.000 tokens porquê padrão, mas o Google também está permitindo que alguns desenvolvedores e clientes corporativos testem uma janela de contexto de até 1 milhão de tokens.
Gemini 1.5 aproveita arquiteturas avançadas de Transformer e MoE (Mixture of Experts), aumentando a eficiência e a capacidade de aprendizagem. Ao contrário dos Transformers convencionais, o MoE divide-se em redes “especializadas” mais pequenas, envolvendo dinamicamente os mais relevantes com base nas informações. Nascente método aumenta significativamente a eficiência.
O trabalho pioneiro do Google no MoE, incluindo o MoE Sparsely-Gated e várias iterações do Transformer, ressalta sua eficiência. As melhorias arquitetônicas do Gemini 1.5 facilitam o estágio mais rápido e resultados de subida qualidade com maior eficiência de treinamento e serviço, acelerando o desenvolvimento e a otimização de versões avançadas.
A janela de contexto do Gemini 1.0, que possui 32.000 tokens, foi expandida para 1 milhão de tokens em produção. Isso permite que o 1.5 Pro lide com grandes conjuntos de dados em um único processo, porquê 1 hora de vídeo, 11 horas de áudio, bases de código superiores a 30.000 linhas ou mais de 700.000 palavras. O Google testou capacidades de até 10 milhões de tokens.
O Google disse que está oferecendo uma prévia limitada do Gemini 1.5 Pro para desenvolvedores e clientes corporativos e quando estiver pronto para um lançamento mais grande, será lançado com a janela de 128.000 tokens porquê padrão.
Manancial Google
Últimas ofertas de gadgets geeks
Divulgação: Alguns de nossos artigos incluem links afiliados. Se você comprar um tanto por meio de um desses links, o lifetechweb Gadgets poderá lucrar uma percentagem de afiliado. Conheça nossa Política de Divulgação.
