Meta AI apresentou esta semana sua nova próxima geração Chips aceleradores de treinamento e inferência de IA. Com a crescente demanda por modelos sofisticados de IA em todos os setores, as empresas precisarão de uma infraestrutura de computação poderosa e confiável para acompanhar o ritmo. O acelerador da Meta pode ser a resposta, fornecendo aos aplicativos corporativos as ferramentas para lidar com facilidade até mesmo com as cargas de trabalho de IA mais complexas. Com mais que o dobro da largura de banda de computação e memória do seu antecessor, esta tecnologia inovadora é projetado para otimizar modelos de classificação e recomendaçãogarantindo que você possa fornecer conteúdo personalizado e de alta qualidade aos seus usuários em velocidades vertiginosas.
No ano passado, a Meta revelou o Meta Coaching and Inference Accelerator (MTIA) v1, seu acelerador de inferência de IA de primeira geração que projetamos internamente com as cargas de trabalho de IA da Meta em mente – especificamente os modelos de recomendação de aprendizagem profunda da Meta que estão melhorando uma variedade de experiências em a gama de produtos da empresa.
Principais conclusões
- A Meta compartilhou detalhes sobre a próxima geração do Meta Coaching and Inference Accelerator (MTIA), sua família de chips personalizados projetados para as cargas de trabalho de IA da Meta.
- Esta versão mais recente mostra melhorias significativas de desempenho em relação ao MTIA v1 e ajuda a potencializar os modelos de classificação e recomendação de publicidade do Meta.
- A MTIA faz parte do investimento crescente da Meta em nossa infraestrutura de IA e complementará nossa infraestrutura de IA existente e futura para oferecer experiências novas e melhores em seus produtos e serviços.
O impacto do acelerador de IA de próxima geração da Meta vai muito além do domínio das possibilidades teóricas. Ao explorar o vasto potencial desta tecnologia, você descobrirá que ela já está causando sucesso em aplicações do mundo actual. Implantado em information facilities em todo o mundo, o acelerador está alimentando modelos prontos para produçãodemonstrando sua capacidade de lidar com as demandas do mundo atual impulsionado pela IA.
Embora os detalhes específicos dos preços permaneçam em segredo, a importância desta inovação não pode ser exagerada. O compromisso da Meta em ultrapassar os limites da computação de IA é evidente na disponibilidade e prontidão do acelerador para implantação. Ao embarcar em sua própria jornada de IA, você pode confiar que a tecnologia da Meta estará presente para apoiá-lo em cada etapa do caminho.
Um mergulho profundo nas especificações
Para realmente apreciar as capacidades do acelerador de IA de próxima geração da Meta, é essencial explorar suas especificações impressionantes:
- Tecnologia de ponta: Construído no processo TSMC 5nm, garantindo desempenho e eficiência ideais.
- Frequência impressionante: Operando a 1,35 GHz, permitindo cálculos extremamente rápidos.
- Instâncias robustas: com portas de 2,35B e flops de 103M, fornecendo amplos recursos para modelos complexos de IA.
- Design compacto: Medindo apenas 25,6 mm x 16,4 mm, com uma área complete de 421 mm2, o que o torna ultimate para ambientes com espaço limitado.
- Embalagem eficiente: alojada em uma embalagem de 50 mm x 40 mm, garantindo gerenciamento térmico e confiabilidade ideais.
- Operação em baixa tensão: Funcionando a 0,85 V, minimizando o consumo de energia sem comprometer o desempenho.
- Potência de design térmico (TDP): avaliada em 90 W, atingindo o equilíbrio perfeito entre desempenho e eficiência energética.
- Conexão de host de alta velocidade: Equipado com 8x PCIe Gen5, fornecendo uma largura de banda de 32 GB/s para transferência de dados contínua.
- GEMM TOPS incomparáveis: Fornecendo até 708 TFLOPS/s (INT8) com dispersão, permitindo multiplicações de matrizes extremamente rápidas.
- Impressionantes SIMD TOPS: Oferecendo até 11,06 TFLOPS/s (INT8), facilitando operações vetoriais eficientes.
- Ampla capacidade de memória: Com 384 KB de memória native por PE, 256 MB no chip e 128 GB LPDDR5 fora do chip, garantindo amplo armazenamento até mesmo para os modelos de IA mais exigentes.
- Largura de banda de memória excepcional: Fornece 1 TB/s de memória native por PE, 2,7 TB/s no chip e 204,8 GB/s LPDDR5 fora do chip, garantindo rápido acesso e processamento de dados.
Abraçando a revolução da IA
O acelerador de próxima geração da Meta serve como porta de entrada para infinitas possibilidades e é apenas o começo de uma jornada emocionante que remodelará as indústrias e redefinirá a forma como interagimos com as máquinas. De IA generativa para pesquisas avançadas, as aplicações deste acelerador são ilimitadas. O compromisso inabalável da Meta em expandir os limites da computação de IA, por meio de silício personalizado, largura de banda de memória e capacidade de rede, garante que você sempre terá acesso às ferramentas e recursos mais avançados.
Últimas ofertas de devices geeks
Divulgação: Alguns de nossos artigos incluem hyperlinks afiliados. Se você comprar algo por meio de um desses hyperlinks, o lifetechweb Devices poderá ganhar uma comissão de afiliado. Conheça nossa Política de Divulgação.
