Micron lança o primeiro módulo LPDRAM SOCAMM2 de 256 GB do setor para data centers de IA

A Micron Technology, Inc. (NASDAQ:MU) anunciou que começou a enviar amostras para clientes do que considera o primeiro módulo DRAM SOCAMM2 de baixo consumo de energia de 256 GB do mundo, marcando um novo marco em capacidade para memória de data center.

O módulo é alimentado pelo primeiro design de chip monolítico LPDDR5X de 32 Gb do setor e destina-se à infraestrutura de IA e computação de alto desempenho (HPC) de próxima geração. A Micron (BOV:MUTC34) afirmou que o avanço possibilita uma capacidade de memória significativamente maior com menor consumo de energia, abrindo caminho para novas arquiteturas de sistema para cargas de trabalho orientadas por IA.

À medida que o treinamento de IA, a inferência, a IA agente e a computação tradicional convergem cada vez mais, os requisitos de memória se tornam mais complexos. O aumento do tamanho dos modelos, janelas de contexto maiores e caches persistentes de chave-valor (KV) pressionam a capacidade, a largura de banda, a latência e a eficiência energética — fatores que afetam diretamente a escalabilidade e o custo total de propriedade em data centers.

A Micron afirmou que a combinação de capacidade, eficiência e desempenho da LPDRAM a torna uma tecnologia fundamental tanto para servidores focados em IA quanto para servidores de uso geral que operam em ambientes com restrições de energia e temperatura. A empresa está colaborando com a NVIDIA para desenvolver soluções de memória personalizadas para infraestrutura avançada de IA.

“A oferta de SOCAMM2 de 256 GB da Micron possibilita a solução de memória conectada à CPU mais eficiente em termos de energia para IA e HPC. O anúncio de hoje destaca os avanços tecnológicos e de encapsulamento da Micron para fornecer a solução de memória modular de maior capacidade e menor consumo de energia com a menor área ocupada do setor”, disse Raj Narasimhan, vice-presidente sênior e gerente geral da Unidade de Negócios de Memória em Nuvem da Micron. “Nossa liderança contínua em soluções de memória de baixo consumo de energia para aplicações de data center nos posicionou de forma única para sermos os primeiros a fornecer um chip LPDRAM monolítico de 32 Gb, ajudando a impulsionar a adoção, pelo setor, de arquiteturas de sistema de alta capacidade e maior eficiência energética.”

Projetado para capacidade, eficiência e cargas de trabalho de IA.

A Micron destacou diversas vantagens de desempenho para o novo módulo SOCAMM2 de 256 GB:

• Maior densidade de memória: O módulo oferece um terço a mais de capacidade do que o SOCAMM2 anterior de 192 GB, permitindo até 2 TB de LPDRAM por configuração de CPU de 8 canais. Isso foi projetado para suportar modelos de IA maiores e tarefas de inferência mais complexas.
• Consumo de energia e espaço reduzidos: o SOCAMM2 consome aproximadamente um terço da energia de soluções RDIMM comparáveis, ocupando cerca de um terço do espaço físico, o que pode melhorar a densidade do rack e reduzir o custo total de propriedade.
• Inferência de IA mais rápida: Em arquiteturas de memória unificada, a Micron afirma que o módulo pode melhorar o tempo até o primeiro token em mais de 2,3 vezes para inferência de modelos de linguagem de grande porte (LLM) em tempo real e com contexto longo, quando usado para descarregamento de cache KV. Em ambientes de CPU independentes, a LPDRAM oferece desempenho por watt mais de três vezes superior em comparação com módulos de memória convencionais em cargas de trabalho de computação de alto desempenho (HPC).
• Escalabilidade modular: O formato SOCAMM2 aprimora a facilidade de manutenção, suporta projetos de servidores com refrigeração líquida e permite a expansão futura da capacidade à medida que as demandas de IA e computação aumentam.

“A infraestrutura avançada de IA exige uma otimização incrível em todas as camadas para maximizar o desempenho e a eficiência em cargas de trabalho de raciocínio de IA exigentes”, disse Ian Finder, chefe de Produto de CPUs para Data Center da NVIDIA. “As conquistas da Micron em fornecer capacidade de memória e largura de banda massivas usando menos energia do que a memória de servidor tradicional com o SOCAMM2 de 256 GB estão possibilitando a próxima geração de CPUs de IA.”

Colaboração com a Indústria e Liderança em Normas

A Micron afirmou que continua a desempenhar um papel central na definição da especificação JEDEC SOCAMM2 e está trabalhando em estreita colaboração com os projetistas de sistemas para impulsionar melhorias na eficiência energética e no desempenho em todas as futuras plataformas de data center.

A empresa agora oferece o que descreve como o portfólio de LPDRAM mais amplo do setor para data centers, variando de componentes de 8 GB a 64 GB e módulos SOCAMM2 de 48 GB a 256 GB. O envio de amostras da versão de 256 GB para clientes já está em andamento.

Este conteúdo é apenas para fins informativos e não constitui aconselhamento financeiro, de investimento ou de qualquer outra natureza profissional. Não deve ser considerado uma recomendação de compra ou venda de quaisquer valores mobiliários ou instrumentos financeiros. Todos os investimentos envolvem riscos, incluindo a potencial perda do principal. O desempenho passado não é indicativo de resultados futuros. Você deve conduzir sua própria pesquisa e consultar um consultor financeiro qualificado antes de tomar qualquer decisão de investimento. Algumas partes deste conteúdo podem ter sido geradas ou assistidas por ferramentas de inteligência artificial (IA) e revisadas por nossa equipe editorial para garantir precisão e qualidade.

Crédito da imagem: Canva