Google recicla memória DDR4 de servidores antigos para usar em IA
Google recicla DDR4 de servidores antigos para usar em novos servidores de IA. Entenda como a escassez de memória está forçando a gigante a reutilizar componentes.
A escassez de memória no mercado de inteligência artificial está forçando as gigantes da tecnologia a encontrar soluções criativas. O Google, por exemplo, começou a retirar módulos de memória DDR4 de servidores aposentados para reutilizá-los em suas novas máquinas de IA.
Nikhil Cherian, diretor sênior de infraestrutura de supply chain do Google, revelou em um fórum recente que a indústria de IA passou rapidamente de um cenário com restrição de poder computacional para um com restrição de memória. A memória de alto desempenho já representa cerca de 75% do custo total de um servidor de IA.
Google cria cadeia de reciclagem interna de memória
Para furar o gargalo da memória, Cherian disse que o Google está trabalhando em soluções de software e hardware ao mesmo tempo. A empresa chegou ao ponto de desmontar servidores aposentados para reciclar componentes aproveitáveis, criando uma cadeia de reciclagem interna.
Na prática, o Google desenvolveu adaptadores de hardware especiais que permitem conectar módulos DDR4, uma geração anterior de memória, aos novos servidores de IA. Cherian admitiu que a empresa está reimportando servidores antigos apenas para retirar os módulos DDR4 deles.
Ao mesmo tempo, o Google continua otimizando bibliotecas de funções, arquitetura de modelos e compressão de KV Cache para reduzir o uso de memória por unidade de poder computacional.
Os chips TPU do Google e a memória de alto desempenho
Para quem não sabe, o Google lançou duas variantes do seu chip TPU este ano: o TPU8t, focado em treinamento de modelos de IA, e o TPU8i, otimizado para inferência. O TPU8i usa camadas de memória especializadas para eliminar gargalos de desempenho.
Cada chip TPU 8i vem com 288 GB de memória HBM3e, com largura de banda de 8,6 TB/s. O chip também integra 384 MB de SRAM para armazenar o cache KV ativo, evitando a necessidade de consultar a memória RAM do sistema. Os servidores TPU 8i substituem os processadores x86 antigos pelos processadores Axion, baseados em arquitetura Arm e desenvolvidos pelo Google, que usam memória DDR5 de alta velocidade para tarefas como pré-processamento de dados.
Apesar desses avanços, a declaração de Cherian indica que o Google está sendo forçado a usar DDR4 no lugar de DDR5 em alguns de seus novos servidores de IA.
O que isso significa para o mercado de tecnologia
A decisão do Google de reciclar memória DDR4 mostra como a escassez de componentes está afetando até as maiores empresas de tecnologia do mundo. A medida também pode influenciar outras companhias a adotar práticas semelhantes de reutilização de componentes.
Para o mercado brasileiro, a notícia reforça a importância de acompanhar a evolução dos custos de hardware para IA. Se gigantes como o Google estão recorrendo a soluções alternativas, os preços de servidores e componentes devem continuar pressionados globalmente, o que pode impactar projetos de IA no Brasil.
📲 Quer saber como a escassez de componentes está afetando o mercado de tecnologia no Brasil? Entre no Canal do TS no WhatsApp e receba as principais notícias em primeira mão.
Fonte: Wccftech
Escrito por
