Samsung e rivais buscam soluções para evitar desperdício de memória em servidores de IA

As principais fabricantes de semicondutores do mundo, incluindo Samsung e SK hynix , anunciaram a aceleração de novas tecnologias de memória.

Chamadas de CXL e PIM, a ideia aqui é solucionar a subutilização de recursos em servidores de inteligência artificial, por meio de uma iniciativa para contornar as limitações físicas e os custos elevados da atual tecnologia HBM.

Nos dias atuais, esses servidores operam com uma subutilização crítica, com uso entre 50% e 60% de memória instalada, enquanto o restante permanece ocioso e inacessível para outros idiomas.

Para solucionar esse desperdício, os altos custos de expansão de memória de alta largura de banda (HBM), fabricantes como Samsung e SK hynix investem em três frentes principais: CXL (Compute Express Link); PIM (Processing-In-Memory); HBF (High Bandwitdh Flash).

A primeira delas é uma interface aberta que possibilita o “pooling” de memória, permitindo que múltiplos servidores compartilhem recursos ociosos de forma dinâmica.

Quanto à segunda, trata-se de uma tecnologia que integra capacidades de computação diretamente onde os dados estão armazenados.

Clique aqui para ler mais