La memoria en los servidores evoluciona con la IA: Cambia la forma de gestionar la RAM hacia sistemas externos compartidos para optimizar recursos.
La Memoria se Transforma
La escasez de memoria afecta no solo a dispositivos domésticos, sino también a los grandes centros de datos que manejan inteligencia artificial. Para optimizar el uso de memoria, la industria contempla sistemas donde la RAM se comparte entre múltiples máquinas, dejando atrás la dependencia de cada servidor con su memoria interna.
La tecnología Compute Express Link (CXL)
CXL es clave para esta evolución, dotando a servidores de una interfaz que permite comunicar procesadores, memoria y periféricos de forma coherente. Con versiones desde CXL 1.0 hasta 3.0, esta tecnología facilita la asignación dinámica y el uso compartido de memoria entre varios sistemas.
“La IA no se queda corta solo por falta de cálculo, también por falta de memoria.”
Retos de la IA y la Memoria
El entrenamiento de modelos AI demanda enorme capacidad de memoria rápida y costosa, como la HBM. Durante la inferencia, la memoria caché KV puede crecer exponencialmente por usuario, superando incluso el tamaño del modelo.
Implementaciones Reales y Futuro
- Empresas como Panmnesia, Liqid y UnifabriX desarrollan sistemas con switches CXL y reservas DDR5 compartidas.
- El sistema Emfasys, de Enfabrica, ofrece hasta 18 TB por servidor y 144 TB por rack.
- El objetivo: maximizar la memoria accesible para potenciar la IA.
La revolución en la arquitectura de memoria es esencial para que la inteligencia artificial siga avanzando.
Fuente: Xataka
