NVIDIA가 차세대 고대역폭 메모리 기술인 NVIDIA NVHBM을 통해 NVLink Fusion 생태계를 확장한다는 소식입니다. 이번 기술은 메모리 컨트롤러를 XPU 다이가 아닌 3D HBM 스택에 통합함으로써, 메모리 대역폭을 최대 30% 향상시키고 전력 소비는 15% 줄이며, XPU 컴퓨팅 다이의 면적을 최대 25%까지 확보할 수 있게 해줍니다. 또한 Amazon의 Annapurna Labs와 협력하여 Trainium4 칩 등에 이 기술을 적용함으로써, 하이퍼스케일러들이 더 빠르고 효율적으로 맞춤형 AI 인프라를 구축할 수 있도록 지원할 예정입니다.