Meta에서 추천 및 랭킹 모델 학습에 최적화된 자체 AI 가속기인 MTIA 300을 공개했습니다! 이 칩은 기존 GPU와 달리 NIC chiplets를 내장하여 통신 병목 현상을 해결하고, HCCL 라이브러리와 함께 설계되어 연산과 통신을 분리함으로써 성능을 극대화한 것이 특징입니다. 특히, 16개의 전용 message engines(MEs)를 통해 통신 작업을 연산 작업과 독립적으로 처리함으로써, 대규모 모델 학습 시 발생하는 성능 저하를 최소화했습니다. 이러한 설계는 차세대 AI 실리콘을 위한 중요한 기반이 될 것으로 기대됩니다.