이제 Python 코드를 GPU뿐만 아니라 Google의 AI 가속기인 TPU(Tensor Processing Unit)에서도 실행할 수 있게 되었습니다! Ray 2.55부터 Google Cloud TPU는 Ray의 first-class accelerator로 지원되어, 별도의 복잡한 설정 없이도 공식 API를 통해 편리하게 사용할 수 있습니다. 이번 글에서는 TPU slice의 개념과 GKE(Google Kubernetes Engine)가 어떻게 Ray를 오케스트레이션하는지, 그리고 slice_placement_group()을 통해 작업자들이 하나의 intact slice 내에 머물도록 보장하는 기초 원리에 대해 설명합니다. AI 모델 학습 및 배포를 준비하시는 분들이라면 꼭 알아두어야 할 중요한 기술적 토대를 다루고 있습니다.