GPU와 TPU의 사양에서 초당 연산량이 크면 같은 모델도 그 비율만큼 빨라질 것처럼 보임.그러나 연산기가 데이터를 기다리거나, 작업이 작아 계산장치를 충분히 채우지 못하면 높은 최대 연산량을 그대로 활용하기 어려움.실제 처리시간을 이해하려면 연산 횟수와 함께 메모리에서 옮기는 데이터량, 사용하는 숫자 형식, 전체 실행 경로를 확인해야 함.1. 장치 이름보다 실행할 연산의 모양을 먼저 봄TPU는 구글이 기계학습 작업을 가속하도록 설계한 전용 집적회로이며, 큰 행렬 연산을 수행하는 MXU 등을 포함함.GPU는 다양한 병렬 작업을 수행하는 구조를 갖추며, AI용 GPU에는 행렬곱을 빠르게 처리하는 전용 연산 경로도 있음.두 장치는 세대와 모델마다 연산지원·메모리·연결구조가 다르므로 GPU는 학습, TPU는 ..