NVIDIA, 인공지능 추론 처리에 특화된 Tesla T4 발표

NVIDIA는 GTC 2018 Japan에서 AI 추론 처리용 액셀러레이터 "Tesla T4"를 발표했다.

딥 러닝에 최적화 된 CUDA 코어 "Tensor 코어"를 탑재한 액셀러레이터로 NVIDIA GPU에서 훈련된 임의의 모델을 높은 처리량, 저 지연으로 처리할 수 있다.

Tesla T4는 CUDA 코어 2560기와 Tensor 코어 320기를 탑재한다. FP16의 곱셈은 FP32에 적산, INT8 및 INT4 곱셈은 INT32에 적산한다. 이것을 통해 최적의 정밀도와 성능을 얻을 수 있다.

소비 전력은 75W로 Pascal 세대보다 최대 12배 성능 향상을 이루고 있다고 한다. 이미 양산 체제에 들어간 것도 밝혀졌다.

출처 - https://pc.watch.impress.co.jp/docs/news/1142896.html