Intel、bfloat16 대응 3세대 Xeon SP "Cooper Lake" 발표

Intel은 6월 18 일 (현지 시간) Cooper Lake의 다음 세대 Xeon SP (Scalable Processor)의라인업을 발표했습니다.

01_l

Cooper Lake는 Intel은 18 일 (현지 시간) "Cooper Lake"수 세대 Xeon SP (확장 프로세서)의 전개와 라인업을 발표했습니다.

Cooper Lake은 2 세대 Cascade Lake에 따르는 데이터 센터를위한 CPU이며, Cascade Lake와 같은 14nm 프로세스 룰로 제조합니다.

데이터 센터를 위한 CPU로 2 세대 Cascade Lake를 이어서 3세대이며 Cooper Lake는 Cascade Lake와 같은 14nm 프로세스 룰로 제조합니다.

현재는 최상위 CPU인 Xeon Platinum 8380HL는 28 코어 / 56 스레드 작동하며, 기본 클럭 2.9GHz, Turbo Boost시 최대 클럭 4.3GHz, TDP 250W, 캐시 메모리 38.5MB 최대 메모리 용량 4.5TB (DDR4-3200 / 2933)를 지원하며 소켓은 4 또는 8를 지원합니다. 가격은 13,012 달러 (약 1400 만원)입니다.

Cooper Lake는 새로운 명령의 “bfloat16”(brain floating point16)를 지원합니다. bfloat16은 신경망의 처리를 전제로 설계된 새로운 부동 소수점 포맷으로, Intel 자신의 추론 처리를위한 지침 "DL Boost」과 함께 높은 성능을 발휘합니다.

BF16

bfloat16는 단 정밀도 부동 소수점의 FP32보다 bit 수를 절반으로 컴팩트하지만 최소한의 모델 정확도로 동일한 성능을 제공 할 수 있습니다. 딥 러닝의 학습과 추론 과정을 효율적으로 수행 할 수 있습니다.

Google의 TensorFlow 나 Facebook의 Pytorch , 딥 러닝 프레임 워크에 최적화되어, Intel의 AI Analytics 도구 키트를 사용하여 사용할 수 있습니다. 또한 OpenVINO 툴킷과 ONNX 런타임 환경에 최적화로 추론 처리 확장을 용이합니다.

인텔에 따르면, bfloat16의 가속기는 FP32과의 비교에서 학습이 1.93 배, 추론이 1.9 배 빠릅니다.