Добро пожаловать в Shenzhen Mingjiada Electronics Co., Ltd.

28 сентября - Недавно компания Intel официально представила свой ускоритель Gaudi3 для рабочих нагрузок искусственного интеллекта. Новые чипы медленнее, чем популярные графические процессоры NVIDIA H100 и H200 (для ИИ и HPC), поэтому Intel делает ставку на успех Gaudi3 за счет более низкой цены и меньшей совокупной стоимости владения (TCO).

Процессор Intel Gaudi3 состоит из двух чипов, содержащих 64 ядра тензорного процессора (TPC, MAC-ткань 256x256 с аккумуляторами FP32), восемь движков матричного умножения (MME, векторный процессор шириной 256 бит) и 96 МБ кэша SRAM на кристалле с пропускной способностью 19,2 ТБ/с. Кроме того, Gaudi3 интегрирует 24 200GbE сетевых интерфейсов и 14 медиа-движков, последний из которых способен обрабатывать H.265, H.264, JPEG и VP9 для поддержки визуальной обработки. Процессор оснащен 128 ГБ памяти HBM2E, разделенной на восемь стеков памяти, что обеспечивает огромную пропускную способность в 3,67 ТБ/с.

Что касается производительности, то, по словам Intel, Gaudi3 может обеспечить до 1 856 TFLOPS матрицы BF16/FP8 и до 28,7 TFLOPS вектора BF16 при TDP около 600 Вт. По сравнению с NVIDIA H100, Gaudi3 имеет немного меньшую производительность матрицы BF16 (1 856 против 1 979 TFLOPS), в два раза меньшую производительность матрицы BF16 (1 856 против 1 979 TFLOPS). ), вдвое ниже производительность матрицы FP8 (1 856 против 3 958 TFLOPS) и значительно ниже производительность вектора BF16 (28,7 против 1 979 TFLOPS).

Более важными, чем исходные технические характеристики, являются фактические показатели производительности Gaudi3. Он должен конкурировать с серией Instinct MI300 от AMD и чипами H100 и B100/B200 от NVIDIA. Это еще предстоит выяснить, поскольку многое зависит от программного обеспечения и других факторов. Пока же Intel показала несколько слайдов, утверждающих, что Gaudi3 может предложить значительное преимущество по цене/производительности над H100 от NVIDIA.