Добро пожаловать в Shenzhen Mingjiada Electronics Co., Ltd.

В области искусственного интеллекта (ИИ) производительность чипов напрямую связана со скоростью и эффективностью обучения и выводов. В последние годы NVIDIA доминировала на рынке центров обработки данных и ИИ благодаря своей мощной технологии GPU. Однако AMD, другой чип-гигант, также выпускает высокопроизводительные чипы для ИИ, пытаясь пошатнуть позиции NVIDIA на рынке.2024 10 октября на конференции Advancing AI 2024 в Сан-Франциско AMD анонсировала ряд новых продуктов для ИИ, среди которых особенно выделяется ее флагманский чип MI325X. По словам AMD, MI325X превосходит чип NVIDIA H200 по ряду показателей производительности, что, несомненно, является большим прорывом для AMD в области чипов ИИ.

Представление чипа искусственного интеллекта AMD MI325X

AMD Instinct MI325X - это GPU-ускоритель, предназначенный для обучения и вычисления ИИ. Он использует новейшую архитектуру AMD CDNA 3 GPU со 153 миллиардами встроенных транзисторов и оснащен 256 ГБ памяти HBM3e (5-го поколения) с высокой пропускной способностью 6 ТБ/с. Что касается операций с плавающей точкой, MI325X обеспечивает пиковую теоретическую вычислительную производительность с точностью 8 бит с плавающей точкой (FP8) и 16 бит с плавающей точкой (FP16) на уровне 2,6 PFLOPs (2,6 квадриллиона операций с плавающей точкой в секунду) и 1,3 PFLOPs, что примерно на 30% выше, чем у NVIDIA H200.

На мероприятии, посвященном презентации, генеральный директор AMD Лиза Су (Lisa Su) представила данные о производительности MI325X в обучении и вычислении на модели Meta Llama. Серверная платформа, состоящая из 8 MI325X, обеспечивает на 40 % более высокую производительность в вычислениях на модели Llama-3.1 405B, чем платформа NVIDIA H200 HGX; в обучении ИИ производительность одного MI325X на модели Llama-2 7B в 1,1 раза выше, чем у H200, а производительность 8 MI325X на модели Llama-2 70B находится на одном уровне с H200. Эти цифры полностью демонстрируют высокую производительность MI325X в обучении и выводах ИИ.

Конкуренция AMD и NVIDIA на рынке

AMD и NVIDIA все активнее конкурируют на рынке чипов ИИ. NVIDIA выпустила свой чип ИИ нового поколения H200 в ноябре 2023 года, который оснащен 141 ГБ оперативной памяти и гораздо лучше справляется с задачей «рассуждения». «H200 обеспечивает прирост производительности от 60 до 90 % по сравнению с предыдущим поколением H100 при использовании для рассуждений или генерации ответов на вопросы. Однако выход AMD MI325X поставил под сомнение лидерство NVIDIA на рынке чипов искусственного интеллекта.

AMD стремится предоставить полный набор CPU, GPU и сетевых решений для удовлетворения всех потребностей современного центра обработки данных. Выпуск MI325X не только повышает конкурентоспособность AMD на рынке AI-чипов, но и еще больше укрепляет ее позиции на рынке центров обработки данных. По данным AMD, MI325X поступит в производство в четвертом квартале 2024 года и будет доступен для поставщиков-партнеров, таких как Dell, HP и Lenovo, начиная с первого квартала 2025 года.