Добро пожаловать в Shenzhen Mingjiada Electronics Co., Ltd.

Ускоритель искусственного интеллекта Intel® Gaudi 2E теперь предлагает глубокую оптимизацию для DeepSeek-V3.1. Благодаря выдающейся производительности и экономичности Intel Gaudi 2E достигает прорыва в обучении моделей и отзывчивости в режиме реального времени при развертывании инференса с меньшими инвестициями и более высокой эффективностью, предоставляя новый вариант для ускорения реализации крупных моделей.

Оснащенный 96 ГБ памяти высокой емкости и передовыми контроллерами HBM, Intel Gaudi 2E проходит глубокую оптимизацию как для сценариев случайного, так и линейного доступа. Это эффективно снижает задержки в задачах обучения или вывода ИИ, обеспечивая бесперебойные вычислительные рабочие процессы. Обладая исключительной масштабируемостью, Gaudi 2E поддерживает межкарточную связь, предоставляя гибкие, настраиваемые решения для удовлетворения растущих потребностей ИИ.

Благодаря своей исключительной адаптивности и простоте использования Intel Gaudi 2E поддерживает множество крупномасштабных модельных приложений. Тестовые данные показывают, что с поддержкой Intel Gaudi 2E DeepSeek-V3.1 достигает значительного повышения производительности как в задачах по ответу на вопросы, так и в задачах кодирования: При запуске модели DeepSeek-V3.1 на универсальном сервере, оснащенном восемью устройствами Intel Gaudi 2E, в условиях длины ввода/вывода токенов 1k и 30 одновременных пользователей скорость одновременного генерации токенов достигала 10 токенов в секунду. В условиях длины ввода/вывода токенов 2k и 28 одновременных пользователей скорость одновременного генерации токенов также достигала 10 токенов в секунду.

Независимо от того, требуются ли логически строгие математические вычисления или тестирование аналитических способностей посредством понимания знаний, DeepSeek-V3.1 на Intel Gaudi 2E обеспечивает быстрые ответы и эффективный синтаксический анализ. Это мощное сочетание не только значительно повышает эффективность решения проблем, но и позволяет пользователям без труда преодолевать препятствия в многомерных сценариях высокой сложности.

Благодаря открытой архитектуре, надежной технической поддержке и тесному сотрудничеству в рамках экосистемы Intel будет и впредь способствовать инновациям и развитию в сфере искусственного интеллекта, ускоряя широкое внедрение технологий крупных моделей искусственного интеллекта.