AMD представи първата в бранша 400 Gbps мрежова карта за AI и процесора HPC

С нарастването на размера и сложността на AI моделите нуждата от персонализирани мрежови решения става все по-критична. Представянето на Pollara 400 от страна на AMD подчертава нарастващата значимост на специализирания хардуер в екосистемата на изкуствения интелект.

AMD официално представи Pensando Pollara 400 - изцяло програмируема мрежова интерфейсна карта (NIC) с капацитет 400 гигабита в секунда (Gbps), предназначена за поддръжка на мрежите от клъстери за изкуствен интелект.

Възходът на генеративния AI и LLM моделите разкри редица критични недостатъци на конвенционалните Ethernet мрежи. Тези усъвършенствани AI модели изискват интензивни комуникационни възможности, включително тясно свързана паралелна обработка, бърз трансфер на данни и комуникация с ниска латентност. Традиционната Ethernet мрежа, първоначално проектирана за изчисления с общо предназначение, трудно успява да отговори на тези специализирани потребности.

И все пак Ethernet остава предпочитан избор за AI клъстерните мрежи поради широкото си разпространение. Все по-очевидна обаче става растящата пропаст между възможностите на Ethernet и изискванията на работните натоварвания с изкуствен интелект.

AMD заяви, че нейната Pensando Pollara 400 е специално проектирана за оптимизиране на трансфера на данни в AI мрежите с особен акцент върху GPU-GPU комуникациите. Според AMD устройството Pollara 400 може да осигури до шесткратно увеличение на производителността при натоварвания с изкуствен интелект в сравнение с традиционните Ethernet решения.

Pollara 400 е проектирана по такъв начин, че да отговаря на комуникационните модели на работните натоварвания с изкуствен интелект, като предлага висока пропускателна способност във всички налични връзки, намалена латентност, мащабируема производителност и по-бързо време за завършване на задачите.

Така например картата използва интелигентно многопосочно разпределение, за да раздава по динамичен начин мрежовите пакети с данни по оптимални маршрути и да предотвратява претоварването на мрежата. Нейният програмируем хардуерен конвейер позволява персонализиране и оптимизиране на мрежовите процеси, а програмируемият RDMA транспорт подобрява възможностите за отдалечен директен достъп до паметта. Освен това Pollara 400 ускорява комуникационните библиотеки, които често се използват в работните AI натоварвания.

AMD пуска Pollara 400, въпреки че инициативата Ultra Ethernet отложи публикуването на актуалната спецификация версия 1.0 от третото тримесечие на тази година за първото тримесечие на 2025 г.

Този нов стандарт има за цел да разшири мащаба на Ethernet технологията, за да отговори на изискванията за производителност и функционалност на работните натоварвания в областта на AI и HPC. Той е разработен така, че да запази възможно най-много от оригиналната Ethernet технология, като същевременно въвежда профили, съобразени със специфичните нужди на AI и HPC, които, макар и свързани, имат различни изисквания.

Предвижда се мрежовата карта на AMD да започне да се предлага на пазара през четвъртото тримесечие на 2024 г. и да бъде налична през първата половина на 2025 г., приблизително по времето, когато ще бъде публикувана спецификацията UEC 1.0.