IBM създаде по-ефективен процесор за AI

Тази година бяхме свидетели на бум в разработката и пускането на технологии и решения с изкуствен интелект. Това обаче води след себе си и специфични хардуерни изисквания, които стоят в основата на AI и техните възможности. В момента най-популярните решения са базирани на системи с процесори от NVIDIA, като за редица компании този монопол е проблем. Разбира се има и играчи, които разработват собствени чипове, а в това число е и IBM.

Сега компанията има ново решение с по-различен подход. Става дума за процесора NorthPole, който постига голяма ефективност при работа с неврални мрежи. По отношение на класифициране на изображения или превръщане на глас в текст, той е с до 35 пъти по-ефективен спрямо системи базирани на графични процесори. В случая обаче няма намаляване на консумираната енергия при обучение на неврална мрежа, а по-скоро при изпълнение на задачи. Освен това чипът не е AI процесор от общ тип, а е разработен специално за фокусирани върху изходящите резултати неврални мрежи.

NorthPole използва някои идеи от невроморфичните чипове, включително TrueNorth, той по същество не е от такъв тип хардуер. В това число обработващите му единици извършват изчисления, а не се опитват да емулират комуникациите използвани от невроните.

NorthPole използва някои идеи от предходни опити на IBM в сферата, включително това, че голяма част от разхода на енергия идва от отделянето на единиците за памет и изпълнение. Тъй като ключов компонент от невралните мрежи са връзките между различните нива неврони, които са в паметта, всяко изпълнение на традиционен процесор, включително и графичен, води до повишена консумация само за въпросния пренос.

Новият процесор се състои от голям блок с изчислителни единици (16×16), като всеки от тях включва локална памет и способност за изпълнение на код. Така всички връзки в невралната мрежа могат да бъдат съхранявани където е необходимо. Има и значителни връзки в самия чип с поне четири отделни мрежи. Част от тях пренасят информация от извършени изчисления, а други са използвани за реконфигурация на целия блок от изчислителни единици, давайки всичко необходимо за един слой от мрежите. Комуникацията между съседни изчислителни единици също така е оптимизирана.

Тестовите процесори NorthPole се произвеждат по 12-нанометров процес, като включват 256 изчислителни единици, всяка със 768 килобайта памет в чип с 22 млрд. транзистора. При сравнение със съспоставима система на NVIDIA, решението на IBM постига 25 пъти повече изчисления за едно и също количество енергия.

Една от потенциалните ограничения на системата е, че тя може да работи само с неврални мрежи в собствения си хардуер. Освен това, както вече стана ясно, той е специализиран само за определена категория задачи с AI.