Лондонски стартъп създаде CUDA компилатор, който превъзхожда инструментите на AMD

CUDA се е интегрирала толкова дълбоко в сферата на високопроизводителните изчисления, че повечето разработчици я възприемат като неразделна част от хардуера на Nvidia. Един малък стартъп от Лондон се опитва да промени това, като позволява на CUDA кода да работи на различни чипове, без да се налага разработчиците да започват от нулата. Spectral Compute е създала компилаторa SCALE, който служи като пряк заместител на NVCC на Nvidia, позволявайки на разработчиците да изпълняват съществуващ CUDA код на друг хардуер, включително и на графичните процесори на AMD, без да го преписват.

Spectral Compute е основана през 2018 г. от четирима инженери с общо около 60 години опит в оптимизацията на високопроизводителните изчисления (HPC). Основателите споделят, че тази инициатива е плод на неудовлетворението им: докато работели в една AI компания, те се уморили от високите цени на графичните процесори на Nvidia и от слабата производителност на алтернативните компилатори, което ги подтикнало да създадат свое собствено решение, използвайки LLVM и Clang.

За разлика от инструментите, които превеждат CUDA на друг език или работят върху вече компилирани бинарни файлове, SCALE функционира като самостоятелен компилатор, който прекомпилира CUDA директно за целевия хардуер. Моделът следва начина, по който работят компилаторите за CPU, при който кодът може да се изпълнява на различни архитектури, а разликите в производителността се дължат предимно на хардуера, а не на компилатора.

„Ние възприемаме подхода, който е стандарт в индустрията за централните процесори (CPU), но го прилагаме към графичните процесори (GPU)“, заяви пред изданието HPCwire Джулио Малитеста, ръководител на отдела за развитие в Spectral. Той добави, че това е „същият подход, който позволява на C++ да работи, например, на процесорите на AMD и ARM, където никой не очаква разлика в производителността, която не е пряко причинена от различията в основния хардуер“.

Spectral работи, изхождайки от предпоставката, че CUDA е тук, за да остане, като отбелязва, че тя съставлява около 80% от HPC кода, който се използва днес. „CUDA е по същество де факто стандартът в HPC“, каза Малитеста. „Трябва да приемем това като факт и просто да си свършим работата като специалисти по компилатори, за да я направим достъпна на различните платформи, които не са задължително на Nvidia, но също така и да подобрим производителността на графичните процесори на Nvidia.“

Spectral твърди, че нейният метод избягва тези компромиси. Чрез прекомпилиране на изходния код и сравняване на резултатите с тези на NVCC, компанията заяви, че може да запази точността, като същевременно подобри производителността. Тестовете, публикувани от Spectral, показват, че SCALE може значително да надмине подходите, базирани на HIPIFY, на графичните процесори на AMD, като в някои случаи подобрението достига почти шест пъти.