Зад популярните чатботове с изкуствен интелект стоят масивни компютри, които използват специализирани чипове за обработка на данните. Лидер в това отношение е NVIDIA, която тази седмица обяви и новото си поколение чипове, които може да са критични за постигане на следващи пробиви в дълбокото обучение и големите езикови модели (LLM) като GPT-4 на OpenAI.

Новата технология представлява значителен скок спрямо предходното поколение и със сигурност ще намери място в центрове за данни и суперкомпютри, занимаващи се със задачи като прогнози за климата и времето, разработка на лекарства и т.н.

Ключовият нов продукт е графичният процесор HGX H200, който е базиран на архитектурата Hopper, и се явява като наследник на популярния H100. Това е и първият чип на компанията, използващ памет от тип HBM3e, която е бърза и с по-голям капацитет. Те достигат 14GB при 4.8 терабайта в секунда, което е двойно повече като капацитет и с 2.4 по-голяма широчинна лента спрямо NVIDIA A100.

Според NVIDIA HGX H200 също така удвоява скоростта на езиковия модел Llama 2 до 70 млр.д параметъра. Той ще се предлага в 4- и 8-посочни конфигурации и хардуерна и софтуерна съвместимост със системи за H100. Така чиповете ще работят във всички типове центрове за данни и ще са налични от Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud инфраструктури. Доставките започват рпез второто тримесечие на 2024 г.

Другият нов ключов продукт на компанията е суперчипът GH200 Grace Hopper, който комбинира HGX H200 и Arm базиран централен процесор Grace, използвайки връзката NVLink-C2C. Този продукт е насочен към суперкомпютрите, като по данни на компанията ще позволи на учените да се справят и с най-предизвикателните проблеми, ускорявайки сложни ИИ и HPC приложения обработващи терабайти от данни.

GH200 ще бъде използван в над 40 суперкомпютъра с ИИ в глобални научни центрове, доставчици на облачни услуги и т.н. Сред компаниите, които ще ги използват са Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT и Supermicro. Най-големият суперкомпютър с Grace Hopper най-вероятно ще е германският JUPITER, който ще стане и най-мощната система с ИИ, когато бъде завършен през 2024 г. Той използва архитектура за течно охлаждане с бустер модул състоящ се от близо 24 000 суперчипа NVIDIA GH200 свързани в мрежова платформа NVIDIA Quantum-2 InfiniBand.

Според NVIDIA JUPITER ще помогне за научни открития в редица области, включително прогнози за климата и времето, разработка на нови лекарства, промишлено нженерство и т.н.