Microsoft вече има собствени процесори: 128-ядреният Arm чип Cobalt 100 и AI ускорителят Maia 100

Слуховете се оказаха верни: Microsoft създаде свои собствени специализирани AI чипове, за обучение на големи езикови модели, както и за да избегне скъпо струващата зависимост от хардуера на Nvidia. По време на конференцията Ignite компанията представи специализирания централен процесор Cobalt 100, както и специализирания изчислителен ускорител Maia 100. Двата нови продукта са предназначени за ускоряване на за алгоритмите, свързани с изкуствения интелект (AI), както и с работата на облачните системи.

Microsoft Azure Cobalt 100 е 128-ядрен процесор с 64-битовия набор от инструкции Armv9, предназначен за използване в сървърите в електронните облаци. Microsoft не представи технически подробности за чипа. Компанията обаче заяви, че производителността на Cobalt 100 е с до 40% по-висока от Arm-базираните решения, които понастоящем се използват като част от сървърните системи Microsoft Azure. Процесорите използват платформата Arm Neoverse CSS, специално адаптирана за Microsoft, най-вероятно с процесорните ядра Arm Neoverse N2.

Microsoft активно внедрява разнообразни технологии за изкуствен интелект (ChatGPT на OpenAI и собствения си Copilot) в много от своите услуги и продукти, така че компанията се нуждае от сигурен достъп до специализираните сървърни изчислителни ускорители за съответните задачи. За тази цел компанията разработваше ускорителите Athena с подкрепата на AMD. В крайна сметка Microsoft промени името им на Maia 100.

Графичните чипове в тези ускорители имат 105 милиарда транзистора и ще се произвеждат по 5nm технологичен процес на TSMC. Microsoft твърди, че Maia 100 е един от най-мащабните чипове, произведени с помощта на този процес.

В момента Microsoft тества Maia 100 с езиковия модел GPT-3.5 Turbo. Компанията твърди, че Maia 100 осигурява обща пропускателна способност от 4,8 Tbits на ускорител. За свързването на тези ускорители като част от сървърите на Microsoft се използва Ethernet-базирана връзка.

Microsoft използва системи за течно охлаждане за Maia 100. Тъй като в момента софтуерният гигант не разполага с по-ергономични решения, които могат да се вграждат директно в сървъра, компанията разчита на спомагателни външни охлаждащи устройства, които са подобни на необслужваемите охладители за домашните компютри, но са значително по-големи по размери. Охлаждащата течност от външното устройство (охладителя) се отвежда по тръбопроводи до контактните пластини, монтирани върху чиповете на Maia 100, след което течността се връща обратно към външната спомагателна охладителна система, където топлината се разсейва.

Специализираните процесори Microsoft Azure Cobalt 100 и ускорителите за изкуствен интелект Microsoft Azure Maia 100 ще започнат да се използват от компанията в сървърните ѝ системи в началото на следващата година. Microsoft също така ще продължи да предоставя своите облачни услуги Azure, базирани на решенията на NVIDIA и AMD. Остава въпросът - какво ще бъде влиянието на собствените фирмени чипове на Microsoft върху ценообразуването на AI облачните услуги ма компанията.