Изкуственият интелект Copilot ще може да работи локално на PC, но при определени условия

Преди известно време големите информационни агенции публикуваха изтекли неофициални данни, че в близкото бъдеще новата AI услуга на Microsoft с име Copilot, базирана на голям езиков модел (LLM), ще работи локално на персоналните компютри, без да е необходимо да се свързва с облачни ресурси. По същото време се появиха и първите слухове, че Microsoft ще наложи конкретни системни изисквания за производителността на невронния процесорен модул (NPU) като част от следващото поколение компютри. Ето че сега, изданието Arstechnica съобщава, че в рамките на срещата на върха на Intel, посветена на изкуствения интелект, ръководството на "синята компания" официално потвърди тези изтичания на класифицирана вътрешна информация.

Така например специалистите на портала Tom's Hardware успяха да разберат, че новият изкуствен интелект Copilot наистина ще може да работи локално на персоналните компютри, при това в съвсем близко бъдеще. Най-вероятно поне в началото тази функция ще бъде реализирана в десктоп системите. Освен това представителите на Intel съобщиха нещо интересно. Това е изискването за наличието на NPU модул с изчислителна мощност от 40 TOPS за нормалната локална работа на следващото поколение изкуствен интелект (AI). Очевидно това е локалният AI. Интересно е, че Microsoft беше доста сдържана в това отношение - компанията запази мълчание за плановете си за персонални компютри с изкуствен интелект, давайки възможност на Intel да разкрие всички детайли.

Също така по време на това събитие представителите на Intel заявиха, че системите, които отговарят на тези изисквания, вече се продават. Но трябва добре да се знае, че това е само първата вълна на инициативата за създаване на компютри с локален изкуствен интелект. Интересното във всичко това е, че процесорите от поколението Meteor Lake на Intel са оборудвани с NPU модул с мощност до 10 TOPS. Конкурентната платформа на AMD Ryzen Hawk Point от AMD разполага с NPU модул, демонстриращ 16 TOPS, но и той не отговаря на изискването за 40 TOPS. Изненадващо се оказа, че компанията Qualcomm предлага процесора Snapdragon X Elite с NPU модул с изчислителна мощност от 45 TOPS. Това означава, че още до края на тази година на пазара може да се появят първите лаптопи, базирани на този чип.

Съответно в близкото бъдеще, когато излезе следващото поколение компютри с по-мощни NPU модули, ще бъде възможно локалното стартиране на повече AI елементи в компютъра. При това Intel заяви, че не всички функции на Copilot ще се изпълняват единствено локално. Но така или иначе основните ключови възможности ще бъдат базирани на NPU. Вероятно в бъдеще, когато тези модули станат още по-мощни, все повече неща ще могат да се правят без интернет връзка. В момента всички изчисления в рамките на Copilot се извършват в облака, което води до съвсем очаквани негативи. Възможността за локално стартиране и използване на изкуствен интелект (AI) ще даде възможност за ежедневна AI работа без каквато и да било връзка с отдалечен сървър. Това силно ще намали латентността, ще увеличи производителността и същевременно ще подобри поверителността на данните.