Внедряването на AI във всичко възможно вече е процес, който започна. Първи, разбира се, са смартфоните. Вече има няколко различни проекта и приложения с генеративен AI за смартфони. Сред тях е и Google Gemini Nano.

Една от целите на компаниите е да направят олекотени AI модели и алгоритми, които да се използват локално в рамките на устройството, без да се налага да се препраща информация до центровете за данни. Това позволява по-бърза обработка на данните, по-голяма сигурност и елиминира необходимостта от интернет връзка.

Противно на очакванията обаче, Google не е много ентусиазирана точно от тази концепция, съобщава Ars technica. Това пролича още след като пусна Gemini Nano.

Компанията обяви, че услугата ще е достъпна само за Pixel 8 Pro, но не и за по-малкия модел, който макар да има почти същия хардуер и да беше рекламиран като създаден за AI ерата, остана без Gemini Nano. Във фирмения подкаст Made By Google, вицепрезидентът на Google Шанг Чау, който отговаря за разработката на хардуера и софтуера на компанията, споделя, че екипът е избрал да пусне Gemini Nano за Pixel 8 Pro като тест, за да видят способностите на модела и на смартфона.

„Когато погледнахме стандартния Pixel 8, той е с 8GB RAM и не беше лесно да кажем, че ще пуснем Nano и за него… Не искахме да развалим потребителското изживяване“, казва Чау. Той допълва, че големите езикови модели, какъвто е и Gemini Nano, звучат атрактивно да се използват в смартфон, но имат своите недостатъци.

Някои от функциите им трябва да са постоянно заредени в RAM-а, за да могат да работят и реагират достатъчно бързо. „Не искате да чакате моделът да се зареди отново всеки път, когато ще го използвате, за да подобрите умен отговор в чат приложение например“, казва Чау. Така бързо се трупат функции, които все трябва да са постоянно заредени. Резултатът е претоварена системна памет, което означава по-малко наличен ресурс за останалите приложения и услуги.

Тук обаче има и разминаване в твърденията на Google, отбелязва изданието. Gemini Nano е наличен за стандартния Samsung Galaxy S24, който също е с 8GB RAM както базовия Pixel 8. И в S24 той работи добре. Въпреки това Чау казва, че Google просто предпочита да не бърза и продължава да върши различни тестове и оценки.

Негласно обаче се намеква едно сигурно бъдеще. Смартфоните с AI ще се нуждаят от много повече RAM, 12GB и нагоре, за да могат да работят така, както и на самите производители им се иска. Разбира се, когато става дума за локални модели. Това означава, че поне първоначално, по-голямата част от AI услугите за смартфони ще са базирани в клауда и ще е нужна постоянна интернет връзка, за да могат да работят и да обменят данните. Но пък така ще могат да се използват и от много по-евтини телефони с по-скромни хардуерни спецификации.