Генеративният изкуствен интелект е хит, но може да се окаже твърде скъп

ИТ индустрията си има нова любима тема – т.нар. генеративен изкуствен интелект. Накратко това са възможностите на ботове като ChatGPT, които могат да генерират съдържание на базата на инструкции от потребителя.

Тази седмица компанията OpenAI представи и новото поколение на алгоритъма си – GPT-4. Тя казва, че то е още по-прецизно и в някои задачи се справя със същата ефективност като човек. Освен това може да разпознава и изображения, макар че първоначалните тестове показват доста разминавания в описанията.

И все пак, това са само първите версии на технологията, а амбициите и очакванията към нея са огромни. Оказва се, че и цената няма да е никак малка, съобщава CNBC. Телевизията проследява няколко проекта с генеративен изкуствен интелект, които показват значителните разходи, които са свързани с технологията.

Играта AI Dungeon на компанията Latitude например е такава. Тя позволява на играчите да създават фантастични истории чрез команди и указания на изкуствен интелект. Той е базиран на GPT – езиковия модел, който е дело на OpenAI и е в основата и на ChatGPT и много други проекти. Играта достига своя пик през 2021 г., когато Latitude изчислява, че харчи близо по 200 000 долара на месец само за GPT модела и клауд ресурси в Amazon Web Services. „Шегувахме се, че имаме служители хора и служители изкуствен интелект и плащаме почти по равно и на всеки от тях“, казва Ник Уолтън, изпълнителен директор на Latitude.

Сега сметките на компанията за използването на AI са под 100 000 долара на месец. Технологията се развива, както и бизнес моделите и това позволява намаляване на разходите. Но въпреки това цените остават високи, особено като се има предвид целия процес на разработка и на съпътстващите технологии, хардуер, софтуер, бази данни и т.н.

Компаниите обаче продължават да инвестират, защото се смята, че това е индустрия с потенциал да бъде пазар за трилиони долари. Големите играчи използват значителните си ресурси, за да наберат преднина, която по-малките фирми трудно могат да компенсират. Дори и OpenAI разчита на мултимилиардни инвестиции от няколко места и основно от Microsoft.

Хардуерът също е скъп. Nvidia е един от водачите в сегмента, като чиповете на компанията се използват най-масово за AI. Един от най-популярните AI модули за дейта центрове на Nvidia струва 10 000 долара.

Самите алгоритми също биха били скъпи. Forrester са направили система, която да приравнява използваните хардуерни ресурси към пари. Така например обучението на GPT-3 би струвало 4 млн. долара. А ако Meta е използвала ресурси на Amazon Web Services за обучението на своя модел LLaMA, е щяла да плати над 2.4 млн. долара.

В момента разходите се покриват предимно от инвеститорите в очаквана не голям хит, който да се превърне и в успешен бизнес и да им върне парите. На пръв поглед при такива разходи това ще е трудно. Но не е единственото решение.

Експерти по света вече активно работят по алтернативи. Например проектът llama.cpp на Георги Герганов, съобщава Ars technica. Това е приложение, което може да използва целия LLaMA модел на Meta локално на Mac лаптоп. Скоро след това бяха направени и алтернативи, които работят на Windows машини и дори на Pixel 6 смартфон и Raspberry Pi.

Това показва, че с достатъчно инженерно творчество е възможно да се направи генеративен AI, който да работи на локални, потребителски устройства. А това ще отвори още повече възможности за пазара за нови услуги, но и за потенциални злоупотреби. Ерата на генеративния изкуствен интелект определено ще е много динамична и изпълнена с дебати и предизвикателства, които тепърва предстоят.