Експерт: AI системите масово имат проблем с надеждността

Дълбоки невронни мрежи ще се прилагат повсеместно до 5-10 години, прогнозира д-р Петър Цанков, основател на LatticeFlow

Мария Иванова Последна промяна на 28 ноември 2022 в 09:32 1534 0

LatticeFlow

Снимка LatticeFlow

Основателите на LatticeFlow: Др. Павол Биелик (СТО), Проф. Андреас Краузе, Др. Петър Цанков (СЕО), и Проф. Мартин Вечев

През последните месеци изкуственият интелект (AI) превзе неподозирани територии, демонстрирайки завидни умения по рисуване, пеене, композиране, писане на текстове и др. Въпреки тези забележителни постижения обаче проблемът с надеждността му остава на тревожни нива, което блокира масовото му навлизане в различни индустрии като производство, транспорт, медицина, сигурност и др.

Основаната от българи компания LatticeFlow разработва платформа, която адресира именно този проблем и позволява създаването на ново поколение по-надежден изкуствен интелект. “Важно е да се отбележи, че решаването на проблемите с надеждността на изкуствения интелект изисква фундаментално нови методи, защото в ядрото на тези системи са сложни математически модели, състоящи се от милиони параметри, което прави тяхната проверка от човек практически невъзможна” - посочва д-р Петър Цанков, съосновател на технологичната компания.

Пред читателите на Tech.OFFNews.bg той уточнява, че въпреки забележителните постижения, които изкуственият интелект демонстрира в лабораторни условия, често той не успява да се справи при сблъсъка с реални ситуации. “Това не само води до стотици милиарди загубени инвестиции, но и до човешки жертви. Например, автономни автомобили убиха трима души, защото алгоритъмът за навигация не успя да разпознае бели камиони при ясно небе” - допълва още д-р Петър Цанков.

Предизвикателствата

Според него основните причини системите, базирани на AI, да се провалят в някои ситуации са свързани с качеството на данните, с които се обучава изкуственият интелект. Например подвеждащи или липсващи данни, грешни примери и др. Специалистът уточнява, че премахването на тези проблеми е сложен процес, тъй като няма как предварително да се знае какви проблеми има в един масив от данни. От друга страна, разглеждането и откриването им е невъзможно, поради техния огромен обем. По думите му проблемът е фундаментален, тъй като не може да бъде решен с добавянето на повече данни или тренирането на по-сложни дълбоки невронни мрежи.

“Например, за да обучим една система, която автоматично намира щети по автомобилите, се използва огромен масив от снимки на автомобили с и без щети” - обяснява д-р Петър Цанков.

Дори системата привидно да работи добре при повечето примери, се оказва че тя систематично греши, когато на снимката се вижда човешка ръка, но няма дефект по автомобила. “Това е причинено от подвеждаща корелация – хората често посочват с пръст щетите по автомобила, за да “покажат” къде е дефекта. Това заблуждава изкуствения интелект, че щом има човешка ръка, то автомобилът трябва да има щета. Този проблем не може да бъде решен с наивното добавяне на повече данни, които имат същия проблем или по-сложни невронни мрежи, които също ще се подведат от тази корелация” - уточнява още той.

Българското решение

LatticeFlow платформата автоматично анализира милионите параметри на модела, за да намери този проблем и помага при коригирането на данните, като намира всички подобни примери и изчиства видимите ръце и пръсти.

Основателят ѝ е на мнение, че както компютърът и интернет промениха нашето ежедневие, така и изкуственият интелект също ще доведе до силен, глобален принос за човечеството. Той посочва за пример медицината и успешното автоматизиране на диагностиката на рака на гърдата с помощта на AI. Дейност, която може да спаси над 650 000 човешки живота годишно. В сферата на мобилността, автономното шофиране ще спаси над 2 милиона човешки живота годишно, убеден е експертът. “За съжаление, в момента повече от 87% от системите за изкуствен интелект не се прилагат, поради проблеми с тяхната надеждност, което блокира потенциала на тази технология. Създадохме LatticeFlow, за да решим този глобален проблем” - допълва още той.

Възможностите пред българските наука и образование

Д-р Петър Цанков, който е възпитаник на Швейцарския технологичен университет в Цюрих коментира пред екипа на Tech.OFFNews.bg състоянието на българското образование и мястото на новите технологии в него. По думите му в образованието ни има опасна дупка, която трябва спешно да запълним. “Ние сме световно известни с успехите си на гимназиално ниво, именно наши ученици печелят световните олимпиади по информатика, математика и физика. За съжаление, ние губим тези умове, поради липсата на възможности, които България да им предостави след завършването на гимназия (най-добрите ни университети са в дъното на световните класации). За да реши този проблем, на България ѝ трябват изследователски центрове от световно ниво като тези в Швейцария и Израел - не само, за да задържат тези наши талантливи ученици, но и за да привличат чужденци, които да се обучават и остават в България” - категоричен е той.

Носителят на наградата „Джон Атанасов“ вижда възможност България да достигне това ниво с помощта на новия научен институт INSAIT, който се създаде тази година в София. Негов основен двигател е проф. Мартин Вечев от Швейцарския федерален технологичен институт ETH Zurich, който също е съосновател на LatticeFlow. Той е световно признат професор, но и предприемач, добре познаващ работата на екосистемите в Швейцария, Израел и САЩ. “Това, че именно той се занимава с този проект е от огромно конкурентно предимство за България пред други държави и страната ни трябва да направи всичко възможно този център да е успешен. Защото не съм сигурен кога отново някой от ранга на Мартин Вечев ще прави това за България, тъй като тези хора са буквално единици в света. Ако този институт заработи даже и на половина на ETH Zurich, то това може да доведе до лавинообразен ефект за държавата” - посочва още д-р Петър Цанков.

Той разказа и за стартъп средата в Швейцария, която подобно на Силициевата долина и Израел, е един от високотехнологичните центрове в света. Там има университети и изследователски центрове от световно ниво, които привличат учени на същото ниво и обучават висококвалифицирани кадри. Всичко това води до систематичното създаване на нови технологии и високотехнологични компании, оценени за милиарди. “Основната разлика между Швейцария и България е именно наличието на този тип университети и институти, които привличат най-добрите учени и изследователи да работят там”, посочва съоснователят на LatticeFlow.

Българската киберсигурност и ролята на изкуствения интелект

Пред екипа ни д-р Петър Цанков посочи основните проблеми на националната ни киберсигурност и как изкуственият интелект може да помогне за преодоляването им. “Работата на атакуващите, за съжаление, винаги ще е по-лесна, защото намирането на дори един пробив е достатъчно да се влезе в една система. В един бързоразвиващ се сектор като информационната сигурност, успешното противодействие изисква екип от специалисти и учени, които колаборират с иновационни центрове, като основания в началото на 2022 г. в София INSAIT. Това ще ни помогне да бъдем една стъпка пред атакуващия. В Швейцария например, по подобен начин е създадена държавна организация, Cyber-Defense Campus, която е локализирана буквално срещу ETH Zurich, за да се улесни подобно сътрудничество. Израел и САЩ се отбраняват по аналогичен начин” - разказва експертът.

По думите му изкуственият интелект би могъл да помогне за укрепване на националната ни киберсигурност. Почти всички модерни системи за защита на компютърни мрежи и софтуер вече използват първо поколение изкуствен интелект (symbolic reasoning). Но както всяка една технология, изкуственият интелект също помага и на атакуващия. Например, генеративните модели за създаване на текст и снимки

усложняват защитата от ботове и фалшиви новини. Те бележат силен напредък и първи пробиви към практични приложения през 2022 година, въпреки че първите генеративни модели (GANs) съществуват от 2014 година. Според д-р Петър Цанков тези модели ще трансформират редица “творчески” индустрии като компютърните игри, музиката, филмите, маркетинга и др. Той допълва, че LatticeFlow също използва генеративни модели - за автоматичното създаване на липсващи данни и изчистване на съществуващи данни (например изчистването на видими ръце и пръсти от снимки с автомобили).

Възможно ли е масовото навлизане на AI?

Експертът прогнозира, че дълбоки невронни мрежи ще се прилагат масово до 5-10 години, както в света така и в България. Според него интересното в този процес е къде отделните нации ще начертаят границата - до къде може и не може да се използва изкуствен интелект. “Въпреки че САЩ и Европа имат сходен подход като ограничават опасни за човечеството приложения на AI (например масовото проследяване на хората), има различия в разрешените, но рискови приложения. Waymo One вече оперира напълно автономните автомобили (без наличие на шофьор) в три зони в САЩ. Тази услуга все още е забранена в Европа и забавя навлизането на тази технология” - допълва още той.

За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !