Христо Томов, “Дриймикс”: С опитите за регулация на AI трябва да се внимава

В бъдеще изкуственият интелект ще отмени човека в 80% от скучните и тривиални аспекти на работата му, коментира експертът по иновативната технология

Мария Иванова Последна промяна на 30 януари 2023 в 10:21 1175 0

Hristo Tomov

Снимка Dreamix

Христо Томов, съосновател на Dreamix ("Дриймикс")

Христо Томов e съосновател на фирма “Дриймикс”, ръководител на звеното за изкуствен интелект (AI) и машинно самообучение (ML) направлението в компанията, както и на „Дриймикс AI Клуб“ – вътрешна организация ситуирано в същата област. Има над 20 години опит в IT сферата на множество различни позиции. Освен на “Дриймикс” - компания за разработка на софтуер с над 200 служители в няколко държави, Христо участва в съосноваването на още редица технологични компании и заема ключови технически роли в тях. Преподавал е по „Основи на електронното управление“ в магистърските програми на СУ „Св. Климент Охридски”. В последните десет години фокусът му е върху технологиите за машинно самообучение и изкуствен интелект.

Решихме да поговорим с него за напредъка на изкуствения интелект и доколко е възможно спазването на регулации в тази бързо развиваща се област. Пред екипа на Tech.OFFNews.bg експертът говори още за мястото на страната ни в този процес, както и какво ще е бъдещето на връзката машина-човек.


Бихте ли ни разказали повече за „Дриймикс AI Клуб“?

„Дриймикс AI Клуб“ е вътрешна инициатива в компанията, където хора с интерес в областта на изкуствения интелект се събират периодично, за да обменят знания и опит. Заедно разучаваме и тестваме новите достижения в AI, минаваме обучения за повишаване и актуализиране на уменията ни, участваме в състезания и изпробваме различни наши идеи. AI клубът е само един от няколко подобни "клубове по интереси" в „Дриймикс“, наред с клубовете по алгоритми, бизнес анализ, управление на проекти, облачни технологии, програмиране с Java и .NET и други.

През последната година сме свидетели на светкавичното навлизане на изкуствения интелект (AI) във всички сфери. На какво се дължи бързият му разцвет?

Два големи фактора играят основна роля за напредъка на изкуствения интелект в последните години. Първият е напредъкът във възможностите на изчислителната техника и падането на цената на изчисленията, а вторият е появата на огромни масиви от данни. Комбинацията от тези две неща даде възможност за разработка и прилагане на нови алгоритми за машинно самообучение и като резултат възможностите на AI преминаха критична точка между "любопитни" и "потенциално масово приложими в практиката". Това пък от своя страна доведе до огромни инвестиции в областта в цял свят, което пък доведе до още по-добри резултати и така колелото се завъртя.

Къде е позиционирана страната ни в този процес и в кои сфери би имало най-голяма полза от изкуствения интелект?

България има традиционно голям потенциал в областта на информационните технологии, който може да бъде пренесен и в областта на изкуствения интелект. Дори в момента тук има компании, които правят много интересни неща с AI на световно ниво. Моето усещане обаче е, че огромна част от споменатия потенциал все още не се реализира. Активна държавна политика за подпомагане на образованието и инвестициите в тази сфера би помогнала много за развитието на този потенциал, но отчитайки нашата текуща реалност, може би можем да си пожелаем държавата поне да не пречи.

Извън кръга на шегата всъщност, с активната подкрепа на две служебни и две редовни правителства, наред с редица частни компании и отделни хора, скоро беше направена огромна стъпка в правилната посока – откриването на Института за компютърни науки, изкуствен интелект и технологии INSAIT. С ангажимент за инвестиция на стойност над 100 милиона долара в следващите 10 години и с впечатляваща група от преподаватели на най-високо световно ниво, професор Мартин Вечев и екипът му дават сериозна заявка да поставят България на световната карта, както при практическото прилагане на AI, така и при фундаменталните изследвания в областта.

Откога се занимавате с машинно самообучение и кой е най-интересният аспект от работата Ви с него?

Интересът ми към машинното самообучение е още от началото на кариерата ми, преди повече от 20 години. По-активно обаче се занимавам във втората половина от този период, като в последните седем ръководя направлението за машинно самообучение в „Дриймикс“.

Най-интересният аспект от работата е колко бързо се променя ситуацията и колко голямо е отражението в обществото на тези промени. Неща, които буквално са били невъзможни само до преди 2-3 години, изведнъж са масово достъпни. Граници, за които се е предполагало че ще отнемат десетилетия, биват прекрачени за месеци. Подобна динамика може да се намери в много малко други области.

Докъде стигат границите пред изкуствения интелект и в кои сфери той няма да изпревари човешките умения?

Опасявам се, че отговорът ми тук няма да се хареса на много хора. Последните години показаха, че опитите да се предположат границите на възможностите на изкуствения интелект биват изненадващо бързо опровергани от реални постижение в практиката. Традиционно посочваните "недостижими" области, като например креативност, междучовешки отношения и дипломация биват много успешно атакувани. Преди няколко месеца генерирана от AI картина спечели конкурс за изкуство, а вече повече от година AI побеждава на покер някои от най-добрите играчи в света. Преди няколко месеца Meta обявиха, че техен AI се е класирал в най-горните 10% при онлайн игра на "Дипломация" (любима игра на Джон Кенеди и Хенри Кисинджър), което е особено значимо, защото за успеха там е ключово умението да се преговаря на естествен език с останалите играчи (реални хора).

В никакъв случай не искам да кажа, че в момента няма много неща, които AI не може да прави. Дори напротив - в момента има фундаментални ограничения, свързани с разбирането на света, способността за планиране, логическото мислене и много други. Върху тях обаче активно се работи и, ако трябва да посоча сфера, където хората няма да бъдат надминати в бъдеще, ми е трудно да се сетя дори за една.

Какво ще е бъдещето на връзката машина-човек? Ще вземат ли роботите работата на хората, или ще вървят ръка за ръка с нас?

Моето мнение е, че трябва да гледаме на бъдещето на връзката машина-човек повече като на симбиоза, отколкото като на противопоставяне. В непосредствено бъдеще изражението на това ще е на практика еквивалентно на ситуация, в която всеки един специалист има до себе си един неуморен начинаещ експерт в областта му (с огромна памет за факти), който да му помага и да го отмени за 80% от скучните и тривиални аспекти на работата му. Останалите 20% - най-интересната и предизвикателна работа, ще останат за хората. Повечето хора биха броили това за много положително развитие. В по-далечно бъдеще тази симбиоза само ще се задълбочава.

Друг интересен аспект е, че на изкуствения интелект може да се гледа като на средство за достъпност. Много хора, които имат идеи и вдъхновение за изява в дадена област, ще могат да го направят дори и когато им липсват технически умения за това. Например човек, който има какво да каже в областта на визуалното изкуство, ще има шанс да го направи дори и да не умее да рисува.

Участвате в събитие на Ratio, посветено на темата за фалшивите новини и изкуствения интелект. Как и може ли да се противодейства на дезинформацията, генерирана от машините?

Може и трябва да се противодейства активно на дезинформацията. Има много методи за това, както технически (например автоматично разпознаване на фалшиви новини по съдържанието им или начина им на разпространение), така и социални (образование, медийна грамотност, насърчаване на критично мислене). Тези методи вероятно винаги ще са няколко стъпки назад от новите методи за генериране и разпространяване на дезинформация и никога няма да бъдат 100% успешни, но това по никакъв начин не ги прави излишни. В крайна сметка един от най-добрите начини да се противодейства на фалшивата информация си остава истинската информация. Наличието на достъпни, достоверни източници, на които хората да вярват, винаги е било и ще продължава да бъде ключово.

Станалият популярен ChatGPT вече се използва за организирането на т.нар. интернет тролове, а според някои анализатори може дори да е опасен за демокрацията. Ще имаме ли в скоро време регулация (подобна на тази в Китай), която да попречи на такъв развой?

В някой момент правителствата със сигурност ще се опитат да въведат регулация. С това обаче трябва да се внимава, защото е много лесно да се направят грешки и в двете посоки - да не се регулира достатъчно и с необходимата скорост или да се регулира твърде строго и необмислено, като паническа реакция на огромната и бърза промяна, която инструменти като ChatGPT носят.

Китай е във втората крайност, докато България и Западния свят вероятно ще са в първата. Но дори да се намери правилният баланс и да се приемат адекватни регулаторни мерки, ситуацията около изкуствения интелект се променя толкова бързо, че ще бъде необходима непрекъсната актуализация за да останат те адекватни. Недостатъчните регулации могат да отворят вратите за сериозни злоупотреби, но пък твърде строгите и недообмислени регулации могат да попречат на реализацията на огромния потенциал за повишаване на продуктивността на хората и благосъстоянието на обществото, както и до загубване на конкурентоспособност в световен мащаб (срещу по-слабо регулирани региони).

Това, по мое мнение, е по-лошото възможно развитие на ситуацията. Съвсем отделен е въпросът, доколко спазването на такива регулации може да бъдат реално наложено. В момента инструменти като ChatGPT са под контрола на големи корпорации, с които може да се работи за спазване на регулации, но посоката безспорно е към все по-голяма достъпност и все по-неразличимо генерирано съдържание. В момента, в който тези инструменти са в ръцете на всеки и всеки може да генерира практически неразличимо от реалното съдържание, налагането на регулации ще бъде изключително трудно.

Къде е мястото на етиката и справедливостта, когато говорим за AI?

Съществува цяла подобласт при изследването на AI, наречена AI Alignment, която изследва начините за "подравняване" на поведението на създадените изкуствени интелекти с реалните желания и разбирания на създателите им. Вероятно това е най-доброто, което можем да очакваме към момента - при липса на универсално приети разбирания за морал, справедливост и етика, най-доброто, на което можем да се надяваме е изкуствените интелекти поне да отразяват разбиранията на създателите им. От там нататък проблемът е човешки, а не технологичен.

Дори при перфектно "подравняване", AI създаден в определена култура може да се струва "грешен" за друга. Това, което можем да се стараем е поне да няма неволни, непланирани и неочаквани отклонения, които да изострят проблема, а да останат само реалните културни различния. Може би пък точно необходимостта от влагане на разбирания за морал, етика и справедливост в AI може да е повод за дебат и културно сближаване между хората.

Всички новини
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !