Разработката на AI е много по-бързо от оценяването на риска

Изкуственият интелект (AI) се развива с огромно темпо. Както самият Илон Мъск обяви преди дни – това е най-бързо развиващата се технология досега и скоростта ѝ тепърва ще се увеличава.

Същевременно AI е и много нова технология, която все още е непозната за мнозина и съдържа много неизвестни за бъдещето си. Засега това не ѝ пречи да навлиза все по-уверено в ежедневието на хората и бизнеса, което има своите рискове, съобщава Ars technica.

Увеличаващата се мощ на AI системите вече създава проблем за традиционните методи за оценка и анализ на риска от тях. Настоящите бенчмарк тестове не могат да смогнат с темпото на развитие на AI и става все по-трудно да се създават единни системи за проверка на алгоритмите.

„Един публичен бенчмарк има определена продължителност на живот. Той е полезен докато хората и фирмите не оптимизират моделите си за него или не открият начини да го манипулират. Преди това означаваше около две години. Сега е около два месеца“, казва Ейдън Гомез, основател на AI компанията Cohere.

Той допълва, че вече е почти рутина да излизат нови AI системи, които преминават с пълно отличие съществуващите бенчмарк тестове. Темпото е толкова високо, че практически обезсмисля тестовете.

Това ще е проблем за всички, тъй като интересът към използването на AI става все по-голям. Според проучване на KPMG, 70% от изпълнителните директори на над 1300 компании по света вече слагат инвестициите в генеративен AI като свой главен приоритет. За да може тези инвестиции да се реализират, компаниите искат да имат доверие в системите, които ще използват.

„Първо трябва да се разбере, че е много трудно да се направи единен и точен модел, който да оценява AI модели, така както е трудно да се направи същото и с хора. Ако измерваш колко високо можеш да скочиш, това е лесно. Но да измерваш човешкия интелект? Това е почти невъзможно“, казва Майк Волпи, инвеститор от Index Ventures.

Има и спорове дали не е форма на измама, когато моделите, които са тествани, опознават, анализират и дори разполагат с точните въпроси, които ще ги пита бенчмарк тестът. Всичко това е важно, тъй като целта е все пак хората да имат доверие на AI алгоритмите и да ги използват спокойно.

„Никой няма да използва технология, на която не вярва. Задължително е компаниите да предлагат продукти, на които може да се има доверие“, казва Шели МакКинли, ръководител на правния отдел на GitHub.

Засега обаче няма универсален начин, който да гарантира това доверие. Компаниите трябва сами да намерят как да анализират и оценяват AI услугите, които искат да използват, казва Гомез. Той препоръчва на фирмите да си направят вътрешен комплект тестове с няколкостотин примера и да разчитат в голяма степен на личната си преценка и опит така, както правят, когато наемат човек.