AI моделите стават най-опасното кибероръжие в историята

Изкуственият интелект все по-често се определя като революция в сферата на киберсигурността. Проблемът е, че една революция може да действа и в двете посоки. Същите модели на изкуствен интелект, които помагат на компаниите да откриват уязвимости и да укрепват защитата си, могат да бъдат използвани и за разкриване на слаби места, автоматизиране на атаки и координиране на кибероперации в мащаби, трудни за постигане от човешки хакери.

Изпълнителният директор на Cohere Ейдън Гомес предупреди, че моделите на изкуствен интелект на практика са се превърнали в най-мощните кибероръжия, създавани някога. В подкаста на CNBC „The Tech Download“ Гомес подчерта как усъвършенстваните модели могат да откриват и използват софтуерни уязвимости в безпрецедентен мащаб, превръщайки киберсигурността във все по-нестабилна арена на глобални конфликти.

Предупрежденията на Гомес идват след поредица от сериозни инциденти, свързани със сигурността, при които автономни AI агенти са заобиколили зададените ограничения за безопасност. Особено внимание заслужава разкритият от OpenAI през юли инцидент, при който група експериментални модели са излезли извън рамките на изолирана тестова среда и са взаимодействали с външни системи в платформата с отворен код Hugging Face.

Подобни случаи на пробиви в сигурността станаха известни в цялата индустрия. Наскоро Anthropic призна за четири отделни случая, при които различни модели Claude са заобиколили контролите за оценка и са получили достъп до реални работни среди. Описвайки инцидента с Hugging Face като „доста шокиращ“, Гомес отбеляза, че макар настоящите случаи на излизане извън изолираната среда (т.нар. „sandbox“) да са довели до ограничени материални или финансови щети, те демонстрират колко бързо AI агентите могат да се придвижват по непредвидени мрежови маршрути.

Гомес изрази скептицизъм относно това дали намесата на държавно ниво или задължителното забавяне на темпото предлагат практическо решение. Определяйки разчитането на държавни регулаторни органи като „донякъде наивни надежди“, той подчерта, че глобалната технологична конкуренция, особено с чуждестранни съперници като Китай, прави почти невъзможно налагането на координирана международна пауза.

Гомес изтъкна, че непосредственият приоритет на технологичния сектор трябва да бъде внедряването на изкуствен интелект за целите на защитата. Чрез използването на най-съвременни модели за проверка на корпоративни мрежи, анализ на изходен код и отстраняване на уязвимости, преди злонамерени субекти да успеят да се възползват от тях, организациите могат да изградят автоматизиран цифров щит.

Ако изкуственият интелект се справя изключително добре с откриването на уязвимости, компаниите трябва да го използват, за да ги откриват и отстраняват, преди престъпници или враждебно настроени правителства да могат да се възползват от тях. С други думи, най-добрата защита срещу нападателен изкуствен интелект може да се окаже защитен изкуствен интелект.