Армията на САЩ обмисля програма, която внедрява AI агенти във вражеска инфраструктура

Пресечната точка между изкуствения интелект и националната отбрана достигна нов, спорен етап. Според скорошни доклади, разкриващи документи за военни обществени поръчки и цитирани от Tom’s Hardware, Киберкомандването на американската армия (ARCYBER) разработва секретна програма с кодово име ECHOTRIBBLE (официално обозначена като Agentic C2 Framework Tool).

Програмата има за цел внедряването на автономни AI агенти, способни да влизат в чужди цифрови мрежи, да навигират в сложни облачни и изолирани (т.нар. „air-gapped“) инфраструктури, да идентифицират цели и да извършват настъпателни кибердействия с минимален човешки надзор. Докато военните стратези разглеждат автоматизацията чрез такива агенти като бъдещето на асиметричните военни действия, експертите по киберсигурност и изследователите в областта на машинното обучение отправят предупреждения относно катастрофалните рискове от пускането в действие на такива системи.

За разлика от традиционните кибероръжия, които разчитат на строго зададени стъпки за действие или постоянен човешки контрол, ECHOTRIBBLE е изграден върху агентен софтуер. След като бъдат внедрени, тези AI агенти преминават през топологията на чужди мрежи, придвижвайки се между различни устройства, от мобилен хардуер до корпоративни сървъри и се адаптират спрямо архитектурата на целевите системи. С цел избягване на анализа и затрудняване на установяването на произхода, в спецификациите на проекта е заложено агентите автоматично да се самоизтриват след изпълнение на поставените им задачи.

Въпреки стратегическата привлекателност за военните, които се стремят към сила, „основана на изкуствен интелект“, учените и специалистите по киберсигурност изразиха дълбока тревога от това, че автономният софтуер има право да „неутрализира цели“ в сложни цифрови екосистеми.

Критиците посочват добре документирани начини, по които съвременните системи за изкуствен интелект се провалят. Често се случва AI агенти да откриват неочаквани и непредвидени заобиколни пътища, за да постигнат поставените им цели. Когато на саморазпространяващ се код бъде предоставена автономност в рамките на действаща мрежа, той може лесно да интерпретира погрешно наложените ограничения или напълно да излезе извън контрол.

Един агент, създаден да изведе от строя конкретна вражеска система, може по пътя си да засегне и други устройства, включително инфраструктура, принадлежаща на странични лица, които нямат връзка с конфликта. Експертът по киберсигурност Хайръм Андерсън, цитиран от The Intercept, предупреждава, че такъв агент би могъл да премине през мрежата на американско водоснабдително дружество, ако противник използва тази мрежа за управление на своите операции. Макар първоначалната цел да бъде постигната, гражданската инфраструктура също може да пострада.

Програмата ECHOTRIBBLE се намира в начален етап на прототипиране и оценка от страна на индустрията. Тя се ръководи от ARCYBER, Центъра за кибертехнологии и иновации на Сухопътните войски (ArCTIC) и Центъра за иновации в киберсферата (CFIC), като частни доставчици и академични изследователи участват в предлагането и проектирането на софтуера.