Въпрос на време беше да видим първите по-широкомащабни дейности на хакери подпомогнати от изкуствен интелект (AI). Сега нови данни сочат, че подкрепени от държавите хакери от Русия, Китай и Иран използват инструменти от OpenAI, за да подобрят атаките си и да измамят целите си.
От Microsoft споделят, че са проследили хакерски групи свързани с руското военно разузнаване, революционната гвардия на Иран и правителствата на Китай и Северна Корея. Те се опитват да подобрят кампаниите си чрез големи езикови модели. компанията представи откритията си като същевременно въведе забрана за използването на продуктите ѝ от подобни хакерски организации.

Microsoft отбелязва, че няма значение дали става дума за частни или държавни хакерски групи, те са в нарушение на закона и на условията за използване на услугите. За момента няма официални реакции от страна на Русия, Иран и Северна Корея. От посолството на Китай в САЩ заявяват, че са срещу подобни необосновани обвинения срещу страната. Те призовават за сигурно, надеждно и управляемо въвеждане на технологиите с изкуствен интелект за доброто на цялото човечество.

Новите обвинения поставят акцент върху бързото разпространение на технологиите с AI и потенциалното им използване за зловредни действия. Досега обаче липсваха детайли за подобни дейности. Докладът на Microsoft е сред първите, които показват, че AI помага на хакери в атаките им срещу потребители и институции.

OpenAI и Microsoft описват употребата на инструментите им с изкуствен интелект от хакери като такова в начална фаза и инкрементално. Все още обаче не се отчита пробив от кибер шпионите, като те използват решенията като всеки друг потребител. При хакерските групи има някои нюанси.
Тези работещи за Русия използват моделите за проучване на разнообразни сателитни и радарни технологии. Това може да доведе до приложения на получените данни на бойното поле в Украйна например. Хакерите от Северна Корея използват моделите за генериране на съдържание, което най-вероятно ще бъде приложено при фишинг атаки. Иранските хакери залагат на моделите за създаване на по-достоверни мейли, отново за фишинг цели.

Според Microsoft китайските хакери експериментират с големите езикови модели, включително за въпроси свързани с конкурентни агенции за разузнаване, бележити личности и проблеми с кибер сигурността.

Не става ясно колко акаунта са забранени след разкритията и в какви обеми са действали те преди това. Дали обаче не е въпрос на време блокираните да открият алтернативни начини за достъп до платформите с изкуствен интелект?