Google предупреди, че хакери се опитват да копират модела Gemini

Google разкри, че хакерски групи са опитали да „източат“ вътрешната логика на AI модела Gemini чрез т.нар. “дистилационни атаки”. Това е сравнително нов тип заплаха, при която нападателите не се опитват да пробият системата по класическия начин, а я заливат с огромен брой автоматизирани заявки, докато моделът не започне да разкрива повече информация, отколкото е безопасно.

В един от регистрираните случаи хакерите са изпратили над 100 000 автоматизирани заявки, опитвайки се да възпроизведат начина, по който моделът мисли и реагира. Целта на тази стратегия е да се копира технологията, без да се стига до изходния код. На практика това е форма на интелектуална кражба, извършена през интерфейса на системата, а не чрез пробив в сървърите.

От Google предупреждават, че тези „дистилационни атаки“ вероятно идват от държавно подкрепяни хакерски групи в Северна Корея, Русия и Китай. Според компанията, целта вече не е просто да се тества устойчивостта на Gemini, а да се извлече интелектуална собственост и да се изградят копия на модела на други езици.

Тези атаки са част от по-широка тенденция, която Google наблюдава през последните месеци - използването на изкуствен интелект за създаване на по-сложни кибератаки, автоматизирани инструменти за пробив и дори нови форми на зловреден софтуер. Компанията подчертава, че това не представлява пряка опасност за обикновените потребители, но е сериозен риск за разработчиците на AI системи и доставчиците на услуги.

На този фон надпреварата за надмощие в изкуствения интелект продължава да се води на няколко фронта едновременно. Китайските компании ускоряват темпото - последният пример е ByteDance, която представи усъвършенствани инструменти за генериране на видео и така засили натиска над американските конкуренти. Миналата година друг китайски играч - DeepSeek разтърси пазара, като показа модел, способен да се конкурира с водещите AI системи в света.

Скоро след това OpenAI обвини DeepSeek, че е обучавал своя модел върху чужда технология по начин, напомнящ именно на описаните от Google „дистилационни атаки“. DeepSeek отрече, но самите обвинения показват колко размити са границите между обучението върху публични данни и откровеното копиране.

От Google уверяват, че са успели да блокират опитите за клониране на Gemini. Но фактът, че подобни атаки се случват в такъв мащаб, повдига въпроса за устойчивостта на големите езикови модели, особено когато те вече са интегрирани в продукти, използвани от милиони хора и бизнеси.