Учени хакнаха акаунт на служител на OpenAI с помощта на инструмент на Anthropic

Екип от трима специалисти по киберсигурност е получил достъп до ChatGPT акаунт на служител на OpenAI, използвайки инструмент на основния конкурент на компанията – Anthropic. Случаят разкрива потенциалните рискове при свързването на корпоративни профили с вътрешни ресурси и платформи на трети страни.

Изследователите са част от малката компания Hacktron AI и са работили в рамките на програмата на OpenAI за откриване на уязвимости. За докладването на проблема те са получили възнаграждение от 6500 долара. Това означава, че действията им са били извършени с цел проверка на сигурността, а не като злонамерена атака.

Пробивът не е осъществен директно през основната инфраструктура на OpenAI. Специалистите са открили слабост в конфигурацията на обществения форум на компанията, който е базиран на платформата Discourse и се управлява като услуга на трета страна. Уязвимостта им е позволила да достигнат до вътрешната система за идентификация, а впоследствие и до ChatGPT профила на служител.

Акаунтът е имал достъп до частна информация за софтуера на OpenAI чрез GitHub. Изследователите са можели да преглеждат вътрешен код и да предлагат промени по него. Няма данни те да са получили възможност директно да внедрят собствен код или да са засегнали потребителски акаунти.

При работата си екипът е използвал предоставен от Anthropic инструмент, предназначен за специалисти по сигурността. Случаят показва как съвременните AI системи могат да ускорят откриването и използването на уязвимости – възможност, която е полезна за защитата, но може да бъде приложена и от недобросъвестни участници.

OpenAI съобщава, че е отстранила установените проблеми, и благодари на изследователите за предоставената информация. Anthropic не е коментирала случая.

Разкритието идва на фона на засилен дебат около способността на изкуствения интелект да изпълнява все по-сложни задачи в разработката на софтуер и киберсигурността. Anthropic съобщава, че 26% от научноизследователската и развойната ѝ работа вече е „водена“ от Claude спрямо едва 1% през март. При тези дейности моделът изпълнява основната част от задачите, но следва човешки инструкции и остава под наблюдение.

Според компанията при 90% от анализираните задачи изкуственият интелект работи съвместно с човек, вместо напълно автономно. Данните обаче показват колко бързо AI системите се превръщат в инструменти за създаването на следващото поколение модели – тенденция, която повдига въпроси за сигурността, контрола и потенциалното рекурсивно самоусъвършенстване.