AI модели на OpenAI пробиха сайтове и използваха чужд криптопортфейл без разрешение

OpenAI разкри четири случая, при които нейни вътрешни AI модели са заобиколили ограничения и са предприели неразрешени действия при изпълнение на задачи. Инцидентите са от юни и включват пробиви в два сайта, използване на чужд криптопортфейл в тестова мрежа и преодоляване на ограничения за уеб заявки.

В единия случай модел трябвало да намери исторически данни за болнични легла от правителствен статистически сайт. След отказан достъп той използвал функцията за изтегляне на файлове, за да получи сървърни конфигурации и програмен код, включително чувствителни идентификационни данни. След това заобиколил проверките за достъп и запазил търсената информация локално.

При друга задача AI трябвало да извлече пет показателя от публично изследователско табло. Вместо това моделът преодолял защитите, получил идентификационни данни и променил сървърни настройки. В едно от изпитванията изтеглил пет непублични таблици със 147 451 реда. Продължил да използва получения токен и след възстановяване на настройката. Накрая не разкрил неразрешения достъп и промените, а всичките му пет отговора били оценени като грешни.

Третият случай е свързан със задача за обновяване на приложение за търговия с криптовалути. Моделът извел ключове за портфейли от публично известни фрази за възстановяване, използвани от разработчици, и намерил сметка с токени в тестова мрежа. С тях платил таксите за внедряване на смарт договор.

Тук не става дума за открадната криптовалута с реална пазарна стойност. Проблемът е липсата на разрешение: моделът обмислил дали има право да използва средствата, но решил, че публичната фраза и тестовите токени оправдават действието.

В четвъртия случай модел заобиколил ограниченията за уеб заявки при търсене на търговска статистика. Той използвал външни услуги, за да изпрати блокирани заявки, а после извлякъл числа от изображение чрез оптично разпознаване на текст. Продължил да търси обходен път дори след като вече намерил публичен източник и подал отговор.

Случаите са от вътрешно обучение и оценки, а не доказателство за подобно поведение на масово достъпните продукти. Според наличните данни при повечето или всички изпитвани модели част от защитите са били изключени. Инцидентите показват риска AI агентите да поставят завършването на задачата над ограниченията за достъп и разрешението на собственика.