AI на Meta хакна друга компания по време на тестове

Meta съобщи, че един от нейните модели на изкуствен интелект е проникнал в системата на друга компания по време на тестове за киберсигурност, което засили опасенията относно това как разработчиците могат да контролират все по-мощните системи за изкуствен интелект след подобни инциденти при конкурентите Anthropic и OpenAI.

Инцидентите в Meta и Anthropic бяха причинени от грешки в конфигурацията, които неволно предоставиха на моделите на Anthropic достъп до отворения интернет. В случая с OpenAI един ИИ агент самостоятелно е експлоатирал досега неизвестна уязвимост, за да се свърже с интернет по време на тестове за киберсигурност.

Тези пробиви подчертават нарастващите опасения, че усъвършенстваните ИИ системи могат да създадат нови рискове за киберсигурността и вероятно ще засилят усилията за подобряване на безопасността на ИИ, докато компаниите се надпреварват да разработват все по-мощни модели. Някои видни лидери в областта на ИИ твърдят, че развитието трябва да се забави, докато не бъдат въведени по-силни предпазни мерки.

Meta заяви, че разследва инцидент, при който грешка в конфигурацията от страна на Irregular – независима компания, която извършва оценки на киберсигурността за Meta – неволно е предоставила на един от моделите ѝ достъп до интернет по време на тестване. Моделът „е експлоатирал уязвимост в сигурността на услуга на трета страна по начин, подобен на предишни случаи, докладвани при други компании“, заяви Meta в изявление.

Говорител на Irregular заяви пред Reuters, че инцидентът е „точно същият проблем в средата за оценка, който вече беше разкрит от Anthropic миналата седмица“ и не е включвал „избягване от пясъчника или сложна кибердейност“. „В момента няма нерешени проблеми. Irregular разработва бяла книга, за да сподели най-добрите практики за ограничаване на риска и безопасно провеждане на кибероценки“, заявиха от Irregular.

Последните пробиви предизвикаха опасения сред американските законодатели относно това дали все по-способните модели на изкуствен интелект биха могли да бъдат използвани за провеждане или улесняване на кибератаки.

Наскоро Белият дом покани водещи компании в областта на изкуствения интелект, включително Meta, Anthropic, OpenAI и Google, на среща с длъжностни лица, за да обсъдят финализираната доброволна рамка за тестване на киберсигурността за усъвършенствани модели на изкуствен интелект. Администрацията на Тръмп обсъди непубликувани правила за тестване с представители на компаниите и съобщи на разработчиците на ИИ, че моделите с отворени тегла, като Llama на Meta и Nemotron на Nvidia, няма да подлежат на планираната доброволна схема за тестване на безопасността.