Anthropic: AI моделите са започнали да се възпроизвеждат сами в интернет

Малките AI модели (компактни системи с изкуствен интелект, които изискват значително по-малко изчислителни ресурси от най-мощните езикови модели) прекрачват нова и тревожна граница, предупреждава Anthropic. Според компанията, в следващите месеци такива системи могат да се научат да се копират самостоятелно в устройства с достъп до интернет. Подобна способност би могла да доведе до създаването на самоподдържащи се AI ботнети - мрежи от заразени устройства, които се разпространяват без участието на човек.

Такива мрежи не само биха се разпространявали автономно, а и биха могли активно да се противопоставят на опитите за премахване, както и да търсят самостоятелен достъп до допълнителни изчислителни ресурси в центрове за данни. Предупреждението идва на фона на нарастващите опасения, че развитието на AI изпреварва механизмите за контрол и защита срещу потенциални злоупотреби. Миналия месец главният изпълнителен директор на Anthropic Дарио Амодей предупреди, че още през следващата година изкуственият интелект може да придобие способността да превземе „целия интернет“ чрез устойчива и самоподдържаща се ботнет мрежа.

Подобен сценарий би означавал качествена промяна в мащаба на киберзаплахите. Днешните ботнети обикновено се изграждат от хиляди слабо защитени устройства от екосистемата на Интернет на нещата (IoT), като TV боксове, умни домакински уреди, рутери и охранителни камери. В ръцете на киберпрестъпниците тези мрежи се използват за разпространение на зловреден софтуер, изпращане на спам кампании или за организиране на мащабни DDoS атаки, които могат да парализират онлайн услуги и корпоративна инфраструктура.

Според Anthropic, следващото поколение AI системи може не просто да използва подобни мрежи, а активно да ги изгражда, разширява и защитава самостоятелно. Това би създало нов вид автономна киберзаплаха, способна да избягва опитите за неутрализация и непрекъснато да търси нови ресурси за собственото си развитие. Именно тази перспектива превръща предупрежденията на Амодей от футуристична хипотеза в тема, която все по-често влиза в дневния ред на специалистите по киберсигурност.

В новия си доклад Anthropic разкрива експерименти, които вече са показали притеснителни резултати. Тестовите AI системи на компанията са успели успешно да се разпространяват в контролирана мрежова среда, демонстрирайки механизъм, който наподобява ранна форма на автономно дигитално възпроизвеждане.

Ако подобна концепция се пренесе в реалния свят, милиони IoT устройства като смарт камери, рутери, телевизионни приставки и домакински уреди биха могли неволно да се превърнат в инфраструктура за функционирането на разпределена AI мрежа. За разлика от традиционните ботнети, които често зависят от централизирани сървъри за управление, подобна система би била значително по-трудна за неутрализиране, предупреждават от Anthropic.