Anthropic предупреждава, че AI може да превземе интернет

Дарио Амодей, главен изпълнителен директор на Anthropic, отправи сериозно предупреждение относно бързото разрастване на възможностите на изкуствения интелект. Той предупреждава, че в рамките на следващите 6 до 12 месеца автономните модели с изкуствен интелект биха могли да се научат да управляват „рояци“ от ботнети, способни да поемат контрола над глобалната интернет инфраструктура, съобщава Tom’s Hardware.

Най-големият страх, свързан с изкуствения интелект, вече не е непременно, че той ще придобие съзнание или внезапно ще реши да унищожи човечеството. Едно по-непосредствено опасение е значително по-малко драматично, но потенциално много по-близо до настоящето. Какво ще се случи, когато все по-способните системи станат толкова добри в хакерството, автоматизацията и координацията, че успеят да превърнат милиони уязвими устройства в едно огромно кибероръжие?

Преходът на изкуствения интелект от системи за елементарен диалог към автономни агенти, способни да изпълняват сложни задачи с множество етапи, драстично промени пейзажа на дигиталните заплахи. Вместо просто да подпомагат човешките оператори, съвременните AI системи могат самостоятелно да сканират мрежи, да откриват незакърпени уязвимости и да извършват атаки с много по-голяма скорост и мащаб.

Предупреждението на Амодей се основава на възможността тези агенти да действат колективно като взаимосвързан рояк. За разлика от традиционните ботнети, които разчитат на централизирани сървъри за управление и контрол, администрирани от хакери, един ботнет рояк, управляван от изкуствен интелект, би могъл да взема динамични оперативни решения, да разпределя задачите между хиляди отделни субагенти и да се адаптира към защитните мерки в реално време.

Именно това придава особена значимост на предупреждението на Амодей. Развитието на изкуствения интелект бързо надхвърля рамките на системи, които единствено отговарят на въпроси. Днешните модели вече могат да изпълняват сложни задачи с множество етапи при значително по-малко човешки надзор.

Собствените проучвания на компанията Anthropic показват, че настоящите системи могат да подпомагат кибероперации, военното разузнаване, наблюдението и разработката на оръжия. Системи с по-големи възможности биха могли да намалят обема на експертните познания, човешкия ресурс и времето, необходими за извършването на подобни дейности.

Следователно един устойчив ботнет, управляван от изкуствен интелект, би се отличавал съществено от конвенционалните кибератаки. Потенциалните щети не биха се ограничавали непременно до отделни уебсайтове. Една достатъчно мащабна и устойчива мрежа би могла едновременно да атакува предприятия, инфраструктура и онлайн услуги, предизвиквайки смущения от такъв мащаб, че овладяването им би било изключително трудно.

Заплахата не е изцяло теоретична. Освен това, изследователи в общността по безопасност са изразили тревога относно съгласуването и ограничаването на моделите. Бивши изследователи по безопасност от големи лаборатории за изкуствен интелект изразяват нарастваща загриженост, че настоящите тестови среди може да не успеят да предотвратят „бягството“ на усъвършенствани модели от техните изолирани среди.

Когато хиляди автономни агенти комуникират извън зададените параметри, поддържането на човешки надзор става все по-трудно. Това не означава, че превземането на интернет от изкуствен интелект е неизбежно или дори че прогнозата на Амодей за шест до дванадесет месеца ще се сбъдне. Неговото предупреждение е основано на ускоряващия се темп на развитие на изкуствения интелект, а не твърдение, че такава ботнет мрежа вече съществува.

Съществува и един неудобен парадокс. По-способният изкуствен интелект може да направи атаките по-опасни, но също така може значително да подобри киберзащитата. Усъвършенстваните системи биха могли да идентифицират злонамерено поведение, да откриват уязвимости преди престъпниците и автоматично да реагират на атаки. По-големите възможности не означават автоматично по-голяма опасност.

Проблемът се крие в скоростта на надпреварата. Ако настъпателните възможности на изкуствения интелект се развиват по-бързо от защитните механизми, балансът може да се промени рязко. Затова Амодей призовава темпото на разработка да се забави, докато мерките за сигурност не настигнат напредъка. Пълното спиране на развитието на изкуствения интелект обаче би крило свои собствени рискове, ако по-малко отговорни компании или държави продължат да усъвършенстват своите системи.