Опасните модели на изкуствен интелект ще се появят, каквото и да става

Наскоро Anthropic изключи от мрежата новите си модели на изкуствен интелект „Claude Fable 5“ и „Mythos 5“ вследствие на директива на правителството на САЩ за контрол върху износа, която забранява на всяко чуждестранно лице да използва тези услуги. Компанията води преговори с Белия дом, но все още не е постигнала споразумение, което да ѝ позволи да възстанови достъпа до услугите.

Откакто Mythos дебютира през април, Anthropic твърди – и предупреждава – че моделът разполага с усъвършенствани възможности не само за откриване на уязвимости в софтуера, за да помогне на защитниците да ги отстранят, но и за намиране на начини за тяхното експлоатиране, които биха могли да бъдат използвани от злонамерени лица.

Самата Anthropic отбеляза този „нож с две остриета“ при пускането на Mythos 5 и Claude Fable 5. С оглед на това компанията първоначално пусна версия, наречена Mythos Preview, за избран консорциум като част от работна група, известна като Project Glasswing. Mythos 5 също беше пуснат на частно ниво за тази група, докато Claude Fable 5, който е модел от класа на Mythos, беше пуснат за широката публика с конкретни ограничения върху способността му да дава отговори на въпроси, свързани с биологията и киберсигурността.

Администрацията на Тръмп предприе мерки за ограничаване на достъпа до двата модела, тъй като счита, че защитните механизми на Fable 5 могат да бъдат деактивирани, за да се позволи пълен достъп до възможностите на Mythos 5, което според твърденията го превръща в риск за националната сигурност.

Експертите обаче твърдят, че този институционален конфликт просто забавя или прикрива една сурова истина: Anthropic може и да е начело в този момент, но възможностите на изкуствения интелект като цяло, както и моделите на множество компании и независими разработчици, почти със сигурност ще притежават способности, подобни на тези на Mythos 5, в близко бъдеще – ако вече не ги притежават.

„Изключително късогледо е да се мисли, че никой друг конкурент на Anthropic няма да разработи възможности, подобни на тези на Mythos, или дори че вече не са го направили“, казва Тара Уилър, главен директор по сигурността на специализираната консултантска фирма за киберсигурност TPO Group. „Има други компании, които са по петите на Anthropic, които вероятно също разполагат с тези възможности и ги държат в резерв, докато наблюдават как се отнасят към Anthropic в настоящата регулаторна среда.“

OpenAI, например, също пусна в средата на април частна версия на модел, фокусиран върху киберсигурността, и обяви разширена стратегия за киберсигурност.

Изследователите отбелязват, че дори преди появата на това ново поколение модели, съществуващите решения биха могли да се използват за усъвършенствано откриване на уязвимости и разработване на експлойти с усъвършенстван инструментариум. Голяма група лидери в областта на киберсигурността подчерта това пред администрацията в отворено писмо в неделя, като изтъкнаха, че директивата на Белия дом за контрол върху износа е погрешна.

„Не става въпрос за един модел; това е общата тенденция в технологиите“, казва Брус Шнайер, изследовател в Харвардския университет и Университета в Торонто, който анализира ситуацията. „По-малки, по-евтини модели с отворен код, понякога самостоятелно, а понякога в сътрудничество помежду си, могат да достигнат производителността на Mythos/Fable с по-усъвършенствани подсказки. И трябва да очакваме други модели да достигнат творчеството и упоритостта на Mythos/Fable в рамките на месеци – малко по-дълго за моделите с отворен код.“

Според експертите Белият дом и правителствата по целия свят трябва да се съсредоточат върху демократичното разработване на много по-широки и по-прозрачни планове за това как ще се справят с напредъка в способностите на изкуствения интелект в областта на киберсигурността и в други чувствителни области, тъй като той неизбежно ще настъпи.