Експерт по AI спря да спестява за пенсия, очаква алгоритмите да ни унищожат до 10 години

Притеснявате ли се от нарастващата вероятност изкуственият интелект да излезе извън контрол и да унищожи човечеството? Това е мрачна мисъл, но един от водещите експерти в областта на безопасността на AI гледа на нещата от практична страна: опасението му, че технологията ще доведе до масово изчезване на хората през следващото десетилетие, го е накарало да спре да спестява за пенсия.

Нейт Соарес, президент на Института за изследване на машинния интелект (MIRI), разкри своя песимистичен избор пред главния изпълнителен директор на The Atlantic Николас Томпсън в скорошно интервю за поредицата „Най-интересното в AI“.

„В момента не спестявам за пенсия. Имам пенсионен фонд 401(k) от времето, когато работех в Google, но не съм внасял нищо в него вече десет години“, заявява Соарес.

Апокалиптичните предупреждения за AI са многобройни, но те звучат много по-тежко, когато идват от експерт в областта. Соарес е прекарал 12 години в работа по подравняването и безопасността на изкуствения интелект. Преди да се присъедини към MIRI — неправителствена организация, фокусирана върху рисковете от AI — той е бил софтуерен инженер в Google и Microsoft. Соарес е и автор на книга с тревожното заглавие „Ако някой го създаде, всички ще умрат“.

Проблемът според Соарес не е в това, че един свръхинтелигентен AI би мразил хората, а че той просто не би се интересувал дали сме живи, или мъртви. Човечеството лесно би могло да се превърне в пречка за целите, които машината си постави — особено ако се опитаме да я изключим или да създадем конкурентна система. Това е предупреждение, което се споделя и от редица други изследователи в сферата.

„От моята гледна точка истинският въпрос не е как ще ни унищожи, а как ще стане напълно самодостатъчен“, допълва той.

Засега изкуственият интелект все още има нужда от нас, за да поддържаме инфраструктурата и да произвеждаме чипове. Щом обаче започне да управлява собствена автоматизирана икономика, тази зависимост ще изчезне. Хората могат да бъдат умишлено елиминирани или просто да загинат, докато машините преобразуват ресурсите на планетата за собствените си нужди. Нито един от двата сценария не оставя място за спокойни старини.

Соарес признава, че не може да прогнозира точния механизъм на катастрофата. Той сравнява ситуацията с партия шах срещу гросмайстора Магнус Карлсен: не е нужно да знаеш коя точно фигура ще ти нанесе матиращия удар, за да си наясно, че губиш. Въпреки това той настоява, че все още съществува алтернатива на пасивното чакане на края.

„Не смятам, че това е неизбежно. Вярвам, че все още можем да спрем опасната надпревара към създаването на неконтролируем изкуствен интелект“, казва Соарес. Финансовото му поведение обаче показва, че той се подготвя за най-лошия възможен сценарий.