IT експерти: Изкуственият интелект е опасен колкото ядрена война

Група от над 350 ИТ експерти, учени, бизнесмени, журналисти и общественици от целия свят се обединиха в общ призив от „Центъра за безопасност на изкуствения интелект“, съобщава БиБиСи.

Призивът е кратък и директен: „Адресирането на рисковете от унищожение на цивилизацията от изкуствения интелект трябва да бъде световен приоритет редом с други социални рискове като пандемиите и ядрена война.“

Сред подписалите призива са стотици експерти, както множество служители и ръководители в Google DeepMind, Google, Microsoft, Skype, Quora, десетки университети от целия свят. Съоснователят и изпълнителен директор на създателя на ChatGPT – OpenAI, Сам Алтман също е подкрепил призива.

През последните дни Алтман обиколи водещи американски и европейски институции по темата. Той призовава към въвеждане на регулации, но предупреди, че те трябва да са подбрани внимателно. Алтман беше недоволен от идеите на Европейския съюз, като заяви, че OpenAI дори може да спре да предлага услугите си в ЕС, ако не успее да изпълни твърде строгите изисквания. Малко след това обаче промени мнението си и заяви, че OpenAI ще продължи да работи в Европа и след приемането на регулациите. През май т.г. и страните от Г7 се обединиха в усилията за създаване на регулации, като обявиха и създаването на работна група в тази сфера.

„Центърът за безопасност от изкуствения интелект“ описва четири основни риска от умните алгоритми. Първият е AI да се използва като оръжие и/или да е за разработка на оръжия, които да са още по-опасни. Дори някои добри идеи, като алгоритъм за разработка на лекарства да бъде „пренасочен“ към измисляне на химически оръжия.

Втори риск според Центъра е генерирана от AI дезинформация, която да дестабилизира обществото и да „подкопае колективното взимане на решения“. Третата опасност от AI е технологията да бъде концентрирана в ръцете на малко играчи или държави, които да злоупотребяват с нея, включително, за да налагат цензура или да го използват за шпионаж.

Последният риск е прекомерна зависимост от AI. Може да се окаже, че човечеството става твърде зависимо от умните алгоритми и да разчита на тях за неща, за които в момента се справя и самостоятелно.

Сред подкрепящите призива на Центъра са и някои от „кръстниците“ на изкуствения интелект. Сред тях е и др. Джефри Хинтън, както и проф. Йошуа Бенгио. Те също смятат, че трябва да има по-голямо внимание към развитието и прилагането на AI.

Техният колега проф. Ян Лекън, който също е „кръстник“ на AI, обаче е против призива. Лекън, който е професор в Университета на Ню Йорк и работи в Meta, не подкрепя предупреждението. Според него подобни призиви са преувеличени и предизвикват пренебрежение у хората.

Дан Хендрикс, директор на Центъра, обаче отговаря, че рискове има и те не трябва да бъдат гледани антагонистично. „Адресирането на някои от проблемите днес, може да е полезно за адресирането на множеството рискове утре“, коментира той.