Мъск и други IT лидери поискаха пауза на разработката на изкуствен интелект и я обявиха за опасна

През последните месеци IT браншът е „пленен“ от усилени дискусии и своеобразно състезание между различни проекти с изкуствен интелект (AI). Технологичните гиганти се надпреварват кой ще покаже AI с повече възможности и познания с амбицията да променят живота на хората и то в обозримо бъдеще.

Не всички обаче споделят този ентусиазъм. Илон Мъск, съоснователят на Apple Стив Возняк, съоснователят на Pinterest Еван Шарп, както и десетки други IT лидери и учени излязоха с общо отворено писмо и подписка. В него те призовават IT бизнеса да спре експериментите с AI за поне шест месеца.

Официален автор на писмото е Future of Life Institute. То е подписано от над 1000 души, като е отворено и за още подкрепящи. Институтът посочва, че „AI системите с интелект, който конкурира човешката компетентност, могат да имат значителни рискове за обществото и човечеството, както това показват задълбочени проучвания на топ AI лаборатории. Трябва ли да позволим на машините да наводнят информационните канали с пропаганда и неистини? Трябва ли да автоматизираме всички работни места? Трябва ли да рискуваме загуба на контрол на собствената си цивилизация“, пише в писмото.

Подкрепящите го искат да се спре разработката и експериментите с AI системи, които да по-сложни от GPT-4, който в момента се смята за връх в бранша. „Тази пауза трябва да е публична и да може да се верифицира, като да участват всички ключови имена. Ако такава пауза не може да бъде реализирана бързо, правителствата трябва да се намесят и да издадат мораториум“, призовава още Институтът.

Писмото предлага през паузата да протекат обсъждания и разработка за разработка на общи правила и протоколи за безопасност за AI. Това трябва да включва и „щателни одити и надзор от независими външни експерти“. Институтът иска „тези протоколи да гарантират, че системите, които ги спазват, са безопасни отвъд разумното съмнение. Това не означава пауза на цялостната разработка на AI, а да се направи стъпка назад от опасното състезание за все по-големи и непредвидими модели-черни-кутии с непознати способности“.

„Разработката на изкуствен интелект трябва да се рефокусира върху това да направи днешните най-добри и мощни системи по-точни, безопасни, прозрачни, сигурни, доверени и лоялни“, призовават още подписалите писмото. Те смятат, че „дълго AI лято“, през което обществото да се адаптира към технологията ще е полезно и това вече е правено за други технологии като клонирането, генетични модификации и др. „Нека се насладим на дълго AI лято и да не бързаме неподготвени в есента“, призовава институтът.

GPT-4 е единственият изкуствен интелект, който е споменат поименно в писмото, както и неговият създател OpenAI е единствената компания, която е директно посочена. Самата OpenAI призна още при представянето на GPT-4 преди няколко седмици, че има нужда да се гарантира сигурността на умните алгоритми и че „в един момент“ независими проверки може да са от полза. Компанията е била потърсена от множество международни медии да коментира писмото, но не е отговорила на нито едно запитване.