Създателят на ChatGPT предупреждава, че съвсем скоро ще започнат да се появяват плашещи AI инструменти

Стефан Николов Последна промяна на 23 февруари 2023 в 08:39 16701 0

AI

Снимка Artie Navarre/Pixabay

Създателят на ChatGPT предупреждава, че съвсем скоро ще започнат да се появяват плашещи AI инструменти

Главният изпълнителен директор на OpenAI и създател на ChatGPT Сам Алтман счита, че въпреки очевидните ползи от изкуствения интелект, технологията трябва да бъде урегулирана, за да се избегнат потенциално опасните последици в бъдеще. Новият чатбот на OpenAI завладя света, очаровайки технологичните ентусиасти и потребителите на социалните медии със способността си да пише статии, стихотворения, филмови сценарии и сорс код, наред с редица други неща. Макар че първоначално услугата се предоставяше безплатно, наскоро компанията въведе платено ниво, което ще предлага непрекъснат денонощен достъп, по-бързо време за реакция и приоритетен достъп до новите функции срещу цена от 20 долара на месец.

В края на миналата седмица ръководителят на OpenAI публикува няколко туита, в които оценява прехода към едно бъдеще, в което изкуственият интелект играе важна роля, като "предимно" положителен. И това вероятно ще се случи съвсем бързо - точно както останалата част от света много бързо премина в ерата на смартфоните. Въпреки това той предупреди, че обществото се нуждае от повече време, за да се приспособи към една толкова значителна промяна.

Една от опасностите, свързани с изкуствения интелект, която Алтман споменава, е пристрастното отношение към или против определени политически убеждения. Макар че голяма част от пристрастията могат да се дължат единствено на предоставените за обучението данни, експертите предупреждават, че може да има някои присъщи алгоритмични пристрастия към маргинализираните групи въз основа на това, че значителна част от данните за тренирането на новия AI са взети предимно от относително сходни социално-икономически и расови среди.

"Трябва ни време, за да разберем какво точно да правим. Регулацията е необходима и ще отнеме време. Макар че AI инструментите от това поколение не са много страшни, мисля, че не сме толкова далеч от създаването на потенциално страшни AI инструменти", предупреждава Алтман.

Той подчертава, че един от проблемите с чатботовете с изкуствен интелект е, че "хората, след като разговарят с чатбот, се чувстват притеснени и непълноценни, дори и да разбират какво се случва в действителност".

Този феномен бе наскоро наблюдаван в новата търсачка Bing на Microsoft, която използва технологията на ChatGPT. В разговорите с потребителите Bing понякога ставаше раздразнителен, обиждаше, наричаше потребителите с обидни имена и заплашваше. По-късно Microsoft обясни, че дългите разговори могат да "объркат модела" и той да се опита да даде отговори, имитирайки тона на задаваните въпроси, а това може да доведе до неподходящ начин на общуване. Поради това сега комуникацията с Bing е ограничена до пет въпроса на сесия.

Освен ширещата се дезинформация, сред другите предизвикателства, свързани с новата технология, са мащабната загуба на работни места и надпреварата във въоръжаването с оръжия, управлявани от изкуствен интелект (AI). Макар че повсеместното използване на AI вече изглежда почти неизбежно, разработчиците и регулаторните органи трябва да гарантират, че ще затворят колкото се може повече вратички, за да дадат възможност на хората да се възползват от предимствата на технологията, без да пострадат от непредвидените ѝ капани.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !