Новият чатбот ChatGPT е толкова добър, че може да лъже и заблуждава хората

Стефан Николов Последна промяна на 12 декември 2022 в 11:43 967 0

Chatbot

Снимка Freepik

Новият чатбот ChatGPT е толкова добър, че може да лъже и заблуждава хората

След като миналата седмица OpenAI предложи на всички новия бот ChatGPT, който може да съставя изречения, които сякаш са написани от хора, социалните мрежи се препълниха с потребители, които експериментират с използването на тази технология. Ботът започна да се използва за създаването на нови рецепти за коктейли, да измисля нова проза, текстове на песни и сценарии.

Интересно е, че ChatGPT може съвсем логично, правдиво и убедително да отговаря на допълнителните въпроси, които имат логическа връзка с предишните. Именно това накара потребителите да се замислят дали може да се направи така, че текстовете на този софтуерен робот по никакъв начин да не могат да бъдат различавани от текстовете, написани от хора. В началото на тази седмица популярният форум с въпроси и отговори за програмисти Stack Overflow временно забрани използването на текстовете на ChatGPT.

Модераторите заявиха, че действията на този чатбот вече не са малко и нанасят съществена вреда на сайта. Причината е, че той твърде често дава отговори, които приличат на правилни, но заблуждават потребителите. Засега мениджмънтът е спрял работата на този софтуерен робот и каква ще бъде политиката по отношение на ChatGPT ще се реши след вътрешно обсъждане, което ще се съобрази и с мненията на участниците в този форум.

На модераторите на Stack Overflow ще се наложи да премахнат отговорите, генерирани от този бот, но това няма да е лесно, понеже те са много, някои от тях са верни, а други – не.
Това е огромно количество информация, която ще изисква проверка от страна не само на модераторите, но и на най-различни специалисти. Което явно ще е трудна задача, понеже към днешен ден постовете на софтуерния робот буквално са затрупали инфраструктурата за модерация на Stack Overflow и всеки ще трябва да се проверяват един по един дали са верни или заблуждаващи.

ChatGPT е чатбот, базиран на невронната мрежа OpenAI GPT-3.5. Неговата първа версия излезе на 1 декември 2022 г. Този изкуствен интелект може да генерира най-разнообразна информация – от стихове и музика до пълноценен сорс код, но сега потребителите забелязаха, че той е започнал да дава правдоподобни, но неверни отговори и това вече се превръща в тенденция.

Да напомним, че OpenAI е компания и лаборатория за изследване и създаването на най-съвременен AI, която бе основана през 2015 г. от настоящия главен изпълнителен директор Сам Алтман, Илон Мъск и водещия изследовател Иля Суцкевер. Мъск прекрати участието си в тази компания през 2019 г., а към днешен ден OpenAI се финансира от Microsoft.

Редица технически специалисти са обезпокоени, че тази технология се разглежда като алтернатива на интернет търсачките, но случилото се с Stack Overflow показва, че та не е особено подходяща за подобно нещо. Друг обезпокоителен момент е, че ChatGPT може да се използва за създаването на изкуствено обществено мнение, уж изградено с помощта на огромен брой потребители. Без съмнение, някои политици биха харесали този мощен AI инструмент.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !