Софтуерът на OpenAI не може да определи дали даден текст все пак е написан от AI

Компанията прекратява работата на инструмента, предназначен за откриване на текстове, написани с помощта на изкуствен интелект, поради твърде ниската точност.

Стефан Николов Последна промяна на 27 юли 2023 в 15:43 192 0

OPenAI

Снимка Levart Photographer/Unsplash

Компанията прекратява работата на инструмента, предназначен за откриване на текстове, написани с помощта на изкуствен интелект, поради твърде ниската точност.

OpenAI спира работа на софтуерния инструмент, който трябваше да различава написаното от човека от написаното от изкуствен интелект, поради ниската степен на точност. В своя официален блог OpenAI съобщава, че от 20-ти юли е решила да прекрати дейността на класификатора за изкуствен интелект. "Работим, за да включим обратната връзка и в момента проучваме нови по-ефективни техники за доказване на произхода на текста", заявиха от компанията.

Тъй като закрива инструмента за откриване на текстове, генерирани от изкуствен интелект, OpenAI заяви, че планира да " разработва и внедрява бови механизми, които позволяват на потребителите да разберат дали дадено аудио или визуално съдържание е генерирано от изкуствен интелект". Но все още няма информация какви биха могли да бъдат тези механизми.

От OpenAI потвърдиха, че класификаторът никога не е бил много добър в разпознаването на текстове, генерирани от изкуствен интелект, и предупредиха, че той може да даде фалшиви положителни резултати, т.е. текст, написан от човек, да бъде маркиран като генериран от изкуствен интелект. Преди да добави актуализацията, с която закрива инструмента, OpenAI заяви, че класификаторът по принцип може да се подобри с помощта на повече данни., с които да бъде допълнително обучен/

След като ChatGPT на OpenAI се появи на сцената и се превърна в едно от най-бързо развиващите се приложения в историята, хората започнаха да се опитват да разберат как точно работи тази технология. Няколко бранша вдигнаха тревога около генерираните от изкуствен интелект текст и изкуство, особено преподавателите, които се притесняваха, че учениците вече няма да учат и просто ще оставят ChatGPT да им пише домашните. Училищата в Ню Йорк дори забраниха достъпа до ChatGPT на територията на училището поради опасения за точността, безопасността и измамите.

Изданието The Verge допълва, че дезинформацията чрез изкуствен интелект също буди безпокойство, като редица проучвания показват, че генерираните от изкуствен интелект текстове, като например туитове, могат да бъдат по-убедителни от тези, написани от хора. Правителствата все още не са измислили как да ограничат ИИ и засега оставят на отделни групи и организации да определят свои собствени правила и да разработят свои собствени мерки за защита, за да се справят с наплива на компютърно генерирани текстове.

Засега изглежда, че никой, дори и компанията, която помогна за стартирането на манията около генеративния изкуствен интелект, няма отговор на въпроса как да се справи с всичко това. По всичко личи, че ще става все по-трудно разграничаването на работата на изкуствения интелект (AI) от тази на хората.

Да напомним, че директорът на отдела за доверие и безопасност на OpenAI, Дейв Уилнър, се оттегля от компанията, тъй като AI индустрията е изправена пред един по-строг контрол относно поверителността и сигурността от политиците. Това става точно когато Федералната търговска комисия започна разследване на OpenAI, което има за цел да проучи по какъв начин OpenAI проверява информацията и данните.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !