Софтуерът на OpenAI не може да определи дали даден текст все пак е написан от AI

OpenAI спира работа на софтуерния инструмент, който трябваше да различава написаното от човека от написаното от изкуствен интелект, поради ниската степен на точност. В своя официален блог OpenAI съобщава, че от 20-ти юли е решила да прекрати дейността на класификатора за изкуствен интелект. "Работим, за да включим обратната връзка и в момента проучваме нови по-ефективни техники за доказване на произхода на текста", заявиха от компанията.

Тъй като закрива инструмента за откриване на текстове, генерирани от изкуствен интелект, OpenAI заяви, че планира да " разработва и внедрява бови механизми, които позволяват на потребителите да разберат дали дадено аудио или визуално съдържание е генерирано от изкуствен интелект". Но все още няма информация какви биха могли да бъдат тези механизми.

От OpenAI потвърдиха, че класификаторът никога не е бил много добър в разпознаването на текстове, генерирани от изкуствен интелект, и предупредиха, че той може да даде фалшиви положителни резултати, т.е. текст, написан от човек, да бъде маркиран като генериран от изкуствен интелект. Преди да добави актуализацията, с която закрива инструмента, OpenAI заяви, че класификаторът по принцип може да се подобри с помощта на повече данни., с които да бъде допълнително обучен/

След като ChatGPT на OpenAI се появи на сцената и се превърна в едно от най-бързо развиващите се приложения в историята, хората започнаха да се опитват да разберат как точно работи тази технология. Няколко бранша вдигнаха тревога около генерираните от изкуствен интелект текст и изкуство, особено преподавателите, които се притесняваха, че учениците вече няма да учат и просто ще оставят ChatGPT да им пише домашните. Училищата в Ню Йорк дори забраниха достъпа до ChatGPT на територията на училището поради опасения за точността, безопасността и измамите.

Изданието The Verge допълва, че дезинформацията чрез изкуствен интелект също буди безпокойство, като редица проучвания показват, че генерираните от изкуствен интелект текстове, като например туитове, могат да бъдат по-убедителни от тези, написани от хора. Правителствата все още не са измислили как да ограничат ИИ и засега оставят на отделни групи и организации да определят свои собствени правила и да разработят свои собствени мерки за защита, за да се справят с наплива на компютърно генерирани текстове.

Засега изглежда, че никой, дори и компанията, която помогна за стартирането на манията около генеративния изкуствен интелект, няма отговор на въпроса как да се справи с всичко това. По всичко личи, че ще става все по-трудно разграничаването на работата на изкуствения интелект (AI) от тази на хората.

Да напомним, че директорът на отдела за доверие и безопасност на OpenAI, Дейв Уилнър, се оттегля от компанията, тъй като AI индустрията е изправена пред един по-строг контрол относно поверителността и сигурността от политиците. Това става точно когато Федералната търговска комисия започна разследване на OpenAI, което има за цел да проучи по какъв начин OpenAI проверява информацията и данните.