Студент представи приложение, разпознаващо написаните от AI текстове

Едуард Тиан, 22-годишен възпитаник на Принстънския университет създаде приложение, което може да определи дали даден текст е написан от човек или от изкуствен интелект (AI). Нашумелият последно време ChatGPT умее много неща – може да напише съчинение или есе на произволна тема, нещо което учениците и студентите веднага започнаха да използват при подготвянето на домашните работи и по време на изпитите. Това бе и причината ChatGPT да бъде забранен за използване в редица американски, а и вече и канадски учебни заведения. Ето защо приложението на Тиан е актуално и веднага стана популярно.

По време на коледната ваканция Тиан е успял да напише сорс кода на приложението GPTZero. Студентът е на мнение, че последно време силно е нараснало плагиатстването от различните системи с изкуствен интелект, като почти веднага след излизането на ChatGPT започнаха да се трупат съобщения, че учащите използват тази невронна мрежа и да представят написаното от този AI за свое.

"Толкова много шум заради този чатбот. Дали и този или онзи текст са написани от изкуствения интелект? Ние хората, заслужаваме да знаем истината" – съобщи в своя Twitter профил Тиан при представянето на GPTZero.

GPTZero бе официално анонсиран на 2-ри януари тази година, след което по един или друг начин със студента са се свързали голям брой учители и преподаватели, които са останали доволни от резултатите на приложението и от това, че то наистина познава кои текстове са написани от AI. Малко по-късно приложението GPTZero стана толкова популярно, че сървърите, на което е качено, блокираха от наплива на желаещи да го изтеглят. В тази ситуация безплатната платформа Streamlit реши да помогне на студента и качи на своите сървъри приложението GPTZero.

Начинът на работа на приложението GPTZero е описан доста мътно. За да се определи дали даден текст е написан от AI или от човек се използват два показателя: perplexity (затруднение) и burstiness (импулсивност). Perplexity измерва сложността на текста. Идеята е, че когато ChatGPT не може докрай да разбере подадения въпрос или задача, пише твърде твърде усложнен текст, и ако той е логически верен, то той е написан от човек. А ако текстът е познат за бота, понеже той е бил обучен с помощта на подобни данни, то тогава той пише логически съвсем ясни и опростени изречения, по което може да се познае, че това е бот.

Параметърът Burstiness анализира отделните изречения. Хората са склонни да пишат неравномерно – дългите изречения почти винаги са смесени с къси. Изреченията, създадени от изкуствения интелект, са с приблизително с еднаква дължина. Това е вторият признак, по който може да се разбере използването на AI.

В своето демонстрационно видео Тиан е използвал своя бот за сравняване на статиите в The New Yorker с текстове в LinkedIn, написани от ChatGPT. Приложението безпогрешно определя кой текст е написан от човек и кой – от софтуерния робот.

Тиан заяви, че неговото приложение, което на практика също е бот, не е 100% надеждно, което се потвърждава от някои потребители, и сега възнамерява да подобри точността на използвания в приложението модел.