Множество компании се опитват да автоматизират всевъзможни процеси чрез въвеждането на технологии на базата на решения с изкуствен интелект. Този тип решения могат да са от полза, но не винаги са в помощ на потребителите и често проблемите се решават само чрез директен контакт със служител. Междувременно Google обяви, че планира да се бори със спам съдържанието и обидните коментари и чатове в YouTube. За целта ще се разчита на автоматизиран процес чрез ботове, които вече ще имат права да ограничават временно потребители и да премахват коментари, които биват определени като обидни.

В публикация от платформата споделят, че работят върху подобряване на автоматизираните система за засичане и модели за машинно обучени за разпознаване и премахване на спам. В рамките на първата половина на настоящата година YouTube са премахнали над 1.1 милиарда спам коментари, като е подобрено откриването на спам ботове, които биват премахвани от чатове на живо.

При премахване на съобщение от компанията изпращат известие за това, а ако потребителят продължава да изпраща множество съобщения той може да бъде ограничен временно за срок до 24 часа. Модерацията на коментари в YouTube е наглед невъзможна задача, като някои страници изобщо изключват тази опция, тъй като не искат да се занимават с подобна дейност. Още по-сложен е този процес при чатовете на живо, тъй като там реакцията трябва да е изключително бърза, за да се предотвратят нежелани последствия.

Логичното решение за справяне с тези предизвикателства са ботовете. Все пак и Google има сериозен опит в автоматизираното модериране в YouTube и Play Store, като той не е особено положителен. Алгоритмите на компанията бяха маркирали канал с хорър съдържание като подходящ за деца защото е включвал анимация. Освен това в магазина за приложенията беше забранен видео плейър, тъй като файловете със субтитри използват разширението .ass. Play Store редовно забранява приложения за чат, Reddit и подкасти, понеже подобно на браузърите, те могат да дадат достъп до съдържание генерирано от потребителите.

По всичко личи, че YouTube не въвлича собствениците на канали в решенията относно методите, които използва за автоматизирана модерация. Както стана ясно, те дори няма да бъдат известявани при засичането на неправомерен коментар, а това ще засяга тези, които са го публикували. Засегнатите потребители могат от своя страна да дадат обратна връзка, ако мислят, че коментарите им са премахнати без основания.

Този процес обаче обикновено е доста неприятен, тъй като е отнема време и не винаги довежда до желаното развитие. Доста вероятно е от компанията да направят всичко възможно, за да затруднят връзката с човек, който ръчно да прегледа ситуацията. Все пак от YouTube споделят, че автоматизираната система ще изтрива само коментари, които нарушават правилата на платформата, но разбира се за това трябва да се разчита на алгоритмите.