Автентикацията срещу ботове в Discord използва генерирани от AI обекти за идентификация

Потребителите започнаха да се оплакват, че системата срещу ботове (т.нар. CAPTCHA) на Discord, предоставена от компанията hCaptcha, ги кара да търсят несъществуващи обекти в предоставените изображения. Такъв например е обектът с име "Yoko", който прилича на хибрид между охлюв и йо-йо, създаден от AI и не съществува в реалността.

Информацията е на изданието Vice Motherboard, което съобщи, че няколко души са се оплакали в социалните мрежи от странния обект Yoko, който е трябвало да бъде намерен сред другите обекти в изображението, за да се влезе в Discord.

В същото време други потребители откриха, че им се предлага да намерят изображения на кубче от пъзел, което също е създадено с помощта на изкуствен интелект и не прилича на истински обект. Освен това всички обекти в задачата изглеждат така, сякаш са дошли направо от Зловещата долина.

Да напомним, че така наречената "Зловеща долина" е психологически праг при който хората интуитивно чувстват отвращение и неприязън към човешките имитации. Очевидно, че изображенията в капчата на hCaptcha за влизане в Discord не са приятни на потребителите и само ги объркват.

Известно е, че CAPTCHA-та за Discord се предоставя от компанията hCaptcha, а представители на Discord заявиха пред медиите, че технологията, която генерира тези подсказки, "е собственост на партньор от трета страна и Discord не определя пряко какво се представя и предлага на потребителите".

От своя страна hCaptcha обясни, че това, което се е случило, е било "кратък тест, който са видели малък брой хора". Тъй като стотици милиони потребители колективно използват технологията, дори този "кратък тест" е довел до оплаквания в Twitter и другите социални мрежи.

В публикацията се отбелязва, че hCaptcha се позиционира като ориентирана към защитата на личните данни алтернатива на reCAPTCHA. Според публикация в блога от 2018 г. подсказките на hCaptcha се генерират от самите клиенти, които се нуждаят от "висококачествени, генерирани от хора анотации за нуждите на машинното обучение на компанията".

Това всъщност означава, че hCaptcha печели пари както от клиенти като Discord, които купуват професионални и корпоративни абонаменти, за да управляват CAPTCHA услугите, така и от клиентите, които създават подсказки. Всъщност hCaptcha използва своята CAPTCHA за системи с дълбоко машинно обучение и генеративно-адаптивни невронни мрежи.

Това не е първият случай, в който хората забелязват странни изображения, появяващи се в услугите на hCaptcha, и отбелязват, че компанията очевидно обучава своя изкуствен интелект (AI) с помощта на потребителите. Така например преди два месеца потребител на Reddit забеляза, че Discord го моли да търси сред изображения на хора, играещи хокей и голф, футболисти, очевидно създадени от изкуствен интелект. През март друг потребител на Reddit се оплака, че CAPTCHA-та на Discord е станала почти неразгадаема.

Според мнението на някои потребители, блокирането на различните ботове с помощта на капча е наистина необходимо, но да се опитваш да обучаваш AI с помощта на калпави CAPTCHA изображения е нещо съвсем друго.