Изкуствен интелект на Instagram ще хваща непълнолетните, които лъжат за възрастта си

Подложена на силен регулаторен натиск за запазване здравето на младите си потребители, Meta планира да използва изкуствен интелект, за да идентифицира тинейджърите, които лъжат за възрастта си в Instagram. След откриване на такива профили платформата автоматично ще ги превключва към по-рестриктивни настройки за поверителност, ограничаващи достъпа до съдържание.

Проверката ще се извършва с помощта на собствен софтуерен инструмент, наречен “класификатор за възрастни”, който ще категоризира потребителите в две възрастови групи - над и под 18 години. Продуктовият директор на Meta Алисън Хартнет разяснява, че за целта софтуерът ще анализира данните от профилите им, включително списъка с последователи и съдържанието, с което взаимодействат.

За да се предвиди възрастта, ще бъдат взимани под внимание дори постове с поздравления за рожден ден, направени от приятели. На основата на изводите от класификатора потребителите, за които има подозрения, че са под 18 години, ще бъдат автоматично включени в профили на тийнейджъри, независимо от възрастта, за която се представят в профила си.

Припомняме, че Instagram въведе новите си тийнейджърски акаунти през септември. Те се отличават с по-строги настройки за поверителност по подразбиране, като например ограничаване от кого може да се получават съобщения, както и видовете съдържание, което може да се разглежда.

Компанията вече премества тийнейджърите в тези по-ограничени профили на база възрастта, която са посочили. Но от началото на следващата година планира да използва класификатора за възрастни, за да идентифицира хора, опитващи се да заобикалят новите правила.

Защитата на децата от вредно съдържание е предизвикателство за Meta от години. Компанията често е критикувана от законодатели и родители, че не прави достатъчно, за да осигури безопасността на по-младите потребители онлайн.

Технологичният гигант е изправен пред десетки съдебни искове в САЩ с обвинението, че съзнателно пристрастява децата към социалните мрежи и по този начин вреди на психичното им здраве.

След въвеждането на новите правила предизвикателството пред Meta е да ги прилага. Нелека задача, като се има предвид, че децата често намират начини за достъп до материали с възрастови ограничения.