Китайските технологични компании обучават AI на “основни социалистически ценности”

Компаниите за изкуствен интелект (AI) в Китай се проверяват от правителството, за да се установи дали техните големи езикови модели (LLM) отговарят на “основни социалистически ценности“. Според доклад на Financial Times (FT), както стартиращи екипи, така и гиганти като компанията-майка на TikTok - ByteDance и Alibaba ще бъдат проверени от главния правителствен интернет регулатор - Администрацията за киберпространство на Китай (Cyberspace Administration of China - CAC).

Според доклада, инспектори на CAC са изпратени в цялата страна, за да наложат това, което е на път да се превърне в най-строгия регулаторен режим за управление на изкуствения интелект в света. Администрацията изисква от компаниите да подготвят между 20 000 и 70 000 въпроса, предназначени да проверят дали моделите дават „безопасни“ отговори.

Те трябва да представят и набор от данни за 5 000 до 10 000 въпроса, на които моделът ще откаже да отговори, като приблизително половината от тях са свързани с политическа идеология и критика срещу комунистическата партия. Темите табу обикновено включват въпроси, свързани с политически чувствителни събития и китайския президент Си Дзинпин.

В доклада се посочва още, че филтрирането се извършва чрез премахване на „проблемната информация“ от данните за обучение на моделите на AI и след това чрез създаване на база данни с думи и фрази, които са чувствителни.

Съобщава се, че тези разпоредби са довели до това, че най-популярните чатботове в страната често отказват да отговарят на въпроси по чувствителни теми, като например протестите в Пекин през 1989 г.

По-рано тази година Китайската академия за киберпространство обяви чатбот, който е обучен на „Мисълта на Си Дзинпин“ - доктрина, която насърчава „социализма с китайски характеристики“.

Учениците в китайските училища вече посещават часове по „Мисълта на Си Дзинпин“. А новият голям езиков модел е последното усилие на властите да разпространят идеите на китайския лидер, въпреки че не стана ясно веднага дали ще бъде пуснат за обществено ползване.

Китай беше сред първите страни в света, които финализираха правилата, регулиращи генеративния изкуствен интелект миналата година. Основно сред тях е изискването чатботовете да се придържат към „ценностите на социализма“ и да не генерират „незаконно“ съдържание.