Китайските технологични компании обучават AI на “основни социалистически ценности”

Държавни служители проверяват компаниите, за да гарантират, че езиковите им модели спазват партийната линия по спорни теми, сочи доклад на FT

Мария Иванова Последна промяна на 20 юли 2024 в 21:03 769 0

Китайските технологични компании обучават AI на “основни социалистически ценности”

Снимка Copilot/Dall E AI Image

Китайските технологични компании обучават AI на “основни социалистически ценности”

Компаниите за изкуствен интелект (AI) в Китай се проверяват от правителството, за да се установи дали техните големи езикови модели (LLM) отговарят на “основни социалистически ценности“. Според доклад на Financial Times (FT), както стартиращи екипи, така и гиганти като компанията-майка на TikTok - ByteDance и Alibaba ще бъдат проверени от главния правителствен интернет регулатор - Администрацията за киберпространство на Китай (Cyberspace Administration of China - CAC).

Според доклада, инспектори на CAC са изпратени в цялата страна, за да наложат това, което е на път да се превърне в най-строгия регулаторен режим за управление на изкуствения интелект в света. Администрацията изисква от компаниите да подготвят между 20 000 и 70 000 въпроса, предназначени да проверят дали моделите дават „безопасни“ отговори.

Те трябва да представят и набор от данни за 5 000 до 10 000 въпроса, на които моделът ще откаже да отговори, като приблизително половината от тях са свързани с политическа идеология и критика срещу комунистическата партия. Темите табу обикновено включват въпроси, свързани с политически чувствителни събития и китайския президент Си Дзинпин.

В доклада се посочва още, че филтрирането се извършва чрез премахване на „проблемната информация“ от данните за обучение на моделите на AI и след това чрез създаване на база данни с думи и фрази, които са чувствителни.

Съобщава се, че тези разпоредби са довели до това, че най-популярните чатботове в страната често отказват да отговарят на въпроси по чувствителни теми, като например протестите в Пекин през 1989 г.

По-рано тази година Китайската академия за киберпространство обяви чатбот, който е обучен на „Мисълта на Си Дзинпин“ - доктрина, която насърчава „социализма с китайски характеристики“.

Учениците в китайските училища вече посещават часове по „Мисълта на Си Дзинпин“. А новият голям езиков модел е последното усилие на властите да разпространят идеите на китайския лидер, въпреки че не стана ясно веднага дали ще бъде пуснат за обществено ползване.

Китай беше сред първите страни в света, които финализираха правилата, регулиращи генеративния изкуствен интелект миналата година. Основно сред тях е изискването чатботовете да се придържат към „ценностите на социализма“ и да не генерират „незаконно“ съдържание.

Всички новини
Най-четени Най-нови
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !