Китайские чиновники проводят тщательное тестирование больших языковых моделей, разработанных местными компаниями, чтобы убедиться в их соответствии «базовым социалистическим ценностям», сообщает Financial Times.
Государственная канцелярия интернет-информации КНР (CAC) потребовала от таких технологических компаний, как ByteDance, Alibaba, Moonshot и 01.AI, пройти правительственную проверку. Вопросы тестов часто касаются политики Китая и Си Цзиньпина. Чиновники также проверяют данные, использованные для обучения моделей. Спустя двадцать лет после введения «Великого китайского брандмауэра», блокирующего доступ к нежелательной информации, Китай вводит строгие правила для ИИ.
Один китайский стартап смог пройти экспертизу только со второй попытки. Причины первого отказа были неясны, и разработчики консультировались с коллегами. Процесс занял несколько месяцев. Трудность заключается в необходимости использования англоязычных материалов, идеологически отличающихся от китайских. В феврале власти выпустили руководство для компаний, работающих с ИИ, требующее создания базы данных слов и вопросов, противоречащих «базовым социалистическим ценностям».
Пользователи китайских чат-ботов уже заметили результаты этого процесса. Большинство систем отказываются отвечать на вопросы о событиях на площади Тяньаньмэнь 4 июня 1989 года или о сходстве Си Цзиньпина с Винни-Пухом, используя различные предлоги. В Китае был запущен альтернативный чат-бот, основывающийся на работах Си Цзиньпина и официальной литературе. ИИ не должен уклоняться от обсуждения политических тем и обязан отвечать на более 95% вопросов.
По информации https://hightech.fm/2024/07/19/ai-china-soc
Обозрение "Terra & Comp".
