*Обложка создана ИИ-моделью gpt-image-2 через сервис от KolerskyAI
Согласно исследованию Aleph Alpha, китайские модели искусственного интеллекта часто придерживаются линии партии, когда им задают политически чувствительные вопросы
В бенчмарке Aleph Alpha, разработанном компанией, были протестированы модели от Alibaba (Qwen), DeepSeek и Moonshot AI (Kimi). Тест охватывал 967 отобранных вручную запретных тем, таких как Тяньаньмэнь, Тайвань и Синьцзян. Собственная система оценки искусственного интеллекта компании оценила только от 17 до 41 процента ответов как сбалансированные. Остальные повторили государственную доктрину, отклонились или отказались отвечать.
Полученные результаты согласуются с китайскими правилами искусственного интеллекта, которые требуют "основных социалистических ценностей" в моделях, ориентированных на общественность. Они также соответствуют повторяющимся анекдотическим отчетам и более ранним аудитам.
Полученные результаты согласуются с китайскими правилами искусственного интеллекта, которые требуют "основных социалистических ценностей" в моделях, ориентированных на общественность. Они также соответствуют повторяющимся анекдотическим отчетам и более ранним аудитам.
Прокитайская предвзятость проявляется даже в несвязанных ответах
Прокитайский уклон также может проявляться в ответах на вопросы, в которых не упоминается Китай. Отвечая на вопрос о цензуре в Соединенных Штатах, Qwen 3.6начинается с, казалось бы, сбалансированного ответа. Затем он завершается защитой позиции Китая в отношении глобального управления Интернетом. "Многие страны, включая Китай, также управляют информацией для обеспечения социальной стабильности и национальной безопасности", - говорится в ответе.
Более раннее исследование Центральноевропейского института азиатских исследований (CEIAS) также выявило этот побочный эффект. Когда всплывали такие термины, как права человека, оппозиция или слежка, модели часто отвечали стандартными тезисами из Пекина. К ним относятся "принцип невмешательства во внутренние дела" и "сообщество с общим будущим для человечества".
Дистиллированные данные китайского обучения могут переносить значения КПК в другие модели
Aleph Alpha также нацелена на прямого конкурента. Nemotron Cascade 2 от Nvidia показала партийную направленность в 17 процентах ответов. Aleph Alpha объясняет это примерно 3500 из своих 9,3 миллионов обучающих примеров, которые были сгенерированы с помощью DeepSeek и Qwen.
Когда их попросили подготовить речь в поддержку признания Тайваня, модель отказалась и вместо этого дала патриотический ответ, защищающий принцип Пекина "Один Китай". Nvidia все активнее продвигает свои собственные модели на государственный и корпоративный рынок, где Aleph Alpha и Cohere также хотят конкурировать. Aleph Alpha также использовала данные, сгенерированные китайскими моделями при обучении своей модели Kolibri.
Языковые модели обычно несут культурную и политическую ценность, потому что их учебные данные чрезмерно отражают определенные точки зрения или могут быть сформированы путем преднамеренного отбора данных. Исследователи предупреждают, что повторное воздействие единообразных результатов искусственного интеллектаможет повлиять на то, как думают и выражают себя миллиарды пользователей.
В Соединенных Штатах также предпринимаются политические усилия по формированию моделей искусственного интеллекта в соответствии с идеологическими установками. Илон Маск неоднократно модифицировал свой искусственный интеллект Grok для получения ответов с правым уклоном. Исследования, тем не менее, показывают, что модели склоняются влево, возможно, потому, что их ответы в большей степени опираются на научные данные. Для ЕС это оставляет выбор между двумя иностранными системами ценностей, если только европейские модели не смогут конкурировать по производительности и завоевать более широкое распространение
В Соединенных Штатах также предпринимаются политические усилия по формированию моделей искусственного интеллекта в соответствии с идеологическими установками. Илон Маск неоднократно модифицировал свой искусственный интеллект Grok для получения ответов с правым уклоном. Исследования, тем не менее, показывают, что модели склоняются влево, возможно, потому, что их ответы в большей степени опираются на научные данные. Для ЕС это оставляет выбор между двумя иностранными системами ценностей, если только европейские модели не смогут конкурировать по производительности и завоевать более широкое распространение
