Искусственный интеллект и социальный рейтинг в Китае: риски слежки

Внедрение технологий искусственного интеллекта в китайскую систему социального кредита способно превратить её в масштабный инструмент наблюдения за гражданами и прогнозирования их поведения. К такому выводу пришёл исследователь Линь Цзяньсин из Journal of Sichuan Normal University, опубликовавший научную работу о рисках алгоритмического профилирования.

• Исследование предупреждает о возможном переходе от оценки реальных поступков к прогнозированию поведения.
• Алгоритмы могут использовать финансовую историю, действия и социальные связи для отнесения граждан к группе риска.
• Упоминается исследование Стэнфордского университета 2025 года о локальных программах оценки жителей в Китае.

Как устроена система социального кредита сегодня

Существующая система социального кредита в Китае не представляет собой единую общенациональную базу с универсальным рейтингом для каждого гражданина. Она объединяет различные механизмы, включая финансовую оценку кредитоспособности, чёрные списки правонарушителей, а также локальные программы поощрений и наказаний. Эти элементы влияют на доступ граждан к финансовым займ-услугам и другим благам.

По мнению Линь Цзяньсина, внедрение ИИ позволит обрабатывать колоссальные массивы данных о человеке. Алгоритмы смогут выстраивать прогнозы и относить людей к категориям повышенного риска до того, как они совершат какое-либо правонарушение. В результате административные меры и ограничения могут применяться на основе вероятностных моделей, а не реальных фактов нарушения закона.

Опыт местных программ и выводы ученых

В научной работе также рассматриваются результаты исследования Стэнфордского университета 2025 года, анализировавшего систему социального кредита в одном из китайских городов. В рамках той программы взрослые жители начинали с 1000 баллов, которые корректировались в зависимости от соблюдения 389 правил. Учитывалось даже политическое поведение, например, подача обращений в госорганы, а участники с низким рейтингом могли оказаться под наблюдением полиции.

При этом авторы подчёркивают, что единой общенациональной системы тотального контроля на данный момент не существует. Исследование не содержит доказательств того, что правительство Китая уже планирует масштабное внедрение ИИ для предиктивного наказания граждан. Работа носит превентивный характер и призывает разработать механизмы защиты частной жизни.

Перспективы и возможные последствия для общества

Главное опасение исследователей заключается в том, что алгоритмическое прогнозирование может затронуть права невиновных людей. Жители сельской местности в рамках изученных локальных программ уже сталкивались с меньшими возможностями для получения поощрительных баллов по сравнению с горожанами, что создавало неравенство.

Предупреждение китайского исследователя направлено на то, чтобы предотвратить избыточное вмешательство технологий в личную жизнь граждан в будущем. Если предиктивные алгоритмы станут основой для административных решений, потребуется строгий контроль за их прозрачностью и справедливостью, исключающий наказание людей за ещё не совершённые действия.