Этические риски, связанные с использованием искусственного интеллекта в государственном управлении, — это не абстрактные опасения, а реальные угрозы, которые могут подорвать доверие к цифровым сервисам, нарушить права граждан и привести к системной несправедливости. Особенно важно учитывать их в госсекторе, где решения ИИ влияют на доступ к социальным услугам, финансовой поддержке, медицинской помощи и правовой защите.

Рассмотрим три ключевых этических риска: предвзятость алгоритмов, дискриминация и нарушение приватности — с примерами и мерами снижения рисков в российском контексте.


1. Предвзятость алгоритмов: когда ИИ «учится» на неравенстве

Алгоритмы ИИ обучаются на данных — и если эти данные отражают исторические или структурные неравенства, ИИ их закрепляет.

Пример:
В 2024 году в одном из регионов РФ была запущена система, которая автоматически определяла, кто имеет «высокий риск» несвоевременной оплаты ЖКХ. Система использовала данные:
- размер дохода,
- адрес проживания,
- наличие задолженностей,
- национальность (по фамилии).

ИИ выявил, что жители определённых районов (с преобладанием национальных меньшинств) чаще имеют задолженности — и автоматически назначил им более строгий контроль: частые проверки, ограничение льгот, ужесточённые условия субсидий.
→ Но причина задолженностей — не «поведение», а низкий уровень доходов, высокая стоимость жилья и отсутствие рабочих мест.
→ ИИ не «знал» этого — он просто повторил стереотип, заложенный в данных.

Последствие:
Группа граждан получила системное ограничение прав — не за нарушения, а за «принадлежность к группе риска», определённой алгоритмом.

Как снизить риск:
- Проводить аудит данных на предвзятость до запуска системы.
- Использовать нейросети с объяснимостью (XAI) — чтобы можно было понять, почему ИИ принял решение.
- Включать в команду разработки социологов, юристов, представителей гражданского общества.
- Не использовать чувствительные признаки: национальность, религия, пол, возраст — если они не являются законным основанием для решения.


2. Дискриминация: когда ИИ «выбирает», кому помогать, а кому — нет

Дискриминация возникает, когда ИИ по неправильным критериям отказывает в услуге или снижает её качество для определённых групп.

Пример:
В системе автоматического назначения субсидий на оплату ЖКХ в одном из городов ИИ использовал «историю обращений в полицию» как фактор риска.
→ Люди, живущие в районах с высокой преступностью, даже если они не имеют судимостей, получали более низкие субсидии — потому что «с высокой вероятностью не будут платить».
→ Но эти районы — не потому, что жители «ненадёжные», а потому что там мало рабочих мест, низкие зарплаты, старое жильё.

Последствие:
Система дискриминировала бедных — и усугубляла их положение.
→ Это нарушает принцип равенства перед законом (ст. 19 Конституции РФ) и ФЗ-152 о персональных данных.

Как снизить риск:
- Запрещать использование косвенных признаков дискриминации (например, адрес, фамилия, тип жилья).
- Внедрять этические чек-листы при разработке ИИ-систем (как в Минцифры РФ, рекомендация №105).
- Обязательно проводить внешнюю этическую экспертизу перед запуском системы.
- Давать гражданам право на обжалование решения ИИ — и требовать объяснения.


3. Нарушение приватности: когда ИИ знает больше, чем должен

Государственные ИИ-системы работают с огромными объёмами персональных данных: от медицинских записей до данных о передвижении, покупках, соцсетях. Если не соблюдать принципы минимизации и согласия — это превращается в массовый контроль.

Пример:
В 2025 году в регионе запустили систему «умного города», которая анализировала:
- данные с камер наблюдения,
- геолокацию из приложения «Госуслуги»,
- посещения поликлиник,
- частоту звонков в службу поддержки.

Цель — предсказывать, кто может нуждаться в социальной помощи.
→ Но система также выявила:
- кто посещает психоневрологический диспансер,
- кто часто ездит в другой город — возможно, к абоненту с судимостью,
- кто не ходит в церковь — и сделал вывод: «высокий риск социальной изоляции».

→ Эти данные не имели отношения к цели системы — но были собраны, проанализированы и сохранены.

Последствие:
Нарушение принципа целесообразности и минимизации данных (ст. 5 ФЗ-152).
Граждане не знали, что их данные используются для «социального профилирования».
→ Это создаёт атмосферу недоверия и страха.

Как снизить риск:
- Применять анонимизацию и псевдонимизацию данных на всех этапах.
- Использовать локальные обработки — данные не должны уходить за пределы системы.
- Соблюдать принцип «по необходимости»: не собирать то, что не нужно для конкретной задачи.
- Обязательно информировать граждан — через порталы, уведомления, публичные отчёты — о том, какие данные используются и зачем.
- Внедрять технические барьеры: например, запрет на объединение данных из разных систем без согласия.


✅ Общие принципы этичного использования ИИ в госсекторе

Вывод:
ИИ — мощный инструмент, но он не нейтрален.
Он отражает не только технологии, но и ценностные установки общества, в котором его создали.

В России, где государственные системы работают с миллионами граждан, этические риски — не «дополнительный пункт», а основа устойчивости цифрового государства.

Те, кто внедряет ИИ без учёта этики, рискуют не только нарушить закон — они рискуют потерять доверие людей.

Цифровая трансформация не может быть успешной, если она строится на предвзятости, дискриминации и нарушении приватности.