Отношение к нейросетям и особенности использования ИИ в госструктурах

Этическое отношение к нейронным сетям меняется по мере их внедрения в различные сферы. Необходимо учитывать как потенциальные преимущества использования ИИ и нейросетей, так и риски. Наш эксперт Кирилл Беляков рассказал об этических вопросах применения ИИ, разобрал плюсы и минусы его внедрения в госструктурах, поделился прогнозом развития технологий

• Возрастающая автономность

Один из главных факторов изменения отношения к ИИ и нейросетям — их возрастающая автономность, то есть способность обосновывать и принимать решения.

Нейросети применяют в медицинской диагностике, прогнозировании и даже в судебной системе некоторых стран, например в Китае. В таких областях требуется высокая степень точности и прозрачности. Даже небольшие ошибки могут иметь катастрофические последствия. Возникает важный этический вопрос: кто несет ответственность за неверные выводы нейросети?

Подобные вопросы стимулируют разработку правовых и технических решений, направленных на повышение доверия к ИИ. Однако в настоящее время нейронным сетям часто отводится роль хороших помощников.

• Справедливость и инклюзивность

Использование нейросетей в коммерческой деятельности также вызывает дискуссии о справедливости и инклюзивности. Например, алгоритмы, обученные на предвзятых данных, могут усиливать социальные и экономические неравенства. Это становится очевидным в области кредитного скоринга, найма сотрудников или определения страховых ставок, где дискриминация может быть не явной, но ощутимой.

Современная этика требует более ответственного подхода к сбору данных и тестированию алгоритмов для выявления предвзятости. Это привело к развитию концепции «этики данных» и формированию требований к алгоритмам.

• Приватность и безопасность

Еще на отношение к нейросетям влияют вопросы приватности и безопасности. Нейронные сети анализируют огромные объемы данных, часто включая и личную информацию. Это вызывает опасения по поводу возможных утечек данных, их несанкционированного использования и, в конечном итоге, утраты контроля над личной информацией. Усиление регуляторных требований демонстрирует стремление общества к защите приватности. Например, в Европе есть свод правил, который называется General Data Protection Regulation (EU GDPR) — Общий регламент по защите данных.

• Дезинформация

Развитие технологий, таких как генерация изображений и текста, порождает фейковые новости, дипфейки и другие формы дезинформации. Это ставит под угрозу доверие к информации в обществе. Этический подход в этом контексте включает разработку инструментов для выявления дезинформации, а также регулирование использования таких технологий.

• Манипулирование

Этические вызовы также связаны с тем, как нейросети могут влиять на наше повседневное поведение. Например, персонализированные алгоритмы рекомендаций в соцсетях и онлайн-магазинах манипулируют нашим выбором, создавая «информационные пузыри» и усиливая зависимость от технологий. Это вызывает необходимость разработки стандартов, которые будут ограничивать манипулятивные практики и обеспечивать прозрачность алгоритмов.

Эволюция этического отношения к нейронным сетям показывает, что общество постепенно осознает их сложность и потенциальные риски. Становится очевидным, что внедрение таких технологий требует комплексного подхода, который сочетает технологические инновации с правовыми, культурными и этическими нормами. С увеличением масштаба применения ИИ будут возникать новые вызовы. Это делает этическую дискуссию необходимой и постоянной.

Использование ИИ в государственных структурах открывает огромные возможности, но одновременно вызывает серьезные этические вопросы.

• Повышение эффективности работы

Благодаря ИИ-технологиям может значительно повыситься эффективность работы госструктур. Например, автоматизация рутинных процессов увеличит скорость обработки данных, предоставления услуг и управления документооборотом. Это позволяет сотрудникам сосредоточиться на решении более сложных и творческих задач. Однако прежде чем внедрять ИИ в государственные структуры, требуется тщательная и всесторонняя оценка.

• Ускорение и упрощение предоставления услуг

Системы на основе ИИ могут значительно сократить время на обработку запросов граждан, избавить от ошибок и повысить доступность информации. Например, автоматизированные чат-боты способны консультировать граждан по вопросам получения документов или подачи заявлений, что упрощает взаимодействие с госорганами. Анализ больших данных помогает выявлять проблемы в социальной сфере, прогнозировать развитие кризисов и оптимизировать бюджетное планирование.

• Повышение прозрачности работы

Использование ИИ может повысить прозрачность работы государственных структур. Например, алгоритмы машинного обучения способны анализировать госзакупки для выявления неоптимальных процедур или оценивать эффективность реализации социальных программ. Это помогает укреплять доверие граждан к государству и улучшать качество управления.

• Риск утечки персональных данных

Государственные органы обладают доступом к огромным массивам конфиденциальной информации: паспортные данные, сведения о доходах, медицинские карты, регистрационные данные автомобилей и многое другое. При внедрении технологий ИИ обработка такой информации становится необходимым этапом. Особенно при разработке и обучении моделей машинного обучения, которые анализируют, классифицируют и прогнозируют на основе этих данных.

Привлечение подрядчиков для разработки ИИ-систем увеличивает вероятность утечек. Подрядчики могут получить доступ к данным или в процессе их обработки, или через недостаточно защищенные каналы передачи информации. Даже при наличии соглашений о конфиденциальности невозможно полностью исключить риск злоупотреблений или кибератак, направленных на серверы разработчиков. Это требует ужесточения политики информационной безопасности, что влечет за собой увеличение сроков разработки и дополнительные ограничения при выборе исполнителя.

• Зависимость от зарубежных вычислительных технологий

Эта проблема особенно актуальна для России в условиях геополитической напряженности и санкций. К примеру, графические процессоры NVIDIA (серии A100 и H100) являются основой для разработки и обучения современных моделей машинного обучения. Однако NVIDIA — американская компания и поставки ее продукции в страны, находящиеся по санкциями, ограничены.

Для России это создает двойную уязвимость. Во-первых, невозможность легально приобретать передовые решения ограничивает развитие отечественных ИИ-технологий. Это снижает конкурентоспособность на мировом рынке. Во-вторых, даже существующее оборудование, уже находящееся в стране, зависит от обновлений программного обеспечения и технической поддержки производителя, которые могут быть прекращены.

Такая ситуация вынуждает Россию искать альтернативы, включая развитие собственного производства GPU/TPU. Это требует значительных ресурсов и времени на организацию производства, в том числе выстраивание цепочек поставок. Еще один выход — сотрудничество с альтернативными поставщиками из стран, менее подверженных влиянию США, таких как Китай.

Однако отказ от западных технологий в краткосрочной перспективе неизбежно приведет к снижению скорости прогресса в области ИИ. Сейчас эквивалентные по мощности и надежности решения отсутствуют. Это подчеркивает стратегическую необходимость ускоренного развития суверенных вычислительных технологий для обеспечения независимости критически важных отраслей, таких как государственное управление, оборона и здравоохранение.

Сегодня лидером по применению ИИ является Федеральная налоговая служба. Также ИИ-технологии широко используются в МЧС и Росстат.

Использование ИИ в ФНС
ФНС активно использует интеллектуальные алгоритмы, которые помогают автоматизировать консультирование граждан по налоговым вопросам и выявлять правонарушения. Благодаря этому удалось значительно ускорить анализ данных и повысить оперативность обнаружения нарушений.

Такие технологии помогают создавать более прозрачную систему взаимодействия между гражданами и налоговыми органами. Например, граждане могут быстрее получать ответы на свои вопросы, а вероятность ошибок при расчете налогов снижается. Кроме того, ИИ помогает в повышении осведомленности населения по вопросам налогообложения, что способствует росту финансовой грамотности и уменьшению числа непреднамеренных ошибок, связанных с уплатой налогов.

Эти меры формируют доверительные отношения между государством и налогоплательщиками, укрепляют законность и прозрачность в экономической сфере.

Использование ИИ в МЧС
МЧС широко использует ИИ в прогнозировании чрезвычайных ситуаций и управлении ими. Одной из наиболее эффективных разработок стали алгоритмы, способные предсказывать уровень воды в реках, а также анализировать спутниковые снимки для распознавания разрушений после катастроф. Это позволило улучшить координацию спасательных операций, повысить точность прогнозов и минимизировать время реакции на стихийные бедствия. Быстрота реагирования в таких случаях имеет важное значение, поскольку от этого зависят жизни и здоровье людей, а также уровень материального ущерба. Использование ИИ делает кризисное управление более системным, снижает вероятность человеческих ошибок и повышает общий уровень готовности страны к природным и техногенным катастрофам.

Использование ИИ в Росстате
Росстат активно применяет ИИ для анализа экономических данных. С помощью алгоритмов машинного обучения обрабатываются данные с контрольно-кассовой техники, что позволяет в режиме реального времени следить за изменениями в потребительской корзине населения. Эти технологии обеспечивают более точное измерение таких важных показателей, как уровень инфляции, стоимость жизни и структура расходов граждан. Высокая точность данных повышает доверие граждан и бизнеса к публикуемым Росстатом экономическим отчетам. Кроме того, такие инновации способствуют оперативному выявлению экономических тенденций, что дает возможность принимать своевременные управленческие решения на уровне правительства и бизнеса. Все это делает экономическую статистику более прозрачной и доступной для анализа не только профессиональными аналитиками, но и широкой общественностью.

Внедрение технологий искусственного интеллекта в работу государственных ведомств открывает новые возможности для их модернизации. Это позволяет не только повысить эффективность работы, но и сделать процессы более доступными, прозрачными и ориентированными на нужды граждан.

В российский госсектор придут несколько технологий, базирующихся на ИИ. Среди них можно выделить автоматизацию рутинных процессов, внедрение интеллектуальных систем анализа данных, чат-боты и голосовые помощники, а также использование ИИ в прогнозировании и управлении.

Автоматизация рутинных процессов
Автоматизация рутинных процессов с помощью технологий RPA (Robotic Process Automation) вместе с ИИ значительно сокращает объем работы, связанный с обработкой документов, управлением реестрами и другими задачами. Такие системы способны обрабатывать большие объемы данных, выполнять сценарные действия и даже принимать простые решения. Это приведет к уменьшению сроков предоставления государственных услуг и снижению нагрузки на госслужащих.

Интеллектуальные системы анализа данных и Big Data
Интеллектуальные системы анализа данных и Big Data станут важной частью государственного управления. Они помогут анализировать данные о населении, экономике, инфраструктуре и других сферах, что позволит принимать более обоснованные и точные управленческие решения. Например, анализ данных о миграции населения, потребностях в жилье или состоянии дорожной инфраструктуры позволит быстрее выявлять проблемы и эффективно распределять ресурсы.

Использование ИИ в прогнозировании и управлении
ИИ активно будет применяться для прогнозирования и управления в таких сферах, как городское планирование, борьба с преступностью, управление чрезвычайными ситуациями и здравоохранение. Алгоритмы машинного обучения способны выявлять потенциальные зоны риска природных катастроф или анализировать данные видеонаблюдения для предотвращения правонарушений. Это позволит государству работать более активно, предотвращая проблемы, а не реагируя на них постфактум.

Внедрение чат-ботов и голосовых помощников
Такие помощники ускорят взаимодействие граждан с госструктурами. Они уже активно развиваются и могут предоставлять консультации по юридическим вопросам, помогать заполнять заявления и отслеживать статус обращений. Это улучшает доступ граждан к госуслугам, особенно в отдаленных регионах, и сокращает время ожидания.

Внедрение ИИ в российский госсектор приведет к значительной модернизации и оптимизации работы госаппарата, сделает его более гибким, технологически продвинутым и ориентированным на потребности граждан. Однако успех этой трансформации будет зависеть от грамотного планирования, инвестиций в инфраструктуру и подготовки кадров.