Права граждан и искусственный интеллект: что меняет Цифровой кодекс

Цифровой кодекс Республики Казахстан закладывает системную правовую основу для регулирования искусственного интеллекта, защиты персональных данных и развития цифрового правительства. Об этом рассказала главный эксперт управления архитектуры данных Министерства искусственного интеллекта и цифрового развития Республики Казахстан Гульхан Кулманова, сообщает корреспондент BAQ.KZ.

ИИ и алгоритмы: приоритет прав человека

По словам Гульхан Кулмановой, в Кодексе существенное место отведено развитию и применению искусственного интеллекта как ключевой технологии государственного управления и экономики данных.

"Цифровой кодекс закладывает системный и человекоцентричный подход к использованию систем искусственного интеллекта, исходя из приоритета прав, свобод и законных интересов человека".

В документе закреплены требования к применению алгоритмических и полностью автоматизированных решений, затрагивающих права граждан. Речь идет о принципах прозрачности, недискриминации и возможности человеческого контроля над такими решениями.

Гарантии для граждан при использовании алгоритмов

Впервые на уровне кодифицированного акта определяются базовые гарантии для граждан при применении алгоритмических систем и систем ИИ.

"Предусматривается право лица быть информированным о применении алгоритмического решения, получить объяснение ключевых факторов, повлиявших на результат, а также требовать пересмотра решения с участием уполномоченного специалиста", — подчеркнула эксперт.

Эти нормы действуют в случаях, когда автоматизированные решения влекут юридические последствия либо могут повлиять на законные интересы граждан.

Безопасность и качество систем искусственного интеллекта

Отдельный блок Кодекса посвящен безопасности и качеству цифровых объектов.

"Предусмотрено проведение аудита качества цифровых объектов, включая системы искусственного интеллекта, с оценкой правомерности использования библиотек данных для обучения моделей и наличия запрещенных функциональных возможностей", — отметила Кулманова.

Таким образом формируется правовой механизм предупреждения рисков, связанных с непрозрачностью, ошибочностью и потенциальной дискриминацией алгоритмических решений.

Персональные данные: согласие и контроль

Цифровой кодекс также усиливает защиту персональных данных в условиях роста цифровых сервисов. В соответствии с нормами документа физические лица признаются субъектами персональных данных, а их обработка и передача допускаются исключительно с согласия гражданина либо в случаях, прямо предусмотренных законодательством.

"Субъект персональных данных вправе требовать удаления, анонимизации либо ограничения обработки своих персональных данных, размещенных или обрабатываемых в цифровой среде", — пояснила эксперт.

Обязанности собственников и операторов цифровых объектов по защите данных закреплены в законодательстве о персональных данных и их защите.

Электронное правительство и принцип "одного окна"

Кодекс формирует целостную правовую основу для развития цифрового правительства и перехода к новому уровню цифровых госуслуг. Законодательно закрепляется единая цифровая архитектура государства, что позволяет уйти от разрозненных ведомственных ИТ-решений.

Для граждан и бизнеса это означает дальнейшее развитие принципа "одного окна": веб-портал и мобильное приложение цифрового правительства закрепляются как основные каналы получения государственных и иных услуг. Важным нововведением становится цифровое пространство гражданина, обеспечивающее прозрачность использования персональных данных и контроль за цифровыми событиями.

По оценке эксперта, реализация норм Цифрового кодекса позволит обеспечить ответственное и безопасное внедрение искусственного интеллекта, усилить защиту данных и создать открытую, ориентированную на человека цифровую экосистему государства.