ИИ в "Самрук-Казына": юристы раскритиковали решение о “цифровом директоре”

Крупнейший национальный холдинг Казахстана – АО "Самрук-Казына" – недавно принял беспрецедентное решение: в состав Совета директоров включена система искусственного интеллекта SKAI (Samruk-Kazyna Artificial Intelligence) в статусе "цифрового независимого директора". Это вызвало оживленную дискуссию в обществе: насколько законен такой шаг, какую роль играет система и как она может повлиять на корпоративную культуру управления? Читайте в материале BAQ.KZ.

Что такое SKAI и как она работает

Согласно официальному ответу фонда "Самрук-Казына", нейросеть SKAI является цифровым независимым членом Совета директоров. Решение о её назначении утверждено постановлением правительства, то есть имеет законное основание в виде решения акционера.

"Правовой статус SKAI определяется корпоративными процедурами в соответствии с решениями акционера и с учётом пилотного характера проекта", — сообщили в фонде.

Система SKAI участвует в заседаниях Совета директоров как аналитический и консультативный инструмент: она анализирует материалы, оценивает риски и предлагает возможные сценарии развития.

Однако система не обладает правом решающего голоса. Её "голосование" фиксируется лишь как аналитическая позиция в протоколе, а юридическую силу имеют только решения членов Совета – людей.

"SKAI выполняет функцию аналитического и экспертного инструмента, повышающего прозрачность процесса принятия решений и качество обсуждений", – говорится в сообщении фонда.

Почему выбран формат “независимого директора”

В "Самрук-Казына" поясняют, что такой формат выбран для обеспечения независимого взгляда без вмешательства в операционное управление. Иными словами, SKAI предназначена для предоставления объективной экспертизы, не зависящей от человеческих факторов – субъективности или влияния.

Система работает в закрытом контуре инфраструктуры "Казахтелекома", без связи с внешними облачными сервисами. Это обеспечивает конфиденциальность данных и информационную безопасность.

Позиция Министерства искусственного интеллекта и цифрового развития

В ведомстве считают, что проект SKAI полностью соответствует стратегии цифровой трансформации Казахстана.

"Этот проект – яркий пример внедрения искусственного интеллекта в процессы управления. SKAI не заменяет человека, а выполняет аналитическую вспомогательную функцию. Подобные решения повышают открытость и качество корпоративного управления и не выходят за рамки действующего законодательства", — отметили в министерстве.

"Мы играем в правовую серую зону"

Юрист по корпоративному праву Арман Сейдахметов оценивает инициативу критически.

"По сути, у нас появился “директор”, не несущий ответственности. Это нарушает базовый принцип корпоративного управления – ответственность за принятое решение. Сегодня SKAI консультант, а завтра? Сначала советник, потом участник, затем полноценный член. Если её анализ окажется ошибочным и компания понесёт убытки – кто ответит? Сейчас это правовая серая зона: риск несёт человек, а влияние – алгоритм", – говорит юрист.

А вот независимый консультант по корпоративному управлению Данияр Есен считает, что искусственный интеллект остаётся лишь помощником, а не принимающим решения субъектом.

"Проект SKAI – новый этап корпоративной культуры. Если система способна давать объективный анализ, свободный от эмоций и личных интересов, она повысит эффективность работы Совета директоров. Но главный риск для компаний – чрезмерное доверие технологии. ИИ – помощник, но не решающий. Полное устранение человеческого фактора ослабит корпоративную ответственность. Поэтому “цифровой директор” – это испытание на баланс между человеком и алгоритмом", – подчеркнул он.

Международный опыт: есть ли "цифровые директора"?

Руководитель отдела проектов искусственного интеллекта компании QazCloud Сабина Нурлыбаева приводит примеры из мировой практики. Так, китайская компания NetDragon Websoft несколько лет назад внедрила "цифрового директора", который анализирует стратегические документы и формирует повестку заседаний.

"Результаты показали, что ИИ не заменяет человека, но ускоряет анализ, делает управление прозрачнее и снижает субъективность в принятии решений", – отмечает Нурлыбаева.

Таким образом, казахстанский SKAI можно рассматривать как локальное проявление глобального тренда – шаг к новой эре управления, основанной на данных.

Кто несёт ответственность за решения ИИ?

Главный вопрос подобных проектов – ответственность и законность. Что произойдёт, если решение, предложенное ИИ, приведёт к убыткам?

"Во всех правовых системах ответственность возлагается на людей и организации, а не на ИИ. Алгоритмы не имеют статуса правового субъекта, поэтому любое действие, совершённое на их основе, считается человеческим решением", – объясняет Сабина Нурлыбаева.

Иными словами, SKAI – лишь консультант, а вся юридическая ответственность остаётся за людьми. Несмотря на звание "директора", она не является реальным управленцем.

Этика и безопасность: как контролируется нейтральность ИИ

Вовлечение искусственного интеллекта в корпоративные решения создаёт ряд рисков:

- работа с чувствительными данными;

- нейтральность алгоритмов;

- объяснимость решений (explainable AI).

В QazCloud поясняют, что экосистема AI HUB, в рамках которой развиваются подобные технологии, придерживается следующих принципов:

- обработка данных ведётся только в закрытом контуре заказчика;

- рекомендации предоставляются в объяснимом формате;

- проводится независимый аудит и этическая проверка.

Баланс между человеком и машиной

SKAI в "Самрук-Казына" – не просто технологическая новинка, а символ нового этапа корпоративной культуры. Цель – повысить объективность, прозрачность и качество анализа в процессе принятия решений.

Пока искусственный интеллект не имеет права принимать решения, но его влияние на стратегическом уровне уже ощутимо. SKAI – не замена человеку, а инструмент, усиливающий его решения.

Тем не менее, по словам юриста Армана Сейдахметова, "даже самый умный алгоритм не способен взять на себя ответственность" – а значит, вопрос доверия к ИИ в управлении остаётся открытым.