«Правила ИИ не должны писать только создатели технологий» - эксперт КИСИ

Казахстану выгодно участвовать в формировании международных правил для искусственного интеллекта до того, как эти правила будут определены узким кругом технологических держав и компаний. Такое мнение высказала главный эксперт отдела глобальной экономики и устойчивого развития КИСИ при Президенте РК Жанна Булхаирова, комментируя предложение Касым-Жомарта Токаева по «Вашингтонской модели».

На третьем заседании Совета по развитию искусственного интеллекта Президент поддержал соглашение Дональда Трампа с руководителями крупнейших технологических компаний о безопасном и ответственном развитии ИИ. Касым-Жомарт Токаев предложил после экспертного изучения рассмотреть этот подход как возможную основу международного договора под эгидой ООН.

По словам Булхаировой, речь идет уже не только о регулировании новых технологий.

«Это предложение ставит вопрос о распределении ответственности за развитие искусственного интеллекта», - считает эксперт.

Она обращает внимание на то, что самые мощные технологии сегодня создаются ограниченным числом стран и компаний, но последствия их решений давно не ограничиваются территориями этих государств.

«Когда решения одной компании применяются в разных государствах, последствия возможных ошибок выходят за рамки отношений с отдельным пользователем. Необходимо договориться, кто оценивает риски, какие сведения должны предоставлять разработчики и как действовать при выявлении угрозы», - пояснила Жанна Булхаирова.

Четыре уровня контроля за ИИ

Эксперт отдельно разобрала устройство инициативы Трампа. По ее словам, ценность модели заключается в том, что принципы безопасности согласованы с компаниями, которые сами создают передовые системы искусственного интеллекта.

«Соглашение предусматривает четыре уровня контроля. Внутренние процедуры проверки моделей, отдельную команду, которая эти процедуры проверяет, независимую внешнюю оценку и надзор комитета совета директоров», - рассказала Булхаирова.

Предусмотрены и регулярные встречи участников, на которых должны обсуждаться стандарты безопасности.

«Такая конструкция переносит вопрос ответственности внутрь компании. Выявленная проблема должна дойти от технического специалиста до руководства, способного принять решение об ее устранении», - отметила эксперт.

При этом сама «Вашингтонская модель» остается добровольной. И в этом, по мнению Булхаировой, заключается один из вопросов, которые еще предстоит решить.

«Подписание закрепляет договоренность о принципах, а результат зависит от последующего исполнения. Поэтому при подготовке международной инициативы важно проработать вопросы верификации, независимости аудиторов, доступа к их заключениям и последствий существенных нарушений», - считает она.

Казахстан хочет участвовать в создании правил

По словам эксперта, для Казахстана участие в таком обсуждении имеет отдельное значение.

«Если стандарты безопасности ИИ вырабатываются узким кругом участников, они могут не учитывать интересы государств, которые в основном используют технологии, а не создают передовые модели», - сказала Булхаирова.

Казахстан готов предоставить площадку для международного диалога. Членам Совета по развитию искусственного интеллекта поручено подготовить предложения по инициативе страны. Общее видение планируется представить на саммите G20 в Майами в декабре.

«Готовность Казахстана выступить площадкой диалога и представить общее видение на саммите G20 в Майами позволяет внести в обсуждение позицию именно этой группы стран», - считает эксперт.

ИИ уже становится экономическим вопросом

Булхаирова связывает внешнюю инициативу Казахстана с темой самого заседания Совета. Его центральной темой стала глубокая цифровая перестройка промышленности.

По данным отчета ООН о промышленном развитии за 2026 год, которые привел Президент, искусственный интеллект вошел в число пяти мегатрендов, меняющих мировую экономику. За пять лет доля связанных с ИИ патентов в общем объеме заявок выросла примерно втрое.

«Конкурентоспособность все больше зависит от способности предприятий быстро внедрять технологии и повышать производительность», - отметила Булхаирова.

Для Казахстана этот вопрос уже измеряется конкретными экономическими показателями. За восемь месяцев объем промышленного производства составил около 46 трлн тенге, обрабатывающая промышленность выросла на 8,4%.

«Поддержание высоких темпов роста требует повышения производительности труда, модернизации предприятий и расширения выпуска продукции с высокой добавленной стоимостью. Именно такой экономический результат должен стать критерием внедрения ИИ», - считает эксперт.

Отдельные цифровые решения уже недостаточны

На заседании Касым-Жомарт Токаев обратил внимание на проблему фрагментарной цифровизации предприятий. Автоматизация отдельных операций не всегда меняет саму производственную модель.

«Автоматизация отдельных операций зачастую сохраняет прежнюю модель производства», - отметила Булхаирова.

Правительству совместно с «Самрук-Казына» поручено определить предприятия, где можно провести комплексную перестройку основных бизнес-процессов с помощью искусственного интеллекта. Успешные решения затем планируется распространять на другие предприятия.

Эксперт считает, что именно промышленность особенно нуждается в понятных правилах безопасности.

«Цифровая трансформация промышленности предполагает внедрение ИИ в процессы, где ошибка влечет не только финансовые, но и производственные риски. На предприятиях энергетики, горно-металлургического комплекса, транспорта и логистики», - отметила она.

По мнению Булхаировой, принципы многоуровневого контроля можно адаптировать и для промышленных систем искусственного интеллекта.

Задачи для ИИ должны идти с самих предприятий

Еще один блок связан с Qazaq AI Research University. Исследовательская программа университета, по мнению эксперта, должна строиться вокруг реальных запросов экономики.

«Актуальные задачи предстоит выявлять при участии инженеров, технологов, мастеров и операторов, тех, кто ежедневно видит простои оборудования, производственные потери и дефекты», - считает Булхаирова.

Дальше технологическая команда должна получить задачу и доступ к данным, разработать решение, испытать его непосредственно на предприятии и оценить экономический эффект.

«Проверенные решения должны быстрее переходить к коммерческому внедрению, без избыточных согласований и повторных испытаний в схожих условиях», - отметила эксперт.

Для этого, по ее мнению, потребуется и собственная техническая экспертиза.

«Внешняя оценка эффективна лишь при наличии специалистов, способных тестировать модели и проверять процедуры компаний. Поэтому логично уделить внимание подготовке кадров и развитию независимой технической экспертизы на базе университетов и исследовательских центров», - сказала Булхаирова.

Общие правила, считает она, придется дополнять отдельными требованиями для промышленности, финансового сектора, государственных услуг и других сфер, где ошибка алгоритма может иметь серьезные последствия.

«Полезным элементом стал бы понятный порядок информирования о сбоях и опасном поведении систем с четким распределением ответственности между разработчиком, оператором и регулятором», - добавила эксперт.

Что это дает Казахстану

Булхаирова напоминает, что в стране уже действует Концепция развития искусственного интеллекта на 2024–2029 годы, принят закон об искусственном интеллекте и определен профильный уполномоченный орган.

По ее мнению, участие в разработке международных требований позволит сократить риск расхождения между казахстанскими нормами и правилами, которыми руководствуются глобальные технологические компании.

Есть и экономическая сторона вопроса.

«Казахстан развивает вычислительную инфраструктуру и привлекает технологические проекты, а для партнеров важны предсказуемые и сопоставимые правила. Участие в выработке единых требований повышает доверие инвесторов и укрепляет позиции страны как надежной юрисдикции для размещения мощностей и пилотных проектов», - считает Булхаирова.

В итоге международная инициатива и внутренняя цифровая перестройка промышленности, по ее оценке, сходятся в одной точке.

«Поддержка "Вашингтонской модели" позволяет Казахстану соединить внутреннюю цифровую трансформацию с внешней инициативой, ускорять внедрение ИИ в реальном секторе и одновременно участвовать в создании международных правил его безопасного использования», - отметила эксперт.

Главным вопросом дальнейшей работы Булхаирова называет уже не саму необходимость правил, а то, какие положения «Вашингтонской модели» смогут реально работать за пределами США.

«Какие элементы этого подхода способны работать на международном уровне?» - резюмировала Жанна Булхаирова.