Продвинутые ИИ-модели могут создать угрозу для мировой финансовой системы

Глава Банка Англии Эндрю Бейли предупредил министров финансов и руководителей центробанков стран G20 о растущих рисках, связанных с самыми продвинутыми моделями искусственного интеллекта. По его оценке, они могут повысить масштаб киберугроз и сделать финансовую систему уязвимее к крупным сбоям, передает BAQ.KZ со ссылкой на The Guardian.

Бейли выступил в этой теме как председатель международного Совета по финансовой стабильности, FSB. В письме участникам встречи G20 в США он отметил, что передовые модели ИИ демонстрируют все более высокую автономность и способности к решению сложных задач.

Главный риск для финансового сектора он связывает с кибербезопасностью. По его словам, ИИ способен заметно изменить скорость, масштаб и стоимость кибератак.

Особенно опасной ситуацию делает взаимосвязанность мировой финансовой системы. Сбой у крупного поставщика технологий или инфраструктуры может быстро затронуть компании и рынки сразу в нескольких странах.

Бейли обратил внимание и на то, что во многих юрисдикциях пока нет четких правил разработки, выпуска и развертывания наиболее мощных ИИ-моделей.

Отдельно он затронул ситуацию на рынках. Высокие оценки компаний, связанных с ИИ, рост заемных позиций и концентрация капитала, по его мнению, могут усилить последствия будущей коррекции.

Я по-прежнему обеспокоен тем, что крупный шок или сочетание нескольких шоков могут одновременно запустить сразу несколько уязвимостей, - написал Бейли.

В последние недели опасения вокруг наиболее мощных ИИ-систем высказывают и разработчики. The Guardian напоминает, что письмо с предупреждением о риске слишком быстрого развития ИИ подписали 1367 исследователей и инженеров из OpenAI, Anthropic и Google DeepMind.

Бейли призвал финансовые регуляторы разных стран выработать общие подходы к безопасному выпуску и работе передовых ИИ-моделей.