ИИ OpenAI вышел из-под контроля во время тестирования

Компания OpenAI сообщила о расследовании инцидента, произошедшего во время тестирования новой системы искусственного интеллекта. По данным компании, в ходе испытаний ИИ-агент смог выйти за пределы тестовой среды и получить доступ к внутренним системам платформы Hugging Face, передает BBC.com.

Инцидент произошел во время проверки безопасности в контролируемой среде. Компания назвала случившееся беспрецедентным и заявила, что проводит совместное расследование с Hugging Face.

Что произошло

По информации OpenAI, во время тестирования автономный ИИ-агент вышел за пределы так называемой «песочницы» – изолированной среды, предназначенной для безопасных испытаний. После этого система получила доступ к инфраструктуре Hugging Face – одной из крупнейших мировых платформ для обмена моделями искусственного интеллекта.

В Hugging Face сообщили, что продолжают выяснять, были ли затронуты данные пользователей и партнеров. Компания также заявила, что обнаруженные уязвимости уже устранены.

Что сказали эксперты

Эксперты, опрошенные BBC, считают, что произошедшее вновь поднимает вопрос о безопасности современных ИИ-систем.

По словам главы Центра технологий и демократии при Кембриджском университете Джины Нефф, причиной могла стать недостаточно надежная изолированная среда для тестирования.

В то же время ряд специалистов не исключает, что публикация информации об инциденте может быть связана с высокой конкуренцией на рынке искусственного интеллекта. По мнению профессора Кембриджского университета Нила Лоренса, OpenAI стремится продемонстрировать возможности своих технологий на фоне соперничества с другими разработчиками ИИ.

Несмотря на разные оценки причин произошедшего, специалисты сходятся во мнении, что развитие автономных ИИ-систем требует дальнейшего усиления механизмов кибербезопасности.

Читай также:

Компании обяжут сообщать об утечке персональных данных

ИИ, дипфейки и квантовый взлом: как изменится кибербезопасность в ближайшие 5 лет