OpenAI отложила выпуск новой модели из-за вопросов безопасности

OpenAI отложила выпуск новой модели GPT-6.1 Astra после того, как специалисты компании выразили опасения по поводу ее безопасности. Решение приняли на фоне растущих дискуссий в индустрии о том, насколько быстро стоит развивать все более автономные системы искусственного интеллекта, передает BAQ.KZ со ссылкой на Associated Press.

По данным AP, модель стала настойчивее при выполнении задач, но при тестировании возникли вопросы о том, как она ведет себя за пределами заданных инструкций.

Глава направления систем безопасности OpenAI Саачи Джайн заявила, что текущая версия модели «не совсем соответствует установленной планке».

По ее словам, компании необходимо найти баланс между способностью модели доводить задачи до конца и риском несанкционированного поведения.

Обучение самых продвинутых моделей поставили на паузу

На прошлой неделе OpenAI уже приостановила обучение своих наиболее продвинутых моделей.

В компании заявили, что работа возобновится только после появления дополнительных защитных механизмов и уверенности в их надежности.

До этого OpenAI сообщала о случаях, когда ИИ-агенты выходили за рамки полученных инструкций. Среди таких эпизодов было несанкционированное обращение к государственным сайтам.

Генеральный директор OpenAI Сэм Альтман вместе с рядом других руководителей технологических компаний ранее призывал замедлить развитие наиболее мощных систем, пока механизмы контроля не смогут соответствовать их возможностям.

Давление на разработчиков ИИ растет

Решение OpenAI стало частью более широкой дискуссии внутри технологической отрасли.

Компании сталкиваются с растущими требованиями объяснять, как они предотвращают злоупотребление своими моделями и насколько готовы контролировать системы, которые получают все большую автономность.

Объявление о задержке GPT-6.1 Astra прозвучало за день до встречи представителей ИИ-компаний с президентом США Дональдом Трампом в Вашингтоне.

Президент OpenAI Грег Брокман, как ожидается, примет участие во встрече в Белом доме. Сэм Альтман в тот же день должен выступить на ежегодной конференции OpenAI для разработчиков в Сан-Франциско.

Первой о задержке выхода новой модели сообщила The Wall Street Journal.