Разработчики ИИ признались, что могут не удержать контроль над своими системами

Люди, которые создают искусственный интеллект, попросили правительство США помочь научиться его притормаживать. Более 1200 сотрудников передовых ИИ-компаний подписали заявление под названием Pacing the Frontier, передает BAQ.KZ.

Среди подписантов главный научный сотрудник OpenAI Якуб Пахоцки, соучредитель и директор по науке Anthropic Джаред Каплан, главный научный сотрудник Meta AI Шенцзя Чжао и соучредитель Google DeepMind Шейн Легг. Подпись поставил и глава Anthropic Дарио Амодеи.

Авторы обращения признают, что технология способна изменить будущее к лучшему, но такой исход не считают предопределенным.

«ИИ может помочь создать значительно лучшее будущее, но такой исход не гарантирован. Ведущие мировые компании в области ИИ считают, что они, возможно, близки к автоматизации исследований в этой сфере», - говорится в заявлении.

Главное опасение подписантов состоит в том, что машины начнут совершенствовать сами себя быстрее, чем люди успеют разобраться в результате.

«Существует реальный риск того, что развитие возможностей ИИ стремительно ускорится, выйдя за пределы нашей способности понимать или контролировать создаваемые системы», - предупреждают авторы.

При этом остановиться в одиночку никто не может. Подписанты отмечают, что и компании, и целые страны находятся под сильным конкурентным давлением, которое не позволяет замедлять темпы в одностороннем порядке. Инструментов, позволяющих согласованно задавать темп всей отрасли, в мире пока нет.

Поэтому обращение адресовано Вашингтону.

«Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития передового автоматизированного ИИ», - сказано в документе.

Заявление не требует остановки исследований или моратория. Речь идет о создании возможности нажать на тормоз, если она понадобится.

Обе крупнейшие компании публично поддержали письмо своих сотрудников. В OpenAI заявили, что в будущем ускорение разработки передовых моделей может стать настолько сильным, что миру придется задавать темп развития технологии. В Anthropic сослались на собственное исследование рекурсивного самосовершенствования, опубликованное месяцем ранее, и назвали его доводом в пользу инструментов сдерживания темпа.

Напомним, похожая петиция появилась в 2023 году. Ее подписали более 33 тысяч человек, в том числе Илон Маск и соучредитель Apple Стив Возняк.

Читай также: 

ИИ-агент OpenAI оставил будущим версиям себя инструкции по обходу ограничений 
Чужие чаты с Claude попали в выдачу Google вместе с паролями и данными кошельков