Разработчики ИИ признались, что могут не удержать контроль над своими системами
Люди, которые создают искусственный интеллект, попросили правительство США помочь научиться его притормаживать. Более 1200 сотрудников передовых ИИ-компаний подписали заявление под названием Pacing the Frontier, передает BAQ.KZ.
Среди подписантов главный научный сотрудник OpenAI Якуб Пахоцки, соучредитель и директор по науке Anthropic Джаред Каплан, главный научный сотрудник Meta AI Шенцзя Чжао и соучредитель Google DeepMind Шейн Легг. Подпись поставил и глава Anthropic Дарио Амодеи.
Авторы обращения признают, что технология способна изменить будущее к лучшему, но такой исход не считают предопределенным.
«ИИ может помочь создать значительно лучшее будущее, но такой исход не гарантирован. Ведущие мировые компании в области ИИ считают, что они, возможно, близки к автоматизации исследований в этой сфере», - говорится в заявлении.
Главное опасение подписантов состоит в том, что машины начнут совершенствовать сами себя быстрее, чем люди успеют разобраться в результате.
«Существует реальный риск того, что развитие возможностей ИИ стремительно ускорится, выйдя за пределы нашей способности понимать или контролировать создаваемые системы», - предупреждают авторы.
При этом остановиться в одиночку никто не может. Подписанты отмечают, что и компании, и целые страны находятся под сильным конкурентным давлением, которое не позволяет замедлять темпы в одностороннем порядке. Инструментов, позволяющих согласованно задавать темп всей отрасли, в мире пока нет.
Поэтому обращение адресовано Вашингтону.
«Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития передового автоматизированного ИИ», - сказано в документе.
Заявление не требует остановки исследований или моратория. Речь идет о создании возможности нажать на тормоз, если она понадобится.
Обе крупнейшие компании публично поддержали письмо своих сотрудников. В OpenAI заявили, что в будущем ускорение разработки передовых моделей может стать настолько сильным, что миру придется задавать темп развития технологии. В Anthropic сослались на собственное исследование рекурсивного самосовершенствования, опубликованное месяцем ранее, и назвали его доводом в пользу инструментов сдерживания темпа.
Напомним, похожая петиция появилась в 2023 году. Ее подписали более 33 тысяч человек, в том числе Илон Маск и соучредитель Apple Стив Возняк.
Читай также:
ИИ-агент OpenAI оставил будущим версиям себя инструкции по обходу ограничений
Чужие чаты с Claude попали в выдачу Google вместе с паролями и данными кошельков