Исследователь ушел из индустрии ИИ, заявив, что к концу 2027 года ситуация может выйти из-под контроля

27-летний исследователь Anthropic Джейкоб Коксон объявил об увольнении и уходе из индустрии искусственного интеллекта. Об этом он написал в X во вторник, 8 сентября

Последние три года я занимался исследованиями предобучения как в OpenAI, так и в Anthropic. Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями, - заявил он.

Коксон три года занимался предобучением моделей, этапом, на котором системы обучаются на больших массивах данных. Сначала он работал в OpenAI, а в 2026 году перешел в Anthropic. По данным WSJ, компанию он выбрал в том числе из-за ее репутации в вопросах безопасности ИИ.

Чего он боится

Речь идет о рекурсивном самоулучшении, когда ИИ берет на себя достаточную часть исследований в своей же области и начинает ускорять создание все более мощных версий самого себя.

Сроки исследователь называет короткие.

Мы движемся по одному из самых агрессивных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», - сказал Коксон в интервью The Wall Street Journal.

По его словам, внутри лабораторий сотрудники все чаще употребляют слова «crunchtime» и «endgame», то есть решающий момент и финальная стадия.

Не недооценивайте мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы, - написал он в X.

Публичная риторика руководителей отрасли, по его утверждению, расходится с тем, что они говорят между собой.

Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же самые люди выражают страх наедине», - говорится в его сообщении.

ретензия не к одной компании

Позиции двух своих работодателей Коксон разводит.

По его словам, в OpenAI многие не осознали в полной мере цивилизационные ставки. В Anthropic ставки понимают хорошо, но компания оказалась в гонке и исходит из того, что если не она, то ответственно этим не займется никто.

В интервью WSJ он подчеркнул, что работа Anthropic над безопасностью искренняя. Проблема, по его мнению, в самой конкуренции, которая делает компромиссы неизбежными.

Безнадежной ситуацию он при этом не считает.

Я оптимистично настроен относительно потенциала координации, - написал Коксон, добавив, что остановка глобальной гонки может потребовать дорогостоящих мер вплоть до временного запрета на улучшение возможностей моделей.

К коллегам он обратился напрямую, предложив задуматься, готовы ли они запускать обучение сверхразумного интеллекта, не понимая толком, как он устроен.

Не первый такой уход

Случай Коксона не первый. В феврале Anthropic покинул исследователь Мринанк Шарма, заявивший, что «мир находится в опасности». Он говорил не только об ИИ, но и о биологическом оружии и других глобальных рисках, и сообщал, что рассматривает возможность заняться поэзией.

Уход Коксона происходит на фоне подготовки Anthropic к IPO. The Wall Street Journal сообщала, что при размещении компания может получить оценку около 2 трлн долларов.