Anthropic предупредила о возможном появлении самокопирующегося ИИ уже в ближайшие месяцы

Небольшие ИИ-модели могут уже в ближайшие месяцы приблизиться к способности самостоятельно копировать себя на подключенные к интернету устройства. Исследователи Anthropic считают, что потенциальной средой для такого распространения могут стать смарт-ТВ, камеры и другая бытовая техника.

В Anthropic проверили, способны ли современные модели самостоятельно запускать ИИ на незнакомом оборудовании, переносить рабочую копию на другое устройство и продолжать этот процесс дальше.

В одном из экспериментов модель с 9 млрд параметров смогла настроить запуск ИИ на восьми из девяти типов оборудования.

Исследователи отмечают, что модели размером до 30 млрд параметров уже справляются со многими отдельными этапами саморепликации. Пока основной проблемой остается способность без ошибок пройти всю цепочку от поиска нового устройства до запуска модели на нем.

В упрощенном тесте GLM-5.2 смогла выполнить полный цикл репликации. Модель находила новое устройство, передавала туда необходимые данные, запускала ИИ и продолжала распространение.

При этом сами авторы подчеркивают, что эксперимент проводился в контролируемой среде, а задача проникновения на устройства была существенно упрощена. Поэтому исследование не означает, что подобный ИИ уже способен самостоятельно распространяться по обычному интернету.

ИИ запустили на 15 ТВ-приставках

Отдельный эксперимент Anthropic показал, что мощный дата-центр для работы такой системы может оказаться необязательным.

Исследователи запустили модель Gemma4-26B-A4B сразу на 15 недорогих Android TV-приставках стоимостью около 55 долларов каждая.

Модель разделили на части, которые одновременно работали на разных устройствах. В итоге группа обычных ТВ-приставок смогла совместно обслуживать ИИ-модель с 26 млрд параметров.

Авторы считают, что в будущем подобные системы могут обратить внимание на устройства интернета вещей, которые постоянно подключены к сети и часто защищены хуже компьютеров и серверов.

Среди потенциальных устройств исследователи упоминают смарт-ТВ, камеры, умные холодильники, духовки, роботы-пылесосы и другую технику с собственными вычислительными ресурсами.

Почему это отличается от обычного компьютерного червя

Традиционные вредоносные программы обычно создаются под определенные типы устройств и программного обеспечения.

ИИ-система потенциально способна самостоятельно разбираться с незнакомым оборудованием, подбирать способ запуска и приспосабливаться к новой среде.

В Anthropic считают, что это может сделать будущие ИИ-черви более универсальными по сравнению с обычными ботнетами.

При этом скорость их распространения на бытовой технике пока остается низкой. По оценкам исследователей, перенос и запуск небольшой модели на слабом оборудовании может занимать больше суток.

Полноценного автономного ИИ-червя пока нет

Anthropic отдельно указывает, что в ходе исследования не был создан полноценный неконтролируемый ИИ-червь, способный самостоятельно распространяться в реальных сетях.

Работа показывает другое. Современные модели уже умеют выполнять многие отдельные действия, необходимые для автономной репликации, а разрыв между размером модели и уровнем ее возможностей постепенно сокращается.

По оценке исследователей, если развитие небольших моделей продолжится нынешними темпами, модель подходящего размера может достичь необходимого уровня возможностей уже к концу 2026 года.

Среди мер защиты авторы называют мониторинг необычного сетевого трафика, повышение требований к безопасности бытовой электроники и быструю изоляцию зараженных устройств.

При массовом распространении такой системы она, вероятно, оставляла бы заметные следы в сети из-за передачи крупных файлов модели и интенсивного обмена данными между устройствами.