Исследователи Anthropic предположили, что к концу 2026 года небольшие языковые модели могут научиться самостоятельно распространяться по устройствам интернета вещей — подключенным к сети ТВ-приставкам, умным холодильникам и другой технике. Ее вычислительные ресурсы могут стать средой для работы ИИ и запуска его новых копий.
Для этого модель должна действовать как агент — система, которая с помощью программных инструментов выполняет задачи за человека. Например, многоступенчатые цепочки: пишет и запускает код, настраивает программы, проверяет результат — именно эти сценарии зачастую подразумеваются в обсуждениях растущей автономности ИИ. В данном случае рассматривается нетривиальный сценарий — обеспечить собственное продолжение работы на чужом оборудовании.
«Охота» за чужими вычислительными ресурсами началась задолго до появления современных ИИ-моделей. Злоумышленники и раньше объединяли зараженные устройства в ботнеты — сети под своим управлением. Их используют, например, для рассылки спама, атак на сайты или добычи криптовалюты за счет чужих ресурсов. Теперь в этой схеме рассматривается появление ИИ-компонента, который позволит программе автономно «разбираться» с незнакомыми устройствами. Но насколько компактной и одновременно самостоятельной сможет быть такая программа?
Образ «цифровой плесени» возник из сравнения, предложенного самой Anthropic. Авторы сравнивают медленно распространяющиеся копии ИИ со slime mold — простейшим, которое по принципу своего существования напоминает плесень. По оценке исследователей, на слабом оборудовании создание новой копии небольшой модели может занимать один-два дня.
Однако для объяснения самого механизма мне ближе аналогия с гриппом. Компьютерные вирусы получили свое название именно из-за способности «заражать» программы и создавать копии. Технически в обсуждаемом сценарии точнее говорить о черве — самостоятельной программе, которая распространяется по Сети. Но и ей нужна подходящая среда: чтобы действовать, код должен где-то исполняться. Без вычислительных ресурсов никакая самостоятельность модели не поможет.
В эксперименте Anthropic с цепочкой распространения справилась GLM-5.2. Правда, сама она работала на отдельном сервере и организовывала запуск меньшей модели на других узлах с упрощенным доступом. Это проверка необходимых способностей, а не полноценное переселение GLM в бытовую технику. В возможности модели я готов поверить: в июне специалисты Semgrep сообщили о ее сильных результатах в поиске ошибок, позволяющих пользователям получать чужие данные. Надежность работы на тысячах устройств — отдельный вопрос.
Главная проблема для вирусности — размер. У GLM-5.2 сотни миллиардов параметров — числовых значений, определяющих работу модели. Даже при сжатии для размещения всех параметров в памяти требуются сотни гигабайт, а для вычислений нужна дополнительная память. Уменьшение размера моделей с сохранением качества — отдельная большая задача, над которой постоянно работают в индустрии, в том числе в MWS AI. Такой подход позволяет экономнее использовать память и вычислительные мощности.
Однако у недорогих ТВ-приставок обычно всего несколько гигабайт оперативной памяти. Даже модель с миллиардом параметров при таком же представлении занимает около половины гигабайта только для их хранения. Далеко не всякий сервер располагает сотнями гигабайт памяти, тем более видеопамяти. Без GPU — графических процессоров, ускоряющих вычисления, — большая модель будет работать чудовищно медленно. А подходящий сервер еще нужно найти и получить к нему доступ.
В Anthropic показали и возможность запуска меньшей модели на нескольких приставках на Android TV. Но организовать такой запуск и самостоятельно повторить его — разные задачи. Нужно разделить модель между устройствами, настроить программы и обмен данными, согласовать работу всех частей. Небольшие модели пока ненадежно справляются со всей цепочкой.
Вырисовываются два сценария. В первом у большой модели достаточно способностей, но мало доступных мест для собственной работы. Это напоминает заболевшего гриппом человека на далеком хуторе: заразить других он может, но вряд ли кто-то окажется рядом. Во втором маленькие модели подходят для слабого оборудования, однако для их развертывания требуется внешняя помощь. Чем сильнее мы сжимаем модель, тем важнее проверить, сохранились ли ее возможности.
Второй сценарий реалистичнее. Для владельца устройства он во многом похож на заражение червем-криптомайнером, который использует чужие ресурсы для добычи криптовалюты.
Еще одно условие длительного существования вредоносной программы — незаметность. Чем сильнее она мешает пользователю, тем вероятнее обнаружение. Большие языковые модели требуют значительных ресурсов, а совместная работа нескольких устройств создает дополнительный сетевой трафик. Это облегчает выявление заражения, хотя и не гарантирует простого удаления всей сети.
Поэтому повторение сценария фильма «Превосходство», где цифровой интеллект сам стремительно расширяет свое влияние, сегодня представляется мне маловероятным. Разумеется, окончательно сказать «нет» такому варианту мы не можем. Но он скорее станет актуальным в том светлом завтра, когда в каждом школьном классе будет стоять сервер, способный запускать модель, сопоставимую по возможностям с GLM-5.2.
Автор — руководитель Центра разработки больших языковых моделей MWS AI
Позиция редакции может не совпадать с мнением автора
