Anthropic предупредила об угрозе самовоспроизводящихся ИИ-вирусов
Компактные модели искусственного интеллекта (ИИ), способные к самостоятельной репликации на коммерческих устройствах интернета вещей (IoT), могут появиться на рынке в ближайшие месяцы. Об этом 13 октября сообщила американская ИИ-лаборатория Anthropic.
«Мы ожидаем, что в будущем нас ждет множество агентов, работающих на самых разных типах оборудования, включая то, которое не находится под управлением человека», — говорится в заявлении на сайте компании.
По словам представителей ИИ-разработчика, автономные программы-репликаторы смогут заражать умные бытовые духовки и бюджетные ТВ-приставки на базе операционной системы Android, причем остановить их распространение будет крайне сложно из-за полного отсутствия единого центра управления.
В компании пояснили, что, в отличие от классического вредоносного софта, новые интеллектуальные системы способны самостоятельно распознавать незнакомые им типы аппаратного обеспечения. В ходе проведенных испытаний тестируемая ИИ-модель уже успешно выполнила задачи вывода на восьми из девяти предложенных прототипов стороннего электронного оборудования.
Основатель компании Microsoft Билл Гейтс 25 сентября заявил, что неконтролируемое развитие ИИ способно обернуться катастрофой и потерей до миллиарда жизней. Разработчик призвал своих коллег как можно скорее начать создание механизма, который позволил бы осуществлять мониторинг систем для противодействия использованию технологии злоумышленниками.
