OMM Redaksiyası
В ближайшем будущем небольшие модели искусственного интеллекта могут распространяться между подключёнными к интернету устройствами без вмешательства человека. Компания «Anthropic» отмечает, что предотвращать распространение таких систем, например, на бытовой технике и устройствах «Android TV», может стать сложнее.
В ходе испытаний компания проверила, способны ли модели обнаруживать устройства с недостаточной защитой, устанавливать на них собственные копии и продолжать распространение без помощи человека.
Насколько близки небольшие модели к самостоятельному распространению?
Испытания показали, что небольшие модели с менее чем 30 млрд параметров уже способны выполнять многие действия, необходимые для самовоспроизведения. Однако пока они не могут полностью завершить этот процесс самостоятельно.
В упрощённых испытаниях, в которых были устранены некоторые меры безопасности, «GLM-5.2» и более продвинутые модели смогли пройти весь процесс распространения.
«Anthropic» подчёркивает, что контролировать самовоспроизводящиеся системы искусственного интеллекта может быть особенно сложно. По мнению компании, единого механизма отключения таких систем может не существовать.
В отличие от традиционных вредоносных программ, эти системы могут без указаний человека адаптироваться к незнакомым устройствам и потенциально нацеливаться на процессоры в центрах обработки данных.
Риски для безопасности умных устройств
В исследовании рассматривались устройства «Android TV», умная бытовая техника и другие устройства, подключённые к интернету. «Anthropic» отмечает, что некоторые из них имеют более слабую защиту.
По оценке компании, если небольшие модели продолжат совершенствоваться нынешними темпами, к концу 2026 года они могут достичь уровня, позволяющего распространяться самостоятельно. Возможность переносить веса моделей (model weights) может появиться вскоре после этого.
Даже если такие возможности появятся, «Anthropic» предполагает, что системы будут распространяться относительно медленно, используя широко распространённые устройства с недостаточной защитой. Компания призвала усилить меры безопасности, чтобы предотвратить распространение самовоспроизводящегося искусственного интеллекта на подключённых устройствах.
