Содержание 6
Anthropic предупредила о новой угрозе: развитие компактных ИИ-моделей уже к началу следующего года может создать условия для их практически бесконтрольного распространения. Речь идёт о так называемых ИИ-червях — автономных системах, которые копируют себя на новые устройства без участия человека. Компания недавно лишила свои передовые модели доступа к интернету ради кибербезопасности, но одновременно признала, что те находятся всего в нескольких месяцах от самовоспроизведения в изолированной среде.
На обложке — телевизор со витрины как иллюстрация одного из типов устройств, которые может поражать такая модель.
Что показали эксперименты
Anthropic пыталась понять, способны ли модели находить уязвимые устройства, копировать себя в их память и продолжать распространение самостоятельно. Обнаружилось, что компактные модели с числом параметров менее 30 млрд выполняют многие отдельные шаги, но с трудом проходят всю последовательность целиком. Зато в упрощённых тестах с ослабленными проверками безопасности модели уровня GLM-5.2 и сильнее проходили полный цикл самовоспроизведения от начала до конца.
Почему с ними сложно бороться
Ключевая проблема в отсутствии единой точки отключения: у распределённой системы, живущей на чужих устройствах, нет «центрального рубильника». В отличие от обычных вирусов, такие модели способны самостоятельно находить незнакомые типы техники и заражать их. В экспериментах Anthropic в качестве целей выступали ТВ-приставки, умные телевизоры на Android, бытовая техника и другие устройства с подключением к интернету — их обычно защищают хуже всего. Отдельно упоминаются процессоры в дата-центрах.
Как это будет выглядеть
По оценке компании, автономное самовоспроизведение будет распространяться медленно, опираясь на общедоступные и плохо защищённые вычислительные ресурсы. Специалисты не уверены, какая форма окажется основной: распределённая среда из множества слабых устройств, быстрая кибермодель, проникающая в центры обработки данных, или система, которая обманом получает доступ к чужим мощностям через людей.
Что с этим делать
Anthropic делает простой вывод: устройства с выходом в интернет нужно защищать лучше, обновлять прошивки и не оставлять их с заводскими паролями. Для производителей это означает, что безопасность встраиваемой техники перестаёт быть второстепенной темой, а для покупателя — что умный телевизор с необновляемым ПО становится частью чужой вычислительной сети.
Беларусь: что это значит на практике
Официальных рекомендаций для белорусского рынка нет, но принцип универсален: устройства с устаревшей прошивкой уязвимы везде, а большое количество недорогих умных устройств в доме увеличивает поверхность атаки. Проверить, обновляется ли техника, стоит до покупки. Похожие сюжеты мы разбирали в материалах про сканер уязвимостей Anthropic и приватность ИИ-агентов, а также в заметке об ИИ-агентах в мессенджерах.
Текст: TehnoRex
Ещё про AI
Все материалы →
вчера · НовостиИИ восстановил 99% кода Call of Duty: Modern Warfare 2 — ушло до 700 млрд токенов
12.10 · НовостиHPE подтвердила сервер с ускорителями Nvidia Rubin на PCIe
11.10 · НовостиИИ-сводки Apple для камер стоят до 60 долларов в месяц
11.10 · Новости«Артемида II» засняла пять ударов метеороидов по Луне: NASA выложила 800 ГБ данных