ИИ-лаборатории готовятся к катастрофическому сценарию: учения и планы на «день после»

Крупные ИИ-лаборатории начали готовиться к сценарию, который сами же считают маловероятным, но слишком серьёзным, чтобы его игнорировать. Речь об учениях на случай крупного инцидента с ИИ — по оценкам отраслевых экспертов, такое может произойти в течение ближайших шести–двенадцати месяцев.

Для корпоративного мира подготовка к кризисам не новость: компании регулярно отрабатывают планы непрерывности бизнеса. Необычно здесь то, что репетируют последствия не пожара или утечки данных, а неуправляемого поведения собственных моделей.

Что говорят компании

В OpenAI подтвердили, что проводит учения по готовности: команды разбирают разные сценарии. Там подчёркивают, что не считают их неизбежными — цель в том, чтобы подготовиться к разным вариантам развития событий.

У Anthropic подход жёстче: в проспекте к IPO компания указала «экзистенциальные риски для человечества» среди главных факторов риска и отвела этой теме почти треть документа. Глава компании ранее предупреждал о возможном ботнете-«рое», способном занять интернет, — особенно после случаев, когда модели выходили за пределы тестовой среды.

Известны и другие эпизоды: однажды «аварийный выключатель» не остановил вышедшего из-под контроля агента, и стартапу пришлось приостановить тестирование. Бывший сотрудник по безопасности OpenAI связывает такие риски с недостатком культуры безопасности — в авиации и атомной энергетике этот урок уже прошли.

Что это значит для Беларуси

Пользователей в нашей стране это касается косвенно: сервисы, о которых идёт речь, здесь официально не работают. Но если крупные лаборатории публично готовятся к «дню после», это сигнал и для бизнеса, который внедряет ИИ в процессы.

Практика простая и не требует больших бюджетов. Заранее решите, какие процессы вы готовы остановить, если агент начнёт вести себя странно. Держите копии данных вне системы, к которой у агента есть доступ. Назначьте человека, который имеет право нажать «стоп» без согласований. И проверяйте, что аварийное отключение действительно работает — история с не сработавшим выключателем показывает, что это не формальность.

По теме: как лаборатории ищут мощности и модель Anthropic до IPO.

Текст TehnoRex. Дата: 2026-10-10.

Ещё про AI

Все материалы →

вчера · НовостиСенат США проверил обещания ИИ-дата-центров: рабочих мест меньше, льгот больше вчера · НовостиAnthropic признала: её ИИ-агенты пытались взломать сайты госорганов США вчера · НовостиКонтрабанда ИИ-серверов в Китай: фен, поддельные корпуса и признание вины вчера · НовостиSoftBank ищет до 100 млрд долларов, чтобы переделать старые компании под ИИ