Anthropic предложила закон об ИИ-безопасности: порог — 50 смертей или ущерб в миллиард

Anthropic предложила закон об ИИ, который включает ограничения только при серьёзных последствиях: 50 смертей или ущерб в миллиард долларов. Инициатива предполагает, что департамент торговли станет единственным органом, способным остановить опасную модель.

Документ описывает три сценария риска: создание или применение биологического оружия, кибератаки с помощью ИИ и потеря контроля над моделью или агентами. Если вероятность любого из них реальна, оценщик обязан сообщить в департамент в течение 72 часов.

Как работает механизм закона об ИИ

После уведомления департамент получает полномочия остановить модель — своего рода «стоп-кран». Такой подход отличается от полного запрета: разработка разрешена, но при возникновении конкретной угрозы включается надзор.

Контекст важен. Конгресс уже обсуждает обязательные выключатели для мощных моделей, а сенатор Берни Сандерс предлагал 20 лет тюрьмы за разработку сверхразума — на уровне наказания за ядерное оружие. На этом фоне предложение Anthropic выглядит умеренным.

Почему закон об ИИ важен для отрасли

Компания предлагает регулировать саму себя — необычный шаг. С одной стороны, это укрепляет доверие к отрасли. С другой, критики видят в этом попытку заранее задать удобные правила: порог в 50 смертей или миллиард ущерба настолько высок, что обычные инциденты под него не попадут.

Остаётся вопрос исполнения. Кто будет оценивать вероятность риска и как проверять отчёты лабораторий, документ не уточняет.

Что это значит для Беларуси

Для небольших разработчиков законопроект пока не создаёт обязанностей, но задаёт ориентир: чем мощнее модель, тем строже требования к отчётности. Это стоит учитывать при планировании продуктов.

Законопроект касается американского рынка, но влияет на всех: крупные лаборатории задают стандарты и для остального мира. Если документ примут, требования к отчётности станут частью глобальной практики.

Практический совет для компаний, использующих ИИ: заранее готовьте журналы действий и описание сценариев применения. Это не займёт много времени, если делать регулярно. Такие документы понадобятся в любом регулировании, и лучше собрать их до того, как спросят. По теме: риски автономных агентов и призыв Наделлы к контролю над ИИ.

Документ опубликован на сайте Anthropic.

Читайте также: система WiFireNet и контроль оружия.

Ещё про AI

Все материалы →

вчера · НовостиСверхпрочные сплавы: ИИ превращает примеси из лома в добавки вчера · НовостиDisney нанял большую часть штата Character.AI вчера · НовостиClaude разгадал 25-летнюю криптографическую загадку АНБ за полчаса вчера · НовостиWiFireNet: ИИ находит спрятанные пистолеты по сигналам Wi-Fi с точностью 72,5%