Москва17 октВести.Компания Anthropic продвигает в Конгресс США законопроект, который даст властям возможность временно останавливать выпуск и использование систем искусственного интеллекта (ИИ), если они могут представлять серьезную опасность. Об этом пишет Politico.
Согласно инициативе, вмешательство будет возможно в случаях, когда использование ИИ может привести к ущербу на сумму от 1 млрд долларов, а также к гибели или тяжелым травмам более чем 50 человек. Речь идет об угрозах, связанных с созданием биологического оружия, потерей контроля разработчика над моделью или проведением кибератаки.
Оценивать потенциальные риски предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. Если они подтвердят наличие серьезной угрозы, ведомство сможет обратиться в суд с требованием приостановить соответствующий ИИ-проект.
Законопроект также предусматривает дополнительные обязанности для разработчиков. Компании должны будут создавать внутренние подразделения, отвечающие за безопасность, публиковать отчеты о работе ИИ-моделей и оперативно уведомлять регулятора о серьезных сбоях. Отдельный пункт инициативы направлен на защиту сотрудников, которые сообщают о нарушениях: их предлагается оградить от преследования.
По информации газеты, часть положений законопроекта схожа с нормами калифорнийских законов о регулировании искусственного интеллекта, которые были приняты в 2025 году. В Anthropic считают, что предложенные меры являются разумным способом контролировать наиболее мощные ИИ-системы.
Ранее IT-эксперт Владимир Зыков предупредил, что искусственный интеллект может выйти из-под контроля и начать распространять вирусы на различные устройства.
