Москва31 октВести.Время автономной работы ИИ-агентов растет, а главным риском при поручении им длинных задач становится отсутствие проверки ключевых действий по ходу работы. Об этом рассказал основатель компании Git in Sky, один из авторов открытой методологии безопасной работы с ИИ-агентами Agent-Ops Сергей Житинский. Его слова передает ТАСС.

Длину задачи, с которой ИИ-агент автономно справляется примерно в половине попыток, называют горизонтом. Исследователи американской организации METR пришли к выводу, что в феврале 2025 года горизонт лучших моделей составлял около часа, в ноябре — почти пять часов. В феврале 2026 года, по их данным, этот показатель превысил шесть часов.

Горизонт, как следует из оценок METR, удваивается примерно раз в четыре месяца. При этом в марте тесту подвергли раннюю версию экспериментальной модели Anthropic. Ее горизонт оценили как минимум в 16 часов, то есть два восьмичасовых рабочих дня.

По словам Житинского, тест показывает, на что модель способна в чистых условиях. В рабочей же системе, отметил специалист, ИИ-агенту приходится разбираться с тем, что накопилось за годы, и его горизонт изменится.

Поэтому начинать стоит не с вопроса, насколько умна модель, а с вопроса, как мы узнаем, что она справилась. Что должно получиться, что не должно сломаться и чем это проверить, нужно решить до того, как агент начнет работу

пояснил Житинский

Он добавил, что длинную задачу необходимо разбивать на этапы с проверкой. При этом ИИ-агент не должен выполнять действия, которые нельзя отменить. Речь идет об удалении или изменении рабочих данных.

Агент может долго и полезно работать над анализом и планом. Но перед тем, как что-то менять, нужен человек, который посмотрит на конкретный шаг

отметил Житинский

Эксперт добавил: чем больше последовательных действий агент выполняет без проверки, тем выше риск, что ранняя ошибка повлияет на весь дальнейший результат. По словам Житинского, чем длиннее задача, тем важнее, в частности, возможность проверить ключевые действия ИИ-агента по ходу его работы.

26 октября стало известно, что американская компания Anthropic, разрабатывающая модели ИИ, подала документы для проведения первичного публичного размещения акций (IPO). По данным Reuters, IPO Anthropic может стать одним из крупнейших в истории, компания может быть оценена в 1,5–2 триллиона долларов.