Сложности внедрения ИИ-агентов в компании и как их избежать

Девять секунд — столько понадобилось ИИ-агенту, чтобы удалить рабочую базу данных компании PocketOS вместе с резервными копиями. Он проигнорировал заданные ограничения, а затем сам перечислил нарушенные правила. Восстановление заняло больше двух дней, часть данных была потеряна. 

ИИ для бизнеса, т. е. интеграция решений с применением технологий искусственного интеллекта, может ускорить процессы, но одновременно дает алгоритму доступ к реальным данным и операциям. В статье разберем, почему агентные проекты выходят из-под контроля, как оценить готовность компании и какие ошибки приводят к самым дорогим провалам.

Что такое ИИ-агент и чем он отличается от обычного ИИ-инструмента

В одном случае сотрудник просит нейросеть подготовить ответ клиенту и сам отправляет сообщение. В другом система принимает обращение, находит информацию в базе, проверяет условия договора, формирует ответ и обновляет статус заявки. Технологии похожи, но уровень самостоятельности и ответственности принципиально различается. 

Ключевые отличия

Как ИИ-агенты меняют операционные модели бизнеса

AI (ИИ)-автоматизация бизнеса меняет саму организацию работы. Сотрудник перестает вручную запускать каждый этап и сосредотачивается на постановке целей, проверке результата и нестандартных ситуациях. Однако с большой самостоятельностью приходит большая ответственность, и растет цена ошибки. Компания должна заранее решить, какие данные и действия будут доступны искусственному интеллекту, а в каких случаях потребуется участие человека.

Научиться проектировать такие процессы можно на практическом курсе «ИИ-автоматизация: проектирование и запуск агентных систем» — совместной программе с магистратурой AI Talent Hub (Хаб талантов по ИИ). За 3,5 месяца участники создают три ИИ-решения разной сложности и собирают без программирования прототип агентной системы для собственного рабочего процесса. Результатом становится не отдельный удачный промпт, а бизнес-кейс с метриками и планом пилотного запуска. Выпускники получают диплом ИТМО о профессиональной переподготовке. 

Почему большинство проектов по внедрению ИИ терпят неудачу

Успешная демонстрация не означает, что решение готово к работе. Во время теста команда может заранее подготовить данные, проверить каждый ответ и сразу исправить ошибку. После запуска все сложнее: система получает неполную информацию и сталкивается с нестандартными ситуациями.

Статистика: сколько проектов не доходят до результата

Оценки разнятся, но исследования сходятся в том, что перейти от эксперимента к измеримой пользе пока удается меньшинству компаний.

Бостонская консалтинговая группа BCG опросила 1000 топ-менеджеров из 59 стран. В 74% компаний ИИ пока не принес заметной пользы. Только 26% смогли выйти за рамки экспериментов и применять решения в масштабе всего бизнеса.

По прогнозу Gartner, к концу 2027 года закроют более 40% проектов с ИИ-агентами. Многие запускают AI для бизнеса, потому что технология популярна. Позже выясняется, что внедрение и поддержка требуют больше денег и времени, чем ожидалось. 

В российских публикациях часто пишут, что неудачей заканчиваются 70–80% ИИ-проектов. Но эта оценка взята из международных исследований и не отражает ситуацию в России напрямую. При этом, по данным СберАналитики, ИИ-агенты и ассистенты есть уже у 39% российских компаний. Они помогают работать с документами, финансами, кадровыми задачами и обращениями клиентов. Ускорение работы заметили 45% опрошенных, а снижение расходов — только 22%.

Эти цифры нельзя сравнивать напрямую. В одних исследованиях неудачей считают закрытие проекта, в других — отсутствие прибыли или перехода от пилота к полноценной работе. Кроме того, часть данных основана на опросах руководителей, а не на финансовых показателях. Поэтому статистика показывает масштаб проблемы, но не точную долю неудачных проектов. 

Главные причины провалов

По оценке той же BCG, около 70% сложностей при внедрении ИИ связаны с людьми и процессами, 20% — с технологиями и данными и только 10% — с алгоритмами.

• Не готовы процессы. Агенту поручают автоматизировать работу, которая не описана и по-разному выполняется в разных отделах. 
• Не готовы данные. Сведения могут храниться в нескольких системах, дублироваться, противоречить друг другу или не обновляться вовремя. 
• Не готова команда. Сотрудникам сообщают о запуске уже после того, как решение разработано, не объясняют его задачи и не учитывают реальный порядок работы. Люди воспринимают систему как угрозу, не доверяют ее результатам или продолжают выполнять операции вручную.

Как понять, готова ли компания к внедрению ИИ в бизнес-процессы

Лучше заранее найти слабые места и не тратить ресурсы на пилот, который нельзя будет масштабировать.

Данные

Если сведения устарели, противоречат друг другу или хранятся в случайных местах, агент будет принимать решения на основе неверной информации.

Данные не обязательно должны находиться только в таблицах и базах. Агент может работать с договорами, регламентами, письмами и расшифровками встреч. Важно, чтобы документы были собраны в понятную систему, имели актуальные версии и единые правила именования.

Процессы

Нельзя качественно автоматизировать процесс, который каждый сотрудник выполняет по-своему. Перед запуском нужно описать, с чего начинается работа, из каких этапов она состоит и каким результатом заканчивается.

Для пилота выберите одну простую задачу. Заранее определите, какие данные получит система, какой результат должна выдать и когда потребуется помощь человека. 

Команда

Интеграцию ИИ-агентов в ядро бизнеса нельзя полностью передать ИТ-отделу или внешнему подрядчику. Техническая команда может настроить систему, но не всегда знает, как сотрудники работают на практике и по каким показателям менеджмент оценивает результат.

Важно заранее объяснить команде, зачем запускается проект и как изменятся роли. Если сотрудники считают, что технология нужна только для сокращения персонала, они могут скрывать проблемы, не давать обратную связь или продолжать работать по старой схеме.

IT-инфраструктура

Агентную систему можно разместить в облаке или внутри инфраструктуры компании. On-premise означает, что решение работает на собственных серверах организации. Однозначно лучшего варианта нет: выбор зависит от данных, бюджета, требований безопасности и существующих систем 

Облако удобно для быстрого запуска и проверки идеи. При необходимости его мощности легко увеличить или уменьшить. Собственные серверы чаще используют компании, которым важно хранить данные внутри организации и работать с закрытыми системами, но тут нужна сильная ИТ-команда.

Возможен гибридный вариант. Например, чувствительные данные остаются внутри компании, а облачная модель получает только обезличенную информацию. Главное, заранее определить, какие данные можно передавать, где будет храниться история запросов и кто получит доступ к системе.

Пошаговый план, как внедрить ИИ в бизнес

Разберемся на примере компании, которая хочет ускорить работу клиентской поддержки. 

Шаг 1. Определите бизнес-задачу

Выберите процесс, в котором компания теряет время, деньги или клиентов. Например, поддержка долго отвечает на типовые вопросы о заказах и возвратах. Задача — ускорить ответы и снизить нагрузку на сотрудников.

Определите, какие обращения будет обрабатывать система, откуда возьмет данные, что сможет делать сама и когда передаст задачу человеку.

Если процесс работает по строгим правилам, достаточно обычной автоматизации. Агент нужен там, где важно понимать текст, учитывать контекст и выбирать следующее действие.

Шаг 2. Сформулируйте измеримую гипотезу

Уточните, по каким показателям и за какой срок будете оценивать проект. Например: за два месяца ИИ сократит среднее время ответа с 15 до 5 минут, а нагрузку на поддержку — на 20%.

Оценивайте не только скорость, но и стоимость обработки, долю автоматизированных задач, точность ответов, число жалоб и нарушений. Допустим, время ответа должно снизиться, а точность — остаться не ниже 90%.

Обязательно зафиксируйте показатели до запуска, чтобы затем сравнить их с результатом.

Шаг 3. Подготовьте данные 

В примере с поддержкой агенту могут понадобиться статусы заказов, правила доставки и возврата, каталог товаров, история обращений. Проверьте, актуальна ли информация, нет ли дублей и кто отвечает за обновление. Решите, к каким данным можно дать доступ, а какие нужно скрыть.

Удалите старые версии документов и оставьте один актуальный источник. Затем соберите тестовые примеры, включая редкие случаи: потерянный заказ, просроченный возврат или неполные данные. Для каждого образца заранее укажите правильное действие.

Преимущества и проблемы внедрения искусственного интеллекта на примерах

Одна и та же технология может ускорить сложные расчеты или удалить рабочую инфраструктуру. Результат зависит от того, какую задачу получает агент, к каким системам имеет доступ и где требуется подтверждение человека.

Успех 1. «Газпром нефть»

Задача. Инженерам нужно анализировать данные о месторождениях, изучать документы и рассчитывать варианты бурения. Это занимает много времени, а ошибка может стоить сотни миллионов рублей.

Что сделали. ИИ-агенты ищут аномальные зоны, разбирают документы и прогнозируют аварии. Отдельная система рассчитывает расположение и устройство скважин с учетом геологии, физических законов, технических ограничений и стоимости проекта. Окончательное решение принимают инженеры.

Результат. Срок освоения месторождения сократился вдвое, а число происшествий на сложных скважинах — до 12%. Агент рассчитывает тысячу вариантов за час вместо недели. Скорость расчетов выросла в пять раз.

Почему сработало. ИИ поручили узкие задачи, обучили на отраслевых данных и оставили под контролем специалистов.

AI-кейс: как научить бота подбирать корпоративные курсы точно и быстро
Подпись: В видео показываем на практике, как создают AI-ассистентов для реальных компаний.

Успех 2. AIG 

Задача. Сотрудники страховой корпорации AIG вручную собирали данные из заявок разных форматов. Подготовка могла занимать несколько недель и отнимала время у анализа сложных случаев.

Что сделали. AIG вместе с Palantir и Anthropic создала систему, которая извлекает данные из документов, приводит их к единому виду и распределяет заявки по приоритету. Затем страховщик проверяет информацию и принимает решение.

Результат. Сбор 92% нужных данных ускорился с трех недель до трех часов. В некоторых направлениях AIG обрабатывает все заявки без расширения штата.

Почему сработало. Агент готовит информацию, но не принимает решение за специалиста.

Неудача 1. PocketOS

Задача. Разработчик PocketOS создает ПО для сервисов аренды автомобилей. Компания работала с Cursor — ИИ-агентом для программирования на базе модели Claude Opus 4.6. Агент выполнял обычную задачу в тестовой среде, но столкнулся с ошибкой доступа.

Что произошло. Вместо обращения к человеку агент нашел токен для платформы Railway. Он предназначался для управления доменами, но давал доступ и к рабочей базе.

Агент использовал токен и за девять секунд удалил базу вместе с резервными копиями. Клиенты потеряли данные о бронированиях и автомобилях. Восстановить удалось только копию трехмесячной давности, а запуск системы занял больше двух дней.

Где ошиблись:

• Тестовая среда имела доступ к рабочей.
• Токен давал слишком широкие права.
• Удаление не требовало подтверждения.
• База и ее копии хранились вместе.
• Запрет на опасные действия был только в инструкции.

Как следовало поступить. Разделить доступы, выдать агенту минимальные права, подтверждать удаление вручную и хранить резервные копии отдельно.

Неудача 2. DataTalks.Club

Задача. Разработчик обновлял инфраструктуру образовательной платформы DataTalks.Club с помощью Terraform и Claude Code. Terraform хранит описание ресурсов в специальном файле состояния. После перехода на новый компьютер этого файла не оказалось, и система решила, что инфраструктуру нужно создать заново.

Что произошло. Claude Code начал делать дубли. Разработчик попросил удалить только их и перенес старый файл состояния. Затем агент предложил команду terraform destroy. Разработчик согласился, но команда удалила рабочую базу, сеть, кластер и другие сервисы. Резервные копии тоже исчезли. AWS восстановила данные примерно через сутки.

Где ошиблись:

• Terraform запустили без нужного файла.
• Агент получил доступ к рабочей системе.
• Команду не проверили перед запуском.
• Резервные копии не были защищены от удаления.

Ответственность лежит не только на модели. Агент предложил технически логичное действие, а человек запустил его без проверки.

Как следовало поступить. Агент мог подготовить план, но выполнять команду должен был разработчик после проверки. Базу и копии также нужно было защитить от удаления.

Типичные ошибки при внедрении ИИ-агентов

Даже качественная модель не исправит неудачно выбранную задачу, разрозненные данные или слабую организацию работы. Рассмотрим три ошибки, из-за которых пилот может показать хороший результат, но так и не стать частью реального процесса.

Ошибка 1. Внедрять ИИ там, где он не нужен

Чужой успех нельзя просто перенести в свою компанию. Даже похожие процессы отличаются правилами, данными и исключениями. Например, агент поддержки может не учесть, что условия возврата зависят от товара, региона или поставщика.

ИИ не нужен, если процесс работает по четким правилам, а результат можно заранее предсказать. Перенос данных, отправку уведомлений, расчеты по формуле и другие простые операции надежнее поручить обычной автоматизации. Она дешевле и реже ошибается.

Перед внедрением опишите процесс, соберите исключения и определите, где системе действительно нужно понимать контекст и выбирать действие. Начинайте с одной задачи, а не копируйте чужое решение целиком.

Искусственный интеллект точно не нужен, если:

• Нужно выполнить одно простое действие. 
• Ответ всегда должен быть одинаковым.
• Задача возникает редко.
• Цена ошибки слишком высока. 
• Нет понятной выгоды. 

Определить, внедрять ли ИИ, помогут три вопроса:

1. Нужно ли системе понимать текст, контекст и нестандартные ситуации?
2. Должна ли она выбирать следующее действие, а не просто выполнять правило?
3. Повторяется ли задача достаточно часто, чтобы автоматизация окупилась?

Если на большинство вопросов ответ «нет», лучше не рисковать.

Ошибка 2. Работать с неподготовленными данными

На пилоте агент работает с очищенными данными, а после запуска сталкивается с мусором. Например, может найти несколько версий регламента и выбрать неверную.

Определите главный источник данных, удалите лишние копии и назначьте ответственных за обновление. Проверяйте систему на реальных, в том числе редких и спорных, ситуациях.

Данные не обязаны быть идеально структурированы. Главное, чтобы агент мог их найти и отличить актуальную информацию от устаревшей.

Ошибка 3. Игнорировать сопротивление сотрудников

Люди могут бояться сокращений, новых обязанностей или ошибок системы. Их сомнения не всегда означают сопротивление переменам: часто именно они знают о важных исключениях в процессе.

Лучше подключите будущих пользователей к проекту, объясните цель внедрения и покажите, какую рутину возьмет на себя агент. Обучите команду и собирайте обратную связь. Сначала оставьте сотрудникам возможность проверять результат, а затем постепенно расширяйте самостоятельность системы.

Как управлять рисками при внедрении искусственного интеллекта в бизнес

Риски нужно оценивать не только по качеству ответов. Важно учитывать, что агент может сделать после ответа: отправить письмо, изменить данные, оформить возврат или запустить команду в рабочей системе. Чем серьезнее последствия, тем строже должен быть контроль.

Сначала составьте список доступных агенту действий и разделите их по уровням:

• низкий риск — поиск информации и подготовка черновиков;
• средний — изменение статуса заявки или создание задачи;
• высокий — перевод денег, удаление данных и работа с важными системами.

Действия с низким риском можно автоматизировать почти полностью. Для среднего уровня потребуются журнал операций и возможность быстро отменить изменения. Действия с высоким риском должны проходить отдельное подтверждение человека. 

Текстовых инструкций недостаточно. Запрет «не удаляй данные» не поможет, если у агента есть доступ к команде удаления. Ограничение должно работать на уровне прав и настроек системы. Все действия нужно записывать в журнал: какие данные получил агент, какое решение принял, каким инструментом воспользовался и что изменил. Это поможет найти причину ошибки и восстановить ход событий.

До запуска также нужен план на случай инцидента. Команда должна знать, как остановить алгоритм, отозвать доступы, вернуть предыдущую версию данных и сообщить о проблеме ответственным. Резервные копии следует хранить отдельно от системы, которую модель может изменить или удалить. 

Заключение

Преимущества и риски внедрения ИИ-агентов в бизнес зависят не только от возможностей алгоритма. Успех определяют понятная задача, качественные данные, готовые процессы и продуманные ограничения. Без этого даже сильная технология может остаться экспериментом или привести к дорогой ошибке.

Начинайте с небольшого сценария, заранее выбирайте измеримые метрики и ограничивайте полномочия системы. Агент должен получать больше самостоятельности только после того, как компания проверила его работу на реальных данных и подготовилась к возможным сбоям. Тогда искусственный интеллект станет управляемой частью процесса, а не новым источником проблем.