Внедрение ИИ и разработка ИИ-агентов

Внедрение ИИ в бизнес и разработка ИИ-агентов для того, что у вас уже работает. Начинаем с задачи, а не с технологии: сначала считаем, где модель реально снимает работу с людей, и только потом внедряем.

Вокруг ИИ много шума, и от этого страдают обе стороны. Одни внедряют модель, потому что «надо», и получают дорогую игрушку, которой никто не пользуется. Другие не трогают тему вовсе и вручную делают то, что давно можно не делать.

Мы заходим с другой стороны. Смотрим, на что уходит время людей: где они переписывают одно и то же, ищут документ по десяти папкам, отвечают на один и тот же вопрос двадцатый раз за день. Дальше считаем, сколько это стоит в месяц, и сравниваем с расходами на внедрение и на работу модели. Если не сходится, так и говорим.

Модель почти никогда не бывает продуктом сама по себе. Она полезна внутри того, что уже работает: в вашей CRM, в личном кабинете, в поддержке, в системе документооборота. Поэтому большая часть работы это не промпты, а интеграция, права доступа, данные и проверка того, что ответы можно показывать людям.

Отдельный разговор про данные. Если они чувствительны к утечкам, модель разворачивается локально, на ваших серверах, и наружу не уходит ничего. Такую модель можно дообучить под ваши процессы и вашу терминологию. Это дороже подключения к внешнему сервису, зато данные остаются у вас.

Рядом с этой задачей обычно стоят автоматизация бизнес-процессов, боты для мессенджеров и CRM и аналитика. Модель встраивается в корпоративные системы, в серверное ПО и в бэкенд. Если пока непонятно, что автоматизировать первым и окупится ли это, начните с бизнес-консалтинга.

01

Что входит в услугу

Можно взять любой набор из перечисленного.

ИИ-агенты для рабочих задач

Агент, который сам проходит цепочку шагов: находит данные, заполняет, отправляет, отчитывается. Ровно с теми правами, которые вы ему дали, и с журналом всех действий.

Поиск и работа с документами

Ответы по вашей базе знаний, договорам, регламентам и переписке, со ссылкой на источник, чтобы ответ можно было проверить.

Обработка обращений

Разбор входящих писем и заявок, классификация, черновики ответов, подсказки оператору. Человек остаётся в контуре там, где цена ошибки высока.

Локальные модели на ваших серверах

Развёртывание в вашем контуре, при необходимости с дообучением под ваши процессы. Наружу не уходит ни один документ.

Интеграция в рабочие системы

CRM, почта, мессенджеры, внутренние сервисы, документооборот. Модель встраивается туда, где люди уже работают, а не открывается отдельной вкладкой.

Проверка качества

Наборы проверочных вопросов, замеры точности, ограничение ответов рамками ваших данных, журнал и разбор ошибок.

02

Как мы работаем

01
Разбор задачи и оценка выгоды

Считаем, сколько времени и денег уходит на задачу сейчас и сколько останется после внедрения. Если выгода не набирается, говорим об этом до начала работ.

3-5 дней
02
Прототип на ваших данных

Собираем работающий вариант на реальном материале, а не на демонстрационном. Здесь становится видно, что модель умеет в вашем случае, а что нет.

2-4 недели
03
Внедрение

Интеграция в рабочие системы, права доступа, журналы, помощь сотрудникам в освоении инструмента.

от 3 недель
04
Проверка качества

Прогоны на проверочных наборах, замеры и настройка ограничений, чтобы ответы оставались в рамках ваших данных.

параллельно
05
Сопровождение

Наблюдаем за качеством и расходами, обновляем под новые версии моделей, добавляем сценарии.

постоянно
03

Стек и инструменты

PythonTypeScriptNode.jsC#OllamapgvectorQdrantPostgreSQLRedisDockerKubernetesAPI языковых моделей
04

Частые вопросы

С одной задачи, где время людей уходит заметно и измеримо. За две-четыре недели собираем прототип на ваших данных, и дальше решение принимается по факту, а не по презентации.

Если это условие, разворачиваем модель локально, в вашем контуре. Тогда документы не покидают ваши серверы вовсе. Если ограничений нет, подключаемся к внешним моделям, и это дешевле.

Ограничиваем ответы вашими данными, требуем ссылку на источник, оставляем человека в контуре там, где цена ошибки высока, и ведём журнал, по которому ошибку можно разобрать.

Чаще нет. Большинство задач закрывается готовой моделью и правильно устроенным доступом к вашим данным. Дообучение имеет смысл, когда у вас своя терминология или свои устойчивые процессы.

Всё определяет договор, и прописываем мы это на этапе технического задания, до начала работ. По ходу проекта команда работает либо на нашей инфраструктуре, либо на вашей: выбор зависит от сложности проекта и от того, есть ли у вас готовая инфраструктура. Каждый утверждённый этап переносится на ваши серверы и в ваш репозиторий, то есть работа накапливается у вас, а не у нас. После закрытия проекта весь код, наработки и документация передаются вам вместе с правами на них.

Да, отдельной договорённостью: наблюдение за качеством, контроль расходов на модель, обновления и новые сценарии.

05

Смежные услуги

Обсудим вашу задачу?

Расскажите, что нужно сделать - вернёмся с оценкой сроков, составом команды и планом первых двух недель.