Ген.ИИ: добавим больше интеллекта вашим системам обработки сообщений

IT Channel News: Расскажите, пожалуйста, для начала про сам продукт.

Сергей Щербаков: Ген.ИИ — это продукт на базе искусственного интеллекта, который позволяет автоматизировать, ускорить, облегчить процесс обработки входящих обращений. Причем под обращением можно подразумевать практически все что угодно, под специфику бизнес-задачи заказчика. Это могут быть инциденты от пользователей, которые заводятся в ITSM-системе, или же обращения от граждан, которые хотят записаться на прием в учреждение или прояснить проблему. Это могут быть также письма в клиентскую поддержку, отзывы или сообщения в корпоративном чате. Наш продукт совершенно спокойно обработает все эти и многие другие виды обращений.

IT Channel News: Как появилась идея создания продукта?

С. Щ.: В 2020 году мы в ICL Services выпустили продукт, который называется автоматический смарт-ассистент — АСА. В том же году он был признан лучшим ИТ-проектом года в рамках премии «Время инноваций». АСА, используя технологии машинного обучения, анализировал тексты обращений пользователей или инцидентов, классифицировал их в соответствии с необходимым уровнем экспертизы, формировал базу знаний для более быстрого их решения в будущем. В результате происходила экономия рабочего времени сотрудников, а время приема инцидента в работу сокращалась на 82%.

В то время этот продукт мы создавали для улучшения качества работы нашего сервис-деска, который оказывал ИT-сервисную поддержку многим мировым гигантам на международном рынке. Но сейчас, идя в ногу со временем и с развитием возможностей ИИ, продукт стал не только инструментом для нашей внутренней работы в компании; теперь мы выпускаем решение на рынок и значительно расширяем его функциональность. Он может не только классифицировать и маршрутизировать заявки, но также и более детально понять суть запроса, сформулировать качественный ответ, опираясь на историю переписки или какие-то статьи из базы знаний. И главное, он делает это быстро и достаточно точно.

IT Channel News: Какие технологии использовались при создании Ген.ИИ?

С. Щ.: Чтобы научить нейросеть максимально качественно решать те или иные этапы работы с обращениями, мы применили в нашем продукте ансамбль моделей. Для анализа обращений и приложенных файлов использовали инструмент по обработке естественного языка (NLP) и распознаванию документов (ОСR), для определения ключевых моментов в запросах — выделение сущностей (NER). Для классификации и маршрутизации обращений применяли классические алгоритмы машинного обучения (ML), а для формирования ответа — конечно же, большие языковые модели (LLM) вместе с методом генерации с дополненной выборкой (RAG). Именно этот комплекс инструментов позволяет всесторонне проанализировать обращение и сформировать релевантные ответы.

IT Channel News: Почему вы считаете, что этот продукт сегодня актуален рынке? Какие задачи компаний он может помочь решить?

С. Щ.: Ежедневно в компаниях с большой клиентской аудиторией формируются тысячи запросов, решать которые нужно максимально быстро и четко. Это могут быть компании из разных сфер — ритейл, банки, государственные учреждения и многие другие. Наш продукт может помочь им улучшить качество и скорость обслуживания клиентов, оптимизировать бизнес-процессы, автоматизировать рутинные операции и освободить время сотрудников для решения более важных задач. Кроме этого он позволяет быстро анализировать большие объемы исторически накопленных обращений для формирования выводов и поддержки принятия решений и развития бизнеса.

IT Channel News: Ваш продукт функционирует как отдельная система или может встраиваться в другие готовые ИТ-решения?

С. Щ.: Наша система может использоваться как угодно. Она может работать как самостоятельное решение, но также возможно добавление Ген.ИИ в вашу существующую систему, чтобы усилить ее функциональность и добавить ей больше интеллекта. Например, мы можем интегрироваться с системой обращений или ITSM, добавляя весь спектр возможностей продукта — от глубокого анализа обращений, включая приложенные файлы, до классификации, формирования подсказок операторам и автоматических ответов пользователям.

Или другой наш любимый сценарий — встраивание Ген.ИИ в существующий чат-бот, чтобы добавить ему больше гибкости, интеллекта, возможности отвечать не «сухо», заскриптованно, а динамически, в зависимости от того, что хочет человек. Мы также можем научить его понимать и распознавать различные эмоции и отвечать со смайликами.

IT Channel News: Компании любят говорить на языке цифр. Как здесь ваш продукт может презентовать себя?

С. Щ.: По каждому проекту показатели будут, конечно же, индивидуальны. Но на основе нашего опыта и кейсов мы можем прогнозировать такую статистику: в 5 раз сокращается время работы операторов колл-центра или технической поддержки, до 99% вырастает точность определения параметров обращения, а 87% обращений решаются без участия человека.

IT Channel News: ИИ сегодня популярная технология, и решений, связанных с ней, много. Есть ли у вас конкурентные преимущества?

С. Щ.: С одной стороны, ИИ действительно сейчас очень популярная технология и вокруг нее очень много хайпа. Именно поэтому кажется, что решений очень много. Но это не так. На самом деле на рынке инструментов по работе с обращениями граждан не так много готовых решений, использующих последние достижения ИИ. Основная часть рынка автоматизации работы с клиентами — это относительно простые боты, которые имеют самую базовую функциональность с возможностью понимать основные темы запроса и действовать только по заранее прописанному скрипту. Шаг вправо, шаг влево — перевод на оператора.

Наше решение намного более интеллектуальное и функциональное. Таких решений, которые предоставляют весь набор функций, от анализа текста, распознавания документов и аудиосообщений до выделения сущностей и формирования ответов, кроме нашего пока нет. Уверен, что «пока нет», но и мы не будем стоять на месте, планов по развитию продукта достаточно много.

IT Channel News: По какой модели предоставляется доступ к Ген.ИИ?

С. Щ.: В части потенциальных клиентов у нас очень разнородный рынок. Это может быть и корпоративный коммерческий сектор, и государственные компании, у которых зачастую разные требования и предпочтения к ИТ-архитектуре.

Поэтому наш продукт реализован в различных вариантах: есть возможность развернуть полную функциональность в закрытом контуре без доступа в интернет или же запустить продукт в облаке.

IT Channel News: А какие у вас дальнейшие планы по развитию продукту?

С. Щ.: Развитие нашего продукта идет в нескольких направлениях одновременно. Первое — это, конечно же, анализ ситуации на рынке, изучение нововведений в мире искусственного интеллекта. Это важно потому, что новые версии больших языковых моделей появляются регулярно, и они несут с собой серьезные улучшения качества работы. Поэтому мы следим за актуальной повесткой, тестируем и вносим эти новшества в новые версии продукта.

С другой стороны, это, конечно же, развитие в плане функциональности. Здесь нам очень помогают заказчики, которые регулярно приходят с запросами на дополнительные функции или кастомизацию продукта под их конкретные процессы и специфику аудитории. Например, так появились функции по работе с голосовыми сообщениями, но в плане не голосового общения по телефону, а транскрибации и анализа голосовых сообщений, например, в телеграме. Еще одним примером является функционал проведения аналитики по всей базе накопленных сообщений.

Таким образом, самые интересные и популярные запросы мы обобщаем и закладываем в бэклог продукта, а затем постепенно переносим уже в функциональность основного продукта.

IT Channel News: А небольшие компании смогут воспользоваться вашим решением?

С. Щ.: Конечно. Некоторые заказчики, которые обращаются к нам, имеют относительно небольшой объем входящих сообщений на данный момент, но хотят быть готовыми к взрывному росту в дальнейшем. Поэтому в планах для них предлагать наш продукт по подписке как SaaS-решение. Для компаний МСБ это будет выгодно, так как такая модель не требует индивидуальных кастомизаций и дорогостоящего внедрения. Заказчик сможет сам интегрировать решение, подключать и платить по мере использования, но при этом быть уверенным в его информационной безопасности, качестве и скорости работы.

Читайте также на IT Channel News.