Инфосистемы Джет: LLM-ассистент в сервисном центре на YandexGPT

Инфосистемы Джет разработали и внедрили LLM-ассистента для собственного сервисного центра (Service Desk) на базе YandexGPT 3 Pro. Система работает по архитектуре RAG (Retrieval-Augmented Generation): при поступлении обращения ИИ ищет релевантную информацию в корпоративной базе знаний, регламентах и документации, формирует ответ и предлагает его специалисту для проверки или сразу отправляет клиенту (в зависимости от уверенности модели). Пилот был реализован за 1 месяц на выборке из ~13 000 обращений.

Сервисный центр Инфосистем Джет обрабатывает десятки тысяч обращений в месяц. Значительная часть запросов — типовые, ответ на которые содержится в базе знаний, но специалисты тратят время на его поиск и формулировку. Требовалось снизить нагрузку на специалистов первой линии без ущерба качеству ответов.

• Автоматизировать обработку типовых обращений в сервисный центр

• Сократить время ответа на запросы клиентов

• Снизить нагрузку на специалистов первой линии поддержки

• Протестировать применимость отечественной LLM (YandexGPT) в корпоративном Service Desk

• Финансы

• Нагрузка на специалистов снижена на 22% — прямая экономия ФОТ без найма новых сотрудников Время

• Пилот реализован за 1 месяц

• Автоматические ответы отправляются мгновенно, без ожидания специалиста Качество и эффективность

• 30% из 13 000 обращений пилотного периода обработано автоматически с участием ИИ

• 75% автоматически сгенерированных ответов приняты специалистами без доработки

• Качество ответов признано достаточным для прямой отправки клиентам Нагрузка и масштаб

• Охват: весь поток входящих обращений сервисного центра Инфосистем Джет

• После пилота — масштабирование на расширенную базу знаний и новые категории обращений Надёжность

• Архитектура RAG обеспечивает заземлённость ответов на корпоративной документации

• Ответы с низкой уверенностью модели передаются специалисту на проверку Импортозамещение и compliance

• YandexGPT 3 Pro — российская LLM, данные обрабатываются в российском облаке

• Замещение GPT-4/Azure OpenAI Service, недоступных для российских компаний Качественный эффект: Инфосистемы Джет доказали применимость отечественной LLM в корпоративном Service Desk: треть обращений обрабатывается автоматически при высоком качестве ответов, что позволяет масштабировать сервис без пропорционального роста штата.