AI-асистент закриває 75% звернень у підтримку

Звернення в підтримку розбирали оператори вручну. Більшість питань повторювалися: як закривається ринок, чому ціна на графіку відрізняється від інших бірж. Кожна відповідь займала час оператора, тож навантаження на підтримку росло, а користувачі довше чекали.

1. Агент на LangChain. Асистента побудували як агента на LangChain і LangGraph. Він визначає тему звернення, вирішує, закрити його самому чи передати команді, і сам викликає потрібні інструменти: пошук у базі знань, дані акаунта, дії в тикетній системі.
2. База знань (RAG). Статті бази знань розбили на фрагменти й проіндексували ембедінгами BGE-M3 у векторній базі Qdrant. Асистент відповідає лише зі знайдених фрагментів, тож на однакові питання користувачі отримують однакові відповіді.
3. Тикети через Kafka. Події тикетної системи (новий тикет, нове повідомлення, закриття) надходять через Kafka. Асистент підхоплює звернення одразу, а відповіді, закриття й ескалації повертає в тикетну систему.
4. Контекст користувача. Через конектори асистент під час розмови читає дані акаунта користувача, який звертається, і за заданими процедурами розбирає складніші звернення.
5. Ескалація з підсумком. Правила ескалації передають нетипові випадки команді підтримки разом із підсумком розмови. Історія діалогів, рішення асистента й журнал дій зберігаються в PostgreSQL.
6. Відкриті моделі на власних GPU. Асистент працює на відкритих моделях Qwen, Gemma і GPT-OSS, розгорнутих на серверах із GPU NVIDIA H100, без звернень до зовнішніх API.
7. Доступ і доставка. Команда підтримки працює з панеллю ескалацій через Keycloak (єдиний вхід і ролі), а оновлення асистента проходять CI/CD у Jenkins.

• Оркестрація агента: LangChain, LangGraph
• Моделі: Qwen, Gemma, GPT-OSS (відкриті ваги)
• Ембедінги й пошук: BGE-M3, Qdrant
• Дані й журнал дій: PostgreSQL
• Події тикетної системи: Apache Kafka
• Інфраструктура: GPU-сервери NVIDIA H100
• Доступ: Keycloak (SSO, ролі)
• CI/CD: Jenkins

Асистент закриває 75% звернень без оператора, і 90% із них — менш ніж за 15 хвилин. На однакові питання користувачі отримують однакові відповіді незалежно від того, хто чергує. Команда підтримки працює зі зверненнями, де потрібна людина.

Як вимірювали. Частка тикетів, закритих асистентом без передачі оператору, від усіх звернень. Час рахували від створення тикета до закриття.

Асистент відповідає на основі бази знань компанії та даних акаунта користувача, який звертається, і бачить лише дані цього акаунта. Моделі працюють на GPU-серверах без звернень до зовнішніх API. Нетипові й складні випадки за правилами ескалації переходять до команди підтримки, і рішення по них ухвалює людина.