GlobalLogic, компанія з розробки цифрових продуктівПроєкт у складі GlobalLogic
Один асистент на питання про компанію та роботу офісу
Асистент відповідає працівникам на питання про компанію та роботу офісу з внутрішньої бази знань. На питання поза межами компанії він не відповідає.
Було
Знання про компанію і правила роботи офісу були розкидані по різних документах і системах. Працівники шукали відповіді вручну або питали колег і офіс-менеджерів.
Що зробили
- Збір і підготовка джерел. Внутрішні документи про послуги, сценарії використання й роботу офісу завантажили, очистили від дублікатів і застарілих версій та розбили на смислові фрагменти.
- Граф знань. LLM на конвеєрі LangChain витягує з документів сутності (послуги, сценарії, індустрії, технології, офіси, правила) і зв'язки між ними та складає граф. Так видно, наприклад, які сценарії належать до SDLC і в яких послугах їх реалізують.
- Векторний індекс. Ті самі фрагменти проіндексували ембедінгами BGE-M3 у векторній базі Qdrant, щоб знаходити відповіді й за змістом, а не лише за ключовими словами.
- Гібридний пошук (GraphRAG). На запит асистент поєднує обхід графа (зв'язки між сутностями) і векторний пошук (конкретні фрагменти). Gemini 1.5 Pro збирає з цього структуровану відповідь, наприклад список сценаріїв використання для SDLC, з посиланнями на джерела.
- Межі тем. Перед пошуком класифікатор запиту перевіряє, чи стосується питання компанії. На сторонні, як-от «як замінити колесо в машині», асистент відповідає, що допомагає тільки з питаннями про GlobalLogic.
- Оновлення знань. Зміни в джерелах надходять через Kafka, і змінені документи переіндексуються в графі та Qdrant без ручного перезапуску.
- Доступ і доставка. Працівники входять через Keycloak (єдиний вхід), історія запитів і журнал зберігаються в PostgreSQL, а оновлення асистента проходять CI/CD у Jenkins.
Технології
- Оркестрація: LangChain, LangGraph
- Модель: Gemini 1.5 Pro
- Граф знань: витягування сутностей і зв'язків за допомогою LLM, GraphRAG
- Ембедінги й пошук: BGE-M3, Qdrant
- Дані й журнал запитів: PostgreSQL
- Оновлення джерел: Apache Kafka
- Доступ: Keycloak (SSO)
- CI/CD: Jenkins
Результат
Працівники отримують відповіді про компанію й роботу офісу в одному чаті, а не шукають їх по документах.
Безпека і погодження
Асистент відповідає тільки в межах знань компанії і не виходить за ці теми.
Хочете такий результат у вашому банку?