Внедрение RAG-системы для онлайн-школы "Отличник" (Название компании клиента заменено на вымышленное, в целях сохранения коммерческой тайны)
Онлайн-школа "Отличник" (10 000+ студентов, библиотека из 500+ курсов) получила интеллектуального AI-ассистента на базе RAG. Система индексирует учебные материалы и дает точные ответы на вопросы студентов/преподавателей. Проект реализован за 6 недель.
Процесс внедрения
- Аудит и подготовка данных (Неделя 1): Собрали и очистили контент (видео-транскрипты, PDF-лекции, тесты — 50 ГБ). Определили зоны запросов (методики обучения, расписание, техподдержка).
- Построение RAG-пайплайна (Недели 2–3): Выбрали векторную БД (Pinecone), LLM (GPT-4o), настроили ретривер (семантический поиск) и генератор. Индексация с чанкингом по 512 токенов.
- Интеграция и кастомизация (Недели 4–5): Внедрили в Telegram-бот, сайт и LMS (Moodle). Добавили RAGAS-метрики для оценки точности (recall >95%).
- Тестирование и запуск (Неделя 6): A/B-тесты на 1 000 запросах, доработка промптов, обучение команды. Go-live с мониторингом.
Тонкости и нюансы проекта
- Качество данных: Обработка мультимедиа — транскрипция видео с Whisper, удаление шумов (95% чистоты).
- Масштабируемость: Автообновление индекса при новых курсах; обработка 10 000 запросов/день без задержек.
- Безопасность: RAG только на внутренних данных (no external leaks), GDPR-соответствие, rate-limiting.
- Метрики успеха: Точность ответов 92%, время отклика <2 сек, NPS поддержки +40%.
Результат: Студенты получают ответы 24/7, нагрузка на поддержку упала на 60%.