РОЗРОБКА МЕТОДУ RAG ДЛЯ НАДАННЯ ІНФОРМАЦІЙНОЇ ПІДТРИМКИ КОРИСТУВАЧАМ

Анотація

У статті розглядається проблема надання точної та релевантної інформаційної підтримки користувачам у роботі з великими обсягами текстових даних. Звичайні пошукові системи та окремо використані мовні моделі не завжди здатні правильно інтерпретувати зміст запитів і можуть створювати неточні відповіді або галюцинації. Для вирішення цієї проблеми запропоновано гібридний підхід – Retrieval-Augmented Generation (RAG), який поєднує точність інформаційного пошуку з генеративними можливостями LLM. Мета роботи. Розробка та експериментальне тестування повного методу RAG, призначеного для автоматизованої інформаційної підтримки. Ключовою метою є забезпечення економії та високої ресурсної ефективності, що робить метод практично придатним для невеликих організацій, університетських факультетів або інших застосувань з обмеженими обчислювальними бюджетами. Методологія. Запропоновано модульну архітектуру системи, реалізовану з використанням відкритих бібліотек: LangChain для узгодження процесів, ChromaDB як локальне векторне сховище, HuggingFace для доступу до моделей вбудовування та для швидкого та економного виконання запитів LLM використано Groq API. Проведено кілька етапів перевірки: тестування точності пошуку (Top-k) для різних моделей вбудовування на українськомовному наборі даних, тестування якості генерації від початку до кінця з використанням LLM-оцінювача; оптимізація параметрів (підказок, способи розбиття тексту) за допомогою фреймворку Ragas. Наукова новизна. Проведено систематичне порівняння ефективності моделей вбудовування для семантичного пошуку на українськомовному масиві текстів. Експериментально ідентифіковано оптимальний баланс між вартістю та якістю генеративних моделей (LLM), доступних через API. Запропоновано та валідовано економна система RAG, оптимізований за допомогою метрик Ragas для досягнення високої точності відповідей при мінімальних витратах. Висновки. Дослідження підтвердило життєздатність розробленого методу. Модель вбудовування intfloat/ multilingual-e5-large-instruct продемонструвала найкращу точність пошуку, досягнувши 100% у Top-7. Генеративна модель meta-llama/llama-4-scout-17b-16e-instruct показала оптимальне співвідношення ціни та якості (88,3% коректних відповідей). Після налаштування підказок і параметрів фрагментації точність відповідей стала найвищою серед усіх випробуваних варіантів. Перспективи подальшої роботи включають тестування спеціалізованих українських моделей та впровадження системи в реальні чат-боти.