Інтеграція LLM у веб додаток для вирішення задачі генерації відповідей на запити користувачів

Abstract

Кваліфікаційна робота присвячена дослідженню та розробленню вебдодатка з інтеграцією великих мовних моделей для автоматизації генерації відповідей на запити користувачів. У першому розділі кваліфікаційної роботи здійснено огляд сучасних великих мовних моделей та їх застосування у вебсередовищі. Розглянуто методи інтеграції LLM через API та мікросервісні архітектури, проаналізовано можливості Azure OpenAI та переваги використання мовних моделей для автоматизації взаємодії з користувачем. На основі цього обґрунтовано вибір технологій і визначено вимоги до системи. Другий розділ присвячено архітектурі та функціональній структурі вебдодатка. Описано механізми обробки й передачі запитів користувачів, спроєктовано взаємодію між клієнтською частиною, сервером та AI-сервісом. У третьому розділі представлено реалізацію вебдодатка з чат-інтерфейсом, каталогом товарів, кошиком та особистим кабінетом. Здійснено інтеграцію із сервісом Azure OpenAI для генерації відповідей у режимі реального часу, розроблено механізми асинхронної обробки запитів. Проведено тестування працездатності системи та оцінено якість відповідей, що підтвердило ефективність запропонованих рішень.

The qualification work is devoted to the research and development of a web application with the integration of large language models to automate the generation of responses to user requests. The first section of the qualification work reviews modern large language models and their application in the web environment. Methods for integrating LLM via API and microservice architectures are considered, the capabilities of Azure OpenAI and the advantages of using language models to automate user interaction are analyzed. Based on this, the choice of technologies is justified and the requirements for the system are determined. The second section is devoted to the architecture and functional structure of the web application. The mechanisms for processing and transmitting user requests are described, the interaction between the client part, the server and the AI-service is designed. The third section presents the implementation of a web application with a chat interface, product catalog, shopping cart and personal account. Integration with the Azure OpenAI service is carried out to generate responses in real time, and mechanisms for asynchronous request processing are developed. The system's performance was tested and the quality of the responses was assessed, which confirmed the effectiveness of the proposed solutions.