Розробка малої мовної моделі для системи з обмеженими обчислювальними ресурсами на базі Azure ML та AI Foundry

Abstract

Метою роботи є розробка програмної системи класифікації голосової пошти на основі малої мовної моделі для використання в умовах обмежених обчислювальних ресурсів із застосуванням платформи Azure Machine Learning. Об’єктом дослідження є процес автоматизованої класифікації голосових повідомлень у програмних системах з використанням технологій штучного інтелекту. Предметом дослідження є методи та засоби розробки програмної системи класифікації голосової пошти на основі малих мовних моделей. У роботі проаналізовано підходи до використання великих і малих мовних моделей та реалізовано життєвий цикл малої мовної моделі, включаючи підготовку синтетичних даних, тонке налаштування, розгортання та тестування. Проведено експериментальне оцінювання якості класифікації та навантажувальне тестування системи. Результати дослідження показали, що тонко налаштована мала мовна модель забезпечує точність класифікації понад 96 % та ефективне масштабування при нижчих експлуатаційних витратах у порівнянні з великою мовною моделлю. Отримані результати підтверджують доцільність використання малих мовних моделей у системах з обмеженими обчислювальними ресурсами. Практичне значення роботи полягає у можливості використання розробленої системи для автоматизованої класифікації голосової пошти в реальних інформаційних системах.

The aim of this thesis is to develop a voicemail classification system based on a small language model suitable for operation in environments with limited computational resources using the Azure Machine Learning platform. The object of the research is the process of automated classification of voice messages in software systems using artificial intelligence technologies. The subject of the research is the methods and tools for developing a voicemail classification system based on small language models. The thesis analyzes existing approaches to the use of large and small language models for natural language processing tasks and implements the full lifecycle of a small language model, including synthetic data preparation, fine-tuning, deployment, and testing. Experimental evaluation of classification quality and load testing of the system were conducted. The results of the study demonstrate that the fine-tuned small language model achieves classification accuracy above 96% and supports effective horizontal scaling while maintaining lower operational costs compared to a large language model. These results confirm the feasibility and efficiency of using small language models in systems with limited computational resources. The practical significance of the work lies in the possibility of applying the developed system in real-world information systems for automated voicemail classification.