SWAP metrics optimization in mobile face anti-spoofing systems using knowledge distillation

Abstract

Для захисту від підміни обличчя (FAS) на мобільних пристроях потрібні моделі, які є не лише точними, але й швидкими, легкими та енергоефективними – інкапсульованими показниками SWAP (швидкість, вага, точність, енергоспоживання). Досліджено, як дистиляція знань може оптимізувати ці показники SWAP для нейронних мереж у FAS. Великі, високопродуктивні моделі вчителів дистилюються у компактні моделі учнів, які зберігають високу точність, суттєво зменшуючи вагу моделі та покращуючи швидкість роботи. Крайні дослідження показали, що дистильовані моделі FAS можуть досягти точності на рівні з найсучаснішими мережами, але зі значно меншими обчислювальними витратами, що робить можливим мобільне розгортання в режимі реального часу. Наведено практичні формули для втрат у дистиляції знань та порівняльні оцінки моделей за критеріями SWAP. Зроблено висновок, що дистиляція знань створює легкі моделі FAS, які ефективно працюють на мобільних платформах (наприклад, досягнення майже в 7 разів швидшої роботи для дистильованої моделі з менш ніж 1 млн параметрів та з точністю приблизно 99% від викладацької), споживаючи при цьому набагато меншу частку енергії пристроюОкреслено майбутні напрямки досліджень, включаючи мультимодальну дистиляцію та адаптивні архітектури, які могли б ще більше сприяти оптимізації показників SWAP у цій галузі

Face anti‐spoofing (FAS) on mobile devices demands models that are not only accurate but also fast, lightweight, and energy‐efficient – encapsulated by SWAP metrics (Speed, Weight, Accuracy, Power consumption). This paper investigates how knowledge distillation can optimize these SWAP metrics for neural networks in FAS. Large, high‐performing teacher models are distilled into compact student models that retain high accuracy while drastically reducing model weight and improving inference speed. Latest researches have shown that distilled FAS models can achieve accuracy on par with state‐of‐the‐art networks but with significantly lower computational cost, making real‐time mobile deployment feasible. The paper presents practical formulas for the knowledge distillation loss, comparative evaluations of models on SWAP criteria. It is concluded that knowledge distillation produces lightweight FAS models that run efficiently on mobile platforms (e.g., achieving nearly 7× faster inference for a distilled model with less than 1 M parameters, at approximately 99% of the teacher’s accuracy) while consuming a fraction of the power. In this article we outline future research directions – including multi-modal distillation and adaptive architectures, that could further push SWAP metrics optimization in this field