АНАЛІЗ МЕТОДІВ СТИСНЕННЯ ЗГОРТКОВИХ НЕЙРОННИХ МЕРЕЖ ДЛЯ ЕФЕКТИВНОГО РОЗГОРТАННЯ У СЕРЕДОВИЩІ EDGE AI

Анотація

Стаття присвячена дослідженню та емпіричній оцінці методів стиснення згорткових нейронних мереж для їх ефективного розгортання в середовищі Edge AI. Незважаючи на високу точність, традиційні CNN-архітектури, такі як ResNet-18, є надто ресурсомісткими для периферійних пристроїв з обмеженою обчислювальною потужністю, оперативною пам'яттю та енергоспоживанням. Основна увага зосереджена на пошуку оптимального балансу між зменшенням ресурсоспоживання та збереженням високої точності класифікації. Мета роботи полягає у дослідженні та демонстрації ефективності спеціальних технік стиснення моделі, зокрема квантування, прунінгу та дистиляції знань, для успішного перенесення потужних можливостей CNN на Edge Devices. Наукова новизна полягає у комплексному, кількісному порівнянні впливу трьох основних технік оптимізації на ключові показники продуктивності моделі. Демонстрація того, що повне цілочисельне квантування (PTQ Int8) забезпечує коефіцієнт стиснення 11.06x при мінімальній втраті точності (0.0030), підтверджуючи його як оптимальний первинний крок. Порівняльний аналіз, який доводить, що неструктуроване стиснення (50% ваг ResNet-18) повністю відновлює та перевершує еталонну точність після fine-tuning, тоді як структуроване стиснення призводить до незворотної втрати точності (до 45.70%) в умовах обмеженого донавчання, вимагаючи більш виваженого підходу. Підтвердження того, що дистиляція знань дозволяє моделі MobileNetV2 перевершити свою традиційно навчену версію (91.8% проти 89.5%), максимізуючи точність за умови жорстких архітектурних обмежень. Висновки. Стиснення моделі є інженерним компромісом та необхідною умовою для створення високоефективних, низькозатримкових та енергоощадних рішень глибокого навчання, що можуть бути успішно розгорнуті в середовищі периферійних обчислень. Застосування квантування дозволяє перетворити енергоємні моделі в практичні Edge AI рішення.