ІНТЕЛЕКТУАЛЬНЕ ОЦІНЮВАННЯ ТА ПРЕДИКТИВНА МІНІМЗАЦІЯ ЗАТРИМОК У SERVERLESS-ПЛАТФОРМАХ НА ОСНОВІ ГІБРИДНОЇ НЕЙРОМЕРЕЖЕВОЇ АРХІТЕКТУРИ CNN-LSTM

Анотація

У статті досліджується проблема холодного старту у Serverless-платформах як одна з основних причин
погіршення показників якості обслуговування в умовах нерівномірного та динамічного навантаження. Особливу
складність ця проблема становить для середовищ Function-as-a-Service, де стохастичний характер викликів
функцій і наявність періодів неактивності призводять до значних затримок ініціалізації обчислювального
контексту. Традиційні евристичні політики управління ресурсами, зокрема фіксовані тайм-аути або реактивне
масштабування, часто виявляються неефективними за умов різких сплесків навантаження. Запропоновано підхід
до предиктивного управління ресурсами Serverless-платформ на основі гібридної нейромережевої архітектури
CNN–LSTM, призначеної для прогнозування інтенсивності викликів функцій. Згорткові нейронні мережі
використовуються для виділення локальних патернів та короткочасних піків у часових рядах навантаження, тоді
як рекурентні LSTM-блоки забезпечують моделювання довгострокових часових залежностей. Отримані
прогнози застосовуються для реалізації механізму предиктивного pre-warming, що дозволяє завчасно активувати
обчислювальні ресурси та мінімізувати затримки холодного старту. Експериментальне дослідження проведено
на реальних трасах виконання Azure Functions із використанням сценаріїв нерівномірного навантаження та
періодів неактивності. Результати експериментів показали, що запропонована модель CNN–LSTM забезпечує
зниження середньоквадратичної помилки прогнозування на 29,3 % у порівнянні зі стандартною LSTM та
дозволяє скоротити кількість холодних стартів у середньому на 32,4 %. Отримані результати підтверджують
доцільність використання гібридних нейромережевих підходів для підвищення ефективності та якості
обслуговування у сучасних Serverless-системах.
Ключові слова: безсерверні обчислення, Cold Start, CNN-LSTM, прогнозування навантаження, Functionas-a-Service, pre-warming, глибоке навчання.

Перелік посилань
1. Box, G. E. P., Jenkins, G. M., Reinsel, G. C., & Ljung, G. M. (2015). Time Series Analysis: Forecasting and
Control (5th ed.). John Wiley & Sons. URL: https://books.google.com.ua/books?id=De9xBgAAQBAJ.
2. Jonas, E., et al. (2019). Cloud Programming Simplified: A Berkeley View on Serverless Computing. arXiv
preprint arXiv:1902.03383. URL: https://arxiv.org/abs/1902.03383.
3. Baldini, I., et al. (2017). Serverless Computing: Current Trends and Open Problems. Research Advances in
Cloud Computing, 1–20. URL: https://arxiv.org/abs/1706.03178.
4. Hochreiter, S., & Schmidhuber, J. (1997). Long Short-Term Memory. Neural Computation, 9(8), 1735–1780.
DOI: 10.1162/neco.1997.9.8.1735.
5. Lin, C., & Khazaei, H. (2021). Modeling and Optimization of Performance and Cost of Serverless
Applications. IEEE Transactions on Parallel and Distributed Systems, 32(3), 655–669. DOI:
10.1109/TPDS.2020.3028841.
6. Osypanka, P., & Nawrocki, P. (2022). Resource Usage Cost Optimization in Cloud Computing Using Machine
Learning. IEEE Transactions on Cloud Computing, 10(3), 2079–2089. DOI: 10.1109/TCC.2020.2987821.
7. O'Shea, K., & Nash, R. (2015). An Introduction to Convolutional Neural Networks. arXiv preprint
arXiv:1511.08458. URL: https://arxiv.org/abs/1511.08458.
8. Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. URL:
http://www.deeplearningbook.org.
9. Wang, L., Li, M., Zhang, Y., Ristenpart, T., & Swift, M. (2018). Peeking Behind the Curtains of Serverless
Platforms. 2018 USENIX Annual Technical Conference (USENIX ATC 18), 133–146. URL: https://www.usenix.
org/conference/atc18/presentation/wang-liang.
10. Karim, F., Majumdar, S., Darabi, H., & Chen, S. (2018). LSTM Fully Convolutional Networks for Time Series
Classification. IEEE Access, 6, 1662–1669. DOI: 10.1109/ACCESS.2017.2779939.
11. Shahrad, M., et al. (2020). Serverless in the Wild: Characterizing and Optimizing the Serverless Workload at
a Large Cloud Provider. 2020 USENIX Annual Technical Conference (USENIX ATC 20), 205–218. URL:
https://www.usenix.org/conference/atc20/presentation/shahrad.