Snapshot Provisioning of Cloud Application Stacks to Face Traffic Surges

Daniel Pewo Fouomene (1, 2, 3) , Romain Rouvoy (1, 2, 3) , Lionel Seinturier (1, 2, 3, 4)

1 ADAM - Adaptive Distributed Applications and Middleware
2 LIFL - Laboratoire d'Informatique Fondamentale de Lille
3 Université de Lille, Sciences et Technologies
4 IUF - Institut universitaire de France

Traffic surges, like the Slashdot effect, occur when a web application is overloaded by a huge number of requests, potentially leading to unavailability. Unfortunately, such traffic variations are generally totally unplanned, of great amplitude, within a very short period, and a variable delay to return to a normal regime. In this report, we introduce PeakForecast as an elastic middleware solution to detect and absorb a traffic surge. In particular, PeakForecast can, from a trace of queries received in the last seconds, minutes or hours, to detect if the underlying system is facing a traffic surge or not, and then estimate the future traffic using a forecast model with an acceptable precision, thereby calculating the number of resources required to absorb the remaining traffic to come. We validate our solution by experimental results demonstrating that it can provide instantaneous elasticity of resources for traffic surges observed on the Japanese version of Wikipedia during the Fukushima Daiichi nuclear disaster in March 2011.

Les pics de trafic, tels que l'effet Slashdot, apparaissent lorsqu'une application web doit faire face un nombre important de requêtes qui peut potentiellement entraîner une mise hors service de l'application. Malheureusement, de telles variations de traffic sont en général totalement imprévues et d'une grande amplitude, arrivent pendant une très courte période de temps et le retour à un régime normal prend un délai variable. Dans ce rapport, nous présentons PeakForecast qui est une solution intergicielle élastique pour détecter et absorber les pics de trafic. En particulier, PeakForecast peut, à partir des traces de requêtes reçues dans les dernières secondes, minutes ou heures, détecter si le système sous-jacent fait face ou non à un pic de trafic, estimer le trafic futur en utilisant un modèle de prédiction suffisamment précis, et calculer le nombre de ressources nécessaires à l'absorption du trafic restant à venir. Nous validons notre solution avec des résultats expérimentaux qui démontrent qu'elle fournit une élasticité instantanée des ressources pour des pics de trafic qui ont été observés sur la version japonaise de Wikipedia lors de l'accident nucléaire de Fukushima Daiichi en mars 2011.

Mots clés: IaaS; Slashdot effect; Traffic surge; Forecast

Domaines: Génie logiciel [cs.SE]

Daniel Pewo Fouomene, Romain Rouvoy, Lionel Seinturier. Snapshot Provisioning of Cloud Application Stacks to Face Traffic Surges. [Research Report] RR-8299, INRIA. 2013, pp.17. ⟨hal-00820959⟩