Hybrid cloud placement selection for commercial off-the-shelf enterprise applications using performance metrics and quantifiable requirements

Abstract

Off-the-shelf enterprise applications (EA) are commonly used in various enterprises to support business processes. At the same time, relying on a hybrid cloud infrastructure configuration can be advantageous, but the selection of the most suitable placement for entire landscapes of EAs is a daunting task where various stakeholders, requirements, constraints, and objectives must be considered. These considerations and objectives for cloud adoption may differ from one enterprise to another. EAs may provide instrumentation that can be used for collecting performance metrics data, which can be analyzed to determine the actual utilization of the computational resources available. This data can be used to facilitate the placement decision-making process, where every individual EA in the IT landscape can select a different type of placement in a hybrid cloud. However, this data alone is not sufficient for selecting such a placement beyond raw capacities. Inclusion of the pricing information is crucial for informed decisions, as well as various business-relevant objectives, requirements, and constraints. In this work, the application of machine learning and metaheuristic algorithms is explored to assist the experts in the decision-making process for the placement of the off-the-shelf EAs in a hybrid cloud, while using performance metrics data. This investigation is focused on two elements, which are also evaluated from process feasibility and concrete technical instantiation points of view. First, a method that comprises a business-focused process and algorithm specifications dictating the practice of applying data analysis and optimization to EA placement decision-making in an enterprise environment is proposed. The method is designed to be agnostic to any specific core placement optimization algorithm but focuses on the combinatorial formulation of the problem. This is demonstrated through the proposed interchangeable use of evolutionary optimization metaheuristics and deep reinforcement learning (DRL). It includes a vital automation component designed as a useful enterprise end-user-ready software system. A concrete instantiation design of this automation component is driven by the specific use cases and the business process. It is oriented on modularity, maintainability, and scalability, and is proposed as the second vital aspect of this research, which builds explicitly upon the first. The placement decision-making for off-the-shelf enterprise applications considers multiple hybrid cloud infrastructure possibilities and their mixes. A placement decision may include private data centers and public cloud placement, both with a focus on the level of traditional IT infrastructure, such as servers, virtual machines, and networking. Additionally, a vendor-specific, placement solution, that includes managed infrastructure and the EA itself, is explored. Process and challenges considering these for placement are discussed. These are then encoded into the optimization problem representation for searching the best possible placement combination for the systems in the IT landscape, such that various requirements, constraints, and other objectives are taken into account. The proposed method and instantiation are evaluated based on field testing, synthetic scalability testing, and three cases with various system landscape sizes and test configurations. The computational results demonstrate the effective adoption of meta-heuristic and DRL to solve the placement problems that are subject to various business requirements, constraints, and objectives. These were achieved through the development of problem-agnostic requirements, constraints, and pricing data models accompanied by several optimization formulations.

Betriebliche Standardsoftware, oder auch Enterprise-Applications (EA), wird in verschiedenen Unternehmen häufig zur Steuerung von Geschäftsprozessen eingesetzt. Gleichzeitig kann die Nutzung einer hybriden Cloud-Infrastrukturkonfiguration vorteilhaft sein, jedoch stellt die Auswahl des am besten geeigneten Platzierungen für die gesamte EA-Landschaft eine anspruchsvolle Aufgabe dar, bei der verschiedene Beteiligte, Anforderungen, Einschränkungen und Ziele berücksichtigt werden müssen. Diese Aspekte und Ziele für die Cloud-Anwendung können sich von einem Unternehmen zum anderen unterschiedlich gestalten. EAs verfügen ggf. über Instrumente zur Erfassung von Performance-Messdaten, die analysiert werden können, um die tatsächliche Auslastung der verfügbaren Rechenressourcen zu ermitteln. Diese Daten können zur Unterstützung des Entscheidungsprozesses bei der Platzierung herangezogen werden, wobei jede einzelne EA in der IT-Landschaft eine unterschiedliche Variante der Platzierung in einer Hybrid Cloud wählen kann. Diese Daten allein reichen jedoch nicht aus, um eine solche Platzierung über die reinen Rechenkapazitäten hinaus auszuwählen. Für informierte Entscheidungen sind neben verschiedenen geschäftsrelevanten Zielen, Anforderungen und Einschränkungen auch Preisinformationen von zentraler Bedeutung. In dieser Forschungsarbeit wird die Anwendung von maschinellem Lernen und metaheuristischen Algorithmen untersucht, um Experten bei der Entscheidungsfindung zur Platzierung von EAs in einer Hybrid Cloud zu unterstützen, wobei Performance-Messdaten verwendet werden. Diese Untersuchung konzentriert sich auf zwei Elemente, die sowohl unter dem Aspekt der praktischen Umsetzbarkeit als auch unter dem Aspekt der konkreten technischen Umsetzung betrachtet werden. Erstens wird eine Methode vorgeschlagen, die einen betriebsorientierten Prozess und Algorithmus-Spezifikationen umfasst, die die Anwendung von Datenanalyse und Optimierung auf die Entscheidungsfindung bei der EA-Platzierung vorschreiben. Die Optimierung innerhalb der Methode ist als kombinatorische Formulierung des Optimierungsproblems konzipiert, jedoch unabhängig von einem bestimmten Kernalgorithmus zur Platzierungsoptimierung. Dies wird durch den vorgeschlagenen Einsatz von evolutionären Optimierungs-Metaheuristiken oder Deep Reinforcement Learning (DRL) demonstriert, die austauschbar sind. Die enthält eine wichtige Automatisierungskomponente, die als nützliches, für den Endanwender in der Industrie geeignetes Softwaresystem konzipiert ist. Das konkrete Software-Design dieser Automatisierungskomponente orientiert sich an den spezifischen Anwendungsfällen und dem betriebsorientierten Prozess. Es ist auf Modularität, Wartbarkeit und Skalierbarkeit ausgerichtet und wird als zweiter wesentlicher Aspekt dieser Forschung vorgeschlagen, der explizit auf dem ersten aufbaut. Die Platzierungsentscheidung für EA berücksichtigt mehrere Möglichkeiten für Hybrid-Cloud-Infrastrukturen und deren Kombinationen. Eine Platzierungsentscheidung kann private Rechenzentren und die Platzierung in der öffentlichen Cloud umfassen, wobei der Schwerpunkt jeweils auf der traditionellen IT-Infrastruktur wie Servern, virtuellen Maschinen und Netzwerken liegt. Darüber hinaus wird eine EA-Anbieterspezifische Platzierungslösung untersucht, die sowohl die EA selbst als auch die dahinterliegende Infrastruktur umfasst. Die Prozesse und Herausforderungen, die bei der Platzierung zu berücksichtigen sind, werden erörtert. Diese werden dann in die Optimierungsproblemdarstellung formuliert, um die bestmögliche Platzierungskombination für die Systeme in der IT-Landschaft zu suchen, wobei verschiedene Anforderungen, Einschränkungen und andere Ziele berücksichtigt werden. Die vorgeschlagene Methode und die spezifische Implementierung der Automatisierungskomponente werden anhand von Feldtests, synthetischen Skalierbarkeitstests, drei Fällen mit verschiedenen Systemlandschaftsgrößen und Testkonfigurationen getestet. Die Ergebnisse der Berechnungen zeigen, dass Metaheuristik und DRL zur Lösung von Platzierungsproblemen eingesetzt werden können, die verschiedenen betrieblichen Anforderungen, Einschränkungen und Zielen folgen. Erreicht wurde dies durch die Entwicklung von problemunabhängigen Anforderungs, Einschränkungs- und Preisdatenmodellen in Verbindung mit mehreren Optimierungsformulierungen.