Planificador de Tareas en Datacenters Heterogéneos basado en Deep Reinforcement Learning

Abstract

ABSTRACT: The computational capacity needs by both companies and research groups all over the world has increased greatly in the last years. These necessities are due to the increasing amount of data to analyse, training of machine learning models, high performance scientific applications and many other types of jobs that are too costly for the infrastructure of these groups. This means that data centers are getting more and more jobs, and thus need more and more resources to accommodate all of them. The scheduling of all of these tasks in the heterogeneous resources of a data center is too complex computationally to be performed optimally, as it is an NP-Complete problem. For this reason, task scheduling is still performed by heuristic algorithms. However, these algorithms are beginning to fall short for managing the great heterogeneity of both jobs and resources efficiently. This fact, together with the desire of being able to have a method that is adaptable to different objectives such as minimizing energy consumption or job slowdown, opens the door to the idea of using a machine learning approach. The objective of this work is to design and implement an intelligent agent that is able to make use of all the available information from both jobs and resources to take the best scheduling decisions depending on the selected objective.

RESUMEN: Las necesidades tanto de las empresas como de los grupos de investigación de todo el mundo en cuanto a capacidad de cómputo ha crecido enormemente en los últimos años. Estas necesidades se deben a la creciente cantidad de datos que analizar, entrenamientos de algoritmos de inteligencia artificial, aplicaciones científicas de computación de altas prestaciones y muchos otros tipos de trabajos que son demasiado costosos para la infraestructura de muchos de estos grupos. Esto hace que los data centers cada vez reciban más y más trabajos, y necesiten a su vez más y más recursos para dar cabida a todos ellos. La planificación de esta gran cantidad de trabajos en los recursos tan heterogéneos de un data center es una tarea computacionalmente demasiado compleja como para ser realizada de forma óptima, ya que es un problema NP-Completo. Debido a esto, hasta ahora esta planificación ha sido realizada mediante el uso de algoritmos heurísticos. Sin embargo, estos algoritmos comienzan a quedarse cortos a la hora de manejar de forma eficiente la gran heterogeneidad tanto de los trabajos como de los recursos. Esto, junto a la necesidad de tener un método que sea capaz de adaptarse a distintos objetivos como pueden ser minimizar el consumo de energía o el slowdown de los trabajos, abre las puertas a tratar de usar un enfoque basado en aprendizaje automático. El objetivo de este trabajo es diseñar e implementar un agente inteligente que sepa aprovechar toda la información disponible tanto de los trabajos como de los recursos para hacer una planificación lo más eficiente posible en función del objetivo seleccionado.