Accelerating Evolutionary Design Exploration with Predictive and Generative Models
Accélérer l'exploration de la conception par algorithme évolutionniste grâce à des modèles prédictifs et génératifs
Résumé
Optimization plays an essential role in industrial design, but is not limited to minimization of a simple function, such as cost or strength. These tools are also used in conceptual phases, to better understand what is possible. To support this exploration we focus on Quality Diversity (QD) algorithms, which produce sets of varied, high performing solutions. These techniques often require the evaluation of millions of solutions -- making them impractical in design cases. In this thesis we propose methods to radically improve the data-efficiency of QD with machine learning, enabling its application to design. In our first contribution, we develop a method of modeling the performance of evolved neural networks used for control and design. The structures of these networks grow and change, making them difficult to model -- but with a new method we are able to estimate their performance based on their heredity, improving data-efficiency by several times. In our second contribution we combine model-based optimization with MAP-Elites, a QD algorithm. A model of performance is created from known designs, and MAP-Elites creates a new set of designs using this approximation. A subset of these designs are the evaluated to improve the model, and the process repeats. We show that this approach improves the efficiency of MAP-Elites by orders of magnitude. Our third contribution integrates generative models into MAP-Elites to learn domain specific encodings. A variational autoencoder is trained on the solutions produced by MAP-Elites, capturing the common “recipe” for high performance. This learned encoding can then be reused by other algorithms for rapid optimization, including MAP-Elites. Throughout this thesis, though the focus of our vision is design, we examine applications in other fields, such as robotics. These advances are not exclusive to design, but serve as foundational work on the integration of QD and machine learning.
L'optimisation joue un rôle essentiel dans la conception industrielle, mais ne se limite pas à la minimisation d'une simple fonction, comme le coût ou la résistance. Ces outils sont également utilisés dans les phases conceptuelles, pour mieux comprendre ce qui est possible. Pour soutenir cette exploration, nous nous concentrons sur les algorithmes de diversité de qualité (QD), qui produisent des ensembles de solutions variées et performantes. Ces techniques nécessitent souvent l'évaluation de millions de solutions, ce qui les rend peu pratiques dans les cas de conception. Dans cette thèse, nous proposons des méthodes pour améliorer radicalement l'efficacité des données de la QD avec l'apprentissage machine, permettant son application à la conception. Dans notre première contribution, nous développons une méthode de modélisation des performances des réseaux neuronaux évolués utilisés pour le contrôle et la conception. Les structures de ces réseaux se développent et changent, ce qui les rend difficiles à modéliser - mais grâce à une nouvelle méthode, nous sommes en mesure d'estimer leurs performances en fonction de leur hérédité, améliorant ainsi l'efficacité des données à plusieurs reprises. Dans notre deuxième contribution, nous combinons l'optimisation basée sur un modèle avec MAP-Elites, un algorithme QD. Un modèle de performance est créé à partir de modèles connus, et MAP-Elites crée un nouvel ensemble de modèles en utilisant cette approximation. Un sous-ensemble de ces conceptions est évalué pour améliorer le modèle, et le processus se répète. Nous montrons que cette approche améliore l'efficacité de MAP-Elites par des ordres de grandeur. Notre troisième contribution intègre des modèles générateurs dans MAP-Elites pour apprendre des codages spécifiques à un domaine. Un auto-codeur variationnel est formé sur les solutions produites par MAP-Elites, capturant la "recette" commune pour une haute performance. Ce codage appris peut ensuite être réutilisé par d'autres algorithmes pour une optimisation rapide, y compris MAP-Elites. Tout au long de cette thèse, bien que notre vision se concentre sur la conception, nous examinons les applications dans d'autres domaines, comme la robotique. Ces avancées ne sont pas exclusives à la conception, mais servent de travail de base à l'intégration de la DQ et de l'apprentissage machine.
Origine : Fichiers produits par l'(les) auteur(s)
Loading...