Grant: Collaborative Research and Development Grants

The application of machine learning (ML) to the complex problems of the aerospace industry, which has high standards of performance and security, needs to make the techniques robust, comprehensible, guaranteeing privacy and thus certifiable by the authorities. The DEEL project, as a result of an international collaboration between ITS Saint Exupéry in France, IVADO and CRIAQ in Canada, aims to take a first step towards the use of machine learning techniques for various problems of the Canadian aerospace industry through a multidisciplinary collaboration between several industry players and several Canadian universities with more than a dozen researchers and more than twenty graduate students and highly qualified professionals annually.The first theme deals with robustness and consists of developing ML methods that remain effective even in extreme situations not observed during design. To do this work, we rely on methods for measuring decision uncertainty, managing context changes, and methods that are robust to attack. The second theme deals with interpretability and involves developing methods that provide explanations to experts (designer, crew) to make the decisions or advice of the system understandable. The methods used in this theme are based on the notion of transparency of the learned model and on the notion of explicability of a given decision.The third theme deals with privacy by design and involves developing methods that ensure that the data used to design the ML model remains confidential and cannot be rebuilt from the results or operation of the system. The methods used in this theme are based on the controlled addition of noise in data and learning on encrypted data.These three themes aim to provide techniques to improve trust in the results of ML systems and to enable certifiability. The objective of this fourth theme is to develop ML certifiability techniques. We propose using methods and best practices of software engineering, such as tests and formal methods, to discover how to adapt them to ML. L'application de l'apprentissage automatique aux problèmes complexes de l'industrie aérospatiale, qui possède de hauts standards de performance et de sécurité, nécessite de rendre les techniques robustes, compréhensibles, garantes de la vie privée et ainsi, certifiables par les autorités. Le projet DEEL, issue d'une collaboration internationale entre l'ITS Saint Exupéry en France, l'IVADO et le CRIAQ au Canada, vise à faire un premier pas vers l'utilisation de l'apprentissage automatique par l'industrie aérospatiale canadienne via une collaboration multidisciplinaire entre plusieurs acteurs industriels et plusieurs universités canadiennes regroupant plus d'une dizaine de chercheurs et plus d'une vingtaine d'étudiants gradués et professionnels hautement qualifiés annuellement. Le premier thème traite de la robustesse et consiste à développer des méthodes qui restent efficaces même dans des situations extrêmes non observées pendant l'apprentissage. À cet effet, nous utilisons des mesures de l'incertitude des décisions, la gestion des changements de contextes et la robustesse aux attaques. Le deuxième thème traite de l'interprétabilité et consiste à développer des méthodes qui fournissent des explications à des experts pour leur permettre de comprendre les décisions ou les conseils du système. Les méthodes utilisées dans ce thème se basent sur la transparence du modèle et l'explicabilité d'une décision donnée. Le troisième thème traite de la vie privée par conception et consiste à développer des méthodes qui garantissent la confidentialité des données utilisées lors de l'apprentissage et lors de l'utilisation des résultats. Les méthodes utilisées dans ce thème se basent sur l'ajout contrôlé de bruit et l'utilisation de données chiffrées. Ces trois thèmes ont pour objectif d'améliorer la confiance dans les résultats des systèmes d'apprentissage automatique et de permettre la certificabilité. L'objectif de ce quatrième thème est de développer des techniques de certificabilité de l'apprentissage automatique. Nous proposons de partir des méthodes et des bonnes pratiques de génie logiciel, telles que les tests et les méthodes formelles, afin de découvrir comment les adapter aux méthodes d'apprentissage automatique.