Grant: Collaborative Science, Technology and Innovation Program - Collaborative R&D Initiatives

Machine Learning (ML) technologies have been widely adopted in many mission-critical fields to support intelligent decision-making with superior performance. With the success of these new technologies, the application of ML introduces novel and significant threats to AI-powered systems. Policymakers around the world have made a number of ongoing efforts on regulation enactment to enforce and normalize AI cybersecurity and privacy. It is essential to ensure that ML systems can achieve regulatory compliance and satisfy the standard requirements. This project will focus on developing a taxonomy of state-of-the-art ML offensive/defensive technologies based on a comprehensive literature review, including a collection of open-source adversarial challenges and defense utilities; devising efficient security and privacy defense mechanisms against the threats faced in the ML model training and prediction phase; and developing an empirical framework consisting of a toolset of best practices that can be leveraged to enable robust ML application development and deployment.

Les technologies d’apprentissage automatique ont été largement adoptées dans de nombreux domaines critiques afin de soutenir la prise de décision intelligente avec des performances supérieures. Avec le succès de ces nouvelles technologies, l’application du langage machine introduit des menaces nouvelles et appréciables pour les systèmes alimentés par l’IA. Les décideurs politiques du monde entier ont déployé des efforts pour promulguer des réglementations en vue de renforcer et de normaliser la cybersécurité et la protection de la vie privée dans le domaine de l’IA. Il est essentiel de veiller à ce que les systèmes d’intelligence artificielle puissent se conformer à la réglementation et satisfaire aux exigences standard. Ce projet se concentrera sur le développement d’une taxonomie des technologies offensives et défensives de pointe en matière d’intelligence artificielle, basée sur une analyse exhaustive de la littérature, y compris une collection de défis adverses et d’utilitaires de défense en source ouverte; sur la conception de mécanismes efficaces de défense de la sécurité et de la vie privée contre les menaces rencontrées dans la phase d’entraînement et de prédiction du modèle d’intelligence artificielle; et sur le développement d’un cadre empirique composé d’un ensemble d’outils de meilleures pratiques qui peuvent être utilisés pour permettre le développement et le déploiement d’applications d’intelligence artificielle robustes.

In the short term, anticipated outcomes will be strengthened collaborations across industry, academia, and government to support research excellence. In the medium term, anticipated outcomes will be the development of new and potentially disruptive technologies with collaborators. In the long term, find collaborative solutions to public policy challenges and create stronger innovation systems.

À court terme, les résultats prévus seront des collaborations renforcées entre l'industrie, le milieu universitaire et le gouvernement pour soutenir l'excellence en recherche. À moyen terme, les résultats attendus seront le développement de nouvelles technologies potentiellement perturbatrices avec des collaborateurs. À long terme, trouver des solutions collaboratives aux défis des politiques publiques et créer des systèmes d'innovation plus solides.

Collaborate on multiparty research and development programs to catalyze transformative, high-risk, high-reward research with the potential for game-changing scientific discoveries and technological breakthroughs in priority areas.

Collaborer à des programmes multipartites de recherche-développement dans le but de profiter de la synergie entre la recherche transformatrice à haut risque et à haut rendement et le potentiel de découvertes scientifiques et de percées technologiques révolutionnaires dans des secteurs d’intervention prioritaires.