Contribution: Industrial Research Assistance Program

Industrial Research Assistance Program projects stimulate wealth creation for Canada through technological innovation and strengthen Canadian innovation ecosystem by creating new industrial capacity. | Les projets du Programme d'aide à la recherche industrielle favorisent la création de richesse au Canada grâce à l'innovation technologique et renforcent l'écosystème canadien de l'innovation en créant de nouvelles capacités industrielles.

This project establishes a comprehensive framework to detect and mitigate systemic patterns of bias in AI resume screening and data. Using a multi-layered audit approach, we implement "Flip Testing" to identify direct bias by comparing AI scores of cloned resumes and data with swapped demographic attributes. We analyze pass-through rates using the 4/5ths Rule to ensure selection parity and use SHAP/LIME tools to audit "proxy" variables like postal codes or employment gaps that may hide discrimination. By applying fairness metrics (Demographic and Predictive Parity) via IBM AI Fairness 360, we ensure AI recommendations align with actual performance rather than historical data imbalances.

Ce projet établit un cadre complet permettant de détecter et d’atténuer les schémas systémiques de biais dans la présélection des CV par l’IA et dans les données. À l’aide d’une approche d’audit à plusieurs niveaux, nous mettons en œuvre le «Flip Testing» pour identifier les biais directs en comparant les scores générés par l’IA sur des CV clonés et des données dont les attributs démographiques ont été intervertis. Nous analysons les taux de réussite à l’aide de la «règle des 4/5» afin de garantir la parité de sélection, et utilisons les outils SHAP/LIME pour auditer les variables proxy telles que les codes postaux ou les périodes d’inactivité professionnelle susceptibles de masquer une discrimination. En appliquant des indicateurs d’équité (parité démographique et prédictive) via IBM AI Fairness 360, nous garantissons que les recommandations de l’IA s’alignent sur les performances réelles plutôt que sur les déséquilibres historiques des données.

The expected results and outcomes of NRC Industrial Research Assistance Program is focused on growing small and medium-sized enterprises (SMEs) through innovation and wealth creation for Canada.

Les résultats attendus du Programme d’aide à la recherche industrielle du CNRC sont axés sur la croissance des petites et moyennes entreprises (PME) grâce à l’innovation et à la création de richesse pour le Canada.

The purpose of Industrial Research Assistance Program Contributions to Firms is to provide support that assists small and medium-sized enterprises (SMEs) to advance their innovation knowledge and ability to innovate, grow through innovation and stimulate wealth creation for Canada.

Les contributions versées aux entreprises en vertu du Programme d’aide à la recherche industrielle ont pour objectif d’apporter un soutien aux petites et moyennes entreprises (PME) afin qu’elles puissent approfondir leurs connaissances en matière d’innovation et renforcer leur capacité d’innovation, de croissance et de création de richesse pour le Canada.