Contribution: Contributions Program

Artificial intelligence is generating urgent and serious privacy harms for Canadians. Generative AI platforms enable the mass production of non-consensual intimate imagery, including AI-generated child sexual abuse material. Online gaming platforms — used by more than half of Canadians, including millions of children — collect vast quantities of personal and behavioural data with limited transparency or meaningful consent. And AI-powered chatbots and agentic AI systems are rapidly accumulating persistent “memory” profiles of users, retaining sensitive personal information across interactions in ways that most Canadians neither understand nor control. This project proposes a harm reduction approach as a practical and principled alternative.

L’intelligence artificielle (IA) cause des préjudices graves à la vie privée des Canadiennes et des Canadiens, qui demandent une réponse urgente. Les plateformes d’IA générative permettent la production en masse d’images intimes non consensuelles, y compris du matériel d’exploitation sexuelle d’enfants généré par l’IA. Les plateformes de jeux en ligne, utilisées par plus de la moitié de la population canadienne, dont des millions d’enfants, recueillent d’énormes quantités de données personnelles et comportementales, sans grande transparence ni consentement éclairé. De plus, les robots conversationnels alimentés par l’IA et les systèmes d’IA agentique constituent rapidement des profils de « mémoire » persistants des utilisateurs, enregistrant des renseignements personnels sensibles au fil des interactions d’une manière qui dépasse la compréhension de la plupart des Canadiennes et des Canadiens et échappe à leur contrôle. Ce projet propose une approche axée sur la réduction des préjudices comme solution pratique et fondée sur des principes.

Expected project deliverables include a comprehensive harm reduction framework for AI-driven privacy harms in Canada, including a taxonomy of AI-driven privacy harms and an analytical framework for identifying and prioritizing urgent harms. Researchers will also produce three in-depth case study analyses (privacy harms in online gaming; generative AI and NCII; and AI agent/LLM memory), each including a harm characterization, legal analysis, and targeted harm reduction intervention recommendations. The project will also develop a policy brief with recommendations for policymakers and private sector organizations and a stakeholder workshop to bring together experts and other stakeholders.

Les résultats attendus du projet comprennent un cadre complet de réduction des préjudices liés à l’IA au Canada, y compris une taxonomie de ces préjudices et un cadre analytique permettant de définir les préjudices urgents et d’établir leur ordre de priorité. Les chercheurs réaliseront également trois analyses approfondies d’études de cas (préjudices en matière de vie privée dans les jeux en ligne; IA générative et images intimes non consensuelles; et agents d’IA/mémoire des grands modèles de langage), chacune comprenant une caractérisation des préjudices, une analyse juridique et des recommandations d’interventions ciblées de réduction des préjudices. Le projet comprendra également l’élaboration d’un exposé de politique contenant des recommandations à l’intention des décideurs politiques et des organisations du secteur privé, ainsi qu’un atelier réunissant des spécialistes et d’autres parties prenantes.

The Office of the Privacy Commissioner of Canada’s (OPC) Contributions Program funds independent privacy research and related knowledge translation initiatives.

Le Programme des contributions du Commissariat à la protection de la vie privée du Canada finance la recherche indépendante et les initiatives connexes d'application des connaissances sur la protection de la vie privée.