Contribution: Contributions Program
Toronto Metropolitan University
$77,295.00
Losing your voice to AI: Privacy risks of health-related machine listening
EF 2025-26 · 2025-07-12
Résumé
Smart speakers are the most popular smart home device in Canada and millions of Canadians use voice assistants like Alexa or Siri on a daily basis. However, smart speakers – and other voice-activated devices such as phones, wearables, and cars – do not only record conversations, they can also automatically produce biometric voice profiles of adults and children.
The primary objective of this project is to map the array of applications for health-related machine listening to identify privacy risks and protect the privacy rights of Canadians. This will be achieved through multi-method research and an impactful digital literacy campaign. The first study maps the industry of health-related machine listening to identify information risks that fall under the scope of PIPEDA. The second study investigates the privacy policies that cover health-related voice data to see how the basic principle of consent is being fulfilled or not. And the final study identifies risks of significant harms related to health-related machine listening. Knowledge translation activities will target four segments of the public: citizens/consumers, digital literacy stakeholder organizations, privacy regulators and policy makers, and the private sector.
Programme
Contributions Program
Bénéficiaire
Emplacement
Toronto, Ontario, Canada
Type de bénéficiaire
Academia
Type
Contribution
Source
Proactive Disclosure - Grants and Contributions
Tel que publié
Agreement End Date
2026-03-31
Agreement Number
n/a
Agreement Start Date
2025-07-12
Agreement Title
Losing your voice to AI: Privacy risks of health-related machine listening
Agreement Title (French)
Perdre sa voix au profit de l’intelligence artificielle : Risques pour la vie privée de l’écoute automatique en santé
Agreement Type
Contribution
Agreement Value
$77,295.00
Amendment Number
0
Description
Smart speakers are the most popular smart home device in Canada and millions of Canadians use voice assistants like Alexa or Siri on a daily basis. However, smart speakers – and other voice-activated devices such as phones, wearables, and cars – do not only record conversations, they can also automatically produce biometric voice profiles of adults and children.
The primary objective of this project is to map the array of applications for health-related machine listening to identify privacy risks and protect the privacy rights of Canadians. This will be achieved through multi-method research and an impactful digital literacy campaign. The first study maps the industry of health-related machine listening to identify information risks that fall under the scope of PIPEDA. The second study investigates the privacy policies that cover health-related voice data to see how the basic principle of consent is being fulfilled or not. And the final study identifies risks of significant harms related to health-related machine listening. Knowledge translation activities will target four segments of the public: citizens/consumers, digital literacy stakeholder organizations, privacy regulators and policy makers, and the private sector.
Description (French)
Les haut-parleurs intelligents sont les appareils domestiques intelligents les plus populaires au Canada et des millions de personnes au pays utilisent quotidiennement des assistants vocaux comme Alexa ou Siri. Cependant, les haut-parleurs intelligents (et d’autres appareils à commande vocale comme les téléphones, les dispositifs portables et les voitures) ne se contentent pas d’enregistrer les conversations; ils peuvent également produire automatiquement des profils vocaux biométriques d’adultes et d’enfants.
Le principal objectif de ce projet consiste à schématiser la gamme d’applications pour l’écoute automatique en santé afin de cerner les risques d’atteinte à la vie privée et de protéger le droit à la vie privée de la population canadienne. Cet objectif sera atteint grâce à la recherche faisant appel à plusieurs méthodes et à une campagne percutante axée sur les connaissances numériques. La première étude consiste à schématiser l’industrie de l’écoute automatique en santé afin de cerner les risques liés à l’information qui relèvent du champ d’application de la Loi sur la protection des renseignements personnels et les documents électroniques. La deuxième étude permet d’examiner les politiques de confidentialité qui régissent les données vocales liées à la santé afin d’établir dans quelle mesure le principe fondamental du consentement est respecté. Enfin, l’étude finale consiste à cerner les risques de préjudices graves liés à l’écoute automatique en santé. Les activités d’application des connaissances cibleront quatre segments de la population, soit les citoyens et les consommateurs, les organisations de nos partenaires en matière de connaissance numériques, les organismes de réglementation responsables de la protection de la vie privée et les décideurs politiques, ainsi que le secteur privé.
Organization Code
opc-cpvp
Organization
Office of the Privacy Commissioner of Canada | Commissariat à la protection de la vie privée du Canada
Program Name
Contributions Program
Program Name (French)
Programme des contributions
Recipient City
Toronto
Recipient Country
CA
Recipient Legal Name
Toronto Metropolitan University
Recipient Operating Name
Toronto Metropolitan University
Recipient Postal Code
M5B 2K3
Recipient Province or Territory
ON
Recipient Type
S
Reference Number
CP-000088