Contribution: Contribution Program
Queen's University
$50,000.00
Large Language Models and the Disappearing Private Sphere
EF 2023-24 · 2023-07-11
Résumé
This project will examine possible futures for large language models (LLMs) and privacy in the private sector in the age of immersive and embeddable technologies. The project will produce a report, guidelines for institutional review boards (IRBs), and a public website to increase knowledge and understanding about the actual and potential future implications of LLMs and the collection of data used to train them. The project will also examine the differential effects of LLMs on the privacy of marginalized Canadians and members of minority language groups. The researchers will focus on five questions: 1. What is the de facto status of web scraping in Canada, according to IRBs? 2. How much data about individuals can be retrieved from LLMs? 3. Are marginalized groups and minority language groups more susceptible to privacy leakage from LLMs? 4. Are Canada’s privacy laws and regulations capable of dealing with these models and their privacy implications? 5. What changes to law and regulation might be needed?
Programme
Contribution Program
Bénéficiaire
Emplacement
Kingston, Ontario, Canada
Type de bénéficiaire
Academia
Type
Contribution
Source
Proactive Disclosure - Grants and Contributions
Tel que publié
Reference Number
CP-000060
Amendment Number
0
Agreement Type
Contribution
Recipient Legal Name
Queen's University
Recipient Operating Name
Queen's University
Recipient Country
CA
Recipient Province or Territory
ON
Recipient City
Kingston
Recipient Postal Code
K7L 2X3
Program Name
Contribution Program
Program Name (French)
Programme des contributions
Agreement Title
Large Language Models and the Disappearing Private Sphere
Agreement Title (French)
Les grands modèles de langage et la disparition de la sphère privée
Agreement Value
$50,000.00
Agreement Start Date
2023-07-11
Agreement End Date
2024-03-31
Description
This project will examine possible futures for large language models (LLMs) and privacy in the private sector in the age of immersive and embeddable technologies. The project will produce a report, guidelines for institutional review boards (IRBs), and a public website to increase knowledge and understanding about the actual and potential future implications of LLMs and the collection of data used to train them. The project will also examine the differential effects of LLMs on the privacy of marginalized Canadians and members of minority language groups. The researchers will focus on five questions: 1. What is the de facto status of web scraping in Canada, according to IRBs? 2. How much data about individuals can be retrieved from LLMs? 3. Are marginalized groups and minority language groups more susceptible to privacy leakage from LLMs? 4. Are Canada’s privacy laws and regulations capable of dealing with these models and their privacy implications? 5. What changes to law and regulation might be needed?
Description (French)
Ce projet portera sur l’avenir possible des grands modèles de langage et la protection des renseignements personnels dans le secteur privé à l’ère des technologies immersives et intégrables. L’équipe de projet produira un rapport, des lignes directrices à l’intention des comités de révision institutionnels, ainsi qu’un site Web public visant à renforcer la connaissance et la compréhension des répercussions réelles et éventuelles des grands modèles de langage et de la collecte des données utilisées pour les instruire. Le projet portera également sur les effets différentiels des grands modèles de langage sur la protection des renseignements personnels des Canadiens marginalisés et des groupes linguistiques minoritaires. Les chercheurs se pencheront sur 5 questions : 1. Quel est la situation de fait du moissonnage du Web au Canada, selon les comités de révision institutionnels? 2. Quelle quantité de données sur les particuliers peut-on extraire des grands modèles de langage? 3. Les groupes marginalisés et les groupes linguistiques minoritaires sont-ils plus vulnérables aux fuites de renseignements personnels provenant des grands modèles de langage? 4. Les lois et les règlements canadiens sur la protection des renseignements personnels peuvent-ils permettre de prendre les mesures qui s’imposent à l’égard de ces modèles et de leurs conséquences sur la protection des renseignements personnels? 5. Quelles modifications aux lois et à la réglementation pourraient être nécessaires?
Organization Code
opc-cpvp
Organization
Office of the Privacy Commissioner of Canada | Commissariat à la protection de la vie privée du Canada