Speech (committee meeting)

{
    "time": "2022-03-21 11:05:00",
    "attribution": {
        "en": "Ms. Carole Piovesan (Managing Partner, INQ Law)",
        "fr": "Mme Carole Piovesan (associ\u00e9e directrice, INQ Law)"
    },
    "content": {
        "en": "<p data-HoCid=\"7037352\" data-originallang=\"en\">Thank you, Mr. Chair and members of the committee. Good morning.</p>\n<p data-HoCid=\"7037353\" data-originallang=\"en\">My name's Carole Piovesan. I'm a managing partner at INQ Law, where my practice concentrates in part on privacy and AI risk management. I'm an adjunct professor at the University of Toronto's Faculty of Law, where I teach on AI regulation. I also recently co-edited a book on AI law, published by Thomson Reuters in 2021. Thank you for the opportunity to make a submission this morning.</p>\n<p data-HoCid=\"7037354\" data-originallang=\"en\">Facial recognition technologies, FRTs, are becoming much more extensively used by public and private sectors alike, as you heard Ms. Khoo testify. According to a 2020 study published by Grand View Research, the global market size of FRTs is expected to reach $12 billion U.S. by 2028, up from a global market size of approximately $3.6 billion U.S. in 2020. This demonstrates considerable investments and advancements in the use of FRTs around the world, indicating a rich competitive environment.</p>\n<p data-HoCid=\"7037355\" data-originallang=\"en\">While discussions about FRTs tend to focus on security and surveillance, various other sectors are using this technology, including retail and e-commerce, telecom and IT, and health care. FRTs present a growing economic opportunity for developers and users of such systems. Put simply, FRTs are becoming more popular. This is why it is essential to understand the profound implications of FRTs in our free and democratic society, as this committee is doing.</p>\n<p data-HoCid=\"7037356\" data-originallang=\"en\">For context, FRTs use highly sensitive biometric facial data to identify and verify an individual. This is an automated process that can happen at scale. It triggers the need for thoughtful and informed legal and policy safeguards to maximize the benefits of FRTs, while minimizing and managing any potential harms.</p>\n<p data-HoCid=\"7037357\" data-originallang=\"en\">FRTs raise concerns about accuracy and bias in system outputs, unlawful and indiscriminate surveillance, black box technology that's inaccessible to lawmakers, and ultimately, a chilling effect on freedom. When described in this context, FRTs put at risk Canada's fundamental values as enshrined in our Canadian charter and expressed in our national folklore.</p>\n<p data-HoCid=\"7037358\" data-originallang=\"en\">While the use of highly sensitive, identifiable data can deeply harm an individual's reputation or even threaten their liberty\u2014as you heard Ms. Khoo testify\u2014it can also facilitate quick and secure payment at checkout, or help save a patient's life.</p>\n<p data-HoCid=\"7037359\" data-originallang=\"en\">FRTs need to be regulated with a scalpel, not an axe.</p>\n<p data-HoCid=\"7037360\" data-originallang=\"en\">The remainder of my submission this morning proposes specific questions organized in four main principles that align with responsible AI principles we see around the world, and are intended to guide targeted regulation of FRTs. The principles I propose align with the OECD artificial intelligence principles and leading international guidance on responsible AI, and address technical, legal, policy and ethical issues to shape a relatively comprehensive framework for FRTs. They are not intended to be exhaustive, but to highlight operational issues that will lead to deeper exploration.</p>\n<p data-HoCid=\"7037361\" data-originallang=\"en\">The first is technical robustness. Questions that should inform regulation include the following. What specific technical criteria ought to be associated with FRT use cases, if any? Should there be independent third parties engaged as oversight to assess FRT from a technical perspective? If so, who should that oversight be?</p>\n<p data-HoCid=\"7037362\" data-originallang=\"en\">Next is accountability. Questions that should inform regulation include the following. What administrative controls should be required to promote appropriate accountability of FRTs? How are those controls determined and by whom? Should there be an impact assessment required? If so, what should it look like? When is stakeholder engagement required and what should that process look like?</p>\n<p data-HoCid=\"7037363\" data-originallang=\"en\">Next, is lawfulness. Questions that should guide regulation include the following. What oversight is needed to promote alignment of FRT uses with societal values, thinking through criminal, civil and constitutional human rights? Are there no-go zones?</p>\n<p data-HoCid=\"7037364\" data-originallang=\"en\">Certainly last, but not least, is fairness. Questions associated with fairness regulation include the following. What are the possible adverse effects of FRTs on individual rights and freedoms? Can those effects be minimized? What steps can or should be taken to ensure that certain groups are not disproportionately harmed, even in low-risk cases? </p>\n<p data-HoCid=\"7037365\" data-originallang=\"en\"> Taken together, these questions allow Canada to align with emerging regulation on artificial intelligence around the world, with a specific focus on FRTs given the serious threat to our values as balanced against some of the real beneficial possibilities.</p>\n<p data-HoCid=\"7037366\" data-originallang=\"en\">I look forward to your questions. Thank you.</p>",
        "fr": "<p data-HoCid=\"7037352\" data-originallang=\"en\">Merci, monsieur le pr\u00e9sident, et merci, distingu\u00e9s membres du Comit\u00e9. Bonjour.</p>\n<p data-HoCid=\"7037353\" data-originallang=\"en\">Je m'appelle Carole Piovesan. Je suis associ\u00e9e directrice chez INQ Law, et je concentre ma pratique sur les questions de confidentialit\u00e9 et de gestion du risque li\u00e9 \u00e0 l'intelligence artificielle, ou IA. Je suis \u00e9galement professeure associ\u00e9e \u00e0 la Facult\u00e9 de droit de l'Universit\u00e9 de Toronto, o\u00f9 je donne des cours sur la r\u00e9glementation en mati\u00e8re d'IA. J'ai cosign\u00e9 un livre sur la l\u00e9gislation en mati\u00e8re d'IA qui a \u00e9t\u00e9 publi\u00e9 chez Thomson Reuters en 2021. Je vous remercie de me donner la possibilit\u00e9 de m'adresser au Comit\u00e9.</p>\n<p data-HoCid=\"7037354\" data-originallang=\"en\">L'utilisation de la technologie de reconnaissance faciale gagne du terrain autant dans le secteur public que dans le secteur priv\u00e9, comme vient de le dire Mme Khoo. Selon une \u00e9tude publi\u00e9e par Grand View Research en 2020, le march\u00e9 mondial de la technologie de reconnaissance faciale devrait atteindre 12 milliards de dollars am\u00e9ricains en 2028, alors qu'il s'\u00e9tablissait \u00e0 3,6 milliards de dollars am\u00e9ricains environ en 2020. Cette expansion sera favoris\u00e9e par des investissements majeurs et des avanc\u00e9es marqu\u00e9es dans l'application de cette technologie \u00e0 l'\u00e9chelle de la plan\u00e8te, ce qui d\u00e9note un environnement concurrentiel tr\u00e8s dynamique.</p>\n<p data-HoCid=\"7037355\" data-originallang=\"en\">Il est beaucoup question de s\u00e9curit\u00e9 et de surveillance quand on parle de la technologie de reconnaissance faciale, mais elle est aussi utilis\u00e9e dans des secteurs comme le commerce au d\u00e9tail et le commerce \u00e9lectronique, les t\u00e9l\u00e9communications, les technologies de l'information ou les soins de sant\u00e9. La technologie de reconnaissance faciale devient un d\u00e9bouch\u00e9 \u00e9conomique de plus en plus attrayant pour les concepteurs et les utilisateurs de ces syst\u00e8mes. Autrement dit, la technologie de reconnaissance faciale gagne en popularit\u00e9. C'est pourquoi il est imp\u00e9ratif d'en comprendre les cons\u00e9quences profondes pour nos soci\u00e9t\u00e9s libres et d\u00e9mocratiques, comme cherche actuellement \u00e0 le faire votre comit\u00e9.</p>\n<p data-HoCid=\"7037356\" data-originallang=\"en\">\u00c0 titre informatif, je rappelle que la technologie de reconnaissance faciale utilise des donn\u00e9es faciales biom\u00e9triques extr\u00eamement sensibles pour identifier et v\u00e9rifier l'identit\u00e9 d'une personne. Il s'agit d'un processus automatis\u00e9 qui peut \u00eatre appliqu\u00e9 \u00e0 grande \u00e9chelle. Dans ce contexte, il faudra des lois et des politiques contenant des garanties rigoureuses et r\u00e9fl\u00e9chies qui nous permettront de tirer profit des avantages de cette technologie, mais aussi d'att\u00e9nuer et de g\u00e9rer les risques potentiels.</p>\n<p data-HoCid=\"7037357\" data-originallang=\"en\">La technologie de reconnaissance faciale soul\u00e8ve des pr\u00e9occupations concernant l'exactitude et l'objectivit\u00e9 des r\u00e9sultats des syst\u00e8mes, les pratiques de surveillance ill\u00e9gales et arbitraires, la technologie de type bo\u00eete noire qui \u00e9chappe aux l\u00e9gislateurs et, ultimement, l'entrave \u00e0 la libert\u00e9 qui peut en d\u00e9couler. En ce sens, il est clair que la technologie de reconnaissance faciale peut mettre en danger les valeurs fondamentales qui sont consacr\u00e9es par la Charte canadienne et exprim\u00e9es dans notre folklore national.</p>\n<p data-HoCid=\"7037358\" data-originallang=\"en\">Si l'utilisation de donn\u00e9es identifiables extr\u00eamement sensibles peut avoir de graves r\u00e9percussions pour la r\u00e9putation et m\u00eame la libert\u00e9 d'une personne, comme Mme Khoo l'a expliqu\u00e9 pr\u00e9c\u00e9demment, elle peut en revanche faciliter et acc\u00e9l\u00e9rer le paiement en toute s\u00e9curit\u00e9 \u00e0 la caisse d'un magasin, ou sauver la vie d'un patient.</p>\n<p data-HoCid=\"7037359\" data-originallang=\"en\">La r\u00e9glementation de la technologie de reconnaissance faciale doit \u00eatre fa\u00e7onn\u00e9e avec un scalpel, pas avec une hache.</p>\n<p data-HoCid=\"7037360\" data-originallang=\"en\">Je vais conclure mon expos\u00e9 en \u00e9non\u00e7ant des questions qu'il faudra se poser et qui seront articul\u00e9es autour de quatre grands principes qui concordent avec ceux qui r\u00e9gissent la responsabilit\u00e9 en mati\u00e8re d'IA ailleurs dans le monde et qui devront orienter la r\u00e9glementation ax\u00e9e sur la technologie de reconnaissance faciale. Les principes que je propose sont conformes aux principes en mati\u00e8re d'IA de l'Organisation de coop\u00e9ration et de d\u00e9veloppement \u00e9conomiques et aux principales orientations qui guident l'utilisation responsable de l'IA dans le monde, et ils englobent les aspects techniques, l\u00e9gislatifs, politiques et \u00e9thiques dont il faudra tenir compte pour \u00e9tablir un cadre relativement complet de la technologie de reconnaissance faciale. Mon intention n'est pas d'en faire un expos\u00e9 exhaustif, mais de mettre en lumi\u00e8re les enjeux op\u00e9rationnels qui conduiront \u00e0 une analyse approfondie.</p>\n<p data-HoCid=\"7037361\" data-originallang=\"en\">Le premier principe est li\u00e9 \u00e0 la fiabilit\u00e9 technique. Pour \u00e9laborer une r\u00e9glementation \u00e9clair\u00e9e, il faudra r\u00e9pondre \u00e0 diverses questions. Notamment, faut\u2011il associer des crit\u00e8res techniques pr\u00e9cis aux diff\u00e9rentes utilisations possibles de la technologie de reconnaissance faciale et, si oui, lesquels? Des tierces parties ind\u00e9pendantes devraient-elles exercer une surveillance et \u00e9valuer la technologie de reconnaissance faciale d'un point de vue technique? Le cas \u00e9ch\u00e9ant, \u00e0 qui cette surveillance devrait-elle \u00eatre confi\u00e9e?</p>\n<p data-HoCid=\"7037362\" data-originallang=\"en\">Le deuxi\u00e8me principe est celui de la responsabilit\u00e9, et il faudra \u00e9galement r\u00e9pondre \u00e0 certaines questions pour \u00e9tablir une r\u00e9glementation \u00e9clair\u00e9e. Par exemple, quels seront les m\u00e9canismes de contr\u00f4le administratifs exig\u00e9s pour favoriser la responsabilit\u00e9 en mati\u00e8re de technologie de reconnaissance faciale? Comment faudra\u2011t\u2011il \u00e9tablir ces m\u00e9canismes de contr\u00f4le et qui devra les \u00e9tablir? Une \u00e9valuation des incidences sera\u2011t\u2011elle n\u00e9cessaire? Le cas \u00e9ch\u00e9ant, comment cette \u00e9valuation devra\u2011t\u2011elle \u00eatre r\u00e9alis\u00e9e? Quand les parties prenantes devront-elles \u00eatre consult\u00e9es et \u00e0 quoi le processus de consultation devra\u2011t\u2011il ressembler?</p>\n<p data-HoCid=\"7037363\" data-originallang=\"en\">Le troisi\u00e8me principe concerne la l\u00e9gitimit\u00e9. Les questions \u00e0 se poser \u00e0 des fins de r\u00e9glementation auront trait aux m\u00e9canismes de surveillance requis pour assurer une utilisation de la technologie de reconnaissance faciale respectueuse des valeurs sociales et qui tiendra d\u00fbment compte des droits en mati\u00e8re criminelle, civile et constitutionnelle. Il faudra aussi se demander si des applications devront \u00eatre interdites.</p>\n<p data-HoCid=\"7037364\" data-originallang=\"en\">Le dernier principe, mais non le moindre, concerne l'\u00e9quit\u00e9, et il faut aussi r\u00e9pondre \u00e0 certaines questions li\u00e9es \u00e0 la r\u00e9glementation en la mati\u00e8re. Quels pourraient \u00eatre les effets pr\u00e9judiciables de la technologie de reconnaissance faciale pour les droits et libert\u00e9s de chacun? Peut\u2011on att\u00e9nuer ces incidences? Des mesures seront-elles n\u00e9cessaires pour \u00e9viter que certains groupes soient l\u00e9s\u00e9s de mani\u00e8re disproportionn\u00e9e, m\u00eame pour ce qui concerne les utilisations \u00e0 faible risque?</p>\n<p data-HoCid=\"7037365\" data-originallang=\"en\">Prises ensemble, les r\u00e9ponses \u00e0 ces questions permettront au Canada d'\u00e9laborer une r\u00e9glementation qui sera conforme \u00e0 celle qui \u00e9merge un peu partout dans le monde en mati\u00e8re d'intelligence artificielle, en mettant l'accent sur la technologie de reconnaissance faciale afin de pr\u00e9venir la menace s\u00e9rieuse qu'elle repr\u00e9sente pour nos valeurs et de tirer profit des avantages r\u00e9els qu'elles ont \u00e0 offrir.</p>\n<p data-HoCid=\"7037366\" data-originallang=\"en\">Je me r\u00e9jouis de r\u00e9pondre \u00e0 vos questions. Merci.</p>"
    },
    "url": "/committees/ethics/44-1/11/carole-piovesan-1/",
    "politician_url": null,
    "politician_membership_url": null,
    "procedural": false,
    "source_id": "11569412",
    "document_url": "/committees/ethics/44-1/11/",
    "related": {
        "document_speeches_url": "/speeches/?document=%2Fcommittees%2Fethics%2F44-1%2F11%2F"
    }
}