Speech (committee meeting)

{
    "time": "2022-06-09 16:25:00",
    "attribution": {
        "en": "Mr. Nestor Maslej (Research Associate, Institute for Human-Centered Artificial Intelligence, Stanford University, As an Individual)",
        "fr": "M. Nestor Maslej (associ\u00e9 de recherche, Institute for Human-Centered Artificial Intelligence, Stanford University, \u00e0 titre personnel)"
    },
    "content": {
        "en": "<p data-HoCid=\"7252967\" data-originallang=\"en\">Good afternoon. I'd like to begin by thanking the chair and members of the committee for the invitation to speak today.</p>\n<p data-HoCid=\"7252968\" data-originallang=\"en\">I'm Nestor Maslej, and currently I serve as a research associate for the Stanford Institute for Human-Centered AI. I am also a co-author and the lead researcher for the AI Index. Although my testimony today makes use of data from the AI Index, I am speaking as a private citizen, and my views are not representative of those of the Stanford Institute for Human-Centered AI.</p>\n<p data-HoCid=\"7252969\" data-originallang=\"en\">The AI Index is an annual report, currently in its fifth edition, that aims to track, distill and visualize key trends in artificial intelligence. Our goal at the index is to be the best and most authoritative single source of information on trends in AI. The index aims to give policy-makers like you not only a deeper understanding of AI but also, crucially, an understanding that is grounded in empirical data.</p>\n<p data-HoCid=\"7252970\" data-originallang=\"en\">It is this latter aim especially that informs my testimony today. I am here to answer the following question: What does data tell us about facial recognition technology? I will answer this question by tackling two sub-questions. First I will comment on capability. As of today, what can FRT do? Second I will examine usage. Who uses FRT\u2014public and private actors\u2014and how?</p>\n<p data-HoCid=\"7252971\" data-originallang=\"en\">In terms of capability, there has been tremendous progress in the performance of facial recognition algorithms in the last five years. The index looked at data from the National Institute of Standards in Technology's face recognition vendor test, which comes from the U.S. Department of Commerce and measures how well FRT performs on a variety of homeland security and law enforcement tasks, such as facial recognition across photojournalism images, identification of child trafficking victims, deduplication of passports and cross-verification of visa images.</p>\n<p data-HoCid=\"7252972\" data-originallang=\"en\">In 2017, some of the top-performing facial recognition algorithms had error rates anywhere from roughly 20% to 50% on certain FRVT datasets. As of 2021, none has posted an error rate greater than 3%, with the top-performing models registering an error rate of 0.1%, meaning that for every one thousand faces, these models correctly identify 999.</p>\n<p data-HoCid=\"7252973\" data-originallang=\"en\">The index also shows that the performance of FRT deteriorates on masked faces but not by an overly significant degree. More specifically, performance is five to 16 percentage points worse depending on the FRT algorithm and dataset.</p>\n<p data-HoCid=\"7252974\" data-originallang=\"en\">In terms of usage, FRTs are becoming increasingly deployed in both public and private settings. In 2021, 18 of 24 U.S. government agencies used these technologies: 16 departments for digital access or cybersecurity, six for creating leads in criminal investigations, and five for physical security. Moreover, 10 departments noted that they hoped to broaden its use. These figures are admittedly U.S.-centric, but they paint a picture of how widely governments use these tools and towards what end.</p>\n<p data-HoCid=\"7252975\" data-originallang=\"en\">Since 2017, there has also been a total of $7.5 billion U.S. invested globally in funding start-ups dedicated to facial recognition. However, only $1.6 million of that investment has gone towards Canadian FRT start-ups. In the same time period, the amount invested in FRT technologies has increased 105%, which suggests that business interest in FRT is also growing. Our estimates also show that FRT is the 12th-most funded area out of 25 AI focus areas.</p>\n<p data-HoCid=\"7252976\" data-originallang=\"en\">Lastly, a McKinsey survey of leading business executives, which we include in the index, shows that across all surveyed industries, only 11% of businesses had embedded facial recognition technology in their standard business processes, which trailed robotic process automation at 26% and natural speech understanding at 14% as the most embedded technologies.</p>\n<p data-HoCid=\"7252977\" data-originallang=\"en\">In conclusion, I've presented some of the AI Index's key findings on the current capabilities and usage of FRT. It is my hope that the data I have shared usefully informs the committee's deliberation on the future regulation of facial recognition technologies in Canada. I'd be more than happy to answer any questions on the data I've presented and the implications that it may have.</p>\n<p data-HoCid=\"7252978\" data-originallang=\"en\">Thank you.</p>",
        "fr": "<p data-HoCid=\"7252967\" data-originallang=\"en\">Bonjour. J'aimerais commencer par remercier le pr\u00e9sident et les membres du Comit\u00e9 de m'avoir invit\u00e9 \u00e0 prendre la parole aujourd'hui.</p>\n<p data-HoCid=\"7252968\" data-originallang=\"en\">Je m'appelle Nestor Maslej, et je suis actuellement associ\u00e9 de recherche au Stanford Institute for Human-Centered AI. Je suis \u00e9galement co-auteur et chercheur principal de l'AI Index. Bien que mon t\u00e9moignage d'aujourd'hui s'appuie sur les donn\u00e9es de l'AI Index, je t\u00e9moigne \u00e0 titre personnel, et mes opinions ne sont pas repr\u00e9sentatives de celles du Stanford Institute for Human-Centered AI.</p>\n<p data-HoCid=\"7252969\" data-originallang=\"en\">L'AI Index est un rapport annuel, qui, \u00e0 l'heure actuelle, en est \u00e0 sa cinqui\u00e8me \u00e9dition et qui vise \u00e0 permettre de suivre, de distiller et de visualiser les principales tendances de l'intelligence artificielle. L'index a pour objet d'\u00eatre la meilleure et la plus fiable source d'information sur les tendances de l'IA. Il vise \u00e0 apporter aux d\u00e9cideurs politiques comme vous non seulement une compr\u00e9hension plus approfondie de l'IA, mais aussi une compr\u00e9hension fond\u00e9e sur des donn\u00e9es empiriques, ce qui est crucial.</p>\n<p data-HoCid=\"7252970\" data-originallang=\"en\">C'est surtout ce dernier objectif qui inspire mon t\u00e9moignage aujourd'hui. Je suis ici pour r\u00e9pondre \u00e0 la question suivante: Que nous disent les donn\u00e9es au sujet de la technologie de reconnaissance faciale (TRF)? Je r\u00e9pondrai \u00e0 cette question en abordant deux sous-questions. Je vais d'abord parler de la capacit\u00e9. \u00c0 ce jour, que peut accomplit la TRF? Ensuite, j'examinerai son utilisation. Qui utilise la TRF \u2014 les acteurs publics et priv\u00e9s \u2014, et comment?</p>\n<p data-HoCid=\"7252971\" data-originallang=\"en\">En ce qui concerne la capacit\u00e9, les performances des algorithmes de reconnaissance faciale ont fait d'\u00e9normes progr\u00e8s au cours des cinq derni\u00e8res ann\u00e9es. L'AI Index a examin\u00e9 les donn\u00e9es provenant des Face Recognition Vendor Tests (FRVT) du National Institute for Standards and Technology (NIST), que le D\u00e9partement du Commerce des \u00c9tats-Unis a fournies et qui mesurent le rendement de la TRF dans le cadre de diverses t\u00e2ches de s\u00e9curit\u00e9 int\u00e9rieure et d'application de la loi, telles que la reconnaissance faciale appliqu\u00e9e \u00e0 des images de photojournalisme, l'identification des enfants victimes de la traite, la d\u00e9duplication des passeports et la v\u00e9rification crois\u00e9e des images de visa.</p>\n<p data-HoCid=\"7252972\" data-originallang=\"en\">En 2017, certains des algorithmes de reconnaissance faciale les plus performants affichaient des taux d'erreur allant d'environ 20 \u00e0 50 % selon certains ensembles de donn\u00e9es des FRVT. En 2021, aucun n'a affich\u00e9 un taux d'erreur sup\u00e9rieur \u00e0 3 %, les mod\u00e8les les plus performants enregistrant un taux d'erreur de 0,1 %, ce qui signifie que ces mod\u00e8les identifient correctement 999 des 1 000 visages analys\u00e9s.</p>\n<p data-HoCid=\"7252973\" data-originallang=\"en\">L'AI Index montre \u00e9galement que les visages masqu\u00e9s r\u00e9duisent le rendement de la TRF, mais pas de mani\u00e8re trop significative. Plus pr\u00e9cis\u00e9ment, le rendement diminue de 5 \u00e0 16 points de pourcentage selon l'algorithme de la TRF et les ensembles de donn\u00e9es.</p>\n<p data-HoCid=\"7252974\" data-originallang=\"en\">En ce qui a trait \u00e0 l'utilisation, les TRF sont d\u00e9ploy\u00e9es de plus en plus fr\u00e9quemment dans des contextes publics et priv\u00e9s. En 2021, 18 des 24 organismes du gouvernement am\u00e9ricain ont utilis\u00e9 ces technologies: 16 d\u00e9partements l'ont fait \u00e0 des fins d'acc\u00e8s num\u00e9rique ou de cybers\u00e9curit\u00e9, six, \u00e0 des fins de cr\u00e9ation de pistes pour des enqu\u00eates criminelles, et cinq, \u00e0 des fins de s\u00e9curit\u00e9 physique. De plus, 10 d\u00e9partements ont signal\u00e9 qu'ils esp\u00e9raient \u00e9largir leur utilisation. Ces chiffres sont certes centr\u00e9s sur les \u00c9tats-Unis, mais ils donnent une id\u00e9e de l'ampleur de l'utilisation de ces outils par les gouvernements et des objectifs poursuivis.</p>\n<p data-HoCid=\"7252975\" data-originallang=\"en\">Depuis 2017, un total de 7,5 milliards de dollars am\u00e9ricains a \u00e9galement \u00e9t\u00e9 investi \u00e0 l'\u00e9chelle mondiale afin de financer des entreprises en d\u00e9marrage sp\u00e9cialis\u00e9es dans la reconnaissance faciale. Cependant, seulement 1,6 de ces 7,5 millions de dollars ont \u00e9t\u00e9 consacr\u00e9s \u00e0 des entreprises canadiennes de TRF en d\u00e9marrage. Au cours de la m\u00eame p\u00e9riode, le montant investi dans les TRF a augment\u00e9 de 105 %, ce qui semble indiquer que l'int\u00e9r\u00eat des entreprises pour la TRF augmente aussi. Nos estimations montrent \u00e9galement que la TRF est le 12<sup>e</sup> secteur le plus financ\u00e9 parmi les 25 secteurs d'int\u00e9r\u00eat de l'IA.</p>\n<p data-HoCid=\"7252976\" data-originallang=\"en\">Enfin, un sondage McKinsey men\u00e9 aupr\u00e8s des plus grands dirigeants d'entreprises, un sondage que nous avons inclus dans l'AI Index, montre que, dans tous les secteurs \u00e9tudi\u00e9s, seulement 11 % des entreprises ont int\u00e9gr\u00e9 la technologie de reconnaissance faciale dans leurs processus organisationnels standard, la TRF \u00e9tant devanc\u00e9e par l'automatisation de processus robotis\u00e9s (26 %) et la compr\u00e9hension de la parole naturelle (14 %) en tant que technologies les plus int\u00e9gr\u00e9es dans les entreprises.</p>\n<p data-HoCid=\"7252977\" data-originallang=\"en\">En conclusion, j'ai pr\u00e9sent\u00e9 quelques-unes des principales constatations de l'AI Index en ce qui concerne les capacit\u00e9s et l'utilisation actuelles de la TRF. J'esp\u00e8re que les donn\u00e9es que je vous ai communiqu\u00e9es \u00e9claireront efficacement les d\u00e9lib\u00e9rations du Comit\u00e9 au sujet de la r\u00e9glementation future des technologies de reconnaissance faciale au Canada. Je me ferai un plaisir de r\u00e9pondre \u00e0 vos questions concernant les donn\u00e9es que j'ai pr\u00e9sent\u00e9es et les cons\u00e9quences qu'elles peuvent avoir.</p>\n<p data-HoCid=\"7252978\" data-originallang=\"en\">Merci.</p>"
    },
    "url": "/committees/ethics/44-1/25/nestor-maslej-1/",
    "politician_url": null,
    "politician_membership_url": null,
    "procedural": false,
    "source_id": "11751819",
    "document_url": "/committees/ethics/44-1/25/",
    "related": {
        "document_speeches_url": "/speeches/?document=%2Fcommittees%2Fethics%2F44-1%2F25%2F"
    }
}