Page 53 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

7 DOMAINES À APPROFONDIR

Le présent document étudie les lacunes légales et données personnelles à de tierces parties pourra
réglementaires en matière de protection des usagers être envisagé.
et de confidentialité des données en ce qui concerne 2) Envisager de recadrer la réglementation relative
les techniques liées aux mégadonnées et à l'appren- à l'utilisation et au partage des données per-
tissage automatique, en particulier lorsqu'il s'agit de sonnelles lorsqu'il est tout simplement irréaliste
prendre des décisions relatives aux services propo- d'attendre des usagers qu'ils comprennent ce
sés aux usagers. Les exigences traditionnelles consis- qu'une circulation généralisée de leurs données
tant à renseigner l'usager sur la finalité de l'utilisation personnelles implique pour eux� Il peut s'agir de
des données à caractère personnel alors que celle- ne pas se contenter d'obtenir le consentement
ci est encore incertaine, ou à obtenir son consen- de l'usager sur des questions qui dépassent son
tement à l'égard de quelque chose qui dépasse de entendement, mais de veiller à ce que celui-ci
loin son entendement, sont remises en question. soit mieux informé et que les transferts de don-
Les risques liés à l'inexactitude des données saisies nées le concernant soient mieux contrôlés, tout
ou au traitement partial et discriminatoire dans les en le protégeant contre toute utilisation de don-
processus décisionnels automatisés soulèvent égale- nées personnelles à laquelle il ne pourrait raison-
ment plusieurs questions complexes, par exemple: nablement pas s'attendre.
comment garantir l'absence de tout traitement 3) Élaborer des normes pour l'intégration des prin-
injuste des usagers? Assurer la transparence des cipes de confidentialité à la conception de
décisions générées par les algorithmes ou mettre modèles d'intelligence artificielle et d'apprentis-
en évidence les préjudices qui ont été directement sage automatique. Dans la lignée des principes
provoqués par les technologies de l'intelligence arti- élaborés par Ann Cavoukian (voir section 8.2),
ficielle représente également un défi dans le cadre il pourrait s'agir de normes concernant 1) une
de la législation et de la réglementation en matière approche proactive de la conception, 2) l'utili-
de protection des usagers et de confidentialité des sation de paramètres par défaut en faveur de la
données. protection de la vie privée, 3) l'adoption du prin-
Il existe plusieurs domaines pour lesquels il serait cipe de confidentialité dès la conception, 4) la
utile de poursuivre ces travaux afin d'élaborer des confiance des usagers en tant qu'axe prioritaire,
normes applicables aux mégadonnées et à l'appren- 5) la sécurité de bout en bout, 6) l'accès des usa-
tissage automatique, en vue de trouver un équilibre gers aux informations et la possibilité de contes-
entre la liberté d'innover et la protection des usagers ter, de corriger, de compléter et de mettre à jour
et de leurs données, en particulier concernant les les données les concernant, et 7) la création, l'en-
questions suivantes: registrement et la communication de journaux
d'événements et de pistes de vérification du
1) Améliorer la pertinence du consentement à processus de conception, afin de permettre des
l'utilisation et au partage des données per- révisions et de garantir que ces journaux et pistes
sonnelles. Il s'agirait notamment d'améliorer la sont codés dans le système.
transparence et la clarté des informations com- 4) Élaborer des normes éthiques pour la program-
muniquées aux usagers sur l'utilisation qui peut mation informatique de l'intelligence artificielle
être faite de leurs données, notamment en four- auxquelles la communauté des développeurs
nissant des explications intelligibles. Une régle- peut se rapporter pour aborder les différents
mentation plus stricte des conditions de consen- types de questions examinées dans le présent
tement peut également venir compléter la mise document. Ces normes pourront en outre poser
sur le marché des technologies en la matière. les jalons d'une discussion continue permettant
Lorsque l'utilisation de données à caractère per- de soulever et d'aborder de nouvelles questions.
sonnel dépasse le strict cadre du service direct à 5) Élaborer des normes relatives à une analyse
l'usager pour impliquer des tiers, le fait de don- déductive acceptable� Celles-ci pourraient por-
ner à l'usager les moyens de porter un jugement ter sur l'évaluation des données de sortie et des
pertinent et éclairé sur la communication de ses décisions des modèles d'apprentissage auto-

Mégadonnées, apprentissage automatique, protection des usagers et confidentialité 51