Page 33 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

les décisions, sont tout aussi importantes que l'exac- appropriées et spécifiques pour la sauvegarde des
titude des données d'entrée . Certaines de ces droits fondamentaux et des intérêts de la personne
117
déductions, qui permettent de prédire un comporte- concernée" .
122
ment futur et sont difficiles à vérifier, peuvent déter- L'objectif de ces restrictions plus sévères concer-
miner la manière dont les individus sont perçus et nant le traitement des catégories particulières de
évalués, et ainsi affecter leur vie privée, leur réputa- données est de fournir des moyens concrets de ren-
tion et leur autodétermination. forcer les autres lois interdisant la discrimination sur
Les lois sur la protection des données qui régissent la base de ces informations, que ce soit dans la pres-
la collecte, l'utilisation et le partage des données tation de services publics ou privés, ou autrement. Le
personnelles n'abordent généralement pas les résul- droit au respect de la vie privée vise à empêcher les
tats des modèles d'apprentissage automatique qui divulgations susceptibles d'entraîner des discrimina-
traitent ces données. L'une des préoccupations en tions et d'autres préjudices irréversibles .
123
matière de protection des données et de la vie privée Cependant, à l'ère des mégadonnées, des données
concerne la manière de prévenir la discrimination. Le non sensibles peuvent être utilisées pour déduire des
cinquième des Principes de haut niveau sur l'inclu- données sensibles. Par exemple, le nom de la per-
sion financière numérique stipule que les données ne sonne peut être utilisé pour déduire sa religion ou
doivent pas être utilisées de manière injuste et discri- son lieu de naissance qui, à leur tour, peuvent être
minatoire dans le cadre des services financiers numé- utilisés pour déduire son appartenance ethnique et
riques (par exemple, pour discriminer les femmes en d'autres données personnelles qui appartiennent aux
matière d'accès au crédit ou aux assurances) . catégories particulières de données. Les données
118
De récents exemples de déductions impliquant d'achat peuvent révéler les antécédents d'achats
les principales plates-formes Internet concernent de médicaments à partir desquels il est possible de
l'orientation sexuelle, la santé physique et mentale, déduire l'état de santé d'une personne, ce qui influe-
la grossesse, l'appartenance ethnique et les opinions rait par exemple sur les décisions relatives à son éligi-
politiques. Ces données peuvent être utilisées pour bilité à l'assurance maladie . Les données démogra-
124
déterminer l'éligibilité d'une personne au crédit . phiques et statistiques relatives à des groupes plus
119
Le RGPD distingue des catégories particulières de larges peuvent également être attribuées à certaines
données personnelles pour lesquelles les restrictions personnes. Il est donc possible que les données non
sont plus sévères. Si les données à caractère person- sensibles méritent les mêmes protections que les
nel se définissent comme "toute information se rap- données sensibles . Le fait est que la distinction
125
portant à une personne physique identifiée ou iden- entre les données sensibles et non sensibles devient
tifiable" , les "catégories particulières" de données floue et d'une utilité discutable .
120
126
à caractère personnel sont plus spécifiques. Elles Il ne s'agit pas d'une simple question de définition.
concernent "l'origine raciale ou ethnique, les opi- L'un des objectifs fondamentaux de la législation et
nions politiques, les convictions religieuses ou phi- de la réglementation en matière de protection des
losophiques ou l'appartenance syndicale, ainsi que données et de la vie privée est de veiller à ce que les
le traitement des données génétiques, des données données ne soient pas utilisées à des fins de discrimi-
biométriques aux fins d'identifier une personne phy- nation, en particulier à l'égard de groupes protégés
sique de manière unique, des données concernant la qui en ont toujours été victimes. La nature même des
santé ou des données concernant la vie sexuelle ou mégadonnées et de l'apprentissage automatique
l'orientation sexuelle d'une personne physique" . compromet cet objectif. Comme l'ont récemment
121
déclaré plusieurs spécialistes, la prise de décisions
Limitation du traitement des catégories particu- automatisée pourrait systématiser et dissimuler la
lières de données discrimination, ce qui soulève de grandes inquié-
La prise de décisions automatisée reposant sur des tudes .
127
catégories particulières de données à caractère Lorsque les algorithmes d'apprentissage auto-
personnel n'est autorisée par le RGPD qu'avec le matique reposent sur des données d'entrée qui sont
consentement explicite de la personne concernée elles-mêmes tirées d'exemples passés, ils peuvent
ou si elle est "nécessaire pour des motifs d'intérêt désavantager les groupes de population qui ont tou-
public important, sur la base du droit de l'Union ou jours été défavorisés. Ils peuvent donc refléter une
du droit d'un État membre qui doit être proportion- discrimination passée, quelles qu'en aient été les rai-
né à l'objectif poursuivi, respecter l'essence du droit sons (par exemple, en raison de préjugés ou de biais
à la protection des données et prévoir des mesures implicites). Si ces décisions antérieures étaient elles-

Mégadonnées, apprentissage automatique, protection des usagers et confidentialité 31