Page 14 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

and Transparency (FEAT) in the Use of Artificial Intel- protection de la vie privée) et la Convention pour
17
ligence and Data Analytics in Singapore's Financial la protection des personnes à l'égard du traite-
Sector). L'objectif est d'appliquer les principes liés à ment automatisé des données à caractère person-
l'équité, à la responsabilité et à la transparence spé- nel (Série des traités européens n 108, dénommée
o
cifiquement au contexte de l'intelligence artificielle Convention 108), telle que récemment modifiée par
et de l'apprentissage automatique dans le secteur le Protocole d'amendement à la Convention pour la
financier, en ajoutant une dimension éthique. Les protection des personnes à l'égard du traitement
principes FEAT sont présentés à l'annexe A (Prin- automatisé des données à caractère personnel .
18
cipes FEAT de l'Autorité monétaire de Singapour). Les trois principes fondamentaux de la loi sur
La Smart Campaign a récemment publié la pre- la protection des données et de la vie privée sont
mière ébauche du document intitulé Digital Credit la spécification de la finalité, la minimisation des
Standards, qui porte sur les normes relatives au cré- données et le traitement des données des catégo-
dit numérique et comprend un certain nombre de ries de groupes dites "protégées" ou "particulières"
normes relatives à l'utilisation des données, au profi- (personnes d'une certaine appartenance ou origine
lage et aux décisions automatisées dans les services ethnique, d'une certaine religion, d'un certain genre,
financiers numériques, lesquelles sont présentées etc.). Ces principes sont mis à rude épreuve lorsque
à l'annexe B (Normes de la Smart Campaign rela- l'objectif spécifique de la collecte et du traitement
tives au crédit numérique). Il y sera fait référence de des données ne peut être compris qu'au fur et à
temps à autre dans le présent rapport pour illustrer la mesure que les ordinateurs eux-mêmes apprennent
manière dont les questions concernant la protection à partir de gros volumes de données d'observation
des usagers peuvent être abordées. et de performance, produisant ainsi une analyse plus
L'Initiative mondiale de l'Institut d'ingénierie élec- précise. Les données personnelles peuvent égale-
trique et électronique (IEEE) pour les considérations ment indiquer l'appartenance à un groupe protégé.
éthiques dans l'intelligence artificielle et les systèmes Ces nouvelles technologies comportent éga-
autonomes recommande ce qui suit : lement des risques, ou des "tendances" comme
15
Les législateurs nationaux, et surtout internatio- diront certains (par exemple, partialité du proces-
naux, doivent être encouragés à envisager et à sus décisionnel, discrimination, atteinte à la vie pri-
étudier soigneusement la nécessité éventuelle vée) . L'analyse des données peut être utilisée pour
19
d'introduire une nouvelle réglementation, le cas tirer des conclusions (et dans certains cas faire des
échéant, y compris des règles qui soumettent le prédictions) sur les attributs d'une personne: son
lancement sur le marché de nouvelles technologies appartenance ethnique, son genre, son orientation
reposant sur l'intelligence artificielle en tant que sexuelle, ses relations, ses opinions politiques, sa san-
service à l'examen et à l'approbation préalables té (y compris certaines maladies), son état mental,
des organismes nationaux ou internationaux appro- ses intérêts personnels, sa solvabilité, etc. La discri-
priés. mination peut alors faire partie intégrante du traite-
Les lois et réglementations de longue date qui ment des données, conduisant effectivement à des
visent à protéger les usagers contre les utilisations résultats qui seraient interdits par les lois sur la dis-
préjudiciables de leurs données personnelles sont crimination raciale ou basée sur le genre si les déci-
mises à mal par de nouvelles méthodes de collecte sions étaient prises par des humains (et non par des
et d'analyse des données. En effet, certains se sont ordinateurs).
risqués à dire que même la plus récente des lois Ces risques sont particulièrement importants pour
sur la protection des données et de la vie privée, les services financiers. Contrairement à de nombreux
le Règlement général sur la protection des don- produits et services de consommation, les offres et
nées (RGPD) de l'Union européenne, parfois quali- les prix des services financiers dépendent du profil
fiée de "référence" en la matière, est "incompatible" de chaque usager. Les décisions d'offrir un prêt (et
avec le monde des mégadonnées . Des préoccupa- à quel taux d'intérêt), d'émettre une carte de crédit
16
tions similaires se posent en ce qui concerne d'autres (et avec quelle limite de crédit) et de proposer diffé-
normes mondiales, notamment la Recommandation rents types d'assurance dépendent toutes de l'éva-
de l'Organisation de coopération et de développe- luation du risque que présente l'individu. Ainsi, tout
ment économiques (OCDE) concernant les Lignes comme la décision d'employer quelqu'un, de nom-
directrices régissant la protection de la vie privée breux services financiers ont une dimension person-
et les flux transfrontières de données de caractère nelle importante .
20
personnel (les Lignes directrices de l'OCDE sur la

12 Mégadonnées, apprentissage automatique, protection des usagers et confidentialité