Page 30 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

(auxquelles on applique le modèle d'apprentissage automatique présente le risque que la législation et
automatique), ainsi que pour l'ensemble de données les orientations politiques existantes ne suivent pas le
élargi utilisé pour entraîner l'ordinateur. Si les don- rythme auquel évolue cet écosystème. Par exemple,
nées d'apprentissage sont inexactes, le modèle ne le premier des Principes généraux sur l'évaluation du
permettra pas de produire les résultats escomptés crédit de la Banque mondiale (de l'anglais General
lorsqu'il sera appliqué aux données personnelles. Principles on Credit Reporting) publiés en 2011 sti-
107
Tous ces problèmes peuvent donner lieu à des pule que les systèmes d'évaluation du crédit doivent
déductions erronées sur les usagers. i) disposer de données pertinentes, exactes, à jour
Les lois sur la protection des données et de la et suffisantes – ainsi que positives – recueillies de
vie privée imposent donc de plus en plus aux entre- manière systématique auprès de toutes les sources
prises une certaine forme d'obligation légale visant à fiables, adéquates et disponibles, et ii) conserver ces
garantir l'exactitude des données qu'elles détiennent informations suffisamment longtemps.
et manipulent. La législation mexicaine en matière On pourrait se poser des questions sur la manière
de protection des données applique un principe de dont ce type d'orientations politiques devraient s'ap-
qualité exigeant des responsables du contrôle des pliquer aujourd'hui – à peine huit ans plus tard – aux
données qu'ils vérifient que les données à caractère données personnelles communiquées et recueillies
personnel figurant dans leurs bases de données sont à des fins qui n'étaient peut-être pas initialement
correctes, à jour et correspondent aux fins pour les- liées à la prise de décisions en matière de crédit.
quelles elles ont été recueillies . Les mégadonnées et l'apprentissage automatique
104
Cela soulève la question de l'exactitude des don- peuvent conduire à collecter et à utiliser des données
nées dans l'écosystème des données au sens large, et dont la pertinence, l'exactitude et le degré d'actualité
de la mesure dans laquelle les entreprises devraient varient considérablement.
être tenues responsables de leur inexactitude ou Ces difficultés concernent également les lois qui
contribuer à améliorer la qualité des informations de ont été rédigées avant l'avènement des mégadon-
manière générale. nées et de l'apprentissage automatique, voire d'In-
ternet lui-même. Les entreprises qui ne se consi-
Responsabilité en matière d'exactitude des données dèrent pas comme des agences d'évaluation du
dans les services financiers crédit peuvent toutefois être soumises aux obliga-
Les lois sectorielles régissant les services financiers tions légales qui s'appliquent aux agences d'évalua-
soulignent souvent l'importance de garantir l'exac- tion du crédit traditionnelles. Dans certains cas, ces
titude des données utilisées dans le cadre de ces entreprises pourraient faire l'objet de réclamations
services. Les données utilisées aux fins de l'évalua- pour avoir communiqué des informations inexactes
tion du crédit en sont un exemple . Les agences ayant influencé la solvabilité perçue d'une personne.
105
d'évaluation du crédit sont généralement soumises à De nombreux pays reconnaissent qu'il est d'intérêt
une réglementation et à des contrôles internes stricts public de garantir "des évaluations du crédit justes et
afin de garantir l'exactitude des données qu'elles précises", comme cela a été formulé aux États-Unis,
détiennent sur les particuliers. Ces systèmes d'éva- par exemple . Cela permet à la fois de favoriser le
108
luation du crédit réduisent le coût des opérations de fonctionnement des marchés de services financiers
prêt en diminuant le risque inhérent aux asymétries et de protéger les consommateurs. Pour cette raison,
d'information entre prêteurs et emprunteurs (et donc les agences de renseignement sur les consomma-
les pertes sur prêts, les provisions pour créances teurs dont les données sont utilisées dans plusieurs
douteuses et le besoin de garanties). Ils fournissent domaines (transactions de crédit, assurances, octroi
aux prêteurs des informations qui leur permettent de licences, transactions commerciales initiées par
d'évaluer les emprunteurs, favorisant ainsi un meil- les consommateurs, emploi, etc.) sont souvent régle-
leur accès aux services financiers . En raison de l'im- mentées .
109
106
portance de leurs données dans la prise de décisions Cependant, les lois de nombreux pays relatives
en matière de crédit et autres, les agences d'évalua- aux renseignements sur les consommateurs ont
tion du crédit donnent aux particuliers les moyens de été promulguées avant l'avènement d'Internet, sans
corriger les informations inexactes. parler des mégadonnées et de l'apprentissage auto-
Toutefois, ce système d'information formel n'est matique. Certains pays se font une idée plus géné-
plus qu'une partie d'un écosystème élargi riche en rale des agences de renseignement sur les consom-
données, dont la plupart ne sont pas réglementées. mateurs. Aux États-Unis, par exemple, la loi sur les
L'avènement des mégadonnées et de l'apprentissage rapports de crédit équitables (en anglais Fair Credit

28 Mégadonnées, apprentissage automatique, protection des usagers et confidentialité