Page 42 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

céder à leurs données par le biais d'une plate-forme auprès des autorités, de divulguer toute information
commune facile à trouver et à utiliser. Elle a en outre relative à leurs activités de collecte de données et de
contribué à l'élaboration d'une législation qui per- maintenir des mesures de protection des données.
mettrait aux usagers d'accéder aux données déte- Tout manquement à cette obligation constitue une
nues par les courtiers et leur donnerait le droit de les violation du droit du Vermont sur la protection des
contester ou de les faire supprimer . usagers, qui peut donner lieu à une action en justice
159
En mai 2018, le petit État américain du Vermont a de la part du Procureur général ou d'un particulier. Le
été le premier à promulguer une loi relative aux cour- nouveau Consumer Privacy Act (2018) de la Califor-
tiers en données et à la protection des usagers (en nie impose également des restrictions sur les trans-
anglais: An Act relating to data brokers and consu- ferts de données aux courtiers .
161
mer protection) . Cette nouvelle loi réglemente les L'élaboration de lois s'appliquant aux courtiers en
160
entreprises qui recueillent, vendent ou cèdent à des données promet de créer un nouveau domaine des
parties tierces, sous licence, les informations person- droits des usagers, qui pourront accéder aux don-
nelles des résidents du Vermont avec lesquels elles nées qui sont détenues sur eux, rectifier celles qui
n'ont pas de relation directe. Elle impose aux cour- sont incorrectes et obtenir réparation en cas de vio-
tiers en données de s'enregistrer en tant que tels lation de leurs droits.

5 LA PHASE DE POST-ENGAGEMENT: LA REDEVABILITÉ ENVERS LES USAGERS CONCERNANT
LES PROBLÈMES APRÈS LES FAITS

Lorsque des systèmes décisionnels automatisés certaines données. Cette question est abordée dans
complexes fonctionnent sans intervention humaine, la section consacrée à l'étape de post-engagement,
il est nécessaire de veiller à ce que les créateurs, soit après qu'une entreprise a obtenu des données
les concepteurs, les fabricants, les opérateurs, les à caractère personnel, mais il est tout à fait possible
chargés de maintenance et les utilisateurs des algo- qu'elle ne soit que le prélude à un autre engagement,
rithmes et des systèmes assument la responsabili- au moment où ces données sont utilisées.
té des éléments du processus qui relèvent de leurs Cette section s'intéresse ensuite à la position de
fonctions respectives. Pour ce faire, il convient de l'usager qui a été affecté par l'utilisation de ses don-
garantir la transparence ou la traçabilité, c'est-à-dire nées personnelles dans le cadre des mégadonnées et
de veiller à ce que les dispositifs décisionnels auto- de l'apprentissage automatique (par exemple, suite à
matisés puissent justifier leurs décisions et notam- une décision ayant des conséquences juridiques ou
ment expliquer pourquoi ils privilégient une décision similaires). La section 7.2 étudie les difficultés que
par rapport à d'autres possibilités. Cela nécessite de les mégadonnées et l'apprentissage automatique
documenter chaque décision prise concernant les posent dans le cadre des approches traditionnelles
données sélectionnées, leur traitement et la concep- en matière de transparence et de responsabilité,
tion des algorithmes. Enfin, les créateurs, concep- notamment pour ce qui est du droit d'obtenir une
teurs, fabricants, exploitants, chargés de mainte- explication au sujet des déductions et des décisions
nance et utilisateurs des algorithmes et des systèmes fondées sur ces technologies. La section 7.3 s'inté-
doivent assumer la responsabilité économique de resse quant à elle aux droits de l'usager à contester
leurs décisions, le cas échéant, sous la forme d'une les décisions qui ont été prises à son sujet à l'aide
obligation légale. des processus liés aux mégadonnées et à l'appren-
Cette section s'intéresse aux droits des usagers tissage automatique. Enfin, la section 7.4 porte sur
en cas de problème survenant après qu'ils ont par- la question consistant à démontrer qu'il y a bien eu
tagé leurs données personnelles ou après que des préjudice. Il ne peut pas y avoir de responsabilisation
données personnelles les concernant (communi- sans responsabilité.
quées par eux ou par autrui) ont été utilisées à leur
détriment ou contre eux. La section 7.1 étudie dans 5�1 Garantir les droits des usagers en matière d'ac-
un premier temps le droit des usagers d'intervenir cès, de rectification et d'effacement
face aux problèmes liés aux données qui pourraient L'une des principales garanties offertes aux usagers
être utilisées dans des décisions les concernant. Il par les lois sur la protection des données et de la vie
s'agit notamment du droit de rectifier les données privée est le droit d'accéder aux données détenues
incorrectes détenues à leur sujet et de faire effacer par une organisation à leur sujet et de rectifier les

40 Mégadonnées, apprentissage automatique, protection des usagers et confidentialité