Page 21 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité
P. 21
tous les usagers sont vulnérables à certains égards. consommateurs certains droits relatifs aux produits
Nous ne pouvons pas toujours tout savoir. Notre et services qu'ils achètent. Il s'agit notamment:
capacité à évaluer les risques et les avantages est
limitée – nous sommes soumis à une "rationalité limi- • de droits antérieurs à l'achat (pré-engagement),
tée" . tels que les informations sur le produit ou le ser-
48
La protection des usagers implique l'intervention vice proposé;
de l'État, qui met en place des lois et des procé- • de la fourniture, de la qualité et du fonctionne-
dures régissant ce qui serait autrement une relation ment du produit ou du service lui-même (enga-
privée entre l'usager et le fournisseur. Cette néces- gement); et
sité découle des asymétries perçues entre les four- • des moyens de demander des comptes aux four-
nisseurs et les usagers. Il peut s'agir d'asymétries nisseurs après l'achat (post-engagement).
en matière d'information, lorsque les fournisseurs
disposent davantage de données et de connais- Les principes d'équité, de responsabilité et de
sances, ainsi que d'une meilleure compréhension que transparence peuvent s'appliquer à l'étape de
les usagers. Les différences d'échelle économique pré-engagement, lorsqu'on exige que les consom-
peuvent également entraîner d'importantes asymé- mateurs soient informés du produit ou du service
tries dans le pouvoir de négociation. En outre, les qu'ils achètent et que l'on cherche éventuellement
coûts de transaction auxquels les consommateurs à obtenir leur consentement explicite, afin qu'ils
seraient confrontés s'ils devaient négocier des assu- puissent assumer la responsabilité de leurs décisions.
rances pour chaque produit ou service acheté sont Toutefois, une grande partie de la législation sur
trop élevés pour être envisageables. Par conséquent, la protection des consommateurs part du principe
une relation exclusivement privée et négociée entre que, même si le consommateur est informé de l'exis-
le consommateur et le fournisseur constituerait un tence d'un produit ou d'un service et qu'il y consent
marché unilatéral. conformément aux conditions générales connexes,
Si elle est formulée de diverses manières, la pro- ce consentement à lui seul peut ne pas suffire à
tection des usagers cherche généralement à pro- garantir l'application des principes d'équité, de res-
mouvoir les valeurs d'équité, de responsabilité et ponsabilité et de transparence. Ainsi, ces principes
de transparence . Le débat politique autour de la peuvent également s'appliquer à l'étape d'engage-
49
protection des usagers en ce qui concerne l'intelli- ment, c'est-à-dire au produit ou au service lui-même,
gence artificielle et l'apprentissage automatique se à savoir sa sûreté, sa qualité ou d'autres caractéris-
concentre sur la capacité des algorithmes et des tiques et conditions de fourniture. Par conséquent,
systèmes d'apprentissage automatique à refléter de les lois relatives à la protection des consommateurs
telles valeurs . Les usagers peuvent être vulnérables vont au-delà des obligations d'information et de
50
lorsqu'ils ont affaire à des services reposant sur le consentement préalables à l'engagement lorsque
traitement informatique, et ce, pour de nombreuses ces démarches ne protègent pas suffisamment le
raisons. Leur fonctionnement dépasse l'entende- consommateur, et ne doivent pas alléger la respon-
ment de la majorité de la population. Leurs savants sabilité du fournisseur.
processus numériques et leurs résultats possèdent Les principes d'équité, de responsabilité et de
une "séduisante précision de production" . Les ordi- transparence s'appliquent également à l'étape de
51
nateurs et les résultats qu'ils produisent peuvent post-engagement, afin de garantir la mise en place
donc être perçus comme des éléments objectifs, de mécanismes de redevabilité permettant d'obte-
voire équitables. Aujourd'hui, les usagers risquent nir des explications sur les raisons pour lesquelles un
toutefois de considérer certains aspects des services produit ou un service donné a été fourni de telle ou
numériques comme injustes, non responsables et telle manière. Ils donnent aux consommateurs la pos-
manquant de transparence (à l'opposé des principes sibilité de contester ces décisions et constituent une
d'équité, de responsabilité et de transparence), une voie de recours en cas de préjudice. Ces protections
situation qui sape la confiance envers les fournis- peuvent être appliquées indépendamment du fait
seurs de services, entravant ainsi les perspectives de que le consommateur ait donné son consentement
croissance des services numériques. ou non. Par exemple, les lois de nombreux pays ne
Les lois relatives à la protection des consommateurs permettent pas aux consommateurs de se soumettre
reposent généralement sur l'application de règles, à certains types de procédures d'arbitrage en cas de
de principes et de procédures visant à donner aux réclamation et de renoncer à leur droit d'être enten-
dus par un tribunal. Au contraire, elles insistent sur
Mégadonnées, apprentissage automatique, protection des usagers et confidentialité 19