Page 21 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité
P. 21

tous les usagers sont vulnérables à certains égards.   consommateurs certains droits relatifs aux produits
            Nous ne pouvons pas toujours tout savoir. Notre    et services qu'ils achètent. Il s'agit notamment:
            capacité à évaluer les risques et les avantages est
            limitée – nous sommes soumis à une "rationalité limi-  •   de droits antérieurs à l'achat (pré-engagement),
            tée" .                                                tels que les informations sur le produit ou le ser-
                48
               La protection des usagers implique l'intervention   vice proposé;
            de l'État, qui met en place des lois et des procé-  •   de la fourniture, de la qualité et du fonctionne-
            dures régissant ce qui serait autrement une relation   ment du produit ou du service lui-même (enga-
            privée entre l'usager et le fournisseur. Cette néces-  gement); et
            sité découle des asymétries perçues entre les four-  •   des moyens de demander des comptes aux four-
            nisseurs et les usagers. Il peut s'agir d'asymétries   nisseurs après l'achat (post-engagement).
            en matière d'information, lorsque les fournisseurs
            disposent davantage de données et de connais-        Les principes d'équité, de responsabilité et de
            sances, ainsi que d'une meilleure compréhension que   transparence peuvent s'appliquer à l'étape de
            les usagers. Les différences d'échelle économique   pré-engagement, lorsqu'on exige que les consom-
            peuvent également entraîner d'importantes asymé-   mateurs soient informés du produit ou du service
            tries dans le pouvoir de négociation. En outre, les   qu'ils achètent et que l'on cherche éventuellement
            coûts de transaction auxquels les consommateurs    à  obtenir  leur  consentement explicite,  afin  qu'ils
            seraient confrontés s'ils devaient négocier des assu-  puissent assumer la responsabilité de leurs décisions.
            rances pour chaque produit ou service acheté sont    Toutefois, une grande partie de la législation sur
            trop élevés pour être envisageables. Par conséquent,   la protection des consommateurs part du principe
            une relation exclusivement privée et négociée entre   que, même si le consommateur est informé de l'exis-
            le consommateur et le fournisseur constituerait un   tence d'un produit ou d'un service et qu'il y consent
            marché unilatéral.                                 conformément aux conditions générales connexes,
               Si elle est formulée de diverses manières, la pro-  ce consentement à lui seul peut ne pas suffire à
            tection  des  usagers  cherche  généralement  à  pro-  garantir l'application des principes d'équité, de res-
            mouvoir les valeurs d'équité, de responsabilité et   ponsabilité et de transparence. Ainsi, ces principes
            de  transparence .  Le  débat  politique  autour de  la   peuvent également s'appliquer à l'étape d'engage-
                           49
            protection des usagers en ce qui concerne l'intelli-  ment, c'est-à-dire au produit ou au service lui-même,
            gence artificielle et l'apprentissage automatique se   à savoir sa sûreté, sa qualité ou d'autres caractéris-
            concentre sur la capacité des algorithmes et des   tiques et conditions de fourniture. Par conséquent,
            systèmes d'apprentissage automatique à refléter de   les lois relatives à la protection des consommateurs
            telles valeurs . Les usagers peuvent être vulnérables   vont au-delà des obligations d'information et de
                        50
            lorsqu'ils ont affaire à des services reposant sur le   consentement préalables à l'engagement lorsque
            traitement informatique, et ce, pour de nombreuses   ces démarches ne protègent pas suffisamment le
            raisons. Leur fonctionnement dépasse l'entende-    consommateur, et ne doivent pas alléger la respon-
            ment de la majorité de la population. Leurs savants   sabilité du fournisseur.
            processus numériques et leurs résultats possèdent    Les principes d'équité, de responsabilité et de
            une "séduisante précision de production" . Les ordi-  transparence s'appliquent également à l'étape de
                                                51
            nateurs et les  résultats  qu'ils  produisent peuvent   post-engagement, afin de garantir la mise en place
            donc  être  perçus  comme  des  éléments  objectifs,   de mécanismes de redevabilité permettant d'obte-
            voire équitables. Aujourd'hui, les usagers risquent   nir des explications sur les raisons pour lesquelles un
            toutefois de considérer certains aspects des services   produit ou un service donné a été fourni de telle ou
            numériques comme injustes, non responsables et     telle manière. Ils donnent aux consommateurs la pos-
            manquant de transparence (à l'opposé des principes   sibilité de contester ces décisions et constituent une
            d'équité, de responsabilité et de transparence), une   voie de recours en cas de préjudice. Ces protections
            situation qui sape la confiance envers les fournis-  peuvent être appliquées indépendamment du fait
            seurs de services, entravant ainsi les perspectives de   que le consommateur ait donné son consentement
            croissance des services numériques.                ou non. Par exemple, les lois de nombreux pays ne
            Les lois relatives à la protection des consommateurs   permettent pas aux consommateurs de se soumettre
            reposent généralement sur l'application de règles,   à certains types de procédures d'arbitrage en cas de
            de principes et de procédures visant à donner aux   réclamation et de renoncer à leur droit d'être enten-
                                                               dus par un tribunal. Au contraire, elles insistent sur



                                             Mégadonnées, apprentissage automatique, protection des usagers et confidentialité  19
   16   17   18   19   20   21   22   23   24   25   26