Page 47 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

revient avec un revenu de 45 000 dollars, il pourrait par exemple, d'examiner et de certifier les propriétés
être en droit de s'attendre à ce que sa demande de des systèmes informatiques, et de veiller à ce que les
prêt soit approuvée). décisions automatisées soient prises conformément
Toutefois, si ces éléments contrefactuels étaient aux règles convenues, notamment à des fins de pro-
codés dans le service, les résultats contrefac- tection contre la discrimination. Certains qualifient
tuels pourraient être rapidement communiqués au cette approche de "régularité procédurale" .
193
consommateur, qui pourrait éventuellement expéri- Pour qu'un modèle d'apprentissage automa-
menter différents niveaux de variables. En effet, les tique fonctionne de manière responsable, le prin-
interfaces consommateurs pourraient même propo- cipe de responsabilité doit être incorporé à l'étape
ser une échelle mobile de données d'entrée, ce qui de conception du système. Les concepteurs de sys-
permettrait au consommateur une certaine expéri- tèmes, et ceux qui supervisent la conception, doivent
mentation. Il peut donc être possible de fournir des considérer en priorité les principes de responsabili-
éléments contrefactuels qui amélioreraient la com- té et de surveillance. L'Initiative mondiale de l'IEEE
préhension du consommateur et lui offriraient la pos- pour les considérations éthiques dans l'intelligence
sibilité de contester une décision, voire de modifier artificielle et les systèmes autonomes recommande
sa situation pour obtenir une décision plus favorable. ce qui suit :
194
Par exemple, lorsqu'il comprend qu'arrêter de fumer Bien que l'on reconnaisse que cela ne peut être
lui donne droit à une assurance maladie, ou que rem- fait à l'heure actuelle, les systèmes d'intelligence
bourser telle ou telle dette ou augmenter ses revenus artificielle devraient être conçus de manière à
entraîne une décision de crédit positive, l'individu pouvoir, lorsqu'on leur demande, montrer à l'utili-
concerné peut exercer un plus grand contrôle sur sa sateur humain le processus enregistré qui a conduit
vie qu'en étant le sujet passif d'une décision. à telle ou telle action, repérer dans la mesure du
Cette approche peut réduire l'écart entre les posi- possible les sources d'incertitude et énoncer toutes
tions de négociation et aboutir à la proposition et à les hypothèses sur lesquelles ils s'appuient.
l'acceptation d'une offre commercialement rentable L'IEEE propose également de concevoir et de
pour un service souhaité, une situation qui bénéficie programmer les systèmes d'intelligence artificielle
à la fois au fournisseur et au consommateur. Il y a dans une optique fondamentale de transparence et
donc de bonnes raisons d'attendre des acteurs du de responsabilité , ainsi que d'informer de manière
195
marché qu'ils introduisent de tels paramètres pour proactive les utilisateurs de leur incertitude .
196
différencier leurs services sur un marché concur-
rentiel, bien qu'un "coup de pouce" réglementaire 5�3 Donner aux usagers les moyens de contester
puisse parfois favoriser l'adoption et la généralisation les décisions prises
de telles pratiques. Comme nous l'avons vu à la section 7.2, les lois sur
L'approche contrefactuelle pourrait en outre atté- la protection des données ne donnent généralement
nuer les craintes selon lesquelles le fait d'exiger des pas le droit de contester l'exactitude des décisions
explications amène à révéler des secrets commer- prises en fonction des données communiquées.
ciaux et à enfreindre les obligations de non-divulga- Toutefois, les usagers ont de plus en plus souvent la
tion. En fournissant des éléments contrefactuels, on possibilité de contester des décisions prises exclu-
peut au contraire éviter d'avoir à divulguer la logique sivement dans le cadre d'un traitement automatisé.
interne des algorithmes du système décisionnel. De nouveaux risques découlent de la prise de déci-
Il s'agit d'une stratégie de transparence concrète sions automatisée dans les domaines des services
et axée sur les résultats, qui peut présenter des financiers qui affectent la vie des personnes, tels
avantages par rapport à l'obligation de fournir des que le crédit, les assurances et les produits financiers
explications, qui sont parfois si complexes qu'elles risqués ou coûteux . L'Initiative mondiale de l'IEEE
197
n'améliorent ni la compréhension ni la situation du recommande que les personnes disposent d'un
consommateur. forum pour faire valoir les circonstances atténuantes
Si faire référence à des éléments contrefactuels que le système d'intelligence artificielle pourrait ne
est une stratégie relativement subtile pour améliorer pas prendre en compte – à savoir un recours à une
la position des consommateurs, notamment en leur intervention humaine . Un nombre croissant de lois
198
donnant de nouveaux moyens d'obtenir les services sur la protection des données et de la vie privée,
recherchés, il existe des méthodes plus approfondies dont le RGPD, prévoient le droit d'obtenir une inter-
pour améliorer la responsabilité des systèmes d'ap- vention humaine, d'exprimer son point de vue et de
prentissage automatique. Il pourrait être possible, contester les décisions prises .
199

Mégadonnées, apprentissage automatique, protection des usagers et confidentialité 45