Page 54 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

matique au regard des principes de protection caractéristiques utilisées dans chaque modèle,
de la vie privée et de lutte contre la discrimi- ainsi que leur pondération relative, et de veiller
nation. Elles pourraient également aborder la à fournir la documentation et les pistes de véri-
question de savoir si les déductions opérées sur fication requises en cas de procédure judiciaire.
le plan personnel (opinions politiques, orienta- Il serait également possible d'envisager l'utili-
tion sexuelle, santé, etc.) à partir de différentes sation d'éléments contrefactuels pour informer
sources de données (navigation sur Inter- l'usager de la manière dont le système automa-
net, notamment) sont acceptables ou portent tisé pourrait, avec des caractéristiques d'entrée
atteinte à la vie privée, en fonction du contexte. Il différentes, aboutir à des décisions différentes.
pourrait également s'agir d'élaborer des normes Lorsque les explications contrefactuelles sont
relatives à la fiabilité des déductions, en particu- considérées comme valides, leur communica-
lier celles qui sont importantes sur le plan social, tion en aval des décisions pourrait faire l'objet de
qui présentent un risque ou qui ont des répercus- normes.
sions juridiques significatives, et qui concernent 7) Mettre en place de bonnes pratiques dans les
les groupes protégés. Des normes pourraient en processus i) permettant aux usagers de bénéfi-
outre être élaborées pour vérifier les déductions cier d'une intervention humaine, et ii) facilitant la
avant et après le déploiement des données. Cette détermination du degré d'intervention humaine
démarche pourra nécessiter des approches diffé- nécessaire pour maintenir l'intégrité et la valeur
rentes selon les types de services proposés. du modèle, tout en permettant un dialogue entre
6) Élaborer des normes relatives à l'explication des l'usager et un autre humain.
décisions automatisées, notamment en défen- 8) Élaborer les principes relatifs aux bonnes pra-
dant la pertinence des données utilisées par le tiques internationales et harmoniser les méca-
système pour effectuer des déductions, la per- nismes de responsabilisation, y compris les
tinence de ces déductions au regard de chaque procédures de contestation des décisions auto-
type de décision automatisée, ainsi que l'exacti- matisées, les normes visant à démontrer tout
tude et la fiabilité statistique des données et des préjudice prima facie et, en définitive, les cadres
méthodes utilisées. Il pourrait s'agir d'encoura- pour l'évaluation de la responsabilité associée
ger les développeurs de modèles de notation à aux modèles d'intelligence artificielle et d'ap-
communiquer aux usagers (et, si nécessaire, aux prentissage automatique en matière de concep-
organismes de réglementation) les principales tion et d'exploitation.

52 Mégadonnées, apprentissage automatique, protection des usagers et confidentialité