Page 57 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

Annexe B (Normes de la Smart Campaign re-
latives au crédit numérique)

Indicateurs provisoires sur les algorithmes et les décisions automatisées fondées sur des données

Principe relatif à la protection des clients n 2: Prévention du surendettement
o
Indicateur 2�1�3�0
Si l'analyse de la capacité de remboursement est automatisée (par exemple, grâce à l'utilisation d'un algo-
rithme), l'efficacité du système à prédire la capacité de remboursement des clients est évaluée par un service
indépendant de l'équipe chargée de l'élaboration de l'algorithme au sein de l'organisation (par exemple, le
service d'audit interne, la direction générale ou un autre département). Des recommandations sont ensuite
formulées pour améliorer les résultats de l'algorithme, puis rapidement mises en œuvre.
Indicateur 2�1�5�0
Les données et les analyses de souscription sont actualisées à chaque cycle de prêt afin de suivre l'évolution
de la situation du client.
Indicateur 2�1�10�0
Le fournisseur dispose d'un processus de contrôle interne rigoureux pour vérifier l'application uniforme des
politiques et procédures relatives à la souscription de crédit, qu'il soit automatisé ou non (intervention du
personnel).
Indicateur 2�1�10�1
Les critères guidant l'algorithme sont documentés, y compris les facteurs/types de variables utilisés et la justi-
fication du recours à ces facteurs. Un service indépendant au sein de l'organisation évalue régulièrement la
cohérence et la conformité de la logique appliquée, de l'algorithme et de ses résultats. Il existe des preuves
documentées des tests effectués et des mesures correctives qui ont été prises.
Principe relatif à la protection des clients n 5: Traitement équitable et respectueux
o
Indicateur 5�2�1�0
En fonction de son origine ethnique, son genre, son âge, sa situation au regard du handicap, son affiliation poli-
tique, son orientation sexuelle, sa caste et sa religion, une personne appartiendra à une catégorie protégée ou
non.
Indicateur 5�2�3�0
Les algorithmes sont conçus pour réduire le risque de discrimination des usagers liée aux catégories protégées.
Indicateur 5�2�3�1
Après une phase d'apprentissage initiale, le fournisseur effectue une analyse des liens entre les variables non
discriminatoires et les variables discriminatoires afin de vérifier l'absence de biais involontaire dans les décisions
de crédit automatisées.
Indicateur 5�2�3�2
Si le fournisseur confie le développement de l'algorithme à une tierce partie, il doit exiger de cette dernière
qu'elle respecte les normes exposées à l'indicateur ci-dessus. La tierce partie communique au fournisseur les
informations suivantes: paramètres et documentation de l'algorithme, supports de formation fournis à l'équipe
et documents relatifs à l'historique des tests antérieurs (comprenant notamment la date, une description et
le résultat de chaque test, les éléments de discrimination identifiés et les mesures correctives prises, le cas
échéant).

Mégadonnées, apprentissage automatique, protection des usagers et confidentialité 55