Page 52 - Mégadonnées, apprentissage automatique, protection des usagers et confidentialité

correctives, en anticipant et en empêchant tout Des organismes tels que l'Association for Com-
événement portant atteinte à la vie privée. puting Machinery (ACM) et l'IEEE en sont des
223
2) Activer les paramètres de confidentialité par exemples , ainsi que le Partnership on AI , la Sof-
224
225
défaut, de sorte que les usagers n'aient à modi- tware & Information Industry Association (SIIA) , et
226
fier aucun paramètre pour protéger leur vie des entreprises telles que Google et Microsoft .
228
227
privée (acceptation privilégiée par rapport au Leurs efforts s'accompagnent de travaux d'organisa-
refus). tions telles que Fairness, Accountability, and Trans-
3) Intégrer le principe de respect de la vie privée parency in Machine Learning (FAT/ML) , Privacy
229
dès la conception (notamment avec la fonction International , le Future of Life Institute , le Cen-
231
230
de portabilité des données), plutôt qu'après, afin ter for Democracy & Technology (CDT) et la Lea-
232
qu'il fasse partie intégrante du système sans en dership Conference .
233
compromettre la fonctionnalité. Dans le domaine des services financiers, comme
4) Adopter une approche qui profite à toutes les mentionné dans l'introduction (section 3), la Smart
parties, et qui bénéficie de la confiance accrue Campaign a permis d'établir des indicateurs pro-
des usagers et d'un risque moindre de violation visoires sur les algorithmes et les décisions auto-
des données. matisées fondées sur les données dans le cadre
5) Garantir la sécurité de bout en bout, en veillant de ses normes de crédit numérique (voir l'an-
à la collecte, à la conservation et à la destruc- nexe B "Normes de la Smart Campaign relatives au
tion sécurisées des données tout au long de leur crédit numérique"), dont bon nombre ont été cités
cycle de vie (y compris au chiffrement du stoc- dans ce rapport. La Smart Campaign est hébergée
234
kage et du transfert des données). par le Center for Financial Inclusion d'Accion . Son
235
6) Faire preuve de visibilité et de transparence, objectif est d'élaborer et de promouvoir des normes
en adoptant des politiques et en tenant des d'autorégulation pour la protection des usagers (et
registres pour permettre un contrôle interne et autres clients) dans le domaine de l'inclusion finan-
une vérification indépendante. cière. Elle assure notamment la gestion d'un pro-
7) Faire preuve de respect à l'égard de la vie privée gramme de certification à l'intention des fournis-
des utilisateurs, en leur donnant accès aux don- seurs de services financiers. La Smart Campaign et
nées les concernant, ainsi que la possibilité de les MFR , une agence de notation indépendante qui
236
contester, les corriger, les compléter et les mettre attribue une grande partie des certifications de la
à jour. Smart Campaign relatives à la protection des clients,
ont préparé des normes en la matière à l'intention
Cette démarche nécessitera une ingénierie de la des fournisseurs de crédit numérique. Celles-ci ont
confidentialité, aussi bien dans le cadre de l'élabo- été testées auprès de deux fournisseurs de services
ration des produits que de la formation des infor- financiers qui opèrent au Kenya et s'appuient sur des
maticiens. Par exemple, l'Université Carnegie Mellon interactions automatisées avec les usagers (4G Capi-
propose un master en technologie de l'information tal et Tala ). Une version révisée a été publiée par
237
238
spécialisé dans l'ingénierie de la confidentialité qui la suite. Le document de la Banque mondiale intitu-
aborde ce type de questions . lé Use of Alternative Data to Enhance Credit Repor-
221
ting to Enable Access to Digital Financial Services by
6�1 Éthique et autorégulation Individuals and SMEs operating in the Informal Eco-
Au-delà de la gestion et de l'ingénierie, des efforts nomy (voir section 3 et note de bas de page 14) est
plus larges sont actuellement déployés pour faire un autre exemple représentatif des orientations des-
évoluer les attitudes sous-jacentes et la prise de tinées aux fournisseurs de services financiers.
conscience des personnes travaillant dans les tech- De telles mesures ne suffisent pas à garantir
nologies. Les efforts d'autorégulation s'appuient sur l'équité, la responsabilité et la transparence, mais
les principes proposés par les parties prenantes du elles fournissent un lexique et un système de valeurs
secteur et d'autres acteurs. Ils se concentrent sur qui permettent une communication beaucoup plus
l'exactitude, l'équité, la responsabilité et la transpa- rapide sur ces questions et facilitent le développe-
rence, la croissance durable et le respect de la vie ment de la gestion des risques, de l'ingénierie et
privée 222 . Il s'agit notamment des mesures prises par d'autres mesures nécessaires à une meilleure protec-
la communauté des ingénieurs pour instaurer une tion de la vie privée des usagers.
éthique de l'intelligence artificielle et de la prise de
décisions autonome.

50 Mégadonnées, apprentissage automatique, protection des usagers et confidentialité