Page 7 - FIGI - Big data, machine learning, consumer protection and privacy

Contents

Acknowledgements ��������������������������������������������������������������������������������������������������������������3
Executive Summary ���������������������������������������������������������������������������������������������������������������6

Acronyms ��������������������������������������������������������������������������������������������������������������������������������8

1 Introduction ���������������������������������������������������������������������������������������������������������������������9
2 Understanding big data, consumer protection and data privacy ��������������������������12
2.1 What are big data and machine learning? ................................................................. 12
2.2 What kind of data is used? ...............................................................................................13
2.3 What are profiling and automated decisions? ..........................................................15
2.4 What is consumer protection? ........................................................................................15
2.5 What is data privacy? ......................................................................................................... 17
3 The pre-engagement phase: consumer protection and privacy challenges of
notice and consent ������������������������������������������������������������������������������������������������������� 19
3.1 Notifying consumers and obtaining their consent to use personal data ........19
3.2 The challenge in the context of big data ..................................................................... 21
4 The engagement phase: consumer protection and privacy in the operation
of AI-driven services ����������������������������������������������������������������������������������������������������23
4.1 Accuracy – protecting consumers from erroneous and outdated data .........23
4.2 Protecting consumers from bias and discriminatory treatment .......................25
4.3 Protecting consumers in the event of data breach and re-identification ......29
4.4 Protecting consumers in relation to the circulation of personal data
about them .............................................................................................................................32

5 The post-engagement phase: accountability to consumers for problems
after the fact ������������������������������������������������������������������������������������������������������������������33
5.1 Consumer rights of access, rectification and erasure ............................................33
5.2 Providing consumers with transparency and explanations ...............................34
5.3 Empowering consumers to contest decisions .......................................................... 37
5.4 Evaluating harm and liability to consumers ..............................................................38

6 Risk management, design and ethics ������������������������������������������������������������������������39
6.1 Risk management ...............................................................................................................39
6.2 Integrating data privacy by design ................................................................................41
6.3 Ethics and self-regulation ..................................................................................................41

7 Areas for further exploration ��������������������������������������������������������������������������������������42
Annex A (Monetary Authority of Singapore FEAT Principles) ������������������������������������ 44

Annex B (Smart Campaign Digital Credit Standards) ���������������������������������������������������45

Big data, machine learning, consumer protection and privacy 5