Page 4 - Detecting deepfakes and generative AI: Report on standards for AI watermarking and multimedia authenticity workshop

Table of contents

Executive Summary ����������������������������������������������������������������������������������������������������������������������iv

1 Introduction �������������������������������������������������������������������������������������������������������������������������� 1

2 Workshop on AI watermarking and multimedia authenticity ��������������������������������������� 2

3 Session 1: Setting the scene – The challenges and risks of deepfakes and
generative AI multimedia ������������������������������������������������������������������������������������������������������������ 3

4 Session 2: Current state of deepfakes and deepfake detection technology �������������� 7

5 Session 3: AI watermarking, multimedia authenticity, and provenance ��������������������12

6 Session 4: Standards collaboration to overcome current gaps in AI
watermarking and multimedia authenticity ����������������������������������������������������������������������������18

Annex 1: EU AI Act ���������������������������������������������������������������������������������������������������������������������20

Annex 2: Impact of Deepfakes �������������������������������������������������������������������������������������������������21

ii