Le 13 février, l'UER a soumis ses commentaires à l'appel à preuves lancé par la Commission européenne concernant le futur plan d'action de lutte contre la fraude en ligne. Nous soulignons les défis posés par les escroqueries « deepfake », où la bonne réputation des médias et des journalistes est manipulée à l'aide d'outils d'IA afin d'escroquer le public, et qui se multiplient à un rythme sans précédent. Nous exhortons la Commission à veiller à ce que les plateformes en ligne suppriment efficacement ce type de contenu.

« En exploitant la confiance dans les médias et les journalistes locaux, ces escroqueries proposent des produits et services frauduleux et diffusent de la désinformation et de la désinformation », explique Thomas Bergmann, conseiller politique principal de l'UE auprès de l'UER. « Ces escroqueries portent préjudice aux citoyens et érodent la confiance dans les médias et le journalisme en général. Cela ne peut pas être autorisé à continuer.»

Alors que la loi sur les services numériques (DSA), mais aussi la loi sur l'IA, introduisent des exigences de transparence pour la publicité en ligne et le contenu généré ou manipulé par l'IA, la transparence à elle seule ne suffira pas. En vertu de la DSA, les plateformes en ligne doivent également supprimer le contenu illégal à la suite des notifications des utilisateurs. Mais le mécanisme de notification et d'action ne peut tout simplement pas correspondre à l'ampleur et à la volatilité des contenus frauduleux et illégaux tels que les escroqueries liées aux célébrités.

La plupart de ces escroqueries étant de courte durée, disparaissant dans les 24 heures pour refaire surface plus tard, il est extrêmement difficile pour les médias de les identifier et de les signaler. Même lorsqu'elles sont signalées, les plateformes refusent souvent d'agir, faisant valoir que les médias ne peuvent pas agir au nom de leurs journalistes ou que le contenu n'est pas illégal.

Nous avons donc préconisé que les plateformes abordent le problème dans le cadre du risque systémique de la DSA. Dans le cadre de campagnes coordonnées, les escroqueries liées à des célébrités constituent des risques systémiques qui portent atteinte à la protection des consommateurs, à la liberté et au pluralisme des médias, et portent atteinte au droit à la vie privée et au droit d'auteur.

Notre position exige :

• des mesures plus strictes et plus ciblées pour empêcher les acteurs malveillants d'abuser des systèmes publicitaires et de la technologie de l'IA à des fins malveillantes.
• une véritable application de la loi. Les plateformes en ligne ne doivent pas être autorisées à exister au-dessus des lois ; elles doivent s'y conformer ou être tenues pour responsables.

Nous avons commencé à aborder ce problème en 2024, notamment par le biais d'une série de blogs, mettant en lumière la montée des escroqueries liées au deepfake et à l'IA et proposant des conseils pratiques pour s'en protéger. Bien que le défi soit de taille, nous restons prêts à travailler avec la Commission et les plateformes en ligne pour prendre des mesures concrètes, mettre fin à ces escroqueries et préserver la confiance dans les médias.