Karina d’aespa harcelée par deepfakes IA : la K-pop face à l’industrie du viol numérique

Le teaser « LEMONADE » du groupe aespa ^[1] devait lancer un comeback. Il a déclenché une vague de harcèlement sexuel. Sur X, des comptes ont détourné les images de Karina ^[2], chanteuse du groupe, pour générer des contenus pornographiques par intelligence artificielle ^[3]. Les publications ont accumulé plus d’un million de vues en peu de temps ^[4]. Les fans ont rapidement identifié la manipulation par IA ^[5] et appelé SM Entertainment ^[6] à porter plainte ^[7].

LES ENJEUX

Une industrie ciblée sur les femmes

99 % des personnes visées par des deepfakes pornographiques sont des femmes [16], et 56 % des célébrités les plus ciblées au monde sont des popstars sud-coréennes [19].

L'angle mort de l'EU AI Act

L'AI Act classe les deepfakes en « risque limité » [45] alors que 98 % d'entre eux sont pornographiques [15]. Une dissonance entre la classification et la réalité documentée.

La voie danoise du copyright personnel

Le Danemark a présenté à l'été 2025 [63] une réforme créant un copyright personnel sur visage, voix et traits faciaux [64], avec droit de retrait obligatoire des plateformes.

Le verrou de l'exécution

Seuls 28 % des 17 495 suspects coréens identifiés en 2021 ont été inculpés [92][93]. L'anonymat Telegram, la territorialité et l'inertie des plateformes neutralisent les lois existantes.

Ce n’est pas la première fois que Karina est ciblée ^[8]. Son agence l’a confirmé: « Nous souhaitons informer le public des actions juridiques engagées suite à la diffusion de publications malveillantes, commentaires, deepfakes, photos et vidéos manipulées ainsi que de contenus écrits comprenant diffamation, insultes et harcèlement à l’encontre d’aespa » ^[9]. Plusieurs plaintes pénales ont été déposées ^[10]. Certaines affaires ont déjà abouti à des peines de prison de trois ans avec sursis, de cinq ans, et à des amendes ^[11][12]. À ce stade, aucune des sources consultées ne fait état d’une réponse officielle de X aux signalements de SM Entertainment, ni d’un retrait proactif des contenus incriminés.

Une industrie ciblée sur les femmes asiatiques

Posons les chiffres. Selon une recherche de Security Heroes ^[14], 98 % des deepfakes produits sont à caractère pornographique ^[15]. 99 % des personnes ciblées sont des femmes ^[16]. Sur 95 820 vidéos deepfake pornographiques analysées, 53 % mettaient en scène des chanteuses et actrices sud-coréennes ^[17][18]. Le Monde, en épluchant les cinq plateformes vidéo les plus populaires en la matière, a constaté que sur les cinquante célébrités les plus ciblées dans le monde, 56 % sont des popstars sud-coréennes ^[19][20].

Ce n’est pas une coïncidence. C’est un marché. Henry Ajder ^[21], coauteur d’un rapport pour la société de cybersécurité Deeptrace, rappelait dès 2019 que 25 % des personnalités mondiales touchées étaient des stars féminines de K-pop ^[22].

L’économie du deepfake pornographique

Derrière le mot « industrie », il y a une chaîne de valeur identifiable. En amont, des producteurs. « Les deepfakes pornos d’idols K-pop, le monde entier en veut » ^[23], affirme Peter ^[24], producteur et vendeur cité par Le Monde, qui écoule ses contenus via des boucles Telegram et des sites spécialisés. Sa justification est commerciale: « Moi, je n’ai aucun fantasme particulier sur elles. Je réponds juste à une demande très forte » ^[25].

En aval, la distribution. Le Monde a recensé cinq plateformes vidéo dédiées au deepfake pornographique ^[20] - un circuit fermé, monétisé, suffisamment stable pour qu’un journal d’enquête puisse le cartographier. Et au milieu, l’outil. Le 9 janvier 2026 ^[26], xAI ^[27] a rendu payante la génération d’images via Grok ^[28][29]. Le service est accessible via X ^[30], le réseau social d’Elon Musk ^[31]. Depuis fin décembre 2025 ^[32], des utilisateurs commandaient à Grok de dénuder femmes et mineures sans leur consentement ^[33]. La réponse n’a pas été d’interdire. Elle a été de tarifer. Et les services de Grok restent accessibles sans restrictions via l’icône dédiée sur X ^[34].

Cette logique illustre l’angle mort de la régulation. Tant que la diffusion reste rentable, la modération technique passe après le modèle économique. Concrètement, la friction posée à un harceleur reste minime: un abonnement, et le contenu non consenti redevient générable.

Le précédent Taylor Swift et l’affaire Fernandes

L’affaire Karina s’inscrit dans une série. On se souvient qu’en janvier 2024, de fausses images pornographiques de Taylor Swift avaient circulé librement sur les réseaux sociaux fin janvier 2024 ^[35], relançant aux États-Unis le débat sur la régulation des deepfakes. Plus récemment, en Allemagne, l’actrice Collien Fernandes ^[36] accuse son ex-mari Christian Ulmen ^[37] d’avoir fabriqué des deepfakes la mettant en scène et fait croire à une trentaine d’hommes ^[38] à une relation secrète avec elle. Selon France 24, il aurait reconnu les faits en mars ^[39], mais l’affaire reste contestée juridiquement selon plusieurs sources. La victime a formulé l’accusation comme suit: « On m’a volé mon corps » ^[40], et plus directement encore: « Tu m’as violée virtuellement » ^[41].

Le cadre légal européen: un « risque limité »

L’EU Artificial Intelligence Act ^[42], adopté en 2024 ^[43] et dont l’entrée en vigueur complète est prévue en août 2026 ^[44], classe les hypertrucages dans la catégorie « risque limité » ^[45] sur quatre niveaux ^[46]: minimal, limité, élevé, inacceptable ^[47]. Les entreprises sont tenues d’étiqueter les contenus générés par l’IA via un filigrane et de divulguer leurs ensembles d’entraînement ^[48]. L’article 50(2) ^[49], appuyé par le Recital 134 ^[50], impose la divulgation des deepfakes. Les amendes peuvent atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial pour les pratiques interdites ^[51], 15 millions d’euros ou 3 % pour les autres infractions ^[52].

Classer les deepfakes en « risque limité » alors que 98 % d’entre eux sont pornographiques ^[15] et que 99 % des victimes sont des femmes ^[16] relève d’une dissonance. Une telle classification suppose que l’enjeu est l’information du public. L’enjeu réel, documenté par les chiffres, est sexuel et genré.

La directive sur les violences faites aux femmes: trop tard pour Karina

La directive UE 2024/1385 ^[53] criminalise la production, la manipulation ou l’altération non consensuelle de matériel donnant l’impression qu’une personne est engagée dans des activités sexuelles ^[54]. Elle inclut explicitement les hypertrucages générés par IA ^[55]. Les États membres ont jusqu’au 14 juin 2027 ^[56] pour la transposer.

La France a pris les devants: la loi SREN, adoptée en 2024, a complété le code pénal pour réprimer spécifiquement les contenus IA non consentis ^[57]. L’article 226-8 du Code pénal, qui punissait déjà le « montage » réalisé avec les paroles ou l’image d’une personne sans son consentement, a été enrichi d’un alinéa visant explicitement les contenus générés par algorithme. La diffusion de tels contenus est punie d’un an d’emprisonnement et 15 000 euros d’amende ^[58], deux ans et 45 000 euros via un service en ligne ^[59], et trois ans et 75 000 euros ^[60] pour les hypertrucages à caractère sexuel - y compris s’ils sont marqués comme faux ^[61]. Les poursuites coréennes ayant abouti aux peines de cinq ans citées par SM Entertainment ^[12] s’appuient, elles, sur l’Act on Special Cases Concerning the Punishment of Sexual Crimes, durci en 2020 ^[62].

La voix critique: le Danemark va plus loin

Le gouvernement danois a présenté à l’été 2025 ^[63] une réforme créant un « copyright personnel » ^[64] sur le visage, la voix et les traits faciaux. Jakob Engel-Schmidt ^[65], ministre danois de la Culture, le formule ainsi: « Vous avez le droit d’avoir votre propre corps, votre propre voix et vos propres traits faciaux » ^[66]. Ce changement est qualifié de « principe novateur » par Haas Avocats ^[67]. Il instaure un droit de retrait, un droit à réparation et une responsabilité accrue des plateformes ^[68].

L’avocat Vincent Fauchoux ^[69], associé chez Deprez Guinot & Associés, observe qu’en matière de transparence des contenus IA, « la Chine va plus loin que l’Europe » ^[70]. Aux États-Unis, la loi Elvis ^[71] (Ensuring Likeness, Voice, and Image Security) du Tennessee, promulguée en mars 2024, s’appuie sur la propriété intellectuelle ^[72]. Yvette Clarke ^[73], membre du Congrès américain, avait alerté: « En l’absence de lois encadrant la propagation de cette technologie, nous nous trouvons au bord d’une nouvelle ère de guerre informationnelle, alimentée par les outils d’intelligence artificielle » ^[74].

L’Australie a montré la voie judiciaire

Anthony Rotondo ^[75] a reconnu devant un tribunal australien avoir publié des vidéos truquées par IA à caractère pornographique ^[76]. Il a été condamné à une amende de 343 500 dollars australiens ^[77], soit environ 192 000 euros ^[78]. Une victime a déclaré au tribunal s’être sentie « violée, vulnérable et complètement impuissante » ^[79]. Julie Inman Grant ^[80], commissaire australienne à la sécurité en ligne, a estimé que la décision « envoie un message fort sur les conséquences encourues par toute personne qui commet des abus liés aux images deepfakes » ^[81].

Le précédent K-pop: HYBE et la police coréenne

HYBE Music Group ^[82], maison mère des plus grands groupes K-pop, a obtenu en avril l’arrestation de huit individus ^[83] suspectés de créer et distribuer des deepfakes de ses artistes, par la Northern Gyeonggi Provincial Police Agency ^[84]. Six d’entre eux étaient détenus pour avoir créé des chats Telegram dédiés ^[85]. L’enquête est le résultat d’un mémorandum d’entente signé en février ^[86] entre HYBE et la police ^[87]. JYP Entertainment ^[88], YG Entertainment ^[89] et Cube Entertainment ^[90] ont également déclaré la guerre aux deepfakes.

Le verrou de l’exécution

Les arrestations spectaculaires masquent une réalité statistique. Selon le Supreme Prosecutors’ Office ^[91], sur 17 495 auteurs de crimes sexuels numériques arrêtés en Corée du Sud en 2021 ^[92][93], seuls 28 % ont été inculpés. Autrement dit, 72 % des suspects identifiés échappent aux poursuites. Le verrou n’est pas l’arrestation, c’est la procédure.

Trois obstacles structurels expliquent ce taux. Le premier est l’anonymat: les producteurs comme Peter opèrent via des boucles Telegram fermées, et un seul groupe d’abus a rassemblé 220 000 membres ^[13] avant d’être documenté. Identifier l’auteur d’un contenu, puis prouver son intention, exige une coopération technique que les messageries chiffrées rendent fastidieuse. Le deuxième est la territorialité: un harceleur ciblant Karina depuis l’étranger relève d’une juridiction qui n’est pas celle de la victime. La directive UE 2024/1385 ^[53] et la loi française sur les contenus IA ^[57] s’arrêtent aux frontières d’une plateforme hébergée hors-sol. Le troisième est l’inertie des plateformes: la France a doté l’Arcom ^[94] d’une compétence en la matière, mais la modération réelle dépend des CGU et des délais propres à chaque réseau. On l’a dit: la réponse de X aux signalements visant Karina n’est, à ce jour, pas documentée.

Une contradiction chiffrée à signaler

Les sources divergent sur l’ampleur du phénomène en France. Selon le site spécialisé Décideurs Juridiques, l’utilisation des deepfakes en France aurait augmenté de 140 % en 2024 ^[95] - un chiffre de progression nationale issu d’une source unique, non recoupé indépendamment. Le Monde, lui, mesure une autre réalité: 56 % des cinquante célébrités les plus ciblées dans le monde sont des popstars sud-coréennes en 2024 ^[19] - une part de marché mondiale. Les deux chiffres ne mesurent pas la même chose. Le premier est un volume, le second une concentration géographique. Ils se complètent plus qu’ils ne se contredisent, mais aucun ne permet à lui seul d’évaluer l’exposition des femmes françaises.

L’angle mort: l’impact psychologique

Plus de la moitié des victimes de deepfakes ont envisagé le suicide ^[96] selon France 24, citant Security Hero ^[97]. Le Centre Hubertine-Auclert ^[98] et l’Institut pour l’égalité des femmes et des hommes ^[99] rappellent que ces violences relèvent de la domination de genre.

Ce que les sources ne disent pas

Aucune des sources consultées ne donne le nombre de plaintes effectivement instruites en Europe au titre de la loi française de 2024 ^[57]. Aucune ne mesure le délai moyen entre signalement et retrait d’un contenu deepfake sur X. Aucune ne précise combien d’images de Karina restent accessibles en ligne aujourd’hui. Aucune, surtout, ne rapporte la position officielle de X sur les contenus visant aespa. Le verrou technique - l’identification des auteurs derrière des comptes anonymes - reste largement non documenté dans la couverture francophone du sujet.

C’est ce silence-là qui dit le plus. Les lois existent. Les chiffres existent. Les victimes existent. Le maillon faible n’est plus le droit. C’est l’exécution.

► Lire aussi: Notre dossier sur la régulation de l'IA en Europe