La scène a fait le tour des réseaux sociaux en quelques heures. Dominique B., un homme de 66 ans, était persuadé d’échanger avec une adolescente de 14 ans. Pourtant, de l’autre côté de l’écran, c’était Finnyzyy, un streamer de 21 ans, qui utilisait l’intelligence artificielle. En direct, suivi par des milliers de personnes sur Twitch, le sexagénaire, un ex-directeur du sport scolaire de Haute-Saône, a tenu des propos sexualisés à une personne qui se présentait comme mineure. Dans les jours qui ont suivi, il a été placé en garde à vue et mis en examen.
Dans le même temps, Finnyzyy, membre de l’association 211, est devenu une figure de la « chasse aux pédocriminels » numérique, mettant en avant l’utilisation de l’IA pour « piéger les prédateurs ». Cette technologie peut-elle vraiment être un outil de lutte contre la pédocriminalité ?
L’IA, un outil qui permet d’être « en avance »
Comme celui de Finnyzzy, de nombreux comptes en ligne de « chasseurs » existent sur les réseaux sociaux, ressemblant à des adolescentes ordinaires grâce à l’intelligence artificielle. « On n’utilise pas d’identité réelle, mais une générée artificiellement », confirme KNZ, 29 ans, responsable des « chasseurs » dans l’association 211. Elle explique que l’IA sert à plusieurs niveaux : des outils génèrent un visage, d’autres créent des « fonds d’écran » du quotidien pour rendre le profil « crédible », certains modifient la voix.
« L’IA nous aide aussi si on tombe sur des pédocriminels avérés, qui vont avoir tendance à être plus méfiants », ajoute KNZ. Ainsi, si un suspect demande une preuve, des photos de secours sont préparées en amont avec une main qui lève le pouce, qui se touche le nez. « C’est très rare qu’ils détectent quelque chose, même lorsque des chasseurs sont en conversation vidéo et qu’ils utilisent des filtres IA [comme Finnyzyy] », glisse Merogis, président fondateur de l’association.
Pour Thyss, vice-président, l’association 211 a « de l’avance » par rapport à d’autres. « On a tout de suite intégré l’IA à nos méthodes, indique-t-il. Depuis le début, on avance avec la technologie, tout en restant dans un cadre légal. Les personnages générés ne sont jamais sexualisés ou dans un contexte sexuel », souligne-t-il. L’association, qui compte une cinquantaine de bénévoles, dit être conseillée en continu par un avocat.
« Un filtre et le travail est fait »
Mister Fox, connu sur Twitch pour l’hameçonnage de pédocriminels, constate un vrai « avant/après » de l’utilisation de l’IA. Confronté à un pédocriminel lorsqu’il avait 13 ans sur Habbo, il a ensuite voulu « troller ces prédateurs ». « Tout au long de mon adolescence, j’ai continué à les faire chier avec mes comptes Skyblog ou Coco. Et il y a quatre ans, je me suis dit que j’allais partager ça sur TikTok, pour montrer un peu autour de moi à quel point il y a des pédocriminels partout et faire de la prévention à un plus large public », raconte-t-il.
À partir de ce moment-là, il a créé de faux comptes sur les réseaux sociaux. « Avant l’arrivée de l’IA, j’utilisais les photos qu’un homme transgenre m’avait transmises de lui, dans son corps féminin. Il était majeur mais il paraissait très jeune… », indique-t-il. Fin 2023, voyant l’émergence des IA, il tape un léger prompt sur ChatGPT et découvre « la puissance phénoménale » de la technologie. « Même au niveau de la voix, ajoute-t-il. J’ai pu passer des appels avec les prédateurs alors qu’avant, des filles de mon équipe devaient intervenir pour faire des vocaux et rendre le personnage crédible. »
Depuis qu’il utilise l’IA, il peut tout faire tout seul. « C’est beaucoup plus simple pour créer des profils, c’est beaucoup plus simple pour les appels dans lesquels les prédateurs lâchent beaucoup plus d’informations. C’est triste à dire mais c’est presque devenu industriel vu le nombre de demandes qu’on a », lâche-t-il.
Pour l’association 211 aussi, leurs pratiques ont évolué grâce à l’IA. Quand Merogis a commencé à infiltrer des plateformes, il avait aussi 13 ans. « On est une génération d’enfants d’Internet, lance-t-il, désormais âgé de 20 ans. En allant sur les réseaux sociaux, on a très vite pris conscience du danger qu’il y avait en ligne. » À cette époque, pour piéger les pédocriminels, il créait de faux comptes « avec une bande de potes », sans aller plus loin. Quand l’IA générative a commencé à être accessible, « les choses ont pris une autre dimension ». Selon Merogis, leurs actions ont permis d’arrêter 36 personnes en un an. « Et on a émis 174 signalements aux forces de l’ordre », assure-t-il.
En 30 secondes, 20 messages
Et le protocole est bien rodé chez 211. KNZ rappelle que les personnes qui veulent rejoindre leur groupe doivent suivre une formation de cinq semaines qui indique les pratiques à suivre et le cadre légal des méthodes. Ensuite, le processus est « simple ». Ils créent des profils de mineures de 14 ans [en dessous de la majorité sexuelle, fixée à 15 ans] et attendent. « À partir du moment où il y a des enfants, il y a des pédocriminels, précise Thyss, 18 ans. Minecraft, Fortnite, Roblox, Snapchat, Instagram… Dès qu’il y a un chat, ils sont là. » « En 30 secondes, vous pouvez recevoir 20 messages de présumés pédocriminels. Ça va extrêmement vite », assure KNZ qui œuvre sous des profils de jeunes filles de 11 à 13 ans.
Monsieur Fox, indépendant, a dépassé les 11 000 abonnés en cinq mois, sur un compte Snapchat présenté comme celui d’une fille de 12 ans. « C’est lunaire, dit-il, dépité. Et c’est une réalité que les gens ont du mal à croire. » Si des individus viennent leur parler, ils assurent « ne jamais ajouter quelqu’un ou engager la conversation », « ne jamais être dans l’incitation », toujours « rappeler l’âge de la jeune fille », et l’infraction qu’ils commettent, tout en constituant un dossier à envoyer aux forces de l’ordre. « Moi, je filme en direct pour la prévention mais ça fait aussi office de preuves pour la police qui peut récupérer l’ensemble de ce qui les intéresse », ajoute Monsieur Fox.
Un gain de temps pour les enquêteurs ?
Mais cette police officieuse aide-t-elle vraiment les enquêteurs officiels ? « La limite de ces initiatives citoyennes, c’est d’empêcher le travail d’enquête en raison d’une diffusion qui alerterait l’auteur qui va détruire des preuves numériques, détaille Agathe Foucault, porte-parole de la police nationale. Des opérations judiciaires sont compromises, alors que l’objectif doit rester l’arrestation de ces pédocriminels. »
Le service communication de la police nationale rappelle également qu’aucune « suite d’enquête » ne peut être envisagée après la transmission d’informations auprès de leurs services, les enquêteurs devant d’abord vérifier les éléments. « Il n’est donc pas possible de parler d’un gain de temps », appuie le service communication, tout en invitant les citoyens à simplement signaler les contenus pédocriminels sur Pharos, sur masecurite.gouv ou auprès des services de modération des plateformes.
L’IA et la police
Concernant l’identification des pédocriminels, les citoyens et associations et les services d’enquête ne sont pas soumis aux mêmes exigences. Les policiers peuvent « enquêter sous pseudonyme », en se faisant passer pour un autre individu ou une victime, avec une autorisation préalable, « soumis au respect du principe de loyauté de la preuve, de non-provocation à l’infraction et du respect de la présomption d’innocence sous l’autorité du procureur de la République ». Donc pas d’IA.
« Et je ne suis pas sûre qu’on ait un jour le droit de se créer des avatars, souligne Agathe Foucault, porte-parole de la police nationale. On en est loin et ce n’est pas la première avancée que pourrait nous offrir cette technologie, quand le cadre nous le permettra ». Elle développe : « c’est dans le traitement des données et le traitement des images que l’intelligence artificielle pourra vraiment être une aide. Parfois, ce sont des heures et des heures de vidéos à regarder. L’IA pourra alors permettre d’analyser plus rapidement ces tonnes de fichiers. Ce sera aussi un allègement de la charge mentale pour les policiers qui subissent le visionnage de ces éléments, parfois abominables. »
Agathe Foucault ajoute que l’IA pourrait aussi être un apport technique sur les analyses de signalements, permettant d’être « plus efficaces ». « Pharos en reçoit plus de 55 000 par an », développe-t-elle. En 2025, la plateforme en a enregistré 31 676 relatifs aux atteintes aux mineurs. « La pédocriminalité n’est pas nouvelle, elle existe depuis toujours. Et comme dans les autres domaines, ces criminels s’adaptent. L’intelligence artificielle ne nous enlèvera malheureusement pas de travail face à l’ampleur du problème, c’est certain. »
Car si l’IA profite aujourd’hui aux hameçonneurs, rien n’empêche les prédateurs de s’en emparer aussi. « Un pédocriminel pourrait tout aussi bien générer un avatar d’adolescent pour approcher des enfants, glisse Monsieur Fox. Et c’est sûrement en train de se passer pendant qu’on parle… »
