IA générative, arme de cybercriminalité

20 254 images générées par l'intelligence artificielle (IA) ont été publiées sur un forum accessible sur le dark web consacré aux pédocriminels : 1372 images représentaient des enfants âgés de sept à dix ans et 143 images représentaient des enfants âgés de trois à six ans.

Si elle représente une évolution technologique majeure, l’IA générative se transforme en une arme redoutable lorsqu’elle est utilisée par des personnes mal intentionnées, comme les cyberpédocriminels. Sextorsion, grooming, vidéos pédocriminelles sont des pratiques désormais facilitées et amplifiées par cette technologie qui ne cesse de se perfectionner.

La Fondation pour l'enfance a effectué un travail de recherche de plus d'un an dont les résultats sont présentés dans ce rapport(104 p.) et cette synthèse (8 p.). La Fondation a identifié 3 enjeux principaux pour protéger les mineurs de la cyberpédocriminalité générée par l'IA:

• Lutter contre l'intensification et la banalisation des violences sexuelles sur les enfants

• Identifier et protéger les enfants victimes de cyberpédocriminalité

• Engager une réponse juridique et politique solide et coordonnée