Un pédocriminel interdit d’IA pour les 5 prochaines années par la justice britannique, une première

Un procès et un verdict historiques. Au Royaume-Uni, un homme de 48 ans, mis en cause pour la création de plus d’un millier d’images pédopornographiques, a été condamné par la justice à une interdiction d’utiliser des outils d’intelligence artificielle générative pour les cinq prochaines années. Cette décision, première du genre, intervient alors que les associations alertent depuis plusieurs mois sur les dérives de l’IA et la prolifération d’images d’abus sexuels générées par ces outils.

Mi-avril, le gouvernement britannique a même annoncé la création d’une nouvelle infraction, qui condamnera la confection de deepfakes sexuellement explicites impliquant des personnes de plus de 18 ans sans leur consentement. Les coupables s’exposeront à des poursuites judiciaires et à une amende illimitée, voire à de la prison si l’image est ensuite diffusée.

Une décision inédite

Sans l’accord préalable des forces de l’ordre, l’homme de 48 ans n’a donc plus le droit « d’utiliser, de visiter ou d’accéder » à des outils tels que des générateurs texte-image, qui permettent de créer des images réalistes à partir d’une commande écrite, ni d’aller sur des sites web « déshabillants », utilisés pour créer des deepfakes à caractère sexuel.

Il a également reçu l’ordre explicite de ne pas recourir au logiciel Stable Diffusion, dont de précédentes audiences tenues au Tribunal d’instance de Poole démontrent que l’outil a déjà été employé par des pédocriminels dans le but de créer du matériel hyperréaliste d’abus sexuel d’enfants.

Au Royaume-Uni, les délinquants sexuels sont depuis longtemps soumis à des restrictions en matière d’utilisation d’internet, comme l’interdiction d’utiliser la navigation privée, d’accéder à des applications de messagerie cryptées, ou d’effacer leur historique internet. C’est en revanche la première fois que des restrictions sont imposées sur l’utilisation d’outils d’intelligence artificielle. Une première fois qui pourrait ouvrir la voie à de nouvelles manières de surveiller les pédocriminels condamnés.

Il n’est pas clair si l’homme de 48 ans avait utilisé l’IA pour produire les contenus qui lui ont valu une condamnation, ou s’il s’agit d’une mesure préventive, face à l’utilisation accrue de ces outils à des fins (pédo)pornographiques.

Un arsenal législatif en évolution

Depuis les années 1990, la création, la possession et le partage de matériel pédopornographique artificiel sont déjà interdits par la loi, rappelle le Guardian.

Cette dernière décennie, ces lois ont été appliquées plusieurs fois pour condamner des délits impliquant des images réalistes, réalisées notamment avec Photoshop. Des cas récents suggèrent que cette loi est de plus en plus utilisée pour faire face à la menace posée par des contenus artificiels sophistiqués. Rien que l’année dernière, six personnes sont passées devant la justice pour avoir possédé, fabriqué ou partagé des « pseudo-photographies » – certaines générées par l’IA.

Mais il reste difficile de recenser précisément combien d’affaires ont impliqué des images d’intelligence artificielle, puisque celles-ci ne sont pas comptabilisées séparément dans les données officielles, et que certaines fausses images restent pratiquement impossibles à distinguer des vraies.

L’année dernière, souligne le Guardian, une équipe de l’Internet Watch Foundation (IWF) s’est infiltrée dans un forum d’abus d’enfants sur le dark web et a trouvé 2 562 images artificielles si réalistes qu’elles seraient traitées par la loi comme si elles étaient réelles.

Susie Hargreaves, directrice générale de l’IWF, a déclaré à nos confrères britanniques que si les images d’abus sexuels générées par l’IA représentaient actuellement une proportion « relativement faible » des signalements, on assistait à une « augmentation lente mais continue » des cas, et que certains de ces documents étaient « très réalistes ». « Nous espérons que les poursuites engagées enverront un message clair à ceux qui fabriquent et distribuent ce type de contenu ».