Bienvenue dans

la base de données des incidents d'IA

Selon le Centre canadien de protection de l'enfance (C3P), un vaste ensemble de données d'images utilisé pour développer des outils d'IA de détection de nudité contient de nombreuses images à caractère pédopornographique.

L'ensemble de données NudeNet, qui comprend plus de 700 000 images extraites d'Internet, a servi à entraîner un classificateur d'images par IA capable de détecter automatiquement la nudité. Le C3P a constaté que plus de 250 travaux universitaires ont cité ou utilisé l'ensemble de données NudeNet depuis sa mise en ligne sur Academic Torrents, une plateforme de partage de données de recherche, en juin 2019.

« Un examen non exhaustif de 50 de ces projets universitaires a révélé que 13 d'entre eux utilisaient l'ensemble de données NudeNet et que 29 s'appuyaient sur le classificateur ou le modèle NudeNet », a indiqué le C3P dans son communiqué.

(https://protectchildren.ca/en/press-and-media/news-releases/2025/csam-nude-net?ref=404media.co) Le programme C3P a découvert plus de 120 images de victimes identifiées ou connues de pédopornographie dans l'ensemble de données, dont près de 70 images centrées sur la région génitale ou anale d'enfants prépubères ou paraissant l'être. « Dans certains cas, les images représentaient des actes sexuels ou abusifs impliquant des enfants et des adolescents, tels que des fellations ou des pénétrations vaginales », a déclaré C3P.

Les personnes et les organisations ayant téléchargé l'ensemble de données n'avaient aucun moyen de savoir qu'il contenait de la pédopornographie à moins de la rechercher activement, ce qu'elles ne faisaient probablement pas. Cependant, la présence de ces images sur leurs ordinateurs constitue un délit.

« La pédopornographie est illégale et son hébergement et sa distribution exposent les créateurs et les chercheurs à d'importantes responsabilités. Un problème éthique majeur se pose également : les victimes figurant sur ces images n'ont presque certainement pas consenti à leur distribution et à leur utilisation à des fins de formation », m'a expliqué par courriel Hany Farid, professeur à l'UC Berkeley et l'un des plus grands experts mondiaux en images manipulées numériquement. Farid a également développé PhotoDNA, un outil d'identification d'images et de filtrage de contenu largement utilisé. « Même si la fin est noble, elle ne justifie pas les moyens dans ce cas-ci. »

« De nombreux modèles d'IA utilisés pour les fonctionnalités des applications et des projets de recherche ont été entraînés sur des données collectées sans discernement ou de manière éthiquement douteuse. Ce manque de diligence raisonnable a conduit à la présence de matériel pédopornographique dans ce type d'ensembles de données, ce qui est largement évitable », a déclaré Lloyd Richardson, directeur de la technologie chez C3P.

Academic Torrents a retiré l'ensemble de données après que C3P a émis un avis de retrait à ses administrateurs.

« Dans le cadre de la gestion de la ligne d'assistance téléphonique nationale du Canada pour le signalement de l'exploitation sexuelle des enfants, nous recevons quotidiennement des informations ou des signalements du public », m'a expliqué M. Richardson par courriel. « Dans le cas de l'ensemble de données d'images NudeNet, une personne a signalé la possibilité qu'il contienne du matériel pédopornographique, ce qui nous a incités à examiner la question de plus près. »

Les conclusions de C3P rejoignent celles d'une étude menée en 2023 par le Centre de politique cybernétique de l'Université de Stanford. Cette étude avait révélé que LAION-5B, l'un des plus importants ensembles de données alimentant les images générées par l'IA, contenait également des images pédopornographiques. Suite à ce rapport, l'organisation gérant LAION-5B l'a retiré d'Internet et ne l'a partagé à nouveau qu'après avoir supprimé les images incriminées.

« Ces ensembles de données d'images, généralement non vérifiés, sont promus et diffusés en ligne auprès de centaines de chercheurs, d'entreprises et d'amateurs, parfois à des fins commerciales », m'a expliqué Richardson. À ce stade, rares sont ceux qui prennent en compte les risques de préjudice ou d'exploitation que leurs produits peuvent engendrer. Il ne faut pas oublier non plus que nombre de ces images constituent elles-mêmes des preuves de crimes d'abus sexuels sur mineurs. Dans cette course à l'innovation, les dommages collatéraux sont considérables, mais beaucoup préfèrent les ignorer. En définitive, je pense que nous avons l'obligation de développer l'intelligence artificielle de manière responsable et éthique.

Mise à jour : Cet article a été mis à jour avec les commentaires de Lloyd Richardson.

Kate Garraway a déclaré que les images truquées d'elle et d'un « nouveau partenaire » fictif, générées par une intelligence artificielle, avaient été « blessantes » pour ses enfants.

La star de Good Morning Britain a perdu son époux bien-aimé, Derek Draper, en janvier 2024, des suites d'une longue maladie causée par des complications liées à la Covid-19.

Deux ans après son décès, la présentatrice d'ITV a été victime d'un canular en ligne, rapporte le Mirror.

La femme de 58 ans a déclaré qu'elle avait d'abord « pris à la légère » les fausses images, mais qu'elle avait rapidement réalisé l'impact de ces rumeurs infondées sur ses deux enfants et ceux de Derek.

Kate a pris la parole sur Instagram pour répondre aux rumeurs : « Depuis des mois, des gens (même ceux qui me connaissent très bien) me posent des questions sur des choses qui circulent et qui sont totalement fausses.

« D'un côté, c'est touchant que les gens s'intéressent à ma vie, mais c'est très déroutant – et parfois même blessant pour les enfants – quand il s'agit de fausses informations. »

Elle a également abordé le sujet dans un article du Sun, expliquant que les couples imaginaires étaient en réalité des collègues et des amis, comme Richard Arnold ou Ben Shephard.

Kate a écrit dans l'article : « On en a ri. »

Cependant, elle a ajouté : « Le déclic a été lorsque j'ai réalisé l'impact que cela pouvait avoir sur mes enfants et sur la famille de Derek. »

Un titre est apparu, sans doute envoyé par un algorithme : « Tout ce que vous devez savoir sur le nouveau petit ami de Kate Garraway ».

Elle a déclaré avoir été « abasourdie et intriguée » d’en savoir plus sur ce nouvel homme dans sa vie – qui n’existait pas – mais un détail l’a « glacée ».

Kate était furieuse d’apprendre que son fils était malheureux et voulait qu’elle mette fin à sa « relation ».

La star de la télévision a affirmé que le jeune homme de 16 ans avait déjà bien assez à gérer sans qu’on l’accuse d’entraver le bonheur de sa mère, insistant sur le fait qu’il était « tout le contraire ».

« Quand tout peut être truqué, les preuves perdent leur sens », a-t-elle déclaré, ajoutant qu’une fois la confiance brisée, il était « extrêmement difficile de la regagner ».

Elle avait précédemment déclaré à ses abonnés Instagram : « Heureusement qu’il existe encore de vrais journalistes, mais c’est un point que nous devons tous prendre en compte lorsque nous consultons des informations sur Internet : il faut s’assurer de la fiabilité de la source.

« Dans ce cas précis, cela ne me concerne que moi et c’est fondamentalement absurde et stupide, mais imaginez les dégâts que cela pourrait causer si c’était quelque chose de plus important ? »

Allégation :

Une photo partagée en ligne en décembre 2025 montrait de manière authentique le vice-président américain J.D. Vance en train de se disputer avec son épouse, Usha Vance, dans un restaurant.

Vérification :

Faux

En décembre 2025, une image diffusée sur les réseaux sociaux montrait prétendument le vice-président américain J.D. Vance en train de se disputer avec son épouse, Usha Vance, dans un restaurant.

Sur cette image, J.D. Vance semblait porter un t-shirt blanc et avoir l’air sévère, assis en face d’Usha Vance. Un utilisateur Facebook qui a partagé la photo (https://www.facebook.com/photo/?fbid=122152603934841298&set=a.122103529394841298) (archivé) a écrit :

On dirait que la situation est tendue au Républiqueistan. Usha est libérale. Elle l'a toujours été. Apparemment, ils se disputaient si fort que le restaurant était silencieux. Pourquoi porte-t-il un t-shirt ?

L'image a circulé ailleurs sur Facebook et sur X (archivée ici [et ici). En bref, c'était un faux.

Après la publication initiale de l'article de Snopes, le youtubeur Keith Edwards a pris contact avec l'auteur pour confirmer que l'image était authentique. une [vignette](https://external-sea5-1.xx.fbcdn.net/emg1/v/t13/5747085207477642820?stp=dst-src&url=https%3A%2F%2Fi.ytimg.com%2Fvi%2Fxz4hXCfWO_8%2Fmaxresdefault.jpg&utld=ytimg.com&_nc_gid=pbs Il a créé une image (O479mq5OPhwv6NzM64w&_nc_oc=AdkvUMxMcObEcIx0zT6Wrxtcq14j7lWDlqEFdWVS_v9scC6nNFNJVAkT8DSbQmuvHBk&ccb=13-1&oh=06_Q3-6Abzlpq6uIuPYeNHwP5fIKJH_iPFHdfG_82wpX8XsZMRc&oe=693BFB35&_nc_sid=1d65fc) pour une vidéo d'octobre 2025 (https://www.youtube.com/watch?v=xz4hXCfWO_8), la qualifiant de « fausse ». Edwards nous a indiqué avoir utilisé la plateforme d'intelligence artificielle ChatGPT pour la générer.

La miniature correspondait à l'image circulant sur les réseaux sociaux. Dans les deux cas, l'homme arborait la même expression faciale et la femme était positionnée de la même manière. Une recherche d'image inversée n'a révélé aucune version antérieure de l'image truquée.

JD Vance lui-même semblait confirmer que l'image était fausse dans une publication du 9 décembre sur X (archivé), en répondant à un utilisateur qui avait partagé l'image avec un commentaire qui semblait tourner la rumeur en dérision : « Je porte toujours un débardeur quand je sors pour me disputer bruyamment avec ma femme. »

Nous avons également analysé l'image avec trois plateformes de détection par IA : Hive, Sightengine et Image Whisperer. Sightengine a estimé à 97 % la probabilité que l'image ait été générée par IA, tandis qu'Image Whisperer a conclu avec une « forte certitude » qu'elle l'était.

Hive a cependant signalé que l'image était « peu susceptible de contenir du contenu généré par IA ou un deepfake ». Il convient de noter que ces outils ne sont pas toujours précis et que leurs résultats doivent être interprétés avec prudence.

Avant la confirmation d'Edwards, l'équipe de GetReal Security, spécialisée dans l'authentification des médias numériques, a également analysé l'image pour Snopes.

Hany Farid, cofondateur de GetReal et professeur à l'Université de Californie à Berkeley, nous a indiqué que la faible qualité de l'image rendait l'analyse forensique difficile. L'équipe a toutefois constaté des « anomalies biométriques » suggérant que l'image « pourrait être générée par IA ou simplement représenter une personne ressemblant à J.D. Vance ».

« En particulier, les traits du visage sur l'image ne correspondent pas aux images contemporaines de Vance », a ajouté Farid. Les images contemporaines sont des photos prises à peu près au même moment et utilisées pour vérifier l'authenticité d'une autre image.

Matthew Stamm, professeur associé de génie électrique et informatique à l'université Drexel, a déclaré à Snopes que son doctorant et lui avaient analysé l'image pour déterminer si elle avait été générée par une IA, à l'aide d'un outil d'analyse forensique spécialisé capable de détecter les « empreintes » subtiles laissées par l'IA générative. Selon M. Stamm, l'outil a « déterminé avec une confiance d'environ 95 % qu'il était incapable de détecter des traces laissées par une IA générative ».

Il a toutefois précisé que cela ne prouve pas l'authenticité de l'image et ne permet pas d'exclure définitivement une génération par IA. Des facteurs tels que sa taille, sa faible résolution et son partage répété sur les réseaux sociaux ont rendu l'analyse difficile, modifiant « la qualité des traces forensiques que nous analysons, un peu comme les empreintes digitales sur une scène de crime peuvent être effacées », a expliqué M. Stamm.

L'image truquée s'est répandue en ligne, alimentant les rumeurs de tensions au sein du couple Vance, qui ont commencé à circuler en octobre 2025. Des photos d'Usha Vance sans son alliance, prises le mois suivant, ont encore accentué les spéculations.

Cependant, un porte-parole a déclaré à USA Today le 21 novembre qu'Usha Vance « est mère de trois jeunes enfants, qu'elle fait beaucoup de vaisselle, donne beaucoup de bains et qu'il lui arrive d'oublier son alliance ». D'autres photos publiques de Getty Images, datant de novembre, montrent Usha Vance portant son alliance.

Dans une interview accordée à NBC News le 4 décembre, JD Vance a déclaré que leur mariage était « plus solide que jamais ».

Alors que le Service de l'immigration et des douanes (ICE) s'efforçait de recruter 10 000 nouveaux agents, une erreur d'intelligence artificielle dans le traitement des candidatures a conduit de nombreuses recrues à être affectées à des bureaux de terrain sans formation adéquate, selon deux responsables des forces de l'ordre au fait de l'incident.

L'outil d'IA utilisé par l'ICE était chargé de rechercher des candidats potentiels ayant une expérience dans les forces de l'ordre afin de les intégrer au « programme LEO » (pour « Law Force Officer », agent des forces de l'ordre) destiné aux nouvelles recrues déjà en poste. Ce programme exige quatre semaines de formation en ligne.

Les candidats sans expérience dans les forces de l'ordre doivent suivre une formation en présentiel de huit semaines à l'académie de l'ICE, située au Centre fédéral de formation des forces de l'ordre en Géorgie. Cette formation comprend des cours de droit de l'immigration et de maniement des armes, ainsi que des tests d'aptitude physique.

« Ils utilisaient l'IA pour analyser les CV et ont découvert que beaucoup de personnes présentées comme agents des forces de l'ordre ne l'étaient pas », a déclaré l'un des responsables.

L'outil d'IA servait initialement à catégoriser les CV, ont indiqué les responsables. Il signalait toute personne dont le CV contenait le mot « agent » – par exemple, un « agent de conformité » ou des personnes aspirant à devenir agents de l'ICE.

La majorité des nouveaux candidats ont été identifiés comme agents des forces de l'ordre, ont précisé les responsables, alors que beaucoup n'avaient aucune expérience au sein des forces de police locales ou fédérales.

Les deux responsables des forces de l'ordre ont souligné que les bureaux de terrain de l'ICE dispensent une formation plus poussée que celle proposée à l'académie ou dans le cadre du cours en ligne avant l'affectation des agents sur le terrain, et que les agents ciblés par l'outil d'IA avaient très probablement reçu cette formation. N'étant pas autorisés à s'exprimer publiquement, ils ont témoigné auprès de NBC News sous couvert d'anonymat.

Un porte-parole du DHS a qualifié l'incident de « problème technique » rapidement résolu, précisant qu'il avait concerné environ 200 recrues qui ont ensuite suivi une formation complète au Centre fédéral de formation des forces de l'ordre. Le porte-parole a déclaré qu'aucun candidat n'avait été affecté à des fonctions d'application de la loi sans « formation et qualifications appropriées ».

« La grande majorité des nouveaux agents recrutés lors de cette vague d'embauches sont des agents des forces de l'ordre expérimentés ayant déjà suivi avec succès une formation dans une académie de police », a-t-il ajouté.

L'erreur d'intelligence artificielle a été identifiée au milieu de l'automne, soit plus d'un mois après le début de la vague de recrutement, et l'ICE a immédiatement pris des mesures pour remédier à la situation, notamment en examinant manuellement les CV des nouvelles recrues, ont indiqué les responsables.

Alors que l'agence d'immigration déploie massivement des agents dans les villes américaines, ses méthodes d'application de la loi sont de plus en plus remises en question par les forces de l'ordre locales, les associations et les élus, suite à la mort par balle de Renee Nicole Good à Minneapolis, tuée par l'agent de l'ICE Jonathan Ross.

Ross avait plus de 10 ans d'expérience au sein de l'ICE et n'aurait donc pas dû être soumis au contrôle par intelligence artificielle des nouvelles recrues.

Cette erreur met en lumière la difficulté de former un si grand nombre de nouvelles recrues, alors que l'ICE intensifie ses opérations pour augmenter le nombre d'expulsions sous la pression de la Maison Blanche. L'ICE a également placé certaines nouvelles recrues dans un programme de formation avant même qu'elles n'aient terminé le processus de vérification de l'agence, selon NBC News.

Rien qu'à Minneapolis, plus de 2 000 agents de l'ICE ont été déployés dans la région pour intensifier les arrestations. Depuis le 29 novembre, ils ont appréhendé plus de 2 400 personnes, a déclaré Tricia McLaughlin, porte-parole du DHS. Le Minnesota a intenté une action en justice pour tenter de destituer le DHS.

L'ICE avait pour mission de recruter 10 000 nouveaux agents d'ici fin 2025 et offrait aux nouvelles recrues une prime d'embauche de 50 000 dollars, grâce aux fonds alloués par le Congrès dans le cadre de la loi « One Big Beautiful Bill ». Selon un responsable, si l'ICE a atteint son objectif sur le papier, le retour de personnes mal identifiées pour des formations complémentaires a empêché le déploiement de 10 000 agents supplémentaires en 2025.

Le département américain des Transports a mis en service un bus autonome à Washington D.C. cette semaine afin de présenter ses travaux sur les véhicules sans conducteur. Des responsables venus de tout le pays ont effectué un trajet entre le siège de l'agence, situé à Navy Yard, et la gare Union Station. L'un de ces trajets a été interrompu dimanche lorsqu'un bus a été percuté par l'arrière.

Le bus, construit par la société Beep, suivait son itinéraire habituel lorsqu'il a été heurté par une Tesla immatriculée dans le Maryland. Le conducteur de cette dernière tentait de changer de voie, ont indiqué les autorités. Un conducteur humain était présent à bord, conformément à la réglementation municipale, en cas de besoin. Le conducteur de la Tesla est resté sur les lieux, rue H, pendant une dizaine de minutes. La police n'a pas été appelée.

« Le service a été temporairement interrompu après qu'un autre véhicule a effectué un changement de voie illégal et a heurté l'arrière du bus autonome, ce qui a entraîné des dégâts matériels mineurs sur les deux véhicules », a déclaré un porte-parole de Beep dans un communiqué. « Le bus autonome a fonctionné correctement sur le moment et, après analyse, il a été déterminé qu'il pouvait reprendre du service en toute sécurité. »

Beep collabore avec le Département des Transports et l'Université Carnegie Mellon sur un programme pilote de bus publics automatisés. Le véhicule a été présenté à Washington pour une conférence annuelle réunissant chercheurs et décideurs politiques du secteur des transports, où des représentants de l'administration Trump ont souligné l'intérêt de la Maison Blanche pour la conduite automatisée.

« L'une des priorités du président [Donald] Trump, communiquée par le secrétaire [Sean P.] Duffy, est d'accélérer le déploiement commercial des véhicules autonomes, et nous y participons pleinement », a déclaré Peter Simshauser, conseiller juridique principal de la National Highway Traffic Safety Administration (NHTSA), lors d'une table ronde organisée lundi à la conférence.

M. Simshauser a auparavant travaillé sur Motional, un projet de robotaxis pour Hyundai, qui espère être lancé à Las Vegas cette année. Seval Oz, secrétaire adjoint aux Transports chargé de la recherche, participait également à la table ronde consacrée au programme d'innovation de l'administration. Il a travaillé sur le programme de voiture autonome de Google, devenu Waymo, ainsi que sur les capteurs et les logiciels pour la conduite autonome.

Elle a qualifié les quelque 40 000 décès sur les routes américaines chaque année d'« épidémie » que les véhicules autonomes pourraient contribuer à enrayer. « Mais l'autonomie transformera aussi nos villes. Elle changera notre façon d'envisager la conduite », a-t-elle déclaré.

À l'échelle nationale, quelques villes et États ont mis en service des robotaxis et des bus entièrement autonomes, tandis que de nombreuses autres villes mènent des essais et prévoient un déploiement commercial ambitieux dans les prochaines années. Les responsables du district de Columbia envisagent d'autoriser les voitures et les bus automatisés depuis près de dix ans, et Waymo ainsi que d'autres entreprises souhaitent exploiter des taxis autonomes dans la ville. Les autorités indiquent toutefois attendre toujours un rapport, attendu depuis longtemps, sur la meilleure façon de réglementer ces véhicules avant de les autoriser à circuler sans surveillance humaine.

Tout accident impliquant un véhicule autonome, même mineur, doit être signalé à la NHTSA. Selon l'agence, six accidents impliquant des véhicules autonomes testés à Washington D.C. ont déjà eu lieu.