Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Donar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Vista espacial
  • Blog
  • Resumen de noticias de IA
  • Incidente aleatorio
  • Registrarse
Colapsar

Bienvenido a
la base de datos de incidentes de IA

Loading...
Enfermeras de Nueva York reemplazadas por IA: "Esto debería preocupar a todos los pacientes que se preocupan por la calidad de la atención".

Incidente 1593: Supuestamente, se utilizó un software con inteligencia artificial para reemplazar a las enfermeras de revisión de utilización del Hospital Montefiore, a pesar de las salvaguardias contractuales para la IA.

Traducido por IA
“Enfermeras de Nueva York reemplazadas por IA: "Esto debería preocupar a todos los pacientes que se preocupan por la calidad de la atención".”Último informe
theguardian.com2026-07-16

Marilyn Shuler trabajó durante 39 años como enfermera de revisión de utilización en el hospital Montefiore del Bronx, en la ciudad de Nueva York, donde se encargaba de revisar los historiales clínicos de los pacientes y comunicarse con las aseguradoras sobre la cobertura.

Tras casi cuatro décadas en su puesto, Shuler es una de las 12 enfermeras despedidas el domingo tras ser reemplazadas por un software con inteligencia artificial, según la Asociación de Enfermeras del Estado de Nueva York (NYSNA), que representa a las enfermeras del hospital.

«Siempre me he sentido muy orgullosa de la organización para la que he trabajado todos estos años, y que me traten así...», declaró Shuler. «Es una falta de respeto, muy desalentador, y mis compañeros comparten este sentimiento».

National Nurses United (NNU), el sindicato matriz de la NYSNA, ha estado alertando sobre los efectos que la inteligencia artificial tendrá en las enfermeras. El caso de Shuler sería uno de los primeros despidos relacionados con la IA gestionados por el sindicato.

El sindicato elaboró una carta de derechos sobre IA para pacientes y enfermeras, ha estado presionando para obtener protecciones y salvaguardias en los contratos y a través de la legislación, y protestó contra los empleadores que utilizan IA no probada en entornos de atención al paciente.

“Las enfermeras de NNU, al igual que las de Montefiore, han estado en la primera línea de la lucha contra los intentos de los empleadores hospitalarios de imponer IA no regulada ni probada en la atención al paciente”, declaró Jamie Brown, enfermera titulada y presidenta de NNU. “Las enfermeras saben por experiencia que los empleadores hospitalarios buscarán cualquier oportunidad para reducir costos y escatimar en la atención al paciente y en la dotación de personal de enfermería”.

Los despidos en Montefiore se producen tras una huelga masiva de enfermeras que afectó a varios hospitales de la ciudad de Nueva York en enero de 2026. Los nuevos convenios colectivos, redactados después de las huelgas, incluían medidas de protección contra la IA.

Sin embargo, Shaiju Kalathil, enfermera de Montefiore y miembro del comité ejecutivo del sindicato, afirmó que los despidos violan este nuevo convenio.

“Estamos indignados por estos despidos porque estas enfermeras tan dedicadas están siendo reemplazadas por IA”, declaró Kalathil en un comunicado. “Esto constituye una violación del contrato que ganamos recientemente mediante la huelga. También debería preocupar a todos los profesionales y pacientes que se preocupan por el futuro de la atención médica y la calidad de la atención que reciben”.

Shuler afirmó que cuando ella y sus compañeras regresaron al trabajo en febrero, tras la huelga, su flujo de trabajo había cambiado sin explicación alguna.

Tras notificar al sindicato, enviaron un correo electrónico a la gerencia informando sobre los cambios. Shuler afirmó que no recibieron respuesta hasta el 28 de mayo, cuando las 12 enfermeras de su departamento recibieron un aviso de despido con 45 días de antelación.

«Nos quedamos impactadas y muy decepcionadas porque habíamos solicitado transparencia en repetidas ocasiones», declaró Shuler.

Shuler explicó que su trabajo a menudo requiere comunicaciones complejas sobre temas como cambios en la medicación y planificación del alta, que serían difíciles de gestionar con IA.

«La IA debería ser una herramienta que se utilice junto con el experto clínico, no para reemplazarlo», afirmó. «No estamos en contra de la tecnología. Existen varios avances en la atención médica que utilizan tecnología. El problema radica en las nuevas tecnologías sin evidencia que las respalde».

El hospital Montefiore no hizo comentarios específicos sobre los despidos, pero indicó que sus cambios tecnológicos se están utilizando en un programa no clínico que implica trámites administrativos.

«Como suele ocurrir, las afirmaciones de NYSNA son inexactas y engañosas», declaró Joe Solmonese, vicepresidente sénior de relaciones gubernamentales y comunicaciones estratégicas de Montefiore, en un correo electrónico. “Lo cierto es que siempre estamos invirtiendo en nuevas tecnologías para garantizar la mejor atención y los mejores resultados para nuestros pacientes, y seguiremos haciéndolo para el bienestar de las personas a las que servimos.”

Leer Más
Loading...
Una adolescente víctima de un engaño en línea gana una indemnización judicial de 10.000 libras esterlinas después de que una chica de su ciudad le robara la identidad.

Incidente 1592: Supuestas imágenes generadas por IA habrían sido utilizadas durante una campaña de suplantación de identidad en línea de cuatro años dirigida a un adolescente galés.

Traducido por IA
“Una adolescente víctima de un engaño en línea gana una indemnización judicial de 10.000 libras esterlinas después de que una chica de su ciudad le robara la identidad.”
the-independent.com2026-07-16

Una estudiante adolescente, víctima de una pesadilla de cuatro años de suplantación de identidad por parte de otra adolescente de su ciudad, ha ganado una indemnización de 10.000 libras esterlinas en el Tribunal Superior.

Desde los 16 años, Sasha Davies fue víctima de Elha-Mai Weston, una completa desconocida que también vivía en la misma ciudad galesa. Elha-Mai Weston utilizó sus fotos de redes sociales y contenido generado por IA para crear una serie de perfiles falsos en línea.

La señorita Weston, que vivía en la misma zona de Glamorgan (Gales) que Sasha, se dirigía a hombres en Snapchat, TikTok, Facebook, Tinder y otras plataformas, y logró acumular más de 100.000 seguidores que creían que los perfiles eran de Sasha.

Algunos incluso fueron engañados por la impostora Miss Weston, quien les hizo creer que mantenían una relación sentimental con Sasha, ahora de 19 años, y la abordaban en la calle para hablar con ella.

A pesar de haber contactado a la policía, la campaña continuó durante casi cuatro años en siete plataformas diferentes, hasta que Sasha contrató abogados para localizar a su agresora.

Demandó a la ladrona de identidad ante el Tribunal Superior de Londres y ahora ha ganado una indemnización de 10.000 libras esterlinas después de que Miss Weston admitiera, a través de sus abogados, su culpabilidad y se disculpara ante un juez.

Tras el juicio, Sasha declaró: «Durante cuatro años, alguien más vivió como yo, hablando con hombres haciéndose pasar por mí, mientras desconocidos me abordaban en la calle creyendo que me conocían.

Lo denuncié una y otra vez, pero me hicieron sentir que no se podía hacer nada. Dejé de sentirme segura al salir de casa».

"Escucharla admitir en el tribunal que fue ella y disculparse significa que por fin puedo empezar a recuperar mi vida. Quiero que otras chicas que estén pasando por esto sepan que no todo está perdido, que se puede encontrar a la persona responsable."

En una declaración de conciliación presentada ante el tribunal con el consentimiento de la señorita Weston, el abogado de Sasha, Chris Zabilowicz, afirmó que su calvario comenzó cuando tenía solo 16 años y continuó hasta principios de este año.

"La señorita Weston llevó a cabo una campaña sostenida de suplantación de identidad en línea, comúnmente conocida como catfishing, de la señorita Davies", declaró ante el juez Fordham.

"La señorita Weston creó y gestionó numerosas cuentas con la identidad ficticia de 'Sophie' y variantes de la misma, incluyendo 'Sophie Kadare'.

"Esas cuentas acumularon en conjunto más de 100.000 seguidores y utilizaron fotografías —y, posteriormente, imágenes generadas por IA— de la señorita Davies sin su conocimiento ni consentimiento."

A través de esas cuentas, la señorita Weston se comunicó con un gran número de personas, incluso mediante conversaciones personales y románticas.

Como consecuencia, la señorita Davies ha sido contactada en varias ocasiones por personas que habían interactuado con la persona falsa "Sophie" y creían tener una relación sentimental con ella.

En una ocasión, un hombre le mostró a la señorita Davies mensajes que había intercambiado con una de las cuentas falsas durante varios meses, creyendo en todo momento que mantenía una relación sentimental con ella.

Aunque Sasha denunció el abuso a la policía, la mayoría de las cuentas solo fueron eliminadas tras su aparición en el programa "This Morning" de la BBC.

Posteriormente, los abogados de Sasha, Cohen Davis Solicitors, identificaron a la señorita Weston mediante una investigación de inteligencia de fuentes abiertas que conectó la red de cuentas de la persona falsa con su verdadera identidad.

Se iniciaron los procedimientos judiciales en el Tribunal Superior, donde la señorita Weston aceptó un acuerdo extrajudicial. El caso concluyó esta semana con la lectura de la declaración acordada en el tribunal.

El Sr. Zabilowicz declaró que la Srta. Weston había aceptado que su conducta fue indebida, y añadió: «Además, reconoce el profundo sufrimiento y la angustia que le ha causado a la Srta. Davies.

La Srta. Weston lamenta profundamente sus acciones y se disculpa sinceramente con la Srta. Davies por todo lo que le ha hecho pasar».

Como parte del acuerdo para resolver el caso, la Srta. Weston, que no compareció ante el tribunal, accedió a pagar a Sasha 10.000 libras esterlinas en concepto de indemnización y se comprometió a no volver a contactarla, a borrar todo el material y a no repetir sus acciones.

Cualquier incumplimiento de la orden podría conllevar su comparecencia ante un juez por desacato, con el riesgo de una pena de prisión si se la declara culpable.

Tras la audiencia, el abogado de Sasha, Yair Cohen, declaró: «Durante cuatro años, Sasha hizo todo correctamente». Denunció el caso a las plataformas y a la policía, pero no lo consiguieron, porque la persona detrás de las cuentas era anónima y todos consideraban que el anonimato era el fin del caso.

"No lo es. La identificamos utilizando información de fuentes abiertas, a partir de las huellas que dejaron sus propias cuentas. Una vez que un estafador pierde su anonimato, la campaña se desmorona.

"El catfishing es una de las formas de abuso en línea más incomprendidas. La gente se imagina a un desconocido lejano, pero en todos los casos que hemos gestionado, incluido este, la persona detrás de las cuentas era alguien del entorno de la víctima.

"No existe un delito de catfishing tipificado en la ley, pero la conducta relacionada con él —acoso, uso indebido de información privada, violación de la ley de protección de datos— es ilegal, y los tribunales civiles pueden proporcionar identificación, compensación y protección legal.

"Este asunto aún no ha terminado. Ahora que tenemos las pruebas y el reconocimiento de la irregularidad en audiencia pública, solicitaremos a la policía que investigue."

Leer Más
Loading...
Páginas basura de IA dirigidas a los Geelong Cats, Meta pidió que interviniera

Incidente 1594: Supuestamente, páginas de Facebook generadas por IA atacaron al club de fútbol australiano Geelong Cats con afirmaciones falsas y perjudiciales.

Traducido por IA
“Páginas basura de IA dirigidas a los Geelong Cats, Meta pidió que interviniera”
geelongadvertiser.com.au2026-07-16

Los Cats han solicitado a Facebook que tome medidas contra las páginas que publican repetidamente contenido falso y malicioso generado por IA sobre el club y sus jugadores.

El club ha advertido a los aficionados que se ciñan a las fuentes de noticias oficiales para obtener información actualizada, convirtiéndose así en el último club en abordar el problema de la desinformación generada por IA.

El Geelong Advertiser ha identificado varias páginas que publican contenido falso y generado por IA sobre el club de fútbol, incluyendo arrestos falsos y acusaciones de actividad delictiva.

El Addy ha optado por no revelar los nombres de las páginas, que parecen tener miles de seguidores.

A menudo, el tema de una publicación en una página puede aparecer por separado en otra en un momento diferente, y muchas publicaciones aparecen repetidas con una redacción similar.

Cuando este medio contactó con el club sobre las páginas y su contenido, una portavoz declaró: "Cualquier información falsa o engañosa sobre el club que se presente como noticia legítima es preocupante, especialmente cuando el contenido involucra a nuestra gente".

«Este no es un problema exclusivo del deporte ni de los clubes deportivos australianos, pero la creciente prevalencia y sofisticación de la desinformación generada por IA es preocupante», declaró la portavoz.

A principios de este año, los Brisbane Lions criticaron las páginas de Facebook que difundían noticias falsas sobre sus jugadores y pidieron a los aficionados que se mantuvieran alerta ante la desinformación.

Los Cats afirmaron haber denunciado las páginas a Meta, la empresa propietaria de Facebook.

«Hemos presentado ejemplos de este contenido a Meta y seguiremos denunciando cualquier material falso o engañoso», añadió la portavoz de los Cats.

«También animamos a nuestros socios y aficionados a que tengan cuidado con las fuentes de las que obtienen información sobre los Cats».

El contenido de las publicaciones abarcaba desde noticias falsas sobre traspasos, como el fichaje de las estrellas Zak Butters y Nick Daicos por Geelong, hasta el supuesto regreso del jugador Tim Kelly a los Cats, o imágenes generadas por IA con subtítulos sobre un aficionado «pillado mirando los pechos de otra mujer».

Algunas publicaciones incluyen referencias vagas a un supuesto comentario incendiario del entrenador Chris Scott, a una supuesta actualización muy personal de Jeremy Cameron o a una promesa de Patrick Dangerfield que conmovió hasta las lágrimas a una joven aficionada, con el fin de incitar a los usuarios a hacer clic en enlaces sospechosos.

Otras publicaciones se presentaban como noticias legítimas; una sugería que el presidente del club, Grant McCabe, había presentado un proyecto de remodelación para Kardinia Park, y otra anunciaba que Tom Hawkins asumiría un rol importante en el club.

Algunas publicaciones parecen aprovecharse de eventos recientes, como una que utiliza imágenes generadas por IA para sugerir que Chris Scott padece una enfermedad, pero el pie de foto menciona a Craig Bellamy.

En abril, el entrenador de la NRL, Bellamy, reveló que le habían diagnosticado un trastorno neurodegenerativo.

Parte del contenido publicado es mucho más oscuro, incluyendo acusaciones de arresto de jugadores de los Cats o publicaciones sensacionalistas que atacan la vida personal de jugadores actuales y antiguos, como la de Patrick Dangerfield "convirtiéndose en padre de nuevo".

En un caso inquietante, las páginas han estado publicando homenajes a un jugador ficticio de los Geelong Cats que supuestamente jugó para el club entre 2021 y 2023, antes de retirarse del deporte por problemas de salud mental.

El mismo jugador también ha sido elogiado en publicaciones de páginas de fans falsas de otros clubes, incluidos Brisbane y Adelaide.

El nombre del jugador coincide con el de un atleta real de Wisconsin, que jugaba al fútbol americano y, antes de su muerte, se retiró del deporte alegando problemas de salud mental.

Un número de contacto en una de las páginas falsas de Geelong pertenece a Guzman Y Gomez en Grovedale, mientras que un número en otra página pertenece a un hombre de Bendigo que declaró al Geelong Advertiser que desconocía por qué se estaba utilizando su número.

Ni Meta ni ninguna de las páginas respondieron a las solicitudes de comentarios.

Leer Más
Loading...
Cuatro días para enamorar a las víctimas: Cómo los estafadores globales utilizan la tecnología estadounidense para engañar a la gente.

Incidente 1589: Se informa que la plataforma 007TG, supuestamente impulsada por IA, es utilizada por redes de estafa vinculadas a ganancias de 75 millones de dólares.

Traducido por IA
“Cuatro días para enamorar a las víctimas: Cómo los estafadores globales utilizan la tecnología estadounidense para engañar a la gente.”
apnews.com2026-07-14

Las instrucciones eran claras: tenía cuatro días para enamorar a cada víctima.

Y hubo muchas víctimas. En internet, Safeer Mohammed Koorimannil, quien fue víctima de trata y llevado a un centro de estafas en Myanmar, se hizo pasar por una mujer singapurense de 28 años llamada Ella. Según declaró, en un turno típico chateaba con más de 100 personas a través de decenas de perfiles simultáneamente, mientras los supervisores patrullaban los escritorios con porras eléctricas.

En tan solo un mes, Koorimannil estafó a unas 50.000 víctimas de al menos 17 países, según los registros que logró sacar clandestinamente para Associated Press. Entre sus "clientes" se encontraban un sastre viudo en Kurdistán, un pastelero en Turquía, un pastor de ovejas en Kirguistán, soldados en Irak, un ingeniero en Rusia, un pintor de edificios en Alemania, un funcionario portuario en Argentina, un estudiante en Indonesia, un guardia de seguridad en Polonia y un ganadero lechero en Georgia. Y lo hacía utilizando software con modelos de inteligencia artificial de empresas tecnológicas estadounidenses, que los estafadores están utilizando indebidamente para atacar a sus víctimas con una velocidad y una escala sin precedentes.

"Allí todos son robots", declaró a AP desde su casa en el sur de la India, en su idioma natal, el malayalam.

Una investigación de AP/"FRONTLINE" ha revelado que la tecnología de empresas estadounidenses está impulsando una revolución en el sector de las estafas, desempeñando un papel clave en la industrialización y la globalización del fraude de maneras que hasta ahora no se habían comprendido del todo. Según los organismos de control, estas empresas tienen la capacidad técnica para hacer más por protegerse contra el abuso, pero carecen de los incentivos legales, regulatorios y comerciales para combatir un delito que, según estimaciones de la Comisión Federal de Comercio (FTC), costó a los estadounidenses casi 200 mil millones de dólares en pérdidas en 2024.

Si bien la mayor parte del escrutinio público sobre la tecnología que alimenta las estafas se ha centrado en las plataformas de redes sociales que ven las víctimas, la investigación reveló que la infraestructura explotada para cometer fraudes comienza mucho antes. La tecnología estadounidense está presente a lo largo de toda la cadena de suministro digital que conecta a los estafadores con las víctimas, desde modelos de IA integrados en potentes herramientas nuevas para optimizar el flujo de trabajo y crear falsificaciones más perfectas, hasta antenas parabólicas que permiten a los estafadores eludir las medidas enérgicas contra internet, pasando por proveedores de servicios de internet que transportan tráfico desde las zonas fronterizas sin ley de Myanmar hasta los teléfonos y ordenadores de millones de víctimas.

La AP no encontró pruebas que sugirieran que estas empresas estuvieran cometiendo alguna ilegalidad. Sin embargo, el abuso de sus herramientas e infraestructura tecnológica en los centros de estafa en Myanmar, documentado por AP y "FRONTLINE", plantea interrogantes sobre la rigurosidad con la que aplican sus propios términos de servicio, que prohíben la actividad ilegal y, en muchos casos, prohíben explícitamente el fraude.

Entre los hallazgos de AP:

  • Modelos de IA de fabricación estadounidense —principalmente ChatGPT y Gemini— se han utilizado para crear software especializado que permite a los estafadores operar sin problemas en decenas de idiomas, vigilar a los trabajadores y atacar a víctimas en todo el mundo, según la investigación realizada con la ayuda de C4ADS, una organización sin fines de lucro con sede en Washington centrada en la seguridad global. Los estafadores que adquirieron estas herramientas obtuvieron decenas de millones de dólares, según un análisis de blockchain realizado por TRM Labs a solicitud de AP/"FRONTLINE".

  • Una sofisticada infraestructura global de internet sustenta la economía de los centros de estafa en Myanmar, que depende de servicios de Cogent Communications, AT&T, DigitalOcean y Oracle, entre otros. Una de cada cinco señales de dispositivos en cuatro centros de estafa vinculados a entidades sancionadas en Myanmar era transmitida por una empresa registrada en Estados Unidos, según un análisis de AP de más de 200.000 conexiones de dispositivos proporcionadas por International Justice Mission, una organización sin fines de lucro contra la trata de personas.

— La compañía de internet satelital de Elon Musk, Starlink, es el principal proveedor de servicios de internet en Myanmar, incluso para los centros de estafa, según datos de dispositivos, registros públicos y entrevistas, a pesar de la presión pública del Congreso y la represión ampliamente difundida del otoño pasado.

Al menos 25 nuevos centros de estafa se han construido en Myanmar desde la represión de alto perfil en la frontera con Tailandia el otoño pasado, según muestran nuevas imágenes satelitales. Estafadores de al menos 13 de estos centros utilizaron direcciones IP de Starlink para conectarse a internet entre principios de marzo y finales de mayo, según un análisis de AP de datos de dispositivos y satélites de International Justice Mission.

La investigación de AP/"FRONTLINE" se basó en decenas de miles de archivos, videos y fotos filtrados de centros de estafa; un análisis realizado con C4ADS sobre el uso indebido de IA en centros de estafa; y un examen de más de 200.000 conexiones realizadas por dispositivos durante un año en cuatro centros de estafa en Myanmar vinculados a entidades sancionadas por el gobierno de EE. UU. y entrevistas con 58 víctimas de estafas y tres docenas de estafadores, actuales y antiguos, de 19 países.

Expertos en ciberseguridad afirman que los proveedores de servicios de internet, las empresas de IA y Starlink podrían hacer más para prevenir los abusos de los estafadores, pero carecen de los incentivos legales, regulatorios y comerciales necesarios.

"Si no hay ningún desincentivo para continuar con esto, si no hay ningún costo por facilitar las estafas, ¿por qué iba a gastar un solo dólar en prevenirlas?", dijo Sascha Meinrath, titular de la cátedra Palmer de telecomunicaciones en la Universidad Estatal de Pensilvania. "Este es el problema. Es identificable, es abordable —al menos en parte—, pero tiene un costo. Y ahora mismo, el costo de facilitar las estafas es cero".

Fuera de Estados Unidos, ese costo está empezando a aumentar. El Reino Unido, la Unión Europea, Australia y Singapur han introducido nuevas regulaciones que exigen a las empresas que hagan más para prevenir las estafas, o se enfrentarán a sanciones económicas.

Mientras tanto, en Washington, legisladores y funcionarios gubernamentales han estado pidiendo a las empresas tecnológicas estadounidenses que cooperen para bloquear a los estafadores en la infraestructura de EE. UU., pero de forma voluntaria.

En noviembre, la fiscal federal del Distrito de Columbia, Jeanine Pirro, creó el Grupo de Trabajo del Centro contra las Estafas (Scam Center Strike Force) para combatir las redes de estafadores. En un ejercicio de cuatro días en mayo, el Grupo de Trabajo colaboró con Meta, SpaceX, Google y otras empresas para interrumpir más de 1,4 millones de cuentas de redes sociales y correo electrónico, bloquear el tráfico de direcciones IP maliciosas, incautar terminales de internet satelital y desmantelar servidores e infraestructura de alojamiento vinculados a redes de estafa del sudeste asiático.

"No permitiremos que las organizaciones criminales utilicen nuestra propia infraestructura en nuestra contra ni que destruyan los ahorros de toda una vida de familias trabajadoras", declaró Pirro en un correo electrónico a AP. Nuestro mensaje es claro: los encontraremos, los detendremos y protegeremos al pueblo estadounidense.

OpenAI y Google afirmaron contar con programas sólidos para impedir de forma proactiva que los estafadores abusen de sus herramientas. Starlink no respondió a las solicitudes de comentarios detallados.

Los proveedores de servicios de internet recalcaron que no pueden ver el contenido que transmiten sus redes ni la actividad en línea de los usuarios finales; la privacidad, por diseño, limita su capacidad para detectar abusos. Todos afirmaron responder a los informes de abuso válidos y cooperar con las autoridades. Ninguno reveló información específica de sus clientes, alegando normas de privacidad, pero varios indicaron haber tomado medidas concretas en respuesta al reportaje de AP.

OpenAI declaró que, basándose en la información compartida por AP, identificó y bloqueó tres cuentas que habían estado utilizando sus modelos para apoyar estafas en línea. Oracle afirmó estar colaborando diligentemente con las autoridades en relación con el material compartido por AP. UpCloud, un proveedor finlandés de servicios en la nube con servidores en EE. UU., indicó que la consulta de AP había motivado una revisión interna y una mejora de sus procesos de evaluación de riesgos.

El director ejecutivo de OpenAI, Sam Altman, comparó la inteligencia artificial con un servicio público, similar a la electricidad o el agua. Sin embargo, a diferencia de los servicios de agua, las empresas de tecnología y telecomunicaciones en Estados Unidos generalmente no son responsables de garantizar de forma proactiva la seguridad del contenido que transmiten.

Algunos creen que esto debería cambiar.

"Esto tiene que ser como el agua potable", afirmó Matthew Moynahan, director ejecutivo de GetReal Security, una empresa de ciberseguridad. "Nada que salga del grifo para un usuario final, ya sea una computadora, un navegador o un teléfono móvil, debería llegarle agua contaminada. Esto es lo que es".

Casi automatizado: La IA estadounidense se utiliza indebidamente para estafas a escala industrial en el sudeste asiático

El uso de la IA en estafas está creciendo tan rápidamente que muchos en la comunidad de ciberseguridad temen que las estafas totalmente automatizadas, gestionadas por agentes de IA, pronto se conviertan en algo común.

«Nos dirigimos hacia un mundo donde tal vez ya no se necesiten estafadores humanos», afirmó Ari Redbord, director global de políticas de TRM Labs, una empresa de análisis de criptomonedas. «Lo único que se necesita son cientos, miles, millones de agentes automatizados que no necesitan dormir ni comer, que trabajan las 24 horas del día, los 7 días de la semana».

Las herramientas básicas con IA que Koorimannil utilizaba requerían una mínima intervención humana. Su trabajo consistía en copiar y pegar respuestas de guiones generados por sus jefes estafadores.

Koorimannil y su mejor amigo respondieron a un anuncio en línea para trabajos relacionados con el fomento del turismo en Tailandia. Sin embargo, desde el aeropuerto de Bangkok, un coche negro que los esperaba los llevó a toda velocidad hasta la frontera con Myanmar, según relató. A la mañana siguiente, hombres armados los escoltaron a través del río Moei hasta Tai Chang, un complejo de estafas sancionado por el gobierno estadounidense el año pasado.

Koorimannil logró obtener una captura de pantalla de su computadora que AP y la organización sin fines de lucro de seguridad C4ADS utilizaron para identificar la clave de su productividad: una plataforma de software llamada Kongtian Intelligent Customer Acquisition, o KT.

AP también identificó un conjunto de software similar, llamado Global Social Traffic Navigation, o 007TG, descrito por un exestafador como una solución integral para llevar a cabo estafas a escala industrial.

KT y 007TG forman parte de un próspero mercado negro de tecnología con usos tanto legítimos como ilegítimos, ampliamente explotado por estafadores, según análisis de blockchain, una revisión de canales de Telegram frecuentados por estafadores y entrevistas con estafadores de tres países. KT y 007TG fueron creados por empresas con fines de lucro utilizando modelos de IA de compañías líderes a nivel mundial y vendidos a estafadores, quienes a su vez generaron decenas de millones de dólares en ganancias ilícitas.

El ChatGPT de OpenAI, junto con Gemini de Google, desempeñó un papel fundamental, aunque el software también incorporó otros modelos de IA, incluyendo algunos de Europa y China. Tanto KT como 007TG utilizaron ChatGPT y Gemini para generar respuestas automáticas, alimentar un chatbot de rol que los estafadores podían usar para crear personajes convincentes e integrar traducción en tiempo real en más de 100 idiomas, según descubrió C4ADS. El software de KT y 007TG también monitorizaba el rendimiento de los trabajadores, con consecuencias devastadoras en el caso de Koorimannil.

Fue golpeado por ser malo estafando a la gente, lo que le dejó el cuerpo enrojecido e hinchado por los latigazos, como muestran las fotografías.

"Cuando se acercaban a mi ordenador, me temblaban y me sudaban las manos", declaró Koorimannil a AP.

Por la noche, contó, él y su mejor amigo se acurrucaban en la misma litera estrecha, demasiado asustados para dormir solos.

Un análisis de blockchain realizado para AP/"FRONTLINE" por TRM Labs demuestra el gran potencial de estas herramientas. Las transacciones de criptomonedas se registran en un libro mayor público e indeleble, o blockchain, que puede analizarse para mostrar el patrón y el volumen de dichas transacciones. TRM Labs descubrió que una sola billetera de criptomonedas utilizada por 007TG recibió 860.000 dólares en pagos entre abril de 2024 y diciembre de 2025, incluyendo transferencias de al menos cuatro billeteras de criptomonedas asociadas a redes de estafa conocidas. Estos estafadores, a su vez, obtuvieron al menos 75 millones de dólares.

Detener los abusos de la IA a gran escala es un desafío, ya que los estafadores suelen usar ChatGPT de la misma manera que cientos de millones de personas: para traducir, redactar mensajes, crear contenido y realizar búsquedas básicas, según OpenAI. La intimidad, la presión financiera y el lenguaje manipulador en las estafas románticas, por ejemplo, pueden ser difíciles de distinguir de los usuarios legítimos que buscan ayuda con un divorcio. Además, herramientas como KT y 007TG pueden tener usos legítimos, especialmente para empresas chinas que buscan expandirse internacionalmente.

Sin embargo, al rastrear el comportamiento de los usuarios a lo largo del tiempo para detectar patrones de engaño y manipulación, OpenAI afirma que detecta estafas con un 95 % de precisión y desactiva 100 000 cuentas fraudulentas cada mes. La compañía también ha interrumpido de forma independiente el servicio a redes de estafadores que operan desde Camboya, Myanmar y Nigeria.

Aunque las redes de fraude explotan su tecnología, un número creciente de personas utiliza las mismas herramientas para combatirlas. OpenAI afirma que la gente usa ChatGPT millones de veces al mes para identificar y evitar estafas, hasta tres veces más a menudo, según las estimaciones de la compañía, que el uso indebido del modelo por parte de los estafadores. OpenAI también colaboró recientemente con la Alianza Global contra las Estafas para lanzar scam.org, que ayuda a los usuarios a evaluar el riesgo de ser víctimas de estafadores.

Google no respondió a preguntas específicas sobre los hallazgos de AP, pero afirmó que la compañía está "comprometida con el desarrollo responsable de la IA" y diseña sus modelos con mecanismos de seguridad para filtrar el contenido que promueve estafas. 007TG dejó de estar disponible en diciembre, pero desde entonces ha afirmado estar nuevamente en funcionamiento. Ni 007TG ni KT respondieron a las solicitudes de comentarios.

Finalmente, a través de un contacto en Bahréin, Koorimannil y su amigo encontraron a un intermediario que supervisó el pago de rescates para 21 indios de su complejo, según relató.

Cada uno tuvo que pagar 500.000 rupias indias (5.300 dólares) por su libertad.

Señales perdidas: Los proveedores de servicios de internet de EE. UU. desempeñan un papel fundamental en el tráfico de centros de estafas

A Chris Colocousis le costó mucho tiempo comprender hasta qué punto los estafadores de todo el mundo utilizan la tecnología estadounidense para aprovecharse de personas como él. Al principio, solo vio que la mujer que lo contactó por Facebook tenía un número de teléfono de Nueva York —no muy lejos de su casa en Massachusetts— y decía trabajar en una conocida firma financiera en Atlanta.

"Eliza" le propuso una videollamada. Y allí estaba: la misma rubia despampanante de sus fotos de Facebook. Incluso tenía ojeras. Era demasiado real para no serlo.

Ahora Colocousis, un hombre divorciado de sesenta y tantos años, no tiene ni idea de dónde está realmente "Eliza", si hablaba con ella o con ChatGPT, ni siquiera si es mujer. Él sabe que los 400.000 dólares que, según afirma, "invirtió" bajo la guía de Eliza, se han perdido, privándolo de la jubilación segura por la que trabajó durante años.

"Sientes que tu mundo se ha derrumbado", dijo. "Pienso en todo el tiempo que invertí para llegar a un punto en el que pudiera jubilarme a cierta edad... y simplemente se ha esfumado".

Cada paso de un fraude es una señal digital, afirmó John Breyault, vicepresidente de políticas públicas, telecomunicaciones y fraude de la organización sin fines de lucro National Consumers League. Y los proveedores de servicios de internet son la red sobre la que se sustentan muchos de estos servicios.

"Los proveedores de servicios de internet ocupan un lugar particularmente crítico en esta cadena", añadió.

Nuevos datos muestran que los proveedores de servicios de internet estadounidenses desempeñan un papel desproporcionado en las estafas que se realizan desde Myanmar. La AP analizó una muestra de 202.013 conexiones realizadas por dispositivos en cuatro complejos fraudulentos en Myanmar: KK Park, Tai Chang, Deko Park y un sitio más reciente cerca de Hpakalu. Una de cada cinco rutas se enrutaba a través de proveedores de servicios de internet estadounidenses. Ningún otro país fuera de la región se acercó a esa cifra.

Entre ellos se encontraban Cogent Communications, Oracle, AT&T y DigitalOcean. Empresas fuera de Estados Unidos, como UpCloud (proveedor finlandés de servicios en la nube) y GlobalTeleHost (empresa canadiense de alojamiento e infraestructura de internet), también utilizaban servidores en EE. UU. para alojar tráfico de alto riesgo procedente de centros de estafa, según muestran los datos.

"Les pagan mucho dinero por enrutar estas direcciones IP", afirmó Riley Kilmer, cofundador de Spur Intelligence Corporation, una empresa de ciberseguridad. "Actualmente, los ingresos superan el riesgo. Y si se pudiera cambiar ese equilibrio, los proveedores de servicios de internet tendrían que tomar medidas".

Los proveedores de servicios de internet tienen acceso a una gran cantidad de datos que podrían utilizarse para minimizar la actividad ilícita, pero hacerlo requiere una inversión considerable, según analistas de ciberseguridad.

«La política habitual en el sector del alojamiento web es actuar a posteriori», afirmó Dan Winchester, cofundador de Scamalytics, una empresa de prevención de fraude. «Eso no es muy efectivo. Lo que se necesita es prevenir el fraude en los servidores de forma proactiva».

Los datos sobre tecnología publicitaria fueron recopilados por International Justice Mission entre febrero de 2025 y enero de 2026. Estos datos capturan una parte de la actividad de las aplicaciones que comparten información con intermediarios de datos, lo que puede revelar la ubicación y la dirección IP que utiliza un dispositivo al conectarse a internet. Posteriormente, AP identificó las empresas a las que se habían asignado esas direcciones IP utilizando una base de datos de Scamalytics, que también clasifica las direcciones IP según el riesgo potencial de fraude.

En muchos casos, los estafadores en Myanmar enrutaban sus conexiones a internet a través de servicios en la nube con sede en EE. UU. para ocultar su ubicación real antes de conectarse a las principales plataformas, principalmente Meta, propietaria de Facebook, Instagram y WhatsApp, según Kentik, una empresa de monitoreo de redes con sede en San Francisco que mapeó el tráfico de internet a partir de una muestra de datos compartida por AP. Esto facilita que los estafadores parezcan estar en otro lugar y eludan los controles de seguridad de las plataformas.

Meta afirmó que este tipo de evasión deliberada es la razón por la que la colaboración —con las fuerzas del orden y con toda la industria, incluidas las empresas de conectividad y tecnología— es clave para desarticular a los delincuentes a gran escala.

"Los estafadores son criminales persistentes que utilizan tácticas cada vez más sofisticadas para defraudar a las personas y evadir la detección en nuestras plataformas y en internet", declaró un portavoz. Mediante el análisis de los patrones de comportamiento de los usuarios, Meta afirmó haber logrado desmantelar millones de cuentas vinculadas a centros de estafa en el sudeste asiático y los Emiratos Árabes Unidos.

"Este problema está muy extendido", declaró Doug Madory, director de análisis de internet en Kentik. "Puedes blanquear conexiones con éxito a tu antojo."

Una forma de hacerlo es alquilando direcciones IP, que pueden ser más valiosas cuando el tráfico parece provenir de un proveedor conocido. Esta lucrativa laguna legal puede explotarse para eludir los controles de seguridad. AT&T comenzó a implementar un cambio en septiembre que reforzó esta laguna al exigir a los clientes empresariales que anunciaran su propia identidad de red.

"Sería genial que todos hicieran lo que hizo AT&T", dijo Madory. "Probablemente perdieron algunos clientes por esa política, pero eran clientes bastante problemáticos."

Colocousis dijo que quienes piensan que las víctimas de estafas como él son idiotas ingenuos no comprenden la sofisticación de las organizaciones criminales detrás del fraude en línea.

El 25 de enero de 2025, Colocousis colocó 80.000 dólares en efectivo en filas ordenadas sobre su mesa, tal como le había indicado el representante de atención al cliente de su aplicación de comercio de criptomonedas. Eliza le había dicho que si pagaba esa última cantidad, podría desbloquear sus fondos y retirar todo su dinero.

"Te confieso que me siento un poco incómodo, pero sé que me sigues diciendo que todo está bien", le escribió. Ella respondió al instante con una serie de emojis de besos.

A la mañana siguiente, un joven, que según Colocousis llegó en un Jeep con matrícula de Nueva York, caminó con dificultad sobre una fina capa de nieve hasta su puerta. Una vez dentro, el hombre —que dijo llamarse Vincent— le pidió a Colocousis que pusiera los fajos de billetes de 50 y 100 dólares en una bolsa de plástico. Vincent envió un mensaje y el dinero apareció al instante en la cuenta fraudulenta de criptomonedas que Eliza había ayudado a abrir a Colocousis, según relató.

Vincent se marchó con una gran sonrisa y un saludo rápido y amable. "Hasta la próxima", dijo. "Quizás. Vale. Adiós".

Colocousis cree que las empresas tecnológicas estadounidenses deberían hacer más para proteger a personas como él. Todavía está tan afectado que dice que a veces le cuesta salir de casa.

"La avaricia es...", Colocousis buscaba las palabras adecuadas. "Estoy a favor del capitalismo, pero cuando arruina por completo la vida de las personas, de quienes han trabajado toda su vida para alcanzar una meta y así poder dejar de trabajar, y de repente se la arrebatan... algo anda mal."

Starlink es el principal proveedor de internet en Myanmar, y los estafadores representan una gran parte de su base de usuarios, según muestran los datos.

Actualmente, el servicio satelital Starlink de Musk es el proveedor de internet más utilizado en Myanmar, incluso en complejos conocidos por ser escenario de estafas, según descubrió AP, a pesar de una investigación en curso del Congreso, una orden judicial estadounidense de noviembre para confiscar cuentas de Starlink en complejos específicos de Myanmar y los anuncios, en octubre y junio, de que Starlink había cortado el servicio a miles de hogares en torno a estos centros.

La senadora Maggie Hassan, demócrata de Nuevo Hampshire que lidera una investigación bipartidista del Congreso sobre el papel de Starlink y otras empresas en el creciente número de víctimas de estafas en Estados Unidos, ha presionado a SpaceX para obtener detalles sobre la participación de Starlink en el fraude transnacional y ha instado a la compañía a redoblar sus esfuerzos para prevenir el uso indebido de sus dispositivos con fines delictivos.

"Necesitamos hacer más a todos los niveles para combatir las estafas que afectan a los estadounidenses en todo el país", declaró en un correo electrónico a la AP. "Dado que Starlink de SpaceX es la tecnología de internet satelital preferida por muchos estafadores, cortarles el acceso a Starlink es fundamental para prevenir las estafas desde su origen".

Sin duda, Starlink ha sido vital para escuelas, organizaciones humanitarias, hospitales, medios de comunicación y otros en Myanmar, según Amnistía Internacional y otras organizaciones. Sin embargo, datos del Centro de Información de la Red de Asia Pacífico (APNIC), el registro regional de internet, indican que los estafadores representan una proporción desproporcionada de sus usuarios.

Myanmar se ha convertido en un refugio para complejos de estafa a gran escala, que han reclutado a unas 300.000 personas de decenas de países, a menudo contra su voluntad, según las Naciones Unidas. Uno de estos complejos es Deko Park, un conjunto de grandes edificios con techos azules y antenas parabólicas blancas cerca de la frontera con Tailandia.

Datos de una muestra de dispositivos en Deko Park, proporcionados por International Justice Mission, muestran a Starlink entre los principales proveedores de servicios de internet utilizados desde el 10 de diciembre de 2025 hasta el 6 de enero de 2026, justo después de dos compañías de telecomunicaciones regionales.

Un ingeniero etíope llamado Ebisa declaró a AP que utilizó Starlink en Deko Park desde diciembre de 2024 hasta diciembre de 2025, cuando logró escapar. Solicitó a AP que solo publicara su nombre de pila para proteger su privacidad. El trabajo de Ebisa consistía en recopilar los números de WhatsApp de hombres ricos y vulnerables. Dijo que lo castigaban constantemente —golpeándolo, electrocutándolo, deteniéndolo y obligándolo a hacer ejercicio durante horas— por no alcanzar metas de rendimiento imposibles.

Un día, dijo, se hartó e intentó escapar de una paliza. No llegó muy lejos. Dijo que los guardias de seguridad del Parque Deko lo golpearon tan brutalmente que perdió la vista de un ojo. Fotografías muestran sus lesiones oculares y la AP habló con una ONG que lo ayudó a recibir atención médica en Tailandia.

"Fue difícil sobrevivir", le dijo a la AP. "Finalmente, Dios nos sacó de ese infierno".

Hablando desde un refugio para víctimas de trata de personas en Tailandia en diciembre, dijo que quería operarse el ojo antes de regresar a casa porque la salud de su madre es delicada y temía que ver su lesión pudiera matarla.

"Es muy vergonzoso", dijo. "Si Dios me ayuda, si consigo medicamentos, tal vez pueda recuperar la vista".

El lunes, desde su casa en Etiopía, le dijo a la AP que los médicos le habían informado que no podían salvarle el ojo. "Ha sido una dura realidad", dijo. "Me dijeron que es demasiado tarde para recuperar la vista".

Obinna Okeadu, un nigeriano que también fue engañado para trabajar en Deko Park, nunca regresó a casa, según tres compañeros de trabajo, un activista de derechos humanos e informes de su familia en Nigeria.

La tarde del 28 de octubre de 2025, Okeadu y su compañero de habitación, Ogbonnaya Tochukwu Agwu —conocido como Valentine—, terminaron un turno de noche infructuoso y fueron llamados para ser castigados.

De vuelta en su habitación después de la paliza, Valentine vio cómo Okeadu comenzaba a temblar incontrolablemente. Okeadu se desplomó al suelo con un golpe seco, su cabeza ladeada de forma extraña, mientras emitía agudos y angustiosos sonidos.

"Tranquilo", le dijo un amigo en voz baja. "Estamos aquí".

Pero Okeadu no estaba bien.

«Voy a morir así», gritó Okeadu, según Valentine.

Valentine contó que se llevaron a Okeadu, presumiblemente a un hospital. Rezó por su amigo. Pero al día siguiente, la computadora de Okeadu desapareció y su nombre fue borrado de los chats del trabajo.

Valentine nunca volvió a verlo.

Este tipo de abuso, junto con el creciente costo de las estafas cibernéticas para las víctimas en todo el mundo, ha provocado redadas periódicas. A principios de 2025, Tailandia cortó temporalmente la conexión a internet, la electricidad y el gas a los centros de estafa ubicados justo al otro lado de su frontera con Myanmar.

Starlink era una forma de sortear el bloqueo en ese momento. Las imágenes satelitales mostraron que proliferaron las antenas parabólicas en los tejados de los centros de estafa en Myanmar, y el uso de Starlink en Myanmar se disparó, según datos de APNIC.

En abril de 2025, mientras Estados Unidos preparaba sanciones contra redes de estafa extranjeras en el sudeste asiático, Starlink reasignó direcciones IP de Tanzania para crear un bloque dedicado a Myanmar. No está claro el motivo, pero los expertos afirman que esta medida suele adoptarse para satisfacer la creciente demanda o prepararse para entrar en un nuevo mercado.

En junio de 2025, Starlink era el proveedor de servicios de internet número uno en el empobrecido país asolado por la guerra, con una cuota de mercado del 14%, a pesar de su coste relativamente elevado, según datos de APNIC.

En octubre, en medio de otra amplia represión, Starlink anunció la interrupción del servicio a más de 2.500 unidades cerca de centros de estafa en Myanmar. Perdió casi la mitad de sus usuarios en el país y su cuota de mercado se desplomó del 15% al 6,5%, según datos de APNIC.

Sin embargo, en diciembre, el uso de Starlink se disparó y, en febrero, la compañía volvió a ser líder en Myanmar. Actualmente, cuenta con una cuota de mercado cercana al 20%, según datos de APNIC.

La represión de octubre demostró que Starlink puede desconectar los centros de estafa de sus satélites cuando lo desea, y evidencia la importancia que las redes criminales que financian la infraestructura de estos centros han tenido para su base de usuarios. Según el mapa de cobertura de Starlink, la compañía no ofrece servicios en Myanmar. La AP preguntó al gobierno militar de Myanmar si Starlink estaba legalmente autorizado para operar en el país, pero no obtuvo respuesta.

Starlink también declinó responder a las solicitudes de comentarios detallados. Sin embargo, en declaraciones públicas, Lauren Dreyer, vicepresidenta de operaciones comerciales de Starlink en SpaceX, afirmó que Starlink tiene "tolerancia cero" ante cualquier abuso.

"Detectamos y desactivamos de forma proactiva los terminales involucrados en actividades ilegales", declaró en junio sobre la colaboración de la compañía con el Grupo de Trabajo del Centro contra las Estafas. "Mediante la colaboración con las fuerzas del orden y las empresas tecnológicas, impulsamos los esfuerzos globales contra las estafas y garantizamos que Starlink siga siendo una fuerza positiva".

Sin embargo, los recortes de servicio de Starlink no han detenido a los estafadores, ni siquiera en uno de los centros de estafa más conocidos de Asia, KK Park.

En octubre, en respuesta a la creciente presión internacional, el gobierno militar de Myanmar comenzó a demoler el complejo y difundió imágenes de decenas de terminales Starlink incautadas. Pero cuando los estafadores se dispersaron, se llevaron consigo su tecnología.

Para enero, al menos siete dispositivos utilizados en KK Park habían migrado a un nuevo complejo a unos 30 kilómetros al noroeste, cerca de Hpakalu, según International Justice Mission, que rastreó los dispositivos utilizando datos de tecnología publicitaria.

"Estos nuevos complejos están apareciendo en medio de la nada; son edificios amurallados con varias terminales en la azotea", dijo Eric Heintz, analista global de IJM. "Deberían poder cerrarse y debería existir un registro documental de quién paga las suscripciones".

Heintz ha identificado al menos 25 nuevos sitios en Myanmar que han aparecido o crecido significativamente desde la represión del otoño pasado. Imágenes satelitales, verificadas por AP, muestran terrenos baldíos transformados en parques de oficinas a escala industrial en tan solo unos meses, con nuevas carreteras que atraviesan densos bosques.

Algunas de estas instalaciones cuentan con antenas parabólicas blancas en sus azoteas, y los datos de geolocalización de los dispositivos muestran que los estafadores de al menos 13 de ellos se conectan como antes: con Starlink.


Esta historia forma parte de una colaboración entre Associated Press y "FRONTLINE" (PBS), que incluye un próximo documental.


Kinetz informó desde Roma, Washington, Londres y Lisboa, Portugal. Los periodistas de AP Juliet Linderman en Washington y Raynham, Massachusetts, Ope Adetayo en Lagos, Nigeria, Larry Fenn en Nueva York, Huizhong Wu en Bangkok y Michael Reo en Washington contribuyeron a este artículo. El reportero independiente Rejimon Kuttappan en Thiruvananthapuram, India, y Anthony DeLorenzo, Martha Mendoza y Peter Klein de "FRONTLINE" (PBS) también contribuyeron.


Associated Press recibe apoyo financiero de varias fundaciones privadas. AP es la única responsable de todo el contenido. Consulte los estándares de AP para trabajar con organizaciones filantrópicas, una lista de patrocinadores y las áreas de cobertura financiadas en AP.org.


Comuníquese con el equipo de investigación global de AP a través de Investigative@ap.org o https://www.ap.org/tips/

Leer Más
Loading...
Philip Morris utilizó la IA para inundar la consulta europea sobre el tabaco.

Incidente 1590: Según se informa, una supuesta herramienta de IA respaldada por Philip Morris generó respuestas que se oponen a normas más estrictas de la UE sobre el tabaco.

Traducido por IA
“Philip Morris utilizó la IA para inundar la consulta europea sobre el tabaco.”
generationsanstabac.org2026-07-15

La Comisión Europea está revisando actualmente dos directivas importantes sobre productos de tabaco y publicidad relacionada. Como parte de este proceso, lanzó una consulta pública que recibió casi 90.000 respuestas. Una investigación periodística holandesa[1]-[2] revela que una gran proporción de estas contribuciones fueron generadas por una herramienta de inteligencia artificial implementada por Philip Morris International, bajo una identidad oculta. En Francia, este fenómeno es particularmente notorio: según se informa, el 68 % de las respuestas a la consulta fueron generadas por inteligencia artificial (IA).

Una consulta plagada de respuestas falsas

La revisión de las directivas europeas sobre productos y publicidad del tabaco es un tema central de salud pública en la Unión Europea. Como parte de este proceso legislativo, la Comisión Europea lanzó una consulta pública para recabar opiniones de ciudadanos, asociaciones y partes interesadas. El volumen de respuestas recibidas es particularmente inusual: se presentaron 88.000 contribuciones en tan solo un mes, mientras que procedimientos de consulta similares suelen recibir menos de 1.000 respuestas.

Una investigación realizada por el equipo editorial de datos de Point, el departamento de periodismo de investigación de KRO-NCRV, una de las principales emisoras públicas neerlandesas, en colaboración con NOS, el equivalente neerlandés de France Télévisions, analizó más de 65.000 de estas contribuciones. El análisis reveló que 22.500 de ellas, es decir, el 35 % del total, fueron generadas íntegramente por herramientas de inteligencia artificial. Esta proporción engloba dos fenómenos distintos que conviene diferenciar. Por un lado, está el uso de herramientas de IA generativa por parte de particulares para redactar sus propias contribuciones, lo que no necesariamente refleja el punto de vista expresado. Por otro lado, y esto es lo que documenta principalmente la investigación, está la difusión organizada de respuestas preformateadas por los propios fabricantes, construidas a partir de argumentos predefinidos que dejan poco margen para la expresión personal de los firmantes. Esta segunda práctica constituye una forma de respuesta controlada a distancia, ya observada y denunciada durante la anterior revisión de la directiva sobre productos del tabaco, que también registró un número inusualmente alto de contribuciones.

Si bien la investigación de Point y el análisis de NOS establecieron que una gran mayoría de las respuestas generadas por IA provenían de la herramienta implementada por Philip Morris International, es probable que esta cifra refleje solo una parte del fenómeno. Además de PMI, otros fabricantes de tabaco y organizaciones de la industria del vapeo mostraron una gran proactividad a la hora de influir en las contribuciones presentadas durante esta consulta, lo que sugiere que la proporción real de respuestas impulsadas por la industria podría ser incluso mayor de lo que indican los datos disponibles hasta la fecha.

Philip Morris detrás de la herramienta: una campaña oculta

La investigación revela que casi todas estas respuestas generadas por IA se originaron a partir de una única herramienta, desarrollada por Philip Morris International (PMI). La campaña se denominó «Tu Voz, Tu Elección», en la que Philip Morris solo se mencionaba en letra pequeña. Carteles en estancos de algunos países miembros, correos electrónicos enviados a los clientes y anuncios en la página web de IQOS, la marca de tabaco calentado del grupo, dirigían a los clientes a esta herramienta mediante un código QR.

La herramienta era fácil de usar: los usuarios respondían a unas pocas preguntas —si fumaban, qué productos consumían y qué aspectos consideraban importantes— y generaba automáticamente una respuesta en primera persona lista para ser enviada al portal de la Comisión Europea. Sin embargo, de los once "aspectos importantes" presentados a los usuarios, solo uno apoyaba regulaciones más estrictas; todos los demás presentaban argumentos en contra. Los investigadores también descubrieron que, en al menos 50 casos, la herramienta añadía argumentos en contra de la regulación que el usuario no había seleccionado.

Un ataque a la integridad democrática denunciado por expertos

La Comisión Europea ha expresado su preocupación, indicando que está prestando mucha atención a los informes sobre campañas respaldadas por la industria para influir en los resultados de la consulta, y subrayando la importancia de garantizar que las posturas de los ciudadanos no sean manipuladas ni tergiversadas.

Este caso se enmarca en un contexto estratégico muy específico. Saturar una consulta pública con respuestas automatizadas es una táctica bien documentada utilizada por la industria tabacalera para retrasar o debilitar los procesos legislativos que le son desfavorables. El alto índice de respuestas generadas por IA en Francia no sorprende dada la postura declarada del país sobre este tema. En efecto, Francia apoyó, en el marco de esta misma consulta, lo siguiente: [3] Se han adoptado varias medidas particularmente ambiciosas, entre ellas la prohibición de todos los aromatizantes en los productos cubiertos por la directiva, la introducción del empaquetado genérico en toda Europa, la reducción de los niveles de nicotina permitidos en ciertos productos y, por primera vez, la prohibición de los filtros de cigarrillos. Esta postura es coherente con las reformas emprendidas a nivel nacional, lo que convierte a Francia en uno de los Estados miembros más comprometidos con una regulación más estricta de los nuevos productos de tabaco y nicotina.

Lo que está en juego es aún mayor dada la evaluación del marco europeo de control del tabaco publicada por la Comisión el 2 de abril de 2026[4] El informe concluyó que las directrices actuales son insuficientes frente al rápido crecimiento de nuevos productos de tabaco y nicotina, y que la Comisión consideró necesaria una revisión de la legislación para apoyar el objetivo europeo de una "generación libre de tabaco" para 2040. Ante esta perspectiva, Philip Morris International, junto con otros fabricantes del sector, movilizó sus redes de consumidores para intentar influir en el resultado de la consulta. Philip Morris aboga por un enfoque denominado "basado en el riesgo", que implicaría la aplicación de normas diferenciadas según las categorías de productos, con el fin de obtener un trato regulatorio más favorable para los cigarrillos electrónicos, los productos de tabaco calentado y las bolsitas de nicotina, segmentos en los que el grupo genera actualmente una proporción creciente de sus ingresos.

Desde la perspectiva del derecho internacional, el Convenio Marco de la OMS para el Control del Tabaco (CMCT), del cual la Unión Europea es Parte, estipula en el Artículo 5.3 y sus directrices de aplicación que la industria tabacalera no debe ejercer ninguna influencia en el desarrollo de las políticas de salud pública, debido a la contradicción fundamental entre sus intereses comerciales y los objetivos de la salud pública. Al manipular masivamente una consulta oficial mediante respuestas generadas automáticamente, los fabricantes presentaron sus propios intereses bajo el pretexto de la participación ciudadana, eludiendo de hecho este compromiso. En los Países Bajos, varias organizaciones de salud presentaron denuncias ante las autoridades competentes, y una amplia mayoría del Parlamento condenó formalmente la campaña.

©Generación Sin Tabaco

AE


[1] AI van Philip Morris domina la operación de inspraak neerlandesa EU-tabakswet, publicado el 28 de junio de 2026, Pointer, consultado en el mismo día

[2] Marleen de Rooy, Tabaksgigant laat AI 'publieksreacties' schrijven tegen strengere EU-regels: 'Dit is valsspelen'', publicado el 28 de junio de 2026, NOS, consultado en el mismo día

[3] Francia impulsa a la Unión Europea hacia una normativa más ambiciosa en materia de tabaco y nicotina, Tobacco-Free Generation, publicado el 20 de junio de 2026, consultado el 29 de junio de 2026

[4] Directiva sobre el control del tabaco: una evaluación europea revela una obsoleta framework., Tobacco-Free Generation, publicado el 7 de abril de 2026, consultado el 29 de junio de 2026

Leer Más
Acerca de la Base de Datos

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

Image
post-image
Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...

Leer Más
La Base de Datos en la Prensa

Lea acerca de la base de datos en Time Magazine, Vice News, Venture Beat, Wired y Bulletin of the Atomic Scientists entre otros puntos de venta.

Arxiv LogoVenture Beat LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
El Colaborativo de IA Responsable

La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

Image

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.

Patrocinador fundador de la organización
Image
Patrocinador fundador de la base de datos
Image
Patrocinadores y subvenciones
Image
Patrocinadores similares
Image
Image
Image
El Informe de Incidentes de IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2026 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 18fcd27
Advertisement
Advertisement