OpenAI ha desactivado varias cuentas de ChatGPT que supuestamente eran operadas por una red criminal camboyana que utilizó el chatbot de inteligencia artificial para llevar a cabo esquemas fraudulentos de inversión en criptomonedas. Esta acción se produce en un contexto de proliferación de estafas relacionadas con activos digitales, lo que ha llevado a intercambios, emisores de tokens y empresas de inteligencia artificial a fortalecer sus medidas de seguridad para proteger a las posibles víctimas.
Estafas impulsadas por IA en aumento
Sudeste Asiático, particularmente Camboya, se ha convertido en un punto caliente para las llamadas estafas de “matanza de cerdos”, donde los estafadores usan relaciones online falsas u ofertas de inversión para extraer phaces en criptomonedas de las víctimas. Las estafas recientes utilizan cada vez más contenido generado por IA para mejorar su credibilidad y escalar sus operaciones.
OpenAI inició su investigación tras recibir una alerta de WhatsApp. Las cuentas rastreadas, que se cree están basadas en la ciudad fronteriza de Poipet, estaban conectadas con operaciones de estafa ya bajo escrutinio internacional.
La compañía informó que la red utilizó ChatGPT para crear identidades falsas, traducir comunicaciones a múltiples idiomas y elaborar mensajes persuasivos destinados a ganarse la confianza de individuos incautos. Además, la herramienta de IA generó materiales de marketing pulidos y documentos para otorgar legitimidad a las oportunidades de inversión fraudulentas.
En el núcleo del esquema estaba el uso de criptomonedas. Las víctimas inicialmente interactuaban en social antes de ser dirigidas a plataformas fraudulentas para el comercio de criptomonedas o de oro al contado. La red aprovechó ChatGPT para producir pasaportes falsos, avisos legales, confirmaciones de acciones y tableros de negociación fabricados para engañar aún más a las víctimas.
OpenAI detalló que la actividad fraudulenta generalmente se desarrollaba en tres etapas: las víctimas eran primero convencidas de enviar fondos en criptomonedas, luego presionadas para proporcionar phaces adicionales bajo el pretexto de cargos de activación, impuestos o sanciones regulatorias.
Vínculos con operaciones de trata de personas
El examen de OpenAI descubrió evidencia de trata de trabajo incrustada en la operación de estafa. Ciertas entidades utilizaron ChatGPT para diseñar anuncios atractivos para reclutar “chatterers” en Poipet, ofreciendo beneficios como transporte gratuito, alojamiento, comidas y asistencia con visas.
Además, las comunicaciones internas describieron esfuerzos para gestionar y penalizar a los trabajadores, rastreando deudas de los empleados, deducciones salariales, multas y hasta detalles sobre problemas de inmigración o intentos de escape.
Estos hallazgos son consistentes con la investigación de Elliptic, una empresa de análisis de blockchain, que identificó que muchos perpetradores detrás de las estafas de romance e inversión en la región son ellos mismos víctimas de trata de personas, forzados a trabajar en el crimen organizado.
Antes de cerrar las cuentas, OpenAI compartió sus descubrimientos con socios de la industria y fuerzas del orden. La compañía estima que cientos de personas han sido víctimas de la estafa, con pérdidas acumuladas que alcanzan miles de dólares.
El incidente resalta una tendencia más amplia en la ciberseguridad, ya que las redes de crimen organizado emparejan cada vez más herramientas avanzadas de IA con canales de phace en criptomonedas. Frenar el uso ilegal de tales tecnologías se ha vuelto tan crítico como apuntar directamente a la actividad financiera ilícita.
Mini diccionario: Elliptic es una empresa de análisis de blockchain que se especializa en detectar e investigar crímenes financieros habilitados por criptomonedas para empresas, instituciones financieras y fuerzas del orden.
Flujos ilícitos de criptomonedas récord y nuevos puntos de estrangulamiento
TRM Labs, una empresa de inteligencia blockchain, informó que se proyecta que los flujos ilícitos de criptomonedas alcanzarán los $158 mil millones para 2025, marcando un aumento del 145% respecto al año anterior y el total más alto en cinco años. Aunque la proporción de actividad ilícita dentro del volumen total en cadena cayó del 1.3% en 2024 al 1.2% en 2025, las stablecoins representaron alrededor del 84% de los influjos fraudulentos detectados, convirtiéndose en el canal de phace principal para las operaciones criminales.
| Año | Flujos ilícitos de cripto | Proporción de volumen en cadena |
|---|---|---|
| 2024 | $64.6 mil millones | 1.3% |
| 2025 | $158 mil millones | 1.2% |
La eliminación por parte de OpenAI aborda solo una red, pero ilustra cómo las plataformas de IA se han vuelto fundamentales tanto para habilitar como para combatir operaciones de estafas cada vez más sofisticadas.
Papel creciente de la IA en el fraude y la prevención
Investigaciones recientes que involucran universidades internacionales revelaron que los chatbots impulsados por IA pueden superar a los estafadores humanos en persuadir a las víctimas a seguir instrucciones de estafa. Un experimento mostró que el 46% de los participantes confiaron y actuaron según el consejo de un agente de IA, en comparación con el 18% que interactuó con un estafador humano. Los resultados destacaron que estos participantes consideraron a la IA mucho más confiable que su contraparte humana.
El estudio incluyó entrevistas con 145 individuos previamente involucrados en operaciones de estafa, muchos de los cuales fueron sobrevivientes de la trata en Camboya, Myanmar y Laos. Los investigadores encontraron que el principal beneficio de la IA para las redes criminales reside en la automatización de la etapa crucial de construcción de confianza. Bloquear el acceso a modelos de IA sofisticados, por lo tanto, tiene el potencial de interrumpir esquemas fraudulentos antes de que aseguren los fondos de las víctimas.
El análisis interno de OpenAI concluyó que los miembros de la red identificada contactaron a cientos de víctimas, quienes colectivamente perdieron miles de dólares como resultado de la estafa.
