En un mercado financiero global, una acción se dispara en cuestión de instantes. No fue por un descubrimiento empresarial ni por un cambio en la economía real, sino por la acción coordinada de algoritmos que simulan miles de operaciones y difunden videos falsos de un directivo anunciando resultados extraordinarios. Antes de que las autoridades detecten el engaño, los responsables ya vendieron sus acciones y movieron las ganancias a cuentas en el extranjero. No sorprendería que episodios así ya estén ocurriendo sin detección formal, porque los fraudes con deepfakes y voces o identidades clonadas comienzan a infiltrarse también en el ámbito financiero.
La inteligencia artificial (IA) es un conjunto de tecnologías capaces de aprender de datos, identificar patrones y tomar decisiones o generar contenido sin intervención humana directa en cada paso. A diferencia de un programa tradicional (como una calculadora, que solo ejecuta operaciones predefinidas), la IA se asemeja más a un asistente que aprende de la experiencia y adapta su respuesta a nuevas circunstancias. Este carácter adaptativo implica riesgos adicionales: incluso podría ocurrir que ciertos sistemas de IA, optimizados para sistemas financieros, descubran por sí mismos que manipular el mercado o abusar de él resulta la vía más eficiente para maximizar ganancias, aun sin que sus desarrolladores los hubieran diseñado con ese propósito.
Aun cuando un sistema no esté diseñado para ello, un grupo delictivo sí podría entrenar un modelo de IA para detectar acciones de baja liquidez y lanzar miles de órdenes en segundos, inflando artificialmente el precio. En paralelo, bots controlados por IA difundirían análisis falsos o deepfakes de supuestos expertos. Elevado el precio, venderían con ganancia, trasladando pérdidas a inversionistas minoristas.
Retomando los deepfakes, grupos criminales también podrían crear videos o videollamadas sintéticas en las que aparentemente un directivo de una empresa da instrucciones precisas para transferir fondos, aprobar contratos o revelar información sensible. Ante la urgencia o jerarquía de la orden, empleados de confianza podrían ejecutar la acción sin verificar su autenticidad, generando pérdidas millonarias. De hecho, un CEO de una empresa energética en Reino Unido fue engañado en 2019 para transferir aproximadamente $243,000 dólares tras recibir una llamada con un deepfake de voz que imitaba a su jefe.
A esta misma lógica de suplantación se suma una vertiente más discreta: modelos de IA que recopilan información pública y privada (historial laboral, publicaciones, estilo de redacción) para fabricar mensajes a la medida. Correos o chats que imitan el lenguaje de colegas, clientes o familiares resultan mucho más verosímiles que el phishing tradicional y pueden inducir incluso a personas experimentadas a revelar credenciales o abrir enlaces maliciosos.
A partir de grabaciones disponibles en redes sociales o conferencias, una IA podría clonar la voz de un familiar y simular una llamada de emergencia (“me secuestraron”, “necesito dinero de inmediato”). Bajo presión emocional, la víctima podría realizar transferencias urgentes antes de verificar la veracidad de la situación. En Sugar Land, Texas, un hombre de 82 años fue víctima de un fraude mediante clonación de voz: recibió una llamada que aparentemente provenía del Departamento de Policía de San Antonio, en la que le informaron que su yerno estaba detenido tras un accidente. Durante la comunicación, creyó escuchar a su familiar, por lo que entregó $17,000 dólares para cubrir una supuesta fianza cuando en realidad su yerno nunca estuvo detenido.
La IA también podría transformar la comisión de ciberdelitos y reducir el margen de reacción de las víctimas. Un ejemplo son los programas maliciosos adaptativos, capaces de modificar su código en tiempo real para evadir antivirus y firewalls: detectan el entorno, alteran su rastro y reconfiguran el patrón de ataque según el sistema comprometido. Así, un código pensado para robar contraseñas podría mutar al detectar una red corporativa y cifrar archivos sensibles para exigir rescate.
De igual forma, bots potenciados por IA podrían localizar vulnerabilidades en segundos y aprovecharlas de forma automática. Escanearían millones de servidores en busca de fallas y las explotarían antes de que los administradores adviertan el riesgo. En un escenario plausible, un bot podría detectar una brecha en el portal de pagos de un banco y, en minutos, accede a cuentas de clientes para transferir fondos a terceros.
La IA también podría facilitar esquemas de sextorsión mediante la creación de contenido íntimo falso. A partir de fotografías públicas, grupos criminales generarían material manipulado y amenazarían con su difusión a familiares, empleadores o redes sociales. Aunque el contenido sea falso, el impacto emocional y reputacional puede ser devastador, y muchas víctimas, por temor al escarnio, terminarían pagando o accediendo a otras exigencias.
Otro riesgo aún más delicado es la producción de material de abuso sexual infantil (CSAM, por sus siglas en inglés “Child Sexual Abuse Material”) generado sintéticamente. Sin contacto físico, la IA puede crear representaciones realistas de violencia sexual. El daño es doble: alimenta la demanda de un mercado ilícito y, además, puede apropiarse de rasgos de niñas y niños a partir de fotos reales, revictimizándolos.
Finalmente, la desinformación masiva es quizá la amenaza más visible. Modelos generativos podrían producir miles de mensajes, videos y perfiles automatizados para difundir narrativas falsas, amplificadas por algoritmos y redes de bots. Estas campañas podrían polarizar a la sociedad en torno a temas sensibles, desde elecciones hasta conflictos sociales, y generar desconfianza en instituciones. Un escenario plausible sería la fabricación de videos falsos de candidatos en campañas políticas, difundidos de forma estratégica para manipular la opinión pública en momentos críticos, alterando con ello la estabilidad democrática.
Una primera línea de combate frente al uso delictivo de la inteligencia artificial es la actualización del marco penal. Los Códigos y las Leyes deberían incorporar la normatividad específica que contemple modalidades de comisión apoyadas en IA, como el fraude mediante deepfakes, la manipulación algorítmica de los mercados o la producción de material sexual infantil, entre otros. Hoy en día, esas conductas pueden perseguirse bajo el marco ya existente, pero la ausencia de regulación explícita en materia penal permite visualizar la gravedad diferenciada de utilizar IA como medio comisivo. Paralelamente, la normatividad financiera debe cubrir el uso de sistemas automatizados y modelos de IA. Ello supone reforzar la normativa aplicable a las instituciones del sistema financiero y a sus usuarios para prevenir y sancionar prácticas de manipulación o abuso de mercado. Aunque estos pudieran ser las áreas normativas más obvias para regular, la realidad es que la inteligencia artificial permea en cada uno de los sectores productivos y, naturalmente, en todas las ramas del derecho.
Otra medida indispensable consiste en fortalecer las capacidades institucionales para enfrentar este nuevo tipo de retos. En materia penal, resulta necesario capacitar, por decir algunos, a agentes del Ministerio Público y de las Policías de Investigación, de manera que sepan cómo actuar cuando se enfrentan a un delito cometido mediante inteligencia artificial. La investigación adecuada exige que identifiquen con claridad las particularidades tecnológicas del caso, preserven la evidencia sin alteraciones y no dejen pasar puntos críticos que podrían volver ineficaz la persecución penal.
De igual forma, los jueces deben contar con los conocimientos mínimos necesarios para valorar correctamente las pruebas relacionadas con IA y comprender las modalidades en que estos sistemas pueden incidir en la comisión de delitos. Solo así, cada operador del sistema, podrá desempeñar su función dentro del marco de sus atribuciones y garantizar que los casos se judicialicen con solidez técnica y jurídica.
Otro eje necesario es el impulso de tecnologías defensivas frente al uso criminal de la inteligencia artificial. Esto implica implementar sistemas especializados de detección de deepfakes, monitoreo automatizado de transacciones sospechosas y herramientas de IA “defensiva” capaces de identificar en tiempo real malware adaptable o campañas de desinformación coordinada. Ahora bien, estas medidas no pueden quedar únicamente a la buena voluntad de las empresas. Como parte de la normatividad, debe establecerse la obligación para ciertos actores estratégicos de contar con mecanismos de monitoreo automatizado que les permitan ejercer un control debido sobre el uso que sus trabajadores, representantes, administradores o usuarios hagan de dichas herramientas. No se trata de imponer una carga universal imposible de cumplir, sino de concentrar la exigencia en los puntos más críticos, donde un uso indebido de la IA puede generar daños de gran magnitud.
Otro aspecto importante es la cooperación público–privada e internacional, sin la cual los esfuerzos regulatorios y tecnológicos resultan insuficientes. Compartir información de manera ágil y estandarizada para identificar patrones de fraude, detectar contenido ilícito y coordinar denuncias o respuestas frente a amenazas que evolucionan con rapidez. Asimismo, los organismos internacionales pueden fungir como nodos de intercambio y homologación de buenas prácticas, evitando que las jurisdicciones con menor regulación se conviertan en refugios para actividades delictivas apoyadas en inteligencia artificial.
En paralelo, deben establecerse protocolos claros y vinculantes para que las instituciones financieras bloqueen cuentas, las plataformas digitales retiren material ilícito y las autoridades puedan rastrear operaciones transfronterizas de forma expedita. La rapidez en estas acciones es crucial: en minutos, un deepfake puede viralizarse o un fraude financiero puede dispersar recursos a múltiples jurisdicciones. Por ello, la colaboración entre el sector público, el privado y la esfera internacional no es solo deseable, sino necesaria para garantizar que la inteligencia artificial no sea capturada como herramienta de la delincuencia.
Finalmente, un componente esencial para prevenir el uso criminal de la inteligencia artificial es la educación y concientización social. La ciudadanía debe contar con herramientas claras para identificar riesgos y señales de alerta, desde reconocer llamadas sospechosas con voces clonadas hasta detectar noticias falsas generadas por modelos de lenguaje. Las campañas de información pública pueden contribuir a que las personas actúen con mayor cautela frente a solicitudes inusuales de transferencias, enlaces desconocidos o contenido íntimo aparentemente verídico.
La experiencia internacional demuestra que el eslabón más vulnerable en la cadena de seguridad suele ser el factor humano. Por ello, fortalecer la cultura digital resulta tan importante como la actualización normativa o el desarrollo tecnológico. Una sociedad informada reduce de manera significativa la efectividad de los fraudes, extorsión y manipulación basados en inteligencia artificial, al mismo tiempo que facilita que las denuncias se presenten con rapidez y que las autoridades actúen oportunamente.
La inteligencia artificial es un motor del desarrollo humano y económico. Su potencial para mejorar la salud, la educación, la seguridad y la eficiencia es innegable. Pero ese mismo potencial, en manos delincuentes, se convierte en una amenaza de alcance global. El derecho penal, acompañado de políticas públicas, cooperación internacional, y educación social, debe actuar con rapidez y precisión. No se trata de frenar la innovación, sino de impedir que la brecha entre la ley, las políticas públicas y la tecnología sea el terreno fértil donde prospere el delito.
Fuentes de consulta.
Arntz, P. (2025, enero 7). AI-supported spear phishing fools more than 50% of targets. Malwarebytes. Recuperado de https://www.malwarebytes.com/blog/news/2025/01/ai-supported-spear-phishing-fools-more-than-50-of-targets
Carmen, E., B’nai B’rith International. (2024, 7 de febrero). AI making scams more believable: We need to stay ahead of the curve. Recuperado de https://www.bnaibrith.org/ai-scams/
Damiani, J. (2019, septiembre 3). A Voice Deepfake Was Used To Scam A CEO Out Of $243,000. Forbes. Recuperado de https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/
Federal Bureau of Investigation. (2024, abril 29). Charlotte child sexual abuse material case shows unsettling reach of AI-generated imagery. FBI. Recuperado de https://www.fbi.gov/news/stories/charlotte-child-sexual-abuse-material-case-shows-unsettling-reach-of-ai-generated-imagery
Meza Ruiz, I. V. (2024, 7 de julio). El camino hacia una regulación de la IA en México. Blog Turing (IIMAS-UNAM). Recuperado de https://turing.iimas.unam.mx/~ivanvladimir/posts/camino_regulacion_ia_mexico/
TRM Labs. (2025, enero 29). The rise of AI-enabled crime: Exploring the evolution, risks, and responses to AI-powered criminal enterprises. TRM Labs. Recuperado de https://www.trmlabs.com/resources/blog/the-rise-of-ai-enabled-crime-exploring-the-evolution-risks-and-responses-to-ai-powered-criminal-enterprises
Rasmussen, J., et. al. (2024). Impact of artificial intelligence (AI) on criminal and illicit activities. U.S. Department of Homeland Security https://www.dhs.gov/sites/default/files/2024-10/24_0927_ia_aep-impact-ai-on-criminal-and-illicit-activities.pdf
