El nuevo desafío del fraude digital: La batalla contra la inteligencia artificial

Por Carlos Ayalde, CEO de GatekeeperX

La semana pasada decidí hacer un experimento: usando algunas notas de voz mías, le pedí a la IA que clonara mi voz y que le enviara una nota de voz a alguien de mi equipo pidiéndole transferir urgente $10.000.000 a una cuenta. Dicho y hecho: la persona de mi equipo escuchó la nota de voz y cayó en la trampa. Afortunadamente no lo dejé transferir los diez millones, pero al preguntarle si había identificado que era una voz sintética creada con IA, su respuesta fue “sonaba igualito a ti”.

Durante años, buena parte de la prevención del fraude digital se apoyó en identificar señales conocidas: una ubicación inusual, varios intentos fallidos de acceso o un comportamiento fuera de lo habitual. Aunque estos mecanismos siguen siendo importantes, hoy enfrentamos un escenario mucho más complejo.

La inteligencia artificial ha transformado la manera en que interactuamos con los servicios financieros, pero también ha abierto nuevas posibilidades para quienes buscan aprovechar sus vulnerabilidades. Además de hacerlos más convincentes, la IA permite producir y adaptar estos engaños con mayor rapidez y a mayor escala, los delincuentes pueden utilizar esta tecnología para imitar voces, construir identidades falsas y desarrollar engaños cada vez más difíciles de reconocer.

Y aquí surge una pregunta: ¿cómo pueden las empresas identificar un fraude cuando las señales que antes permitían detectarlo también pueden ser manipuladas?

Cuando la inteligencia artificial también juega a favor del fraude

Imaginemos a una persona que recibe una llamada de alguien que se presenta como representante de su entidad financiera. El lenguaje es convincente y el mensaje transmite urgencia: debe mover su dinero para protegerlo. La llamada podría utilizar una voz sintética y un discurso elaborado con IA para reforzar el engaño y conseguir que esa persona autorice una transferencia al defraudador.

El problema se vuelve más complejo, autenticar correctamente a una persona no basta para determinar que una operación es segura. Cuando el propio usuario realiza la transferencia desde su dispositivo habitual y utilizando sus credenciales. En estas circunstancias, los mecanismos tradicionales pueden interpretar la operación como legítima, aunque la decisión haya sido producto de un engaño.

Ahora bien, la misma tecnología que facilita estas modalidades de fraude ofrece herramientas para enfrentarlas. La inteligencia artificial permite analizar patrones de comportamiento, relacionar información de diferentes fuentes e identificar cambios que podrían indicar una actividad sospechosa.

Por ejemplo, pensemos en una transferencia realizada durante la madrugada. Aunque el horario podría generar una alerta, también importa conocer si el usuario está utilizando su dispositivo habitual, si es la primera transferencia a ese destinatario, qué señales de riesgo presenta la cuenta receptora y si el monto encaja con su historial. Estos elementos pueden ayudar a distinguir una actividad legítima de una posible amenaza.

El reto de proteger sin afectar la confianza

En mi experiencia, medir la prevención del fraude únicamente por la cantidad de operaciones detenidas ofrece una visión incompleta del problema. ¿Qué ocurre con aquellas transacciones legítimas que terminan siendo rechazadas? Detrás de cada una puede haber un cliente frustrado, una oportunidad comercial perdida y una relación de confianza que comienza a deteriorarse.

Las empresas deben avanzar hacia sistemas capaces de interpretar diferentes señales, adaptar sus respuestas al riesgo de cada operación. Esto exige evaluar sus resultados, revisar las estrategias e incorporar nuevos patrones mediante procesos de actualización y supervisión. Los delincuentes perfeccionan sus métodos y la prevención también debe evolucionar.

Asimismo, el criterio humano sigue siendo fundamental. Hay situaciones en las que una alerta requiere información adicional, una verificación directa o la intervención de un especialista. La tecnología puede reunir evidencia y agilizar el análisis, pero su uso necesita mecanismos de supervisión y procedimientos claramente definidos.

Este desafío también exige una mayor coordinación entre las áreas de tecnología, seguridad, operaciones y experiencia del cliente. Después de todo, una decisión automatizada puede tener consecuencias que van mucho más allá de una transacción.

Estamos entrando en una etapa en la que las empresas y los delincuentes cuentan con herramientas cada vez más avanzadas. La pregunta es quién logrará comprender mejor su funcionamiento, anticiparse a los cambios y utilizarlas con mayor criterio.

Si el fraude utiliza inteligencia artificial para ganar velocidad, escala y capacidad de adaptación, la prevención necesita responder con capacidades a la altura. La confianza dependerá de que las organizaciones puedan proteger a sus usuarios sin convertir cada movimiento en una experiencia llena de obstáculos.