Vivimos en los albores de la era de la inteligencia artificial (IA), una tecnología que, desde su generalización en 2021, está revolucionando todo a una velocidad asombrosa. Desde el entretenimiento hasta la productividad, la IA está presente en todas partes, y entre las herramientas que están teniendo mayor impacto se encuentran los deepfakes, especialmente en el ámbito del fraude de identidad. Entonces, ¿qué son y qué repercusiones pueden tener en la sociedad?
La era de la realidad sintética
Ya hemos visto vídeos que se han vuelto virales en los que se muestra a figuras públicas (especialmente políticos) diciendo algo que en realidad nunca dijeron, con todos los peligros que esto puede acarrear. Por supuesto, se trata de contenido multimedia que ha sido manipulado (o generado desde cero) mediante inteligencia artificial, con el peligro añadido de que cada vez parece más auténtico. Eso es un deepfake, un término que proviene de la combinación de «deep learning» y «fake».
Una definición estándar de «deepfake» se refiere al contenido audiovisual (ya sea imagen, audio o vídeo) generado o modificado mediante técnicas avanzadas de inteligencia artificial, concretamente el aprendizaje profundo, con el objetivo de imitar de forma realista el aspecto, la voz o los gestos de una persona real.
La tecnología que hay detrás de estos vídeos son las redes neuronales, concretamente las GAN (redes generativas adversarias), en las que dos modelos se complementan entre sí para crear un vídeo que resulte realista a simple vista. Por un lado, está el generador, que crea el contenido sintético. Por otro lado, está el discriminador, cuya función es evaluar el contenido y detectar si es real o no.
Los deepfakes, una amenaza para la identidad
Las numerosas y variadas herramientas de inteligencia artificial están demostrando ser un arma de doble filo: ofrecen muchas aplicaciones de gran valor, pero también suponen un peligro potencial dependiendo de quién las utilice. Así, aunque los deepfakes tienen aplicaciones positivas, sobre todo en la industria cinematográfica y de los efectos visuales o en el ámbito educativo y en los museos (para revivir a personajes históricos), sus usos fraudulentos son mucho más notables.
Los deepfakes pueden utilizarse para diversas actividades delictivas, como la desinformación o incluso la manipulación, pero una de las más frecuentes y preocupantes es la suplantación de identidad y el fraude.
A medida que las formas tradicionales e inseguras de verificación, como las contraseñas y los códigos, han quedado obsoletas, la biometría se ha convertido en una herramienta fundamental para reforzar la seguridad, pasando a ser el estándar en la verificación de la identidad. Sin embargo, los ciberdelincuentes han aprovechado la aparición de tecnologías avanzadas, como los deepfakes, para eludir y burlar las medidas estándar de verificación biométrica.
La herramienta clave contra los deepfakes: la detección de vida
En este contexto, hay una herramienta que destaca como la defensa más eficaz contra los deepfakes: la detección de presencia real. Esta tecnología confirma con casi total certeza que la persona que aparece ante la cámara es real y se encuentra físicamente presente en el momento de la identificación. Si el sistema detecta alguna anomalía que pudiera indicar lo contrario, rechaza automáticamente la verificación.
Esta prueba de vida tiene dos modos: la detección activa de vida, que requiere que el usuario interactúe con el sistema, por ejemplo, parpadeando, sonriendo, girando la cabeza o siguiendo una instrucción. Esto añade una capa de desafío-respuesta para demostrar que el rostro está vivo.
La detección pasiva de vida, por el contrario, no requiere que el usuario realice ninguna acción; simplemente analiza la imagen de la persona en busca de signos de vida.
La tecnología de detección pasiva de vida de Identity.io utiliza modelos de IA entrenados para detectar patrones que identifican de forma inequívoca un vídeo como real. Estos patrones incluyen la estructura y la profundidad, ya que los rostros humanos tienen, por naturaleza, una profundidad que varía a medida que la persona o la cámara se mueven de un ángulo a otro. Otro aspecto que se analiza es la textura y el reflejo de la luz, ya que nuestra piel refleja la luz de una forma compleja y orgánica que resulta difícil de replicar. Por último, los algoritmos pueden detectar microexpresiones y movimientos involuntarios que muestran los rostros reales, pero que no están presentes en los artificiales.
Las empresas e instituciones deben tener presente que el riesgo que plantean los deepfakes es muy real y actual, y seguirá aumentando a medida que los algoritmos utilizados para crearlos se vuelvan más sofisticados y la tecnología sea más accesible. Será de vital importancia implementar medidas biométricas que utilicen la detección de vida para garantizar una identificación totalmente segura.
