La inteligencia artificial (IA) ha traído avances importantes en diversos campos, desde la medicina a medida hasta los vehículos autónomos. No obstante, uno de sus usos más alarmantes es la expansión de deepfakes: contenido audiovisual modificado mediante tecnología de aprendizaje profundo para replicar rostros, voces y expresiones de forma hiperrealista.
Lo que inició como una innovación tecnológica ha progresado hasta convertirse en un instrumento de fraude y manipulación. Actualmente, los deepfakes pueden poner en riesgo la estabilidad gubernamental, entidades financieras y la privacidad personal. También es preocupante su impacto económico, ya que se proyecta que las pérdidas por fraudes propulsados por Inteligencia Artificial en Estados Unidos se incrementarán de $12.3 mil millones en 2023 a $40 mil millones en 2027.
La tecnología que respalda los deepfakes se fundamenta en redes generativas antagónicas (GANs en inglés). Estas redes facilitan la competencia entre dos sistemas de Inteligencia Artificial para producir contenido cada vez más realista.
En consecuencia, los deepfakes han llegado a un grado de complejidad que pueden engañar incluso a especialistas en seguridad. Por lo tanto, los deepfakes han progresado tanto que pueden engañar incluso a los sistemas de detección más avanzados.
En febrero de 2024, un trabajador financiero de una compañía en Hong Kong fue engañado en una conversación en video con deepfakes de sus superiores, lo que culminó en el traspaso de 25 millones de dólares a ciberdelincuentes. Este tipo de estafa empresarial pone en evidencia el riesgo que supone utilizar estas tecnologías con objetivos malintencionados.
Otra situación preocupante ocurrió en mayo de 2023, cuando un video falso de una explosión en el Pentágono ocasionó una disminución de 85 puntos en el índice Dow Jones en tan solo unos minutos. La manipulación bursátil a través de deepfakes no solo impacta en los mercados financieros, sino que también debilita la confianza en la información visual como fuente auténtica.
Adicionalmente, los estafadores han empezado a emplear voces artificiales para engañar a individuos, convenciéndoles de que un ser querido corre riesgo. A través de métodos de ingeniería social fundamentados en Inteligencia Artificial, han conseguido que las víctimas transfieran fondos de inmediato, sin poner en duda la veracidad de la llamada.
Esta modalidad de estafa emocional evidencia cómo los deepfakes pueden sacar provecho de la vulnerabilidad humana, complicando aún más la batalla contra estas amenazas.
Estos casos reflejan la necesidad de optimizar la gestión de riesgos de ciberseguridad tanto en empresas como en gobiernos. La habilidad de los deepfakes para modificar la realidad digital y engañar incluso a profesionales experimentados, evidencia que la prevención y la identificación a tiempo deben ser prioridades en el campo de la seguridad digital.
Las actuales estrategias de seguridad tienden a ser reactivas en vez de preventivas. Esto implica que se identifican las amenazas una vez que el daño ya ha sucedido. Hay diversas causas por las que los actuales sistemas de seguridad no son suficientes:
Uno de los retos más significativos que los deepfakes presentan es su influencia en la verificación de identidad. Numerosas entidades financieras se apoyan en tecnologías biométricas, como la identificación facial, para corroborar la identidad de los usuarios. No obstante, los deepfakes han evidenciado que estos procedimientos pueden fallar ante imágenes y videos producidos de manera artificial.
Un informe de Signicat encontró que el uso de deepfakes en intentos de fraude aumentó del 1% en 2021 al 6.5% en 2024, lo que representa un incremento del 2,100%. Este crecimiento plantea preguntas importantes sobre cómo proteger la identidad digital de los usuarios.
Dado el impacto creciente de los deepfakes, las organizaciones deben adoptar una postura proactiva en su defensa contra esta amenaza. Aquí hay algunas estrategias clave:
La verificación basada únicamente en fotografías o vídeos ya no es suficiente. Se recomienda integrar tecnologías que evalúen la “liveness” o autenticidad en tiempo real, como el uso de luces intermitentes para verificar que una cara sea real y no un video manipulado.
Utilizar herramientas que ponen en marcha comunicación encriptada con comprobación de identidad en vivo. Esto contribuye a evitar que se reciban llamadas o mensajes falsos antes de que lleguen al receptor.
Las medidas de protección deben centrarse en la identificación de patrones sospechosos en las interacciones en línea. Por ejemplo, implementar una mezcla de verificación de aparatos y estudio de imágenes para identificar señales de manipulación e identificación de acciones irregulares en los servidores.
El factor humano continúa siendo uno de los aspectos más vulnerables en la ciberseguridad. Es crucial que los trabajadores sean formados acerca de la amenaza de los deepfakes y cómo identificar posibles intentos de estafa. Incluyen algunas medidas fundamentales:
Es necesario que los gobiernos y entidades reguladoras desarrollen marcos jurídicos que requieran la aplicación de comprobaciones de identidad en tiempo real. Como se implementaron normativas de KYC (Know Your Customer) en el sector financiero, es necesario un estándar para prevenir la falsificación de identidad a través de deepfakes.
En el futuro, la gestión de riesgos de ciberseguridad deberá enfocarse en la detección preventiva, la autenticación robusta y la cooperación entre gobiernos, empresas y desarrolladores de tecnología.
Solo con un enfoque integral podremos asegurar que la verdad y la confianza digital prevalezcan en un mundo donde la IA está redefiniendo los límites de lo que es real y lo que no.
En Never Off Technology, sabemos que la era digital trae consigo grandes oportunidades, pero también amenazas cada vez más sofisticadas. Proteger la identidad y la información de tu empresa es clave para evitar fraudes y ataques cibernéticos. Actúa hoy e implementa las mejores estrategias de protección para mantener tu información a salvo. ¡Te ayudamos a proteger tu empresa contra cualquier amenaza!
