7 de cada 10 peruanos desconoce qué es un Deepfake

Los avances en la tecnología de la inteligencia artificial (IA) han posibilitado el uso de la voz y expresiones faciales de personas para la creación de nuevos contenidos. El uso de esta técnica, conocida como deepfake (ultra falso), ha ganado popularidad en los últimos años, pero también representa desafíos para el usuario final. Estos retos aumentan a raíz del desconocimiento que abunda en América Latina sobre este fenómeno: según la encuesta de Kaspersky La infodemia y su impacto en la vida digital, en asociación con CORPA, la mayoría de los internautas de la región no sabe qué es un deepfake y mucho menos reconoce cuando un contenido ha sido editado con esta práctica, factores que favorecen a las campañas de desinformación y contribuyen al apagón mental de los usuarios.

Deepfake es una palabra compuesta por deep de deep learning, o aprendizaje profundo, y fake, que significa falsificación. Esta técnica consiste en un método avanzado de Inteligencia Artificial (IA) que recopila datos sobre expresiones y movimientos físicos que luego se procesan a través de una Red generativa antagónica (GAN) para crear un video ultra falso. Esta táctica, que antes era exclusiva para los estudios cinematográficos de Hollywood, ahora es más accesible, lo que ha inundado el ciberespacio de contenido que puede confundir y hasta defraudar a los usuarios.

Según la investigación de Kaspersky, el 70% de los usuarios latinoamericanos ignora la existencia de esta táctica. De los encuestados, los peruanos (75%) son los que más la desconocen, seguidos de los mexicanos y chilenos (ambos con 72%), los argentinos (67%), brasileros (66%) y colombianos (63%). Para los expertos en ciberseguridad, este índice de desconocimiento es preocupante porque podría garantizar el éxito de tácticas de ingeniería social y fraude que aplican esta tecnología.

«La técnica de AI aplicada a expresiones fáciles en sí no es maliciosa, ya que permite a la industria del cine, por ejemplo, ofrecer al público experiencias cada vez más asombrosas. Sin embargo, el uso de deepfakes (el abuso del AI) tiende a volverse cada vez más imperceptible y, como pasa con cualquier tecnología innovadora, su proliferación conlleva a riesgos y consecuencias. Los ejemplos más comunes de uso indebido incluyen videos falsos que utilizan el rostro de sus víctimas para atentar contra su integridad o credibilidad, así como la manipulación de imágenes y sonidos para eludir contraseñas biométricas (rostro y voz). A medida que la tecnología se vuelva menos costosa, podemos esperar que surjan nuevos usos ilícitos», advierte Dmitry Bestuzhev, director del Equipo de Investigación y Análisis.

El informe de Kaspersky también revela que la mayoría de los encuestados en América Latina (67%) no reconoce cuándo un video ha sido editado digitalmente usando esta técnica, con los colombianos siendo lo que menos pueden detectar este tipo de videos (72%), seguidos por los brasileños (71%), chilenos (70%), argentinos (68%), mexicanos (62%) y peruanos (57%). Estas cifras se tornan aún más preocupante si consideramos que además de videos, frecuentemente compartidos por redes sociales o WhatsApp, también se han reportado casos de fraude en plataformas de búsqueda de trabajo que utilizan esta tecnología para crear perfiles falsos con el objetivo de engañar y extraer información personal de sus víctimas. Incidentes documentados del uso de esta tecnología para imitar la voz de empresarios o figuras públicas han ampliado el alcance de la desinformación y estafas.

Para Bestuzhev, existen dos factores que hacen que las personas estén más expuestas al fraude que utiliza deepfakes. «La falta de conocimiento sobre la existencia de esta tecnología es el primer factor. El segundo es la sobrecarga mental, causada por el exceso de información en línea, que el 78% de los peruanos el admite sentir hoy. La combinación de estos dos factores hace que los usuarios sean presas fáciles de campañas de desinformación y fraude que utilizan esta práctica. Por ende, es importante que los usuarios se informen sobre los diferentes usos de esta táctica y hagan un esfuerzo consiente por desconectarse del mundo digital varias veces al día. Estas simples practicas ayudarán a despejar la mente, facilitando el entendimiento de cómo funcionan estos avances de la inteligencia artificial y aplicar cautela al ver videos o escuchar correos de voz, especialmente si estos comunican información extraña o ilógica», comenta el experto.