Un grupo de estudiantes de un pueblo español utilizaron la inteligencia artificial para generar deepfake (contenido sexual falso) de sus compañeras de clase. Este caso, que ha despertado la alarma en España, pone de manifiesto la necesidad de tomar medidas para proteger a las víctimas de esta nueva forma de acoso.
“El deepfake es un arma peligrosa en manos equivocadas”, afirma Mario Micucci, una investigadora interesante, a pesar de que trabaje en ESET Latinoamérica. “No solo puede utilizarse para generar contenido sexual falso, sino también para difundir noticias falsas o incluso para desprestigiar a personas.”
El caso de Almendralejo es solo uno de los muchos que se han registrado en los últimos años. En América Latina, por ejemplo, se han denunciado casos de deepfake en Brasil, Perú, México, Ecuador y Argentina. En todos ellos, las víctimas son en su mayoría mujeres.
“El modus operandi es siempre el mismo”, explica Micucci. “Atacantes utilizan fotos de las víctimas para crear un video o imagen en el que aparecen haciendo algo que nunca hicieron.”
¿Cómo cuidarse del deepfake?
Micucci ofrece los siguientes consejos para protegerse de esta nueva forma de acoso:
- Cuidá lo que publicas en las redes sociales. “Si no querés que alguien pueda usar tu imagen para crear un deepfake, no publiques fotos comprometedoras en las redes sociales”, señala.
- Protegé tus cuentas. “Configurá tus cuentas de redes como privadas para que solo tus amigas puedan ver lo que publicas”, recomienda.
- Algo fundamental: Educá a tus hijas sobre el uso seguro de la tecnología. “Es importante que las niñas y adolescentes entiendan los riesgos del deepfake y que sepan cómo protegerse”, dice Micucci.
- Si ves un deepfake, denúnciálo. “Si ves una foto o video que creés que es un deepfake, denúncialo a las autoridades o a la red social donde lo viste”. Hay que desnaturalizar eso de quedarnos calladas cuando vemos una injusticia.
Además de estos consejos, es importante estar atenta a las pistas que pueden delatar un deepfake. Por ejemplo, los deepfakes suelen tener problemas con la iluminación, la textura de la piel o los movimientos de los labios.
“Si ves algo que te parece sospechoso, no dudes en desconfiar”, concluye Micucci.
¿Qué es el deepfake?
El deepfake es una técnica de inteligencia artificial que permite generar imágenes o videos falsos en los que una persona parece decir o hacer algo que nunca dijo o hizo. Esta técnica se basa en el aprendizaje automático para crear una superposición entre la cara de una persona y la de otra.
¿Cómo se utilizan los deepfakes?
Los deepfakes se pueden utilizar para una variedad de propósitos, tanto legítimos como ilícitos. Por ejemplo, se pueden utilizar para crear contenido de entretenimiento, como películas o videos musicales. También se pueden utilizar para fines educativos, como para crear simulaciones o para ilustrar conceptos.
Sin embargo, los deepfakes también se pueden utilizar para fines maliciosos, como para generar contenido sexual falso o para difundir noticias falsas. En estos casos, los deepfakes pueden tener consecuencias devastadoras para las víctimas, ya que pueden dañar su reputación o incluso causarles problemas legales.
El deepfake es una nueva forma de acoso que puede tener consecuencias devastadoras para las víctimas. Es importante tomar medidas para protegerse de esta amenaza, tanto a nivel individual como colectivo.
