"AB-730 Elections: Deceptive Audio Or Visual Media". Una Ley Contra Los DeepFakes En California
Se ha hecho público esta semana que el pasado 3 de Octubre el Gobernador de California aprobó y firmo al ley "AB-730 Elections: deceptive audio or visual media" que persigue y criminaliza el uso de vídeos o audios especialmente creados para suplantar a personalidades públicas, especialmente políticos, por cualquier fin. Es decir, busca hacer punibles los vídeos y audios creados con DeepFake.
![]() |
Figura 1: "AB-730 Elections: deceptive audio or visual media". Una ley contra los DeepFakes en California |
Como hemos ido viendo, las tecnologías de Inteligencia Artificial han avanzado mucho en la creación de movimientos faciales en tiempo real a partir de una persona existente. Hace ya mucho tiempo, para explicar cómo iba a evolucionar los ataques a personas públicas, hicimos un Face Swapping utilizando Autoencoders y GANs. Todo esto lo cuento en la charla de Big Data & AI for Bad Gays.
Figura 2: Big Data & AI for Bad Guys
A estos ataques se les añadió la generación de personas en tiempo real, con voz creada a partir de un Cognitive Service que permite hacer una IA que hable como tú y se mueva en una vídeo conferencia como tú. Algo que ayuda a la famosa estafa del CEO o del CDO como hicieron mis compañeros Enrique Blanco y Pablo González en la RootedCON 2019, donde me manejaron en tiempo real.
Figura 3: Autoencoders, GANs y otros chicos del montón
NOTA: Puedes ir al Webinar que van a hacer mis compñaeros en LUCA sobre GANS y Autoencoders en Ciberseguridad HOY mismo por la tarde.
![]() |
Figura 4: Usos de GANS y Autoencodes en Ciberseguridad |
Todo el trabajo que expusieron, está disponible en el artículo de "Autoenconders, Gans y otros chicos (buenos y malos) del montón". Estas técnicas de generación de vídeo con personas se fueron mejorando, y ya vimos en el trabajo de las Talking Heads que a partir de pocas imágenes se podía crear movimiento. De hecho, ya existen apps como ZAO que permiten generar vídeos con suplantación de caras a partir de una fotografía, y es impresionante.
Figura 5: Explicación y funcionamiento de ZAO (inglés)
Por supuesto, en el caso de que se quiera hacer un ataque a una persona pública, una difamación, o un robo - como el que ya hemos visto hecho suplantando la voz de un CEO - los atacantes seguro que se lo trabajan muy seriamente. Es una amenaza real que hay que mitigar, y el Estado de California en USA ya ha decidido criminalizar estos actos.
![]() |
Figura 6: Nueva ley AB 730 |
A partir de ahora, cualquier material en audio o vídeo que haya sido manipulado de alguna forma para hacer creer que un candidato en una elección pública se comporta de una determinada manera, será considerado delito y perseguido.
Eso sí, el daño en la opinión pública es algo que siempre queda, así que tendremos que aprender todos como sociedad a no juzgar por titulares en las redes, y esperar a entender bien qué es lo que ha pasado y si realmente ha pasado o no. Tienes el PDF de esta ley en esta URL: AB-732 Elections.
Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso)
Via: feedproxy.google.com
"AB-730 Elections: Deceptive Audio Or Visual Media". Una Ley Contra Los DeepFakes En California
Reviewed by Anónimo
on
2:47
Rating:
!["AB-730 Elections: Deceptive Audio Or Visual Media". Una Ley Contra Los DeepFakes En California](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEjvdh6ZaDJkofhzr4VE8cl6UjqaWGTtVpyejmPsi6spY0kWrhp45O4DX_1ADxfH51le0dvPOJk3-CtRuYv6VqshKn6pqUAGQG_lIkX9RemrRfgicEzntgLvFUxMET84IeZ-nWD4Hcx8rHY/s72-c/bill0.jpg)