China introducirá a partir del 10 de enero la primera regulación de su tipo que rige el uso de los servicios de síntesis profunda, comúnmente conocida como 'deepfake', que podría servir como base para que otros países adopten medidas similares, según el portal China Briefing. La nueva ley prohíbe el uso de 'deepfake' en los asuntos que "pongan en peligro la seguridad y los intereses nacionales y dañen la imagen nacional" o perturben la economía. También se prohíbe crear noticias falsas mediante esta técnica.
Los 'deepfake', o falsificaciones profundas, son archivos de video, imagen o voz creados mediante un programa de inteligencia artificial para suplantar de forma muy realista la imagen de los protagonistas de los contenidos por los de otras personas.
La tecnología puede ser utilizada para manipular un video, por ejemplo, colocando a un político para crear un discurso falso. El resultado: contenidos fabricados que parecen reales y que facilitan la desinformación.
Aspectos clave de las disposiciones
Desde 2019 en el gigante asiático ya estaba vigente una serie de regulaciones que prohibían el uso de imágenes y audio generados por computadora para producir o difundir noticias falsas. Sin embargo, las nuevas normas están dirigidas principalmente a los proveedores de los servicios de síntesis profunda y a quienes hacen uso de esa tecnología.
Estas son algunas de las disposiciones clave:
- Las personas deben dar su consentimiento para que su retrato sea utilizado en un 'deepfake'
- Estará prohibido el uso de los servicios de síntesis profunda para difundir noticias falsas
- Los proveedores de 'deepfake' deben autenticar la identidad real de los creadores de contenido
- Todos los materiales creados mediante esta técnica deberán marcarse con una etiqueta que indique al público que la imagen o video ha sido alterado
- Se prohíbe el uso de 'deepfake' en los asuntos que "pongan en peligro la seguridad y los intereses nacionales y dañen la imagen nacional" o perturben la economía.
¿Por qué son importantes estas disposiciones de China?
Según el canal estadounidense CNBC, el proceso de síntesis profunda no es del todo malo, ya que también puede tener algunas aplicaciones positivas en áreas como la educación o la atención médica. Pero Pekín está tratando de abordar el papel negativo de los 'deepfake'. Algunos expertos citados por el medio consideran que con estas normas el Gobierno chino pretende aumentar el control sobre las compañías tecnológicas y el contenido en Internet.
No obstante, también admiten que las autoridades chinas están tratando de abordar "problemas difíciles" de una manera que pocos países lo están haciendo, buscando adelantarse a los efectos potenciales que podría tener el desarrollo de este tipo de tecnologías en la estabilidad general de su sistema.
No hay duda de que los servicios de síntesis profunda son una tecnología revolucionaria, pero su aplicación en la producción de noticias falsas, engaños, intimidación y fraude financiero ha suscitado un debate considerable. Poco antes de que China diera a conocer sus normas, el Parlamento Europeo ratificó las enmiendas a su Ley de Servicios Digitales, que se implementarán desde 2024, con el fin de restringir la difusión de los 'deepfake'.
Más importante aún, si las nuevas directrices del gigante asiático tienen éxito, servirían como una base que podría ser aprovechada por otros países para adoptar medidas similares. Algunas naciones ya han comenzado a promulgar leyes de privacidad que también pueden aplicarse a las 'falsificaciones profundas', concluye China Briefing.
Si te ha gustado, ¡compártelo con tus amigos!