Facebook abre la puerta a los Deekfakes

Hace un tiempo, la estrategia de algunos partidos es subir a Facebook videos editados y distribuirlos lo máximo posible para lastimar a sus rivales a sabiendas que son mentira; Facebook lo sabe y tomó la decisión deliberada de permitir la distribución de esos videos sino agregarle un texto abajo diciendo que “de acuerdo a nuestras fuentes este video no es real”amparándose en su política de “sólo se borra si el que lo sube es una persona falsa”… vean este video de una portavoz defendiendo una estupidez:

Hagamos de cuenta que su excusa es real y “no estamos en el mercado de los medios”Facebook es una empresa de tecnología y sabe lo que es un “deepfake” y el daño que eso puede provocar reputacionalmente a una persona ¿como pueden permitir que en su plataforma se liberen videos editados con la excusa de que “lo subió un usuario real y no incita al daño”? ¿me van a decir que un deepfake de Monika Bickert, la que defiende esta estupidez, va a sobrevivir en su plataforma más de un minuto?

Deepfakes: tecnología basada en IA que se utiliza para producir o alterar el contenido de un video de modo que presente algo que, de hecho, no ocurrió. … El término lleva el nombre de un usuario de Reddit conocido como deepfakes que, en diciembre de 2017, utilizó tecnología de “deep learning” para poner caras de celebridades en el cuerpo de actrices en videoclips pornográficos.

La idea de que uno pueda editar el video de una persona, como el de Nanci Pelosi (líder de la oposición en el Congreso de USA), haciéndola parecer borracha o drogada, subirlo a Facebook y compartirlo sin que la plataforma lo borre es increíble y muestra que Facebook ya excedió su tamaño óptimo.

“We think it’s important for people to make their own informed choice about what to believe, our job is to make sure that we are getting them accurate information. And that’s why we work with over 50 fact-checking organizations around the world.”

Monika Bickert, Facebook Head of Global Policy Management Monika Bickert… al explicar que dejan que la gente publique un video falso 🤔

Honestamente creo que Facebook no entiende como reaccionar, no entiende el poder de su plataforma y se encuentra en un punto donde ya no entiende ni como debería reaccionar… en esa sola frase hay 3 contradicciones increíbles: “decisiones informadas, basadas en contenido acertado, no somos un medios” como base para decir “el video de Nancy Pelosi borracha es falso, pero permitimos que se comparta porque lo subió un usuario verdadero”.

Si me pongo en abogado del diablo puedo decir “este caso es simple pero ¿si removemos este video quien nos asegura que el siguiente vamos a tomar la decisión correcta? ¿quienes somos para censurar la voz de un americano?” pero ni así tiene sentido lo que Facebook está haciendo y la puerta que abrieron.

One thought on “Facebook abre la puerta a los Deekfakes”

  1. Es un tema que hay que debatir mucho. Cuáles son las opciones? Se puede borrar, se puede poner un mensaje de advertencia, se puede hacer nada…
    No hacer nada expone a la plataforma, pero evita otros debates. Hacer algo, sin embargo abre muchas discusiones. Qué pasa si no es un deepfake, pero una persona disfrazada? Facebook debería censurar los clips cómicos? Qué pasa si es un corto de animación? Debería Facebook poner un mensaje advirtiendo que, de hecho, un ratón cocinando no es real? O debería simplemente borrar esos contenidos? Al final, algo de lo que no escuché mucha discusión es la frase en la que dice ‘Facebook comparte menos ese contenido’. Lo que no se debate es el governance de los algoritmos que deciden a qué nos exponen, sea verdadero o falso,pero etc. Coincido con que Facebook se volvió enorme y no sabe cómo gestionarse. Pero y los demás? Google, Amazon,TTwitter, están haciendo un mejor trabajo?

Comments are closed.