• Facebook dijo en un anuncio el lunes que los videos falsos y los medios manipulados serían excluidos del sitio de redes sociales.
  • La compañía dijo en un comunicado que estaba adoptando un enfoque múltiple para abordar el problema, incluida la investigación de comportamientos engañosos en contenido generado artificialmente y la asociación con el mundo académico, el gobierno y la industria para identificar mejor el contenido manipulado.
  • Los videos marcados estarán sujetos a revisión por parte de verificadores de hechos de terceros para determinar si el contenido es falso.
  • En septiembre, el director de tecnología de Facebook, Mike Schroepfer, dijo que la compañía estaba creando su propio contenido falso para poder detectar mejor el contenido manipulado para su eliminación, informó Alexei Oreskovic de Business Insider.

Facebook dijo en un anuncio el lunes que los videos falsos y los medios manipulados serían prohibidos en el sitio de redes sociales.

La compañía dijo en un comunicado que estaba adoptando un enfoque múltiple para abordar el problema, incluida la investigación de comportamientos engañosos en contenido generado artificialmente y la asociación con el mundo académico, el gobierno y la industria para identificar mejor el contenido manipulado.

“Las manipulaciones se pueden hacer a través de tecnología simple como Photoshop o mediante herramientas sofisticadas que usan inteligencia artificial o técnicas de ‘aprendizaje profundo’ para crear videos que distorsionan la realidad, generalmente llamados ‘deepfakes'”, dijo la compañía en un comunicado. “Si bien estos videos aún son raros en Internet, presentan un desafío importante para nuestra industria y sociedad a medida que aumenta su uso”.

La compañía definió el tipo de contenido falso que se eliminaría del sitio de la siguiente manera:

  • Se ha editado o sintetizado, más allá de los ajustes de claridad o calidad, de maneras que no son evidentes para una persona promedio y que probablemente inducirán a error a pensar que un sujeto del video dijo palabras que en realidad no dijo.
  • Es el producto de la inteligencia artificial o el aprendizaje automático que fusiona, reemplaza o superpone contenido en un video, haciéndolo parecer auténtico.

La política no afecta el contenido que se manipula con fines de comedia o sátira, dijo la compañía en el comunicado.

Los videos marcados estarán sujetos a revisión por parte de verificadores de hechos de terceros para determinar si el contenido es falso. En ese momento, Facebook “reducirá significativamente su distribución” en el News Feed o lo rechazará, si está intentando publicarlo como un anuncio.

Además, las personas que intenten compartir el contenido antes de que se elimine del sitio recibirán una advertencia para alertarles de que el contenido es falso.

La compañía agregó que estableció una asociación con Reuters para “ayudar a las salas de redacción de todo el mundo a identificar falsificaciones profundas y medios manipulados mediante un curso de capacitación en línea gratuito”.

“Las organizaciones de noticias confían cada vez más en terceros para grandes volúmenes de imágenes y videos, y la identificación de imágenes manipuladas es un desafío importante”, dijo el comunicado. “Este programa tiene como objetivo apoyar las salas de redacción que intentan hacer este trabajo”.

En septiembre, el director de tecnología de Facebook, Mike Schroepfer, dijo que la compañía estaba creando su propio contenido falso para poder detectar mejor el contenido manipulado para su eliminación, informó Alexei Oreskovic de Business Insider.

“El objetivo del desafío es producir tecnología que todos puedan usar para detectar mejor cuándo se ha usado la IA para alterar un video para engañar al espectador”, escribió Schroepfer en una publicación de blog en septiembre.

El año pasado, la compañía se enfrentó a una reacción violenta por parte de los miembros del Congreso, incluida la representante Alexandria Ocasio-Cortez y la candidata presidencial a la senadora Elizabeth Warren, por su política sobre la verificación de los anuncios políticos.

Citando la libertad de expresión, Facebook dijo que en la mayoría de los casos no verificaría los anuncios políticos. La política quedó rápidamente bajo escrutinio, especialmente cuando el presidente Donald Trump publicó anuncios políticos con afirmaciones falsas sobre el ex vicepresidente Joe Biden.

“Las publicaciones y anuncios de los políticos generalmente no están sujetos a verificación de hechos”, según la política de Facebook. “Al evaluar cuándo se aplica esto, pedimos a nuestros socios de verificación de hechos que observen a los políticos en todos los niveles”.