Resumen

• Youtube está desarrollando herramientas que sirvan para acabar con el deepfakes. La plataforma de videos desea erradicar la falsificación de rostro y voz, un problema que le da fuertes dolores de cabeza a los creadores de contenido.
• Las nuevas herramientas de Youtube están construidas sobre el sistema Content ID, el cual ya tiene recorrido en el servicio. Gracias a estos nuevos mecanismos, los creadores tienen la posibilidad de tomar medidas contra el contenido generado por IA que utiliza elementos de su identidad.
• Youtube trabaja para brindarles a los artistas herramientas de detección de voz, mediante las cuales puedan identificar los plagios en canciones. Recordemos que existen programas basados en IA que son capaces de simular la voz de cualquier cantante.

Youtube protege a creadores de contenido de deepfakes

En los últimos años, los deepfakes de figuras públicas se volvieron un problema grave dentro del ecosistema digital. El uso desautorizado, y muchas veces denigrante, del rostro o la voz de algún famoso es una práctica que se vio impulsada por la llegada de la Inteligencia Artificial (IA). El surgimiento de nuevas herramientas de este tipo ocasionó que los deepfakes comenzaran a expandirse hacia otros terrenos. Ahora, los creadores de contenido en Youtube enfrentan el mismo problema y también han sido marcados como un target.

Ante esta situación, Youtube está desarrollando herramientas para combatir el deepfake impulsado por IA. La plataforma propiedad de Google, una de las más exitosas dentro del entretenimiento en línea, desea que sus creadores de contenido no sean víctimas de la imitación ilegal de sus rostros y voces. Pero ¿cuáles son estas nuevas herramientas para combatir el problema?

En primer lugar, Youtube puso a disposición de los usuarios una herramienta para la detección de caras y una más para el reconocimiento de voces cantadas generadas por IA. Su integración en el sistema de Content ID hará que la identificación del deepfake sea más efectiva y precisa. De esta manera, es una incorporación valiosa y útil para actores, músicos, atletas y otra clase de profesionales que generen contenido digital.

En anteriores ocasiones, los directivos de Youtube dejaron clara su postura sobre la IA y su papel en la creación de contenido. La creatividad humana no puede ser reemplazada por el material generado completamente a través de la inteligencia artificial. Por ello, la consigna es lanzar herramientas que sigan dándole peso e importancia a las voces de los creadores, protegiéndolas del material ventajoso que se vale de la IA para incurrir en usos desautorizados.

¿Por qué la IA y el aprendizaje profundo detonó los deepfakes?

Los deepfakes son uno de los problemas más duros que tiene Youtube y las plataformas de contenido en video en general. Ganaron notoriedad en la era de la IA debido a una combinación de factores que incluye desde avances tecnológicas hasta una mayor accesibilidad de herramientas cada vez más potentes a precios que no resultan tan excesivos o elevados.

De manera concreta, nos referimos a los avances en las Redes Generativas Antagónicas. Estas últimas son una clase de algoritmos que revolucionaron la generación de imágenes y videos sintéticos. Los avances en el campo permiten crear deepfakes que son cada vez más realistas, lo que representa un riesgo importante para los creadores de contenido y cualquier persona en general.

Un factor que también explica la proliferación de los deepfakes en Youtube es la enorme cantidad de datos en línea y el aumento de la potencia computacional. Es decir, existen mayores fuentes de recursos y capacidades técnicas para el entrenamiento de modelos complejos, los cuales ayudan a generar deepfakes de alta calidad. Como ocurre con todos los avances tecnológicos, siempre existe el riesgo del mal uso. En este caso, la consecuencia inmediata es la enorme cantidad de contenido falso que circula en redes sociales, Youtube y compañía.

El deepfake es una práctica que también resulta seductora para el público virtual. Esto se debe a que tiene un potencial importante dentro del mundo del entretenimiento. Por ejemplo, la creación de contenido humorístico o la reimaginación de escenas de películas con actores diferentes. A la par, la novedad y el impacto visual de los deepfakes generan curiosidad y sensacionalismo, lo que lleva a una mayor difusión en redes sociales y medios de comunicación.

Reflexión Editorial: Deepfakes en Youtube, una amenaza real

Los deepfakes que se divulgan a través de Youtube representan una amenaza y riesgo reales para los creadores de contenido. En primer lugar, pueden dañar la reputación de los influencers, pero también existe la posibilidad de que el problema sea más grave. Por ejemplo, estos videos falsos se usan en ocasiones para propagar desinformación, especialmente, dentro de contextos políticos y sociales.

El simple consumo masivo de deepfakes en la industria plantea preguntas certeras sobre la privacidad y la protección de la imagen personal. Las plataformas como Youtube, así como otras redes sociales, deben ofrecer herramientas que protejan a los creadores de contenido de este tipo de abusos. De forma paralela, la implementación de medidas de este tipo ayuda a generar, cuando menos, la impresión de un entorno más seguro y confiable para los creadores.