YouTube ha anunciado un nuevo enfoque para el contenido generado por AIasí como varios actualizaciones de sus sistemas de seguridad que comenzará a aplicarse en los próximos meses. Según detalla la plataforma en un liberarel objetivo es mantener un ecosistema con información saludable, además de proteger a los espectadores de contenidos manipulados que «rson engañosos y pueden causar daños graves».

De esta forma, será obligatorio informar a los usuarios cuando el contenido que están visualizando sea sintético o haya sido manipulado por herramientas de inteligencia artificial.

Requisitos de divulgación de contenido: notificar el uso de IA

La política de YouTube lleva tiempo prohibiendo contenidos manipulados tecnológicamente que sean engañosos o dañinos, pero ahora con el nuevo paradigma que presenta la IA, YouTube ha querido reforzar y adaptar su enfoque. Para ello se presentarán nuevas opciones que permiten al creador informar a sus espectadores que su vídeo es total o parcialmente sintético.

Específicamente, los creadores de contenido de YouTube deben informar si el contenido que están subiendo es manipulado o sintético, incluida la notificación del uso de herramientas de inteligencia artificial. Como ejemplo de este tipo de contenidos sensibles, la plataforma señala “un video generado por IA que explica de manera realista un evento que en realidad no sucedió o que muestra a una persona real diciendo o haciendo algo que en realidad no hizo”.

Esta medida toma mayor relevancia en el contenido que aborda temas sensibles, como elecciones, conflictos en curso, crisis de salud pública o funcionarios públicos. Los videos de los creadores que no revelen esta información serán eliminados, además de enfrentar suspensiones del Programa de socios de YouTube y sanciones.

Etiquetas de contenido sensible

Para garantizar que los espectadores estén informados sobre contenido manipulado o sintético, YouTube agrega dos nuevas etiquetas descriptivas, dependiendo del contenido del vídeo. Cuando cualquier contenido haya sido alterado o generado digitalmente, habrá una etiqueta en el panel de descripción. En el caso de ciertos tipos de contenido sobre temas delicados, un etiqueta más destacada directamente en el reproductor de vídeo.

Por su parte, el contenido creado mediante productos y funciones de IA generativa estará claramente etiquetado como «generado por IA».

Desde YouTube señalan que «En algunos casos poner una etiqueta no será suficiente para mitigar el riesgo de dañopor lo que algunos medios sintéticos, etiquetados o no, serán retirado de la plataforma si violan las Normas Comunitarias.

Los creadores, espectadores y artistas pueden solicitar la eliminación de un vídeo.

En los próximos meses, YouTube implementará una nuevo proceso de quejas de privacidad, con el que espectadores, creadores y artistas pueden solicitar la eliminación de contenido que haya sido generado por IA o contenido sintético o manipulado que incluya el rostro y la voz de una persona real sin su consentimiento.

Para evaluar las solicitudes, YouTube tendrá en cuenta varios factores. y cita, como ejemplo, que aspectos como: “si el contenido es una parodia o sátira, si la persona que presenta la solicitud puede ser identificada inequívocamente o si el contenido presenta a un político o alto funcionario, o una persona famosa, en cuyo caso se podrá permitir una mayor permisividad”. Después del análisis, YouTube decidirá si elimina o no el contenido denunciado.

Además de esto, los musicos Podrán solicitar que se elimine el contenido musical generado por IA que recree su voz o forma de cantar. En este caso también se tendrán en cuenta varios factores, como «que el contenido ha recibido cobertura, análisis o crítica mediática por el uso de voces sintéticas».

Foto: canva

Mantente informado de las noticias más relevantes en nuestro canal Telegrama