YouTube anunció una nueva medida para promover la transparencia en su plataforma, específicamente en relación con la Contenido generado por inteligencia artificial (IA). Con el creciente uso de la IA generativa en la creación de contenidos, la plataforma de vídeo busca permitir a los usuarios reconocer si el material que están consumiendo es real o no.

Para ello, la plataforma ha añadido un Nueva herramienta en Creator Studio que requiere que los creadores revelen a los espectadores cuando se crea contenido realista (contenido que un espectador podría confundir fácilmente con una persona, lugar o evento real) utilizando medios alterados o sintéticos, incluida la IA generativa. Estas aclaraciones aparecerán como etiquetas en la descripción ampliada o en el frente del reproductor de video.

La nueva herramienta de Creator Studio te permitirá etiquetar contenido generado por IA. Fuente YouTube.

Casos en los que se debe aclarar que el contenido fue realizado con IA

En su blog oficial, la plataforma aclara que los creadores no estarán obligados a revelar el uso de IA generativa para tareas de productividad, como generar guiones o subtítulos automáticos, o cuando los medios sintéticos no sean realistas o los cambios sean intrascendentes, como ajustes de color o filtros de iluminación. En ese sentido, algunos ejemplos de contenidos que requerirían aclaración incluyen:

• Utilice la imagen de una persona realista: alterar digitalmente contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un video.
• Modificar imágenes de eventos o lugares reales: como hacer que parezca que un edificio real se incendió o alterar un paisaje urbano real para que parezca diferente de la realidad.
• Genera escenas realistas: muestran una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.

Ejemplo de etiqueta en el reproductor de vídeo. Fuente: YouTube.

Cómo y cuándo se verán estos cambios

Según explica la compañía, a partir de este cambio en los vídeos aparecerá una etiqueta en la descripción ampliada y, para vídeos que aborden temas más sensibles (como salud, noticias, elecciones o finanzas), también se mostrará una etiqueta más destacada. mostrado en el propio vídeo.

Ejemplo de etiqueta en la descripción ampliada. Fuente: YouTube.

Esta medida se implementará en todas las superficies y formatos de YouTube en las próximas semanas., empezando por la app, luego en el PC y finalmente en el televisor. Y queda claro que “Si bien queremos darle tiempo a nuestra comunidad para adaptarse al nuevo proceso y características, en el futuro exploraremos medidas de cumplimiento para los creadores que constantemente eligen no revelar esta información”.

Además, YouTube también está trabajando en un proceso de privacidad actualizado para permitir que las personas soliciten la eliminación de contenido generado por IA u otro contenido sintético o alterado que simule a un individuo identificable, como su rostro o su voz.

Preocupación por el uso de la IA

Si bien la IA promete revolucionar numerosos aspectos de nuestra vida diaria, desde la atención sanitaria hasta la gestión del tráfico, también ha generado una serie de preocupaciones debido a su potencial para ser utilizado de manera maliciosa o dañina.

Uno de los puntos más críticos en este debate es la creación y propagación de falsificaciones profundas, una técnica de IA que permite la manipulación de imágenes y vídeos para crear representaciones falsas y convincentes de personas reales. Estos videos, a menudo distribuidos en línea, pueden hacerse pasar por la voz y la apariencia de figuras públicas para difundir información errónea, propaganda política o incluso perpetrar estafas y extorsión.

El miedo a los deepfakes ha generado preocupaciones sobre la confianza en los medios digitales y la capacidad de discernir entre la realidad y la ficción en un entorno cada vez más saturado de información manipulada. Además, La IA también se ha utilizado en la producción de contenidos inapropiadoscomo imágenes y vídeos pornográficos generados artificialmente, que plantean graves riesgos de explotación y daño psicológico, especialmente para los menores.

Un ejemplo de esto es cuando el año pasado se publicaron imágenes del Papa Francisco vistiendo trajes a la moda. También se vio al presidente de Francia, Emmanuel Macron, participando en algunas protestas. Incluso surgieron imágenes del arresto de Donald Trump. Ninguno de estos escenarios ocurrió.

Estos fenómenos han dado lugar a un llamado generalizado a la acción, tanto de los gobiernos como de las empresas de tecnología y de la sociedad civil, para abordar los desafíos éticos y de seguridad que plantea la IA. La necesidad de regular y monitorear el desarrollo y uso de la IA se ha vuelto cada vez más urgente.

Foto: YouTube.

Mantente informado de las noticias más relevantes en nuestro canal Telegrama