YouTube admite el uso de la inteligencia artificial (IA) para crear contenidos que se publican en su plataforma, pero siempre que no violen sus normas de la comunidad, en cuyo caso tanto usuarios, como personajes públicos y artistas musicales podrán solicitar su retirada, sobre todo en los casos que usen su imagen o trabajo para engañar.
Todos los contenidos que los usuarios suben a YouTube deben cumplir las normas de la comunidad, «con independencia de cómo se generen», una declaración por parte de la compañía que ya incluye los casos en los que se utilizan las herramientas de IA generativa.
Esta tecnología, aunque «abre las puertas a nuevas y potentes narrativas», puede usarse para crear contenido que resulte engañoso o dañino, algo que actualmente prohíbe la plataforma. Especialmente si el público no sabe que un determinado vídeo ha sido manipulado o creado de manera sintética.
En los próximos meses, la plataforma exigirá a los creadores que informen a los usuarios de los contenidos que han creado por medios sintéticos, lo que incluye el uso de herramientas de IA, especialmente cuando incluyan material realista manipulado.
Un ejemplo de ello puede ser «un vídeo generado mediante IA que explique de forma realista un suceso que en realidad no ha ocurrido o que muestre a una persona real diciendo o haciendo algo que en realidad no hizo», destallan desde YouTube en un comunicado.
Cuando se trate de contenidos potencialmente manipulados o sintéticos, la plataforma informará a los usuarios mediante una nueva etiqueta, que se incluirá en el panel de descripción indicando que parte del contenido ha sido alterado o generado digitalmente. Asimismo, en el caso de contenidos sobre determinados temas sensibles, YouTube asegura que aplicará una etiqueta más destacada en el reproductor de vídeo.
Pero en cuando al etiqueta no sea suficiente para mitigar el riesgo de daño, se eliminará el contenido de la plataforma que incumpla las normas, incluso si tiene etiqueta. «Por ejemplo, si un vídeo creado de forma sintética muestra violencia realista con el objetivo de conmocionar o provocar indignación entre los espectadores, podrá ser eliminado», añaden desde YouTube.
Como complemento, se etiquetarán claramente como generados mediante IA todos los contenidos que se creen utilizando los productos y funciones de IA generativa de YouTube.
Hay casos en los que se genera digitalmente el rostro o la voz de alguien sin su permiso o para poner en su boca opiniones que no son suyas. Este tipo de contenidos se incluirán en el proceso de relamación de privacidad, para que los afectados puedan solicitar su eliminación.SPONSORED
Esta solicitud estará disponible también para los músicos, quienes podrán solicitar la retirada de contenidos musicales generados por IA que recreen la voz o la forma de cantar particular de un artista.
Esta herramienta se ha facilitado inicialmente a los sellos discográficos y las distribuidoras, que representan a los artistas que participan en los primeros experimentos musicales con IA de YouTube. En los próximos meses, se ampliará el acceso a otros actores de la industria musical
YouTube combina personas y tecnología de aprendizaje automático para moderar los contenidos y hacer cumplir las normas de la comunidad. En este contexto, las herramientas de IA ayudan a detectar a gran escala contenidos que, potencialmente, incumplen las normas y que posteriormente son analizados por los revisores humanos.
La incorporación de la IA generativa a los sistemas de moderación está permitiendo identificar y capturar los contenidos infractores mucho antes. Desde YouTube indican que «esta mayor rapidez y precisión de nuestros sistemas nos permite reducir la cantidad de contenidos dañinos a los que se ven expuestos nuestros revisores humanos, lo que también es un aspecto importante».
Junto a la moderación, la compañía está trabajando en barreras que impidan que sus herramientas de IA se usen para generar la clase de contenidos que no admiten en YouTube.
