Usar la inteligencia artificial (IA) generativa para crear contenido es una de las prácticas que se están volviendo cada vez más comunes. En redes sociales abundan canciones, fotos y videos hechos con IA, tan precisas que resulta difícil distinguir si son creadas o reales.
Con el objetivo de reducir la desinformación en su plataforma, Youtube anunció que fortalecerá sus normas comunitarias para proteger a los espectadores. Por eso, obligará a todos los creadores de contenido a advertir si en el video que publican incluyen contenido ‘sintético’, es decir, creado con inteligencia artificial.
Publicidad
Cómo se mostrará la advertencia
La advertencia se desplegará sobre el botón de reproductor y en la caja de descripción, para que los usuarios identifiquen claramente que el contenido que van a ver ha sido manipulado con IA y no sean engañados.
Específicamente, se requerirá a los creadores de contenido detallar si su video “representa de manera realista un evento que nunca sucedió, o contenido que muestre a alguien diciendo o haciendo algo que en realidad no hizo”, menciona el comunicado de Youtube en su blog.
Publicidad
Esta medida servirá principalmente a evitar la desinformación en temas sensibles, como conflictos en curso, crisis de salud pública o elecciones.
Youtube también indicó que si un video creado sintéticamente viola sus normas comunitarias, a pesar de estar etiquetado con la advertencia igual será eliminado de la plataforma.
Cómo funcionará Grok, el ChatGPT que Elon Musk quiere incluir en su red X (exTwitter)
“Un vídeo creado sintéticamente que muestra violencia realista aún puede eliminarse si su objetivo es sorprender o disgustar a los espectadores”.
Cuándo se implementará esta regla
De acuerdo al comunicado de Youtube, aún la plataforma de videos está en las etapas iniciales de su trabajo. El nuevo reglamento para etiquetar al contenido creado con inteligencia artificial empezará a regir en algún momento del próximo año.
Durante los próximos meses, será posible solicitar la eliminación de contenido generado por IA u otro contenido sintético o alterado que represente a una persona identificable, incluyendo su rostro y su voz. Esto incluye al contenido musical que simule la voz de un artista. (I)
