YouTube se lanza a la lucha contra los deepfakes y la clonación de música por IA
La plataforma desarrollará una herramienta para identificar contenido generado por inteligencia artificial, buscando proteger a creadores y usuarios.
La iniciativa de la plataforma de Google se enfocará en detectar música imitada y falsificaciones profundas. YouTube está desarrollando una tecnología novedosa que permitirá a los usuarios identificar contenido creado por inteligencia artificial, como música o rostros simulados. Esta nueva característica se integrará en su sistema de Content ID, que actualmente se utiliza para gestionar derechos de autor. El propósito principal es proporcionar mayor seguridad a los creadores y usuarios al asegurarse de que los vídeos sean legítimos.
La plataforma está colaborando con socios estratégicos para desarrollar esta herramienta, que se espera lanzar en una fase piloto a principios del próximo año. El proyecto prioriza la protección de los creadores de contenido frente a los deepfakes y la clonación de canciones mediante IA, aspectos que han despertado preocupación en la industria del entretenimiento.
YouTube refuerza su combate contra la IA
Uno de los principales enfoques será la detección de vídeos que usen IA sin permiso, especialmente en campos como la música y el cine. Esta nueva tecnología permitirá a actores, músicos y otros profesionales verificar si sus rostros o voces han sido replicados sin su autorización. Además, YouTube evaluará si las creaciones generadas por IA violan las reglas de Content ID, y podrán ser etiquetadas o eliminadas, dependiendo de la infracción.
Con esta medida, YouTube busca mantener el control sobre la evolución de la inteligencia artificial en su plataforma, ofreciendo herramientas a los creadores para prevenir fraudes, al mismo tiempo que se aprovechan los beneficios creativos de la IA. Sin embargo, todo contenido generado por IA deberá cumplir con las normas comunitarias para permanecer en la plataforma.
YouTube reconoce el potencial de la IA, pero enfatiza la importancia de regular su uso para proteger tanto a los creadores como a los consumidores, asegurando que lo que se ve y escucha es auténtico y legal. Esto garantiza un futuro seguro para el contenido en la plataforma.