Washington, 30 jul (SANA) Investigadores de la Universidad de California desarrollaron una herramienta capaz de detectar videos generados mediante inteligencia artificial (IA) e identificar el modelo empleado para crearlos, avance que podría reforzar la lucha contra los contenidos falsos y la desinformación digital.
El portal especializado Tech Xplore informó que el sistema, denominado SAGA, fue creado por un equipo encabezado por el investigador Rohit Kondo, en colaboración con el profesor Amit K. Roy-Chowdhury y especialistas de YouTube y Google DeepMind.
La herramienta analiza los patrones visuales sutiles que dejan los diferentes modelos de generación de video y crea una especie de huella digital exclusiva para cada uno de ellos.
Según los investigadores, SAGA no se limita al estudio de fotogramas aislados, sino que examina también la secuencia de movimientos y la evolución de las escenas a lo largo de todo el video mediante una técnica conocida como firmas de atención temporal.
Ese procedimiento permite establecer una firma particular para cada modelo a partir de las características comunes presentes en los materiales audiovisuales que produce.
Las pruebas realizadas con 19 modelos diferentes demostraron que la herramienta puede distinguir entre videos reales y generados por IA, determinar si fueron creados a partir de un texto o una imagen e identificar tanto el modelo utilizado como la empresa o entidad responsable de su desarrollo.
El equipo destacó que conocer el origen de un video resulta tan importante como determinar si fue producido mediante inteligencia artificial, pues facilita el rastreo de campañas de desinformación y contribuye a elevar los estándares de transparencia.
Asimismo, consideró que esta tecnología podría proporcionar a las empresas digitales y a las autoridades competentes instrumentos más eficaces para supervisar y combatir la difusión de contenidos falsos.
Los investigadores advirtieron que los sistemas de detección continuarán evolucionando a la par de los modelos generativos, lo cual podría reducir el uso indebido de esas tecnologías y mejorar la confiabilidad del contenido digital.
rsh/ed
