SUSCRÍBETE
CONTACTO

Ficha del Reto Innotransfer

2024_R_174

Prioridad AVI del Reto

11.- Tecnologías Habilitadoras
11.1.- Optimización de las operaciones en las empresas mediante la incorporación de las tecnologías de digitalización
11.1.6. – Desarrollo de plataformas servicios y modelos de analítica avanzada y visualización de datos que ayuden a la toma de decisión (Business Intelligence).

Título del reto

Detección de manipulación audiovisual mediante IA y técnicas de verificación basadas en fondos documentales verificados

Necesidad a resolver

En la era de la información digital, las cadenas de televisión enfrentan el reto de verificar la autenticidad de los contenidos audiovisuales que circulan en redes sociales y otras plataformas. La proliferación de tecnologías de IA, como los deepfakes, permite la creación de videos manipulados que pueden alterar la apariencia, voz y gestos de personajes públicos, creando noticias falsas con intenciones maliciosas. Estos contenidos manipulados pueden dañar la reputación de individuos, desinformar al público y socavar la credibilidad tanto de las instituciones democráticas como de los medios de comunicación.

Si bien empiezan a existir soluciones en el mercado de verificación de contenidos como (Deepfake detection (Sensity AI), Truepic, Deepware, etc., un entorno como el nuestro requiere de una integración propia.

À Punt debe de proveerse de métodos y herramientas de verificación, junto procesos de contraste de las fuentes de información externas con un corpus (técnico forense digital) propio que permita analizar cualquier fuente multimedia para detectar falsedades en cualquier contenido audiovisual y que sean de relevancia pública en la cultura y sociedad valenciana.

Requisitos de la solución

Entrenamiento con Fondos Documentales Verificados:

  • Utilización de archivos de video y audio verificados en la autenticidad de personajes públicos para entrenar modelos de IA que puedan identificar características únicas de estos individuos.
  • Desarrollo de perfiles biométricos detallados que incluyan patrones faciales, vocales y gestuales.

Análisis y Verificación en Tiempo Real:

  • Implementación de algoritmos de detección en tiempo real que analicen videos provenientes de redes sociales y otras fuentes para identificar posibles manipulaciones.
  • Comparación de los patrones detectados en el contenido analizado con los perfiles autenticados para determinar la veracidad del material.

Multimodalidad en la Verificación:

  • Combinación de múltiples modalidades de análisis (visual, sonora, gestual) para mejorar la precisión en la detección de manipulaciones.
  • Verificación cruzada utilizando técnicas de procesamiento de imágenes, reconocimiento de voz y análisis de gestos.

Interfaz de Usuario Intuitiva:

  • Desarrollo de una plataforma accesible para los periodistas y editores que permita la verificación rápida y eficiente de contenidos audiovisuales.
  • Reportes detallados que indiquen el grado de autenticidad y las posibles manipulaciones detectadas.

Actualización Continua:

  • Capacidad de actualizar los modelos de IA con nuevos datos de entrenamiento para adaptarse a las nuevas técnicas de manipulación y a la evolución de los patrones biométricos de los personajes públicos.

Perfil del colaborador buscado

Investigadores, start-ups, que tengan ya modelos de reconocimiento facial y sonoro en video, y experiencia en la identificación de deepfakes (visual/gestual (biométrico), detección de redacciones formuladas por chatbots e identificación sonora (voz) en tiempo real. Deberán tener capacidad para desarrollar soluciones que se puedan integrar con terceros, y poder probarlas en fondos documentales autentificados y con metadatos propios.

Plazo deseado de la solución

Estratégico (2-3 años)

Proponer una solución​