Las grandes compañías tecnológicas han anunciado medidas para identificar contenidos creados con inteligencia artificial (IA) en un esfuerzo por combatir la desinformación y los riesgos asociados a los 'deepfakes'.
Una respuesta conjunta ante la desinformación.
Google, Meta y OpenAI han revelado recientemente diversas iniciativas destinadas a facilitar la identificación de imágenes o archivos manipulados con IA. Este movimiento surge en medio de preocupaciones sobre la difusión de mensajes falsos que podrían influir en resultados electorales u ocasionar otros efectos no deseados. Ya se había anunciado previamente que estas compañías buscarían prevenir el uso de IA en los procesos electorales de 2024.
La Coalición para la Procedencia y Autenticidad de Contenido (C2PA).
Las empresas se han unido a la Coalición para la Procedencia y Autenticidad de Contenido (C2PA), que propone un estándar de certificación y reúne a una amplia gama de actores digitales, desde medios de comunicación hasta fabricantes de cámaras. Sin embargo, reconocen que aún no existe una solución única y efectiva para identificar contenido generado con IA.
Limitaciones técnicas y desafíos futuros.
A pesar de la adopción del estándar C2PA, se han identificado debilidades técnicas en su implementación. OpenAI, por ejemplo, advierte sobre la posible eliminación accidental o intencionada de metadatos, lo que dificulta la identificación de la procedencia del contenido generado con IA.
Plazos y medidas futuras.
Aunque las compañías no han proporcionado plazos específicos para la implementación completa de estas medidas, reconocen la urgencia de protegerse contra la influencia potencialmente perjudicial del contenido generado por IA, especialmente en un año con múltiples elecciones importantes.
Compromisos de Meta y Google.
Meta se compromete a etiquetar visualmente las imágenes generadas por sus herramientas de IA y a detectar contenido manipulado en sus plataformas, incluyendo Instagram, Facebook y Threads. Google aplicará sus métodos de identificación en YouTube, aunque reconocen que aún existen desafíos técnicos por superar.
