La Unidad de Hackers Éticos de Thales crea un metamodelo para detectar imágenes falsas generadas por IA

La inteligencia artificial es el tema central de la Cyber Week europea de este año, que tiene lugar entre el 19 y el 21 de noviembre en Rennes (Bretaña). En el marco del desafío organizado por la Agencia de Innovación de Defensa francesa (AID), que coincidirá con la Cyber Week, los equipos de Thales han desarrollado con éxito un metamodelo para detectar imágenes generadas por IA. A medida que el uso de las tecnologías de IA gana terreno, y en una época en que la desinformación es cada vez más frecuente en los medios de comunicación y afecta a todos los sectores de la economía, este metamodelo de detección de «deepfakes» puede ayudar a combatir la manipulación de imágenes en una gran variedad de casos de uso, como la lucha contra la suplantación de identidad.

Este comunicado de prensa trata sobre multimedia. Ver la noticia completa aquí: https://www.businesswire.com/news/home/20241120768241/es/

Las imágenes generadas por IA se crean mediante plataformas de IA como Midjourney, Dall-E y Firefly. Se han realizado estudios que demuestran que dentro de unos años el uso de «deepfakes» para el robo y la suplantación de identidad podría causar enormes pérdidas financieras. Gartner estima que es muy probable que en alrededor del 20 % de los ciberataques que se produjeron en 2023 se haya utilizado contenido «deepfake» en distintas campañas de desinformación y manipulación. El informe de Gartner1 destaca el creciente uso de «deepfakes» en el contexto de fraudes financieros y ataques de phishing sofisticados.

“El metamodelo de detección de «deepfakes» de Thales aborda el problema de la suplantación de identidad y las técnicas de «morphing»”2 dijo Christophe Meyer, experto sénior en IA y director de tecnología de cortAIx, el acelerador de IA de Thales. “Valernos de conjuntos de métodos que utilizan redes neuronales, detección de ruido y análisis de frecuencias espaciales nos ayuda a mejorar la protección del creciente número de soluciones que requieren de verificación de identidad biométrica. Se trata de un avance tecnológico notable que evidencia la gran experiencia de los investigadores de IA de Thales”.

El metamodelo de Thales utiliza técnicas de aprendizaje automático, árboles de decisión y evaluaciones de las fortalezas y debilidades de cada modelo para analizar la autenticidad de las imágenes. El metamodelo combina varios modelos, entre los que se incluyen:

• El método CLIP (Contrastive Language-Image Pre-training), que consiste en conectar la imagen y el texto mediante el aprendizaje de representaciones comunes. Para detectar «deepfakes», el método CLIP analiza imágenes y las compara con sus descripciones textuales para identificar incoherencias y artefactos visuales.
• El método DNF (Diffusion Noise Feature), que utiliza sistemas de generación de imágenes (llamados modelos de difusión) para detectar «deepfakes». Los modelos de difusión funcionan en función de la estimación de la cantidad de ruido que debe añadirse a una imagen para provocar una «alucinación», que crea contenido de la nada. Esta estimación, a su vez, se puede utilizar para detectar si una imagen ha sido generada mediante IA.
• El método DCT (Discrete Cosine Transform) de detección de «deepfakes», que analiza las frecuencias espaciales de una imagen para detectar artefactos ocultos. Al transformar una imagen del dominio espacial (píxeles) al dominio de la frecuencia, el método DCT puede detectar anomalías sutiles en la estructura de la imagen, que se producen cuando se generan las «deepfakes» y que, a menudo, son invisibles a simple vista.

El equipo de Thales que está detrás del desarrollo de este metamodelo forma parte de cortAIx, el acelerador de IA del Grupo, que cuenta con más de 600 investigadores e ingenieros de IA, 150 de los cuales se encuentran en el área de investigación y tecnología de Saclay, al sur de París, y trabajan en sistemas de misión crítica. El equipo de hackers éticos ha desarrollado un conjunto de herramientas llamado BattleBox con el propósito de evaluar la solidez de los sistemas basados en IA frente a los ataques diseñados para sacar provecho de los puntos débiles de los distintos modelos de IA (entre los que se incluyen los modelos de lenguaje de gran tamaño), como los ataques adversarios y los intentos de acceder a información sensible. Para contrarrestar estos ataques, el equipo se encarga de desarrollar medidas paliativas avanzadas, como el desaprendizaje, el aprendizaje unificado, las marcas de agua para los modelos y el fortalecimiento de los modelos.

En 2023, Thales demostró la experiencia de su equipo durante el desafío CAID (Conferencia sobre Inteligencia Artificial para la Defensa) organizado por la Dirección General de Armamento francesa (DGA), que consistía en el hallazgo de datos de entrenamiento de IA incluso después de que hayan sido borrados del sistema para proteger la confidencialidad.

Acerca de Thales

Thales (Euronext Paris: HO) es un líder mundial en tecnologías avanzadas especializado en tres áreas empresariales: Defensa y Seguridad, Aeronáutica y Espacio, y Ciberseguridad e Identidad Digital.

El Grupo desarrolla productos y soluciones que contribuyen a que el mundo sea un lugar más seguro, más ecológico y más inclusivo.

Thales invierte cerca de 4 mil millones de euros al año en Investigación y Desarrollo, especialmente en áreas claves para la innovación como la IA, la ciberseguridad, la tecnología cuántica, las tecnologías de computación en la nube y la tecnología 6G.

Thales cuenta con 81 000 empleados en 68 países. En 2023, el Grupo generó ventas valuadas en 18 400 millones de euros.

VISITE

Grupo Thales Defensa

Thales

Desarrollamos sistemas de IA de confianza | Grupo Thales

1 Informe Gartner de 2023 sobre Riesgos Emergentes de Ciberseguridad.

2 El «morphing» consiste en transformar gradualmente un rostro en otro en etapas sucesivas mediante la modificación de los rasgos visuales para crear una imagen realista que combine elementos de ambos rostros. El resultado final es una combinación de las dos imágenes originales.

El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.

Vea la versión original en businesswire.com: https://www.businesswire.com/news/home/20241120768241/es/

"El comunicado en el idioma original es la versión oficial y autorizada del mismo. Esta traducción es solamente un medio de ayuda y deberá ser comparada con el texto en idioma original, que es la única versión del texto que tendrá validez legal".