Actualizado el 22/02/2024

icon Facebook icon Twiiter icon RSS icon EMAIL
  1. Portada
  2. >
  3. Noticias
  4. >
  5. Google se arma contra las deepfakes con una marca de agua digital

Google se arma contra las deepfakes con una marca de agua digital

Escrito por Guillem Alsina el 12/09/2023 a las 17:15:07
533

Si no lo son ya y todavía no nos hemos dado cuenta de ello, es predecible que en los próximos años los deepfakes sean un problema grave a la hora de distinguir la información veraz de la falsa, y es por ello que algunas de las principales compañías del mundo de la tecnología están invirtiendo dinero en investigar cómo limitar o, preferiblemente, evitar estas falsificaciones.


Una de estas compañías es Google, la cual recientemente ha presentado SynthID, una herramienta desarrollada por su filial DeepMind que tiene como finalidad la incorporación de marcas de agua en imágenes generadas por inteligencia artificial.


Según indican en The Verge, durante años, Demis Hassabis (CEO de DeepMind) y su equipo, han abogado por la necesidad de contar con métodos robustos para detectar contenidos generados por IA, especialmente ante el surgimiento de los deepfakes y su potencial impacto en eventos como las elecciones de los Estados Unidos y el Reino Unido en 2024. SynthID, presentada durante la conferencia Google’s Cloud Next, viene a ser la respuesta tangible a este problema.


A diferencia de las marcas de agua tradicionales, la marca de agua SynthID no es apreciable al ojo humano, pero los sistemas informáticos si la “ven” y pueden manejarla, incluidos los robots (crawlers) que buscan por Internet, y las herramientas de clasificación automática de contenidos que se basan en la inteligencia artificial.


La singularidad de SynthID radica en su capacidad para incrustar la marca de agua en los píxeles de la imagen sin alterar su calidad o experiencia visual. Según Hassabis, la marca que incrusta su herramienta resiste a las transformaciones aplicadas por software a la imagen, tales cómo el recorte y el redimensionamiento.


A medida que evolucione el modelo subyacente de esta herramienta, la detección de estas marcas será aún más precisa.


Inicialmente, SynthID estará disponible para los clientes de Google Cloud que utilicen la plataforma Vertex AI y el generador de imágenes Imagen. Thomas Kurian, CEO de Google Cloud, destacó a The Verge el crecimiento exponencial en el uso de la plataforma Vertex AI y la pertinencia de lanzar SynthID en este momento. Además de los desafíos que plantean las deepfakes, los clientes también necesitan esta tecnología para fines más mundanos, como la verificación de imágenes en publicidad y en descripciones de productos en el sector minorista.


Google no es la única empresa que busca crear un estándar para la detección de contenidos generados por la inteligencia artificial; otras grandes empresas, como Meta y OpenAI, también están trabajando en soluciones similares. Sin embargo, Hassabis es optimista en que la tecnología de marca de agua formará parte de una solución más global en la web.


Pese a todo, y viendo que la ciberseguridad no es totalmente inviolable en ningún caso, y que solamente hace falta tiempo e interés para poder encontrar la forma de vulnerarla, es probable que en más o menos tiempo ya haya surgido la forma de burlar esta marca de agua y, tras ello, una solución para volver a imponerla a los contenidos creados por IA. Esto recuerda a la “carrera armamentística” en la que trabajan los creadores de malware y de soluciones antimalware.