Google ha dado un paso importante hacia la transparencia en el uso de la inteligencia artificial al presentar SynthID, una herramienta que agrega una marca de agua digital a las imágenes generadas por IA. Esta marca de agua permite identificar fácilmente las imágenes generadas por IA, incluso después de ser editadas o modificadas.
SynthID utiliza un identificador que se agrega directamente a los píxeles de la imagen, lo que lo hace imperceptible al ojo humano. Esta marca de agua no afecta la calidad de la imagen y se mantiene incrustada en el archivo, incluso si se aplican filtros o se convierte a otro formato.
La necesidad de una marca de agua en las imágenes generadas por IA ha surgido debido a los avances en modelos como Midjourney o Stable Diffusion, que son capaces de generar contenido realista que puede engañar al usuario común. Ejemplos de esto son las fotos virales del arresto de Donald Trump o del Papa Francisco usando un abrigo acolchado, que obligaron a Midjourney a cancelar sus pruebas gratuitas.
Además de agregar una marca de agua, SynthID también puede escanear una imagen para determinar si fue generada por IA. La herramienta utiliza dos modelos de aprendizaje profundo para esto, uno para marcas de agua y otro para identificación, los cuales fueron entrenados con un conjunto diverso de imágenes.
Google ha confirmado que tiene planes de ampliar el uso de SynthID a modelos de IA generativa de terceros en un futuro cercano. La empresa también se compromete a seguir desarrollando esta herramienta y a incluir nuevas mejoras en futuras versiones.
La identificación de contenido generado por IA es un tema crucial en las discusiones sobre regulación de esta tecnología. Organizaciones y políticos buscan sistemas que permitan detectar imágenes y textos sintéticos que podrían ser utilizados en campañas de desinformación. Algunos gobiernos ya están utilizando la IA para modificar la percepción de sus habitantes con deepfakes, mientras que otros consideran su uso en campañas para desestabilizar a sus oponentes.
Fuentes:
– Blog de DeepMind