Google ha desarrollado una herramienta llamada SynthID que tiene como objetivo resolver el problema de la identificación de imágenes generadas por inteligencia artificial (IA). Esta tecnología estará disponible en diversas plataformas de generación de contenido, como Midjourney y Stable Diffusion.
La marca de agua tradicional no es suficiente para identificar imágenes generadas por IA, ya que se puede editar fácilmente. Por eso, Google ha diseñado SynthID para que sea imperceptible a simple vista y permita detectar la marca de agua incluso después de modificaciones.
La creación de esta tecnología responde a la necesidad de combatir la capacidad creciente de la IA para generar imágenes realistas que puedan ser utilizadas para difundir información falsa. Un ejemplo de esto son las fotos manipuladas sobre el arresto de Donald Trump y del Papa Francisco con un abrigo acolchado.
SynthID es una marca de agua digital que se incorpora directamente en los píxeles de una imagen, por lo que no es visible para el ojo humano. Además, no afecta la calidad de la imagen y puede resistir ediciones posteriores.
Esta herramienta no solo permite a los usuarios agregar una marca de agua a sus imágenes generadas por IA, sino que también puede analizar imágenes existentes para determinar si han sido producidas por un algoritmo de IA. Para lograrlo, utiliza dos modelos de aprendizaje profundo que se entrenaron en conjunto con una variedad diversa de imágenes.
La eficacia de SynthID se pondrá a prueba en casos de manipulación extrema de la imagen. Además, Google considera expandir este concepto a otros tipos de contenido, como audio, video o texto.
Inicialmente, SynthID estará disponible en versión beta para un número limitado de usuarios que utilizan el servicio Imagen de Vertex AI de Google. La empresa tiene como objetivo expandir el acceso a sistemas de terceros en el futuro.
Otras empresas, como Adobe, Microsoft e Intel, también están desarrollando tecnologías para identificar imágenes creadas con IA, con el fin de combatir la desinformación en línea y el fraude de contenido.
Fuentes:
– No se ha proporcionado la fuente original del artículo.