La nueva herramienta de Google puede detectar imágenes generadas por IA, pero no es tan simple
La herramienta de Google detecta imágenes generadas por IA, pero no es simple.
La herramienta puede detectar imágenes generadas por inteligencia artificial incluso después de la edición, el cambio de colores o la adición de filtros.
Las imágenes generadas por herramientas de inteligencia artificial se están volviendo cada vez más difíciles de distinguir de las creadas por humanos. Las imágenes generadas por AI pueden propagar desinformación en grandes proporciones, lo que lleva al uso irresponsable de la inteligencia artificial. Con ese propósito, Google presentó una nueva herramienta llamada SynthID que puede diferenciar las imágenes generadas por AI de las creadas por humanos.
La herramienta, creada por el equipo de DeepMind, agrega una marca de agua digital imperceptible a las imágenes generadas por AI, como una firma. La misma herramienta puede detectar esta marca de agua para señalar qué imágenes fueron creadas por AI, incluso después de modificaciones como la adición de filtros, compresión, cambio de colores y más.
También: Cómo Google y UCLA están promoviendo que la IA elija la próxima acción para obtener una mejor respuesta
SynthID combina dos modelos de aprendizaje profundo en una sola herramienta. Uno agrega visualmente la marca de agua al contenido original de manera imperceptible al ojo humano y otro identifica las imágenes marcadas con la marca de agua.
- Tesla redujo los precios de sus vehículos eléctricos Modelo S y X
- Meta no está haciendo cumplir su propia política de anuncios políti...
- Prueba práctica de la experiencia de Apple Maps CarPlay de Volvo co...
Actualmente, SynthID no puede detectar todas las imágenes generadas por AI, ya que está limitado a aquellas creadas con la herramienta de texto a imagen de Google, Imagen. Pero esto es un indicio de un futuro prometedor para la inteligencia artificial responsable, especialmente si otras compañías adoptan SynthID en sus herramientas generativas de AI.
También: El resumen de búsqueda impulsado por IA de Google ahora te dirige a sus fuentes en línea
La herramienta se implementará gradualmente para los clientes de Vertex AI que utilicen Imagen y solo estará disponible en esta plataforma. Sin embargo, Google DeepMind espera hacerla disponible en otros productos de Google y para terceros próximamente.
