Google presenta una herramienta de marca de agua de IA mientras aumenta la presión política
Google presenta herramienta de marca de agua de IA ante presión política
A medida que los gobiernos aumentan la demanda de etiquetas en el contenido generado por IA, Google DeepMind ha lanzado una posible solución: una herramienta de marca de agua.
Denominado SynthID, el sistema utiliza el aprendizaje profundo para incrustar sellos digitales en los píxeles de las imágenes. Según DeepMind, las marcas de agua son imperceptibles para el ojo humano, pero detectables con un algoritmo.
El laboratorio de investigación con sede en el Reino Unido afirmó que la marca de agua no compromete la calidad de la imagen. También permanece detectable después de modificaciones, como agregar filtros, cambiar colores y recortar.
El concepto se asemeja a las marcas de agua aplicadas a películas y fotos de archivo. Pero en este caso, el objetivo no es proteger a los titulares de derechos de falsificaciones, sino proteger a los espectadores de la decepción.
“Si bien SynthID no es una solución definitiva para la desinformación, es una solución técnica prometedora para algunos de los problemas de seguridad de la IA actuales”, dijo Demis Hassabis, cofundador y CEO de Google DeepMind, en X.
- Google fija su evento de anuncio de Pixel 8 para el 4 de octubre
- Cómo PodUp está integrando tecnologías para ayudar a los creadores ...
- Implementación de ERP 5 formas de manejar el cambio
SynthID llega en medio de crecientes preocupaciones sobre la IA generativa. En todo el mundo, los gobiernos han expresado su preocupación acerca de las imágenes manipuladas que socavan las elecciones, distorsionan la realidad y engañan al público.
Los riesgos quedaron expuestos recientemente en un video de la campaña presidencial de Ron DeSantis. A primera vista, las imágenes parecían mostrar fotos genuinas de Donald Trump abrazando y besando a Anthony Fauci, quien lideró la respuesta de la Casa Blanca a la pandemia de COVID-19. Pero los expertos forenses creen que las imágenes son deepfakes.
China ya ha impuesto reglas estrictas sobre esta tecnología. En enero, el país hizo obligatorio etiquetar el contenido producido con inteligencia artificial. Reglas similares también se están implementando en la UE.
“Necesitamos etiquetar todo lo que sea generado por IA mediante marcas de agua”, dijo el comisionado Thierry Breton en junio.
Estados Unidos también está presionando a las empresas para que identifiquen el contenido creado con IA. Después de una reunión en la Casa Blanca el mes pasado, Google y otras seis grandes empresas tecnológicas se comprometieron a desarrollar sistemas de marca de agua.
SynthID es un paso hacia el cumplimiento de estos compromisos, pero el sistema sigue siendo experimental. Inicialmente, la herramienta solo estará disponible para algunos clientes de pago del negocio de computación en la nube de Google. También solo funciona en contenido producido con el generador de arte Imagen.
Eso podría cambiar en el futuro. Según Google, SynthID podría expandirse a través de modelos de IA adicionales. La compañía también planea integrar la herramienta con otros productos.
Los gobiernos y los reguladores seguirán de cerca el progreso. Con las elecciones acercándose en Estados Unidos, India y el Reino Unido, la amenaza que plantea la IA se acerca.
