Se mostraron anuncios falsos con Jenna Ortega en plataformas de Meta, y la Gran Tecnología debe combatir esto.

El preocupante tema de las deepfakes persiste, afectando una vez más a las mujeres.

“`html

El Alarmante Auge de los Deepfakes: Imagen de Jenna Ortega Manipulada en Anuncios Generados por IA

¡Los deepfakes atacan de nuevo! Esta vez, plataformas populares de Meta como Instagram, Facebook y Messenger se encontraron siendo anfitriones involuntarios de anuncios generados por IA que presentaban a la actriz Jenna Ortega en imágenes explícitas y manipuladas. 🤯

Así es cómo sucedió: Según informó NBC News, estos anuncios, que representaban a Ortega desvestida, utilizaron una foto borrosa de ella cuando solo tenía 16 años. Para empeorar las cosas, la aplicación Perky AI, desarrollada por RichAds, permitía a los usuarios cambiar el atuendo de la celebridad, ofreciendo la opción de quitar toda la ropa. 😱

Ahora te preguntarás: ¿Cómo llegó una aplicación así a estas plataformas en primer lugar? Bueno, según la App Store de Apple, Perky AI está descrita como una plataforma que utiliza IA para “crear personas súper realistas o fantásticas” con indicaciones. Y si, eso incluye imágenes “NSFW” que, ejem, son sexualmente explícitas. 😳

¡Pero no temas! Tras enterarse de estos sorprendentes anuncios, Meta actuó rápidamente, suspendiendo la página de la aplicación Perky AI y eliminando los anuncios y cuentas detrás de ellos. Un portavoz de Meta enfatizó que la compañía prohíbe estrictamente la desnudez infantil, el contenido que sexualiza a los niños y los servicios que ofrecen imágenes no consensuadas de desnudos generadas por IA. 🛡️

No obstante, vale la pena señalar que parece que Perky AI ha desaparecido tanto de la App Store de Apple como de Google Play. Apple ya había retirado la aplicación el 16 de febrero por violar sus políticas con respecto a material “abiertamente sexual o pornográfico”. ¡Bravo, Apple, por prevenir la propagación de estas aplicaciones picantes! 👏

Ahora, veamos el panorama general. Lamentablemente, este incidente es solo uno de muchos deepfakes no autorizados y sexualmente explícitos que circulan en internet. Solo en los dos primeros meses de 2024, hemos sido testigos de la propagación de deepfakes con grandes nombres como Taylor Swift y la presentadora de podcasts Bobbi Althoff en importantes plataformas de redes sociales, incluido X (anteriormente conocido como Twitter). 😓

Desafortunadamente, los deepfakes no se limitan solo al ámbito del entretenimiento. Estas manipulaciones generadas por IA incluso han infiltrado instituciones educativas. Recientemente, imágenes falsas de desnudos de estudiantes circularon en una prominente escuela secundaria de Beverly Hills y una escuela preparatoria en las afueras de Seattle. La situación está alcanzando niveles críticos y los expertos están lanzando la alerta, enfatizando la necesidad urgente de un cambio legal y social. ⏰

De hecho, según Subsum, una plataforma de verificación de identidad, la detección de deepfakes se ha multiplicado por diez entre 2022 y 2023. Sin embargo, muchas plataformas de redes sociales han tenido dificultades para contener este contenido dañino. En los últimos meses, Google, X y Meta han enfrentado críticas por permitir que material de deepfake circule en sus plataformas. Está claro que las grandes tecnologías necesitan intensificar y tomar medidas significativas antes de que las cosas se salgan aún más de control. 🙅‍♂️

Si te encuentras con algún anuncio en estas plataformas que crees que debería ser reportado, ¡no temas! Hay formas de actuar. Meta permite a los usuarios reportar anuncios tanto en Facebook como en Instagram, mientras que Apple ofrece varios hilos de la comunidad que guían a los usuarios sobre cómo reportar anuncios dentro de la aplicación. Google también ofrece un formulario que permite a los usuarios reportar anuncios inapropiados. ¡Haz oír tu voz y ayuda a crear un entorno en línea más seguro! 📢

Ahora, pasemos a algunas preguntas frecuentes que podrían estar pasando por tu mente:

P: ¿Qué son los deepfakes? R: Los deepfakes son videos o imágenes manipuladas creadas utilizando tecnología de inteligencia artificial (IA). En estas creaciones, se reemplaza la cara o cuerpo de una persona por el de otra, resultando en contenido realista y a menudo engañoso.

P: ¿Cuáles son los peligros potenciales de los deepfakes? R: Los deepfakes representan riesgos significativos, especialmente cuando se utilizan para difundir desinformación o crear contenido explícito y no consensuado. Estas manipulaciones pueden dañar la reputación de las personas, agravar las preocupaciones sobre la privacidad y difuminar las líneas entre la realidad y la ficción.

P: ¿Cómo podemos protegernos de los deepfakes? R: Aunque es difícil eliminar completamente la amenaza de los deepfakes, hay medidas proactivas que podemos tomar. Estas incluyen crear conciencia sobre la existencia de los deepfakes, verificar la credibilidad del contenido que encontramos en línea y reportar material potencialmente dañino a las plataformas respectivas.

Ahora es hora de que las grandes empresas tecnológicas intensifiquen su juego y combatan este problema generalizado. De lo contrario, nuestro paisaje digital seguirá siendo plagado por deepfakes explícitos que atacan a niñas, mujeres e individuos marginados. ¡Exijamos un mundo en línea más seguro y protegido para todos! 💪

“`

Referencias:

Ahora, ¡es tu turno de actuar! Comparte este artículo con tus amigos y familiares, ¡y creemos conciencia sobre los peligros de los deepfakes. Juntos, podemos construir un mundo virtual más seguro! 🌐💙

La Tardanza de Apple en la Fiesta de la IA ...
🤖 La era de la inteligencia artificial la ...
El Ascenso de Figure ¡Un Robot con Habilida...
El Futuro de la Inteligencia Artificial Con...
Herramientas de Amazon potenciadas por inte...
🚀 Microsoft Copilot actualizado a GPT-4 Tu...
AI

AI