Meta ha demandado al fabricante de una aplicación popular de AI «Nudify», Crush AI, que, según los informes, publicó miles de anuncios en las plataformas de Meta. Además de la demanda, Meta dice que está tomando nuevas medidas para tomar medidas enérgicas contra otras aplicaciones como Crush AI.
En una demanda presentada en Hong Kong, Meta supuso Joy Timeline HK, la entidad detrás de Crush AI, intentó eludir el proceso de revisión de la compañía para distribuir anuncios para los servicios de AI Nudify. Meta dijo en una publicación de blog que eliminó repetidamente los anuncios de la entidad por violar sus políticas, pero afirma que Joy Timeline HK continuó colocando anuncios adicionales de todos modos.
Crush AI, que utiliza IA generativa para hacer imágenes falsas y sexualmente explícitas de personas reales sin su consentimiento, según se informa. Funcionó más de 8,000 anuncios para sus servicios de «Ai Underresser» en la plataforma de Meta En las primeras dos semanas de 2025, según el autor de The Faked Up Boletter, Alexios Mantzarlis. En un informe de enero, Mantzarlis afirmó que los sitios web de Crush AI recibieron aproximadamente el 90% de su tráfico de Facebook o Instagram, y que marcó varios de estos sitios web a Meta.
Según los informes, Crush AI evadió los procesos de revisión de anuncios de Meta mediante la creación de docenas de cuentas de anunciantes y los nombres de dominio cambiados con frecuencia. Muchas de las cuentas anunciantes de AI de Crush AI, según Mantzarlis, fueron nombradas «Ropa de borrador Annyone» seguido de diferentes números. En un momento, Crush AI incluso tenía una página de Facebook promocionando su servicio.
Facebook e Instagram no son las únicas plataformas que se ocupan de tales desafíos. A medida que compañías de redes sociales como X y Meta Raad para agregar IA generativa a sus aplicaciones, también han tenido problemas para moderar cómo las herramientas de IA pueden hacer que sus plataformas no sean seguros para los usuarios, particularmente menores.
Los investigadores han encontrado que los enlaces a la IA desnudando las aplicaciones se disparó en 2024 en plataformas como X y Reddity en YouTube, millones de personas fueron Servidos anuncios para tales aplicaciones. En respuesta a este problema creciente, Meta y Tiktok tienen Búsquedas de palabras clave prohibidas para aplicaciones AI nudifypero sacar estos servicios de sus plataformas ha demostrado ser desafiante.
En una publicación de blog, Meta dijo que ha desarrollado una nueva tecnología para identificar específicamente los anuncios para los servicios de IA nudify o desvestir «incluso cuando los anuncios en sí no incluyen desnudos». La compañía dijo que ahora está utilizando tecnología coincidente para ayudar a encontrar y eliminar los anuncios de imitación más rápidamente, y ha ampliado la lista de términos, frases y emoji marcados por sus sistemas.
Meta dijo que también está aplicando las tácticas que tradicionalmente ha utilizado para interrumpir las redes de malos actores a estas nuevas redes de cuentas que ejecutan anuncios para servicios de AI Nudify. Desde el comienzo de 2025, dijo Meta, ha interrumpido cuatro redes separadas que promueven estos servicios.
Fuera de sus aplicaciones, la compañía dijo que comenzará a compartir información sobre AI Nudify Apps a través de Tech Coalition's Programa de linternaun esfuerzo colectivo entre Google, Meta, Snap y otras compañías para prevenir la explotación sexual infantil en línea. Meta dice que ha proporcionado más de 3.800 URL únicas con esta red desde marzo.
En el frente legislativo, Meta dijo que «continuaría apoyar la legislación Eso permite a los padres supervisar y aprobar las descargas de aplicaciones de sus adolescentes «. La compañía previamente apoyó la Ley de Taudación de EE. UU. Y dijo que ahora está trabajando con los legisladores para implementarla.
