EscucharMeta ha denunciado a una empresa que promociona aplicaciones para generar desnudos en sus plataformas, como parte de una acción más amplia contra este tipo de contenido que incluye un nuevo sistema de detección.
Las aplicaciones que usan la inteligencia artificial generativa para crear desnudos o imágenes sexualmente explícitas de personas sin su consentimiento no están permitidas en las plataformas de Meta, y aun así, se promocionan en ellas, como desveló recientemente una investigación de CBS News.
La compañía asegura que elimina los anuncios que promocionan las ‘apps’ que “desnudan”, e incluso bloquean los enlaces que dirigen a las webs desde donde se pueden descargar. También han restringido los resultados de búsqueda en Facebook e Instagram, para que no aparezcan cuando los usuarios escriben palabras clave como ‘desnudez’, ‘desnudarse’ y ‘quitar ropa’.
A estas medidas se une otra en colaboración con los miembros de Lantern, una coalición de empresas tecnológicas inicialmente con la que comparten señales e indicios entre sobre cuentas y comportamientos que violan sus políticas de seguridad infantil.
Dado que eliminar un anuncio o una aplicación que desnuda de una sola plataforma “no es suficiente”, a través de Lantern también comparten las señales sobre estos contenidos para que otras empresas puedan investigar y tomar medidas, como explica en su blog oficial.
Más contundente es la denuncia de Meta a Joy Timeline HK Limited, la empresa que promociona las aplicaciones CrushAI, después de intentar sin éxito frenar los anuncios sobre estas ‘apps’ mediante la eliminación.
Y para mejorar la identificación de los anuncios, incluso cuando no incluyen desnudos, han desarrollado una nueva tecnología con la que reforzar los métodos de control. También han ampliado los términos, frases y emoji que ayudan a detectarlos, y empezado a aplicar las técnicas que utilizan para desmantelar redes de actividad inauténtica coordinada.
