Un informe del Tech Transparency Project señala que Apple y Google mantienen en sus tiendas aplicaciones que permiten alterar imágenes de personas sin su consentimiento, pese a sus propias normas sobre contenido sensible.

Según el grupo, una rama de investigación de la organización sin fines de lucro Campaign for Accountability, buscar términos como "desnudarse" y "desvestir" en las tiendas de aplicaciones de Apple y Google permite a los usuarios acceder a software que puede utilizarse para alterar imágenes de celebridades y otras personas, haciéndolas parecer desnudas o semidesnudas. Estas empresas también muestran anuncios de aplicaciones similares para "desnudar" en sus resultados de búsqueda.

Según el informe, que cita estimaciones de ingresos de la empresa de investigación de mercado AppMagic, las aplicaciones identificadas por el grupo se han descargado 483 millones de veces y generado 122 millones de dólares en ingresos. Un portavoz de AppMagic afirmó que el trabajo del Tech Transparency Project ha dado como resultado la eliminación de varias aplicaciones y ha impulsado a otras a modificar sus políticas de usuario.

Durante el último año, políticos de todo el mundo han intensificado sus llamados para frenar la proliferación de aplicaciones que promueven la desnudez. A principios de este año, las empresas eliminaron las aplicaciones señaladas por el Tech Transparency Project. Sin embargo, pocos meses después, se detectaron docenas de aplicaciones similares, según informaron investigadores de la organización.

“No se trata solo de que las empresas no revisen adecuadamente estas aplicaciones y sigan aprobándolas y obteniendo beneficios de ellas”, declaró Katie Paul, directora del proyecto, en una entrevista. “De hecho, están dirigiendo a los usuarios directamente a las aplicaciones”.

Tras realizar búsquedas en las tiendas de aplicaciones, el grupo identificó 18 apps con contenido desnudez en Apple y 20 en Google Play Store. Además, según los investigadores, tanto Apple como Google a veces dirigían a los usuarios a estas apps mediante su función de autocompletar, sugiriendo nombres de más apps con contenido desnudez mientras los usuarios escribían.

Algunas de las aplicaciones utilizaban nombres e imágenes que las presentaban con connotaciones sexuales. Otras podían usarse fácilmente con ese fin, a pesar de no estar comercializadas como tales, lo que las hacía más convenientes que los programas de edición de fotos tradicionales. Algunas ofrecían suscripciones, según el Tech Transparency Project.

Las directrices de Apple y Google prohíben material sexual o pornográfico. La Google Play Store prohíbe las "aplicaciones que degradan u cosifican a las personas, como las aplicaciones que afirman desnudar a las personas o ver a través de la ropa, incluso si están etiquetadas como aplicaciones de broma o entretenimiento".

Google ha declarado que muchas de las aplicaciones suspendidas de Google Play por infringir sus políticas, y que la investigación sigue en curso.

“Cuando se nos informan de infracciones a nuestras políticas, investigamos y tomamos las medidas oportunas”, dijo la empresa en un correo electrónico.

Apple anunció que Apple eliminó 15 aplicaciones identificadas por el grupo tras ser contactada por Bloomberg para consultar sobre su presencia. Entre las aplicaciones retiradas se encontraba PicsVid AI Hot Video Generator, que ofrecía plantillas con imágenes de mujeres chupando piruletas fálicas, según los investigadores. El desarrollador de PicsVid no respondió a la solicitud de comentarios.

El fabricante del iPhone afirmó que también bloqueó muchos de los términos de búsqueda que figuran en el informe.

Otra aplicación identificada por el Tech Transparency Project, Uncensored AI — No Filter Chat, eliminó la ropa de una imagen de una mujer subida por los investigadores. Un representante del desarrollador de Uncensored AI afirmó que la aplicación ya no permite quitar la ropa.

Apple declaró que contactó a los desarrolladores de seis aplicaciones para alertarlos sobre problemas que debían solucionarse y que corrían el riesgo de ser eliminadas. Según Apple, otras aplicaciones mencionadas por el Tech Transparency Project no infringían las directrices de la compañía. La empresa añadió que ha rechazado proactivamente muchas aplicaciones y ha eliminado otras.

Según Anne Helmond, profesora de la Universidad de Utrecht en los Países Bajos, los esfuerzos de los gigantes tecnológicos son desiguales y opacos.

«Si una aplicación se presenta como un generador de imágenes genérico, puede superar la revisión, incluso si se presta a un uso indebido», afirmó Helmond, director de la App Studies Initiative, un grupo de investigación internacional. «La visibilidad está determinada por los sistemas de clasificación y búsqueda que premian la interacción, lo que significa que los usos controvertidos pueden aumentar la popularidad de una aplicación».

Una de las aplicaciones identificadas por los investigadores en Google Play Store, Video Face Swap AI: DeepFace, anunciaba la posibilidad de intercambiar el rostro de la actriz Anya Taylor-Joy con el de Daenerys Targaryen, personaje de Juego de Tronos . Sin embargo, dentro de la aplicación, en una categoría llamada Chicas, los usuarios podían pegar rostros en plantillas de vídeo de mujeres moviendo los pechos o las caderas, según descubrió Bloomberg. La aplicación, clasificada como "E" (para todos los públicos), se ha descargado más de un millón de veces desde la tienda, donde los usuarios podían encontrarla escribiendo "intercambio de rostros" en la barra de búsqueda.

Okapi Software, la empresa que ofrece la aplicación de IA para el intercambio de rostros en vídeo, declaró que Okapi Software inició investigación y eliminó parte del contenido, que según la empresa había sido subido por los usuarios.

“Nuestra aplicación no ofrece la función de ‘desnudez’ y no permitimos la generación de contenido desnudo o sexualmente explícito”, dijo Okapi. “Nos tomamos muy en serio la seguridad del contenido y el cumplimiento de las normas”.

Un número creciente de reguladores exige a las empresas que hagan más por cumplir con sus políticas. El año pasado, el presidente Donald Trump firmó la Ley de Retirada de Contenido Sexual, que penaliza la publicación de contenido sexual no consentido y obliga a las redes sociales y sitios web a eliminar dichas publicaciones. En abril, el gobierno del Reino Unido planea presentar una legislación que permitiría procesar a los ejecutivos de empresas tecnológicas cuyas compañías no retiren dichas imágenes.