En la era digital, la inteligencia artificial (IA) ha transformado la manera en que interactuamos con la tecnología, pero también ha traído consigo una serie de desafíos éticos y de seguridad. Recientemente, se ha revelado que varias aplicaciones disponibles en las tiendas de Google y Apple permiten a los usuarios crear imágenes desnudas de personas reales utilizando IA. Esta situación ha generado una gran preocupación, especialmente en el contexto de la creciente incidencia de abusos basados en imágenes íntimas. A pesar de que la creación de deepfakes sexualmente explícitos es ilegal en el Reino Unido, estas aplicaciones siguen accesibles, lo que plantea serias preguntas sobre la regulación y la responsabilidad de las plataformas tecnológicas.
### La Disponibilidad de Aplicaciones Inapropiadas
Una investigación del Proyecto de Transparencia Tecnológica (TTP) ha puesto de manifiesto que existen al menos 55 aplicaciones en la versión estadounidense de Google Play Store que permiten a los usuarios eliminar digitalmente la ropa de las mujeres, mostrando imágenes total o parcialmente desnudas. De manera similar, se identificaron 47 aplicaciones en la App Store de Apple que ofrecen funcionalidades similares. Esta situación es alarmante, ya que las políticas de ambas plataformas prohíben explícitamente el contenido sexual o que promueva comportamientos depredadores. Sin embargo, la realidad es que estas aplicaciones continúan disponibles, lo que sugiere una falta de supervisión efectiva por parte de las empresas.
Las políticas de Google Play Store establecen que no se permiten aplicaciones que contengan o promuevan contenido sexual o que puedan ser consideradas sexualmente gratificantes. Por su parte, la App Store de Apple prohíbe el contenido ofensivo o perturbador, así como el material sexual o pornográfico. A pesar de estas normativas, las aplicaciones que permiten la creación de imágenes desnudas siguen siendo accesibles, lo que plantea serias dudas sobre la efectividad de las políticas de contenido de estas plataformas.
Un caso destacado en la investigación del TTP es una aplicación que permite generar un video de una mujer quitándose la blusa y bailando a partir de una simple fotografía. Esta aplicación, que ha sido descargada más de cinco millones de veces, sigue disponible tanto en la App Store de Apple como en Google Play Store. Esto pone de relieve la necesidad urgente de una revisión más rigurosa de las aplicaciones que se permiten en estas plataformas, así como de una mayor responsabilidad por parte de las empresas para proteger a sus usuarios.
### Consecuencias para la Seguridad de las Mujeres
La proliferación de estas aplicaciones tiene consecuencias devastadoras para la seguridad y la salud mental de las mujeres y las niñas. Activistas de derechos de las mujeres, como Refuge, Women’s Aid y Womankind Worldwide, han expresado su preocupación por el aumento del abuso de imágenes íntimas facilitado por la tecnología. Emma Pickering, directora de abuso facilitado por la tecnología en Refuge, ha señalado que la evolución de la tecnología requiere una regulación más estricta en torno al abuso basado en imágenes, ya sean reales o deepfake.
La capacidad de crear imágenes desnudas de personas sin su consentimiento no solo es una violación de la privacidad, sino que también puede tener efectos devastadores en la vida de las víctimas. Muchas mujeres se sienten inseguras y vulnerables al saber que sus imágenes pueden ser manipuladas y distribuidas sin su consentimiento. Esto no solo afecta su bienestar emocional, sino que también puede tener repercusiones en su vida profesional y personal.
Además, la falta de acción por parte de las plataformas para eliminar estas aplicaciones plantea preguntas sobre su compromiso con la seguridad de sus usuarios. A pesar de que Apple ha afirmado haber eliminado 28 aplicaciones identificadas en el informe del TTP y ha contactado a los desarrolladores de otras para que rectifiquen las infracciones, la realidad es que muchas de estas aplicaciones siguen disponibles. Google también ha eliminado algunas aplicaciones, pero la persistencia de otras sugiere que aún queda mucho por hacer para proteger a las mujeres de estos abusos.
La situación actual subraya la necesidad de un enfoque más proactivo por parte de las plataformas tecnológicas para abordar el problema del abuso de imágenes íntimas. Esto incluye no solo la eliminación de aplicaciones inapropiadas, sino también la implementación de medidas preventivas que protejan a los usuarios y promuevan un entorno digital más seguro.
### La Necesidad de Regulación y Educación
La creciente preocupación por el uso indebido de la tecnología de IA en la creación de imágenes desnudas de personas ha llevado a un llamado a la acción por parte de activistas y expertos en derechos humanos. La regulación más estricta en torno al uso de la IA y la creación de deepfakes es esencial para proteger a las mujeres y garantizar que tengan el derecho a utilizar la tecnología sin temor a sufrir abusos.
Además de la regulación, es fundamental que se implemente una educación adecuada sobre el uso responsable de la tecnología. Esto incluye la capacitación de fiscales y policías para abordar los casos de abuso basado en imágenes, así como la promoción de la conciencia pública sobre los riesgos asociados con el uso de aplicaciones de IA. Las mujeres deben ser informadas sobre sus derechos y las herramientas disponibles para protegerse contra el abuso en línea.
La tecnología tiene el potencial de ser una fuerza positiva en la sociedad, pero también puede ser utilizada para causar daño. Es responsabilidad de las empresas tecnológicas, los gobiernos y la sociedad en su conjunto trabajar juntos para garantizar que la tecnología se utilice de manera ética y responsable. Solo a través de un enfoque colaborativo se podrá abordar el problema del abuso de imágenes íntimas y proteger a las mujeres de las amenazas que plantea la IA.
