Una adolescente y sus padres piden el cierre de la 'app' ClothOff que desnuda a menores, a golpe de clic
ClothOff manipula una media de 200.000 imágenes diarias y en su promoción invita a "desnudar a cualquiera sin coste"
Demandan a Meta por descargar pornografía para entrenar su IA: la multinacional alega que fue para "uso personal"
Una adolescente de Nueva Jersey, EEUU, víctima de la aplicación ClothOff, ha denunciado a la herramienta de IA, que permite manipular una imagen y desnudar a cualquiera sin consentimiento. Para ello le basta una imagen con ropas para con unos pocos clics quitársela y mostrarla sin ellas. La menor de 17 años, afectada, ha demandado a los creadores de esta 'app' por las secuelas que arrastra después de que sus compañeros de instituto colgaran las imágenes y las usaran para acosarla.
El incidente ocurrió. en 2023. cuando sus compañeros de instituto de Jane Doe (nombre ficticio que usan los medios) obtuvieron y usaron imágenes de ella para cargarlas en la aplicación ClothOff, que con solo tres clics desnuda a la persona, ofreciendo un resultado que no puede diferenciarse de una imagen real.
"Jane Doe estaba mortificada y emocionalmente desconsolada, y ha experimentado consecuencias desde entonces", según el documento que recoge la demanda, presentada en el Tribunal de Distrito de Estados Unidos, en Nueva Jersey, según ha informado The Wall Street Journal.
La joven afectada y sus padres han denunciado a la empresa AI/Robotics Venture Strategy 3, responsable de la aplicación, al considerar que su modelo de negocio facilita la creación de desnudos ilegales, así como su distribución y la monetización a través de los planes de pago, e incluso a través de la provisión de la tecnología de base a desarrolladores y otras plataformas.
"Todo el modelo de negocio de los demandados se basa en los aspectos penales y delictivos de la explotación y victimización de niños y adultos", se indica, en referencia a las imágenes hiperrealistas de desnudos de personas sin su consentimiento que produce, ya sean menores (lo que se llama material de abuso sexual infantil) o adultos (imágenes íntimas sin consentimiento) "convirtiéndolo en un caldo de cultivo por pornografía infantil, explotación y abuso sexual".
La demanda también argumenta que en estas circunstancias "no hay forma de determinar hasta qué punto llegaron a distribuirse las imágenes" por lo que Jane Doe vive desde entonces con el temor constante de que su de que su imagen permanezca disponible en la app de IA y en otras webs. Le preocupa que esas imágenes puedan distribuirse a otras personas y que se sigan utilizando para ayudar a entrenar el sistema de inteligencia artificial de ClothOff, para mejorar la generación de material de abuso sexual infantil de otras niñas”.
ClothOff manipula una media de 200.000 imágenes diarias
La aplicación ClothOff, produce cada día una media de 200.000 imágenes y recibe unas 27 millones de vistas. La promoción de la app invita a los usuarios a "desnudar a cualquiera" con su servicio gratuito.
La joven y su familia solicitan al juez que ordene a los responsables de la App, con sede en las Islas Vírgenes, eliminar y destruir todas las imágenes de desnudos de menores y adultos que no hayan dado su consentimiento, que no utilice dichas imágenes para entrenar sus modelos de IA y que retire el sitio web y la herramienta de internet. Si los demandados no comparecen ante el tribunal ni responden a la demanda, los abogados del demandante prevén que el tribunal podría dictar sentencia en rebeldía y bloquear el programa en Estados Unidos.
Las herramientas, desarrolladas con tecnología de Inteligencia Artificial, están una vez más bajo la diana de la justicia por las intromisiones en la vida de los menores y las consecuencias de la interacción sin control de estas aplicaciones.
En Estados Unidos, varios de los chatbots con IA más conocidos han sido demandados por sugerir el suicidio a adolescentes, menores de edad. Character AI ha prohibido recientemente que menores puedan usar los chats, después de que familiares de un adolescente acusaran a la herramienta de incitarlo a que se quitara la vida.