La Fiscalía investiga el uso de IA para generar desnudos de 18 menores en un instituto de Almería
Investigan el uso de una aplicación para desvestir digitalmente a 18 menores en un instituto de Almería
La Fiscalía de Almería mantiene abierta una investigación por posibles delitos de pornografía infantil generada con inteligencia artificial (IA) que afectarían a 18 menores de un instituto, a las que se habría desvestido digitalmente mediante una aplicación.
El fiscal de Criminalidad Informática, David Calvo, ha explicado que el caso se enmarca en el uso de tecnologías como los deepfakes, que crean imágenes falsas con apariencia real y pueden vulnerar el honor y la intimidad de las víctimas.
Según ha detallado, se habría utilizado una herramienta capaz de generar desnudos virtuales a partir de fotos normales, produciendo miles de imágenes al día y, en muchos casos, escenas sexuales completas.
El fiscal ha advertido que estas prácticas pueden constituir delitos de pornografía infantil virtual cuando afectan a menores, incluso si las imágenes no son reales, siempre que tengan apariencia realista.
Durante la jornada también se abordaron los riesgos de la IA en los derechos fundamentales, como la protección de datos y el consentimiento.
Limites éticos y legales
El evento ha reunido a expertos de las Fuerzas y Cuerpos de Seguridad, ámbito judicial e ingeniería para debatir sobre los límites éticos y legales de la inteligencia artificial, según la UAL.
La jornada, en formato presencial y online, busca generar confianza en la ciudadanía y analizar el papel de las FCSE en el uso ético de la IA.
El rector, José J. Céspedes, ha advertido de que la IA supone un “cambio radical” que avanza a gran velocidad, por lo que ha defendido la necesidad de regular su uso para proteger la privacidad y los derechos fundamentales, especialmente de los menores.
Por su parte, el coronel José Antonio Carvajal ha señalado que la IA permite actuar sin presencia física, lo que obliga a una adaptación constante de las instituciones. También ha destacado la importancia de combatir usos delictivos como deepfakes o fraudes de voz, apostando por un uso ético y responsable.
El subdelegado del Gobierno, José María Martín, ha alertado sobre la “huella del odio” en redes y ha presentado la herramienta Hodio, que permitirá analizar y medir los discursos de odio en el entorno digital.
La jornada se completa con debates sobre inteligencia predictiva y buenas prácticas para evitar sesgos algorítmicos en la investigación criminal.