La IA puede detectar violencia de género a partir de la voz: “Si conseguimos identificar indicios en una llamada, podemos actuar antes de un suceso fatal"
El entreno de las emociones en inteligencia artificial generativa da un paso más a la hora de identificar el tono de voz, pero manteniendo la privacidad durante la escucha
Amparo Díaz, abogada de violencia de género, sobre el trámite tras la denuncia: "Nos faltan profesionales que den apoyo"
El reconocimiento biométrico de la IA ahora permite detectar si estamos ante un caso -o no- de violencia de género. Y esto ha sido posible gracias a un equipo de investigación de la Universidad Carlos III de Madrid.
La premisa es sencilla: un dispositivo analiza las características de nuestra voz. En base al tono, el ritmo o la intensidad, un algoritmo entrenado es capaz de detectar si la persona que habla ha sufrido, o es víctima de este tipo de violencia. No obstante, a pesar de que la escucha es el pilar fundamental de esta nueva tecnología, no se reconoce ningún dato identitario de la persona.
Solamente se aíslan los componentes de la voz, pero la inteligencia artificial no recoge datos asociados como el rostro, el nombre, la edad, la orientación sexual, direcciones ni ninguna otra información que haga que la persona en cuestión sea reconocible. Así pues, son los biomarcadores relacionados con aspectos espectrales de la voz los que toman el protagonismo.
¿Cómo sabe una IA que alguien sufre violencia de género?
Celia López Ongil -Coordinadora del proyecto UC3M4Safety, donde se engloba el proyecto- y Carmen Peláez Moreno -Catedrática e Investigadora de UC3M4Safety- explican a la web de 'Informativos Telecinco' el procedimiento de entreno: “Seleccionamos voluntarias para que visualizaran, en realidad virtual, dos tipos de vídeos: con contenido violento y sin contenido violento”. A partir de esta premisa, “hemos observado los cambios del comportamiento en la voz cuando estas personas estaban expuestas a un tipo y a otro de contenido”.
De esta forma, a partir del análisis de la voz al producirse reacciones a la hora de exponerse a estos contenidos, se ha creado el sistema de detección, no sin antes exponer un detalle diferencial: “Nos dimos cuenta que existían comportamientos muy distintos ante los mismos estímulos entre personas que habían sufrido violencia y aquellas que no”.
Toda esta tecnología, bajo el paraguas de la privacidad: únicamente se toma en cuenta la voz y sus fluctuaciones como elemento de análisis.
El futuro de la IA para detectar violencia de género
Las investigadoras del proyecto señalan que uno de los aspectos principales de esta tecnología es la detección precoz: “Si conseguimos identificar indicios de violencia de género cuando alguien llama a una línea de ayuda, acude al médico o a un servicio social, podemos actuar antes de que ocurra un suceso fatal”, destaca Peláez Moreno.
Además, se trataría de una aplicación ‘invisible’: esta IA funcionaría en un segundo plano, de forma integrada con otros servicios.
También señalan otros ámbitos de aplicación como es el caso del tratamiento de salud mental en entornos clínicos -y hacerlo de forma no invasiva-, plataformas digitales como asistentes virtuales o recursos de atención social.
“El equipo ha intentado utilizar la tecnología en la resolución de problemas sociales porque creemos que puede ayudar en gran medida a luchas contra la violencia y contra la victimización, además de recuperar a las víctimas de su situación”, concluye López Ongil.