Los algoritmos machistas de la inteligencia artificial en TikTok e Instagram, según dos expertos: "La ira hace que la gente interactúe más"
El equipo de Informativos Telecinco ha creado una cuenta en dos redes sociales simulando ser un usuario de 18 años para comprobar qué vídeos enseñaba el algoritmo
Las consecuencias de contarle tus secretos a la IA al considerarla "como una amiga": "Es importante distinguir los diferentes riesgos"
La inteligencia artificial se ha convertido en una herramienta cotidiana para millones de jóvenes, pero su capacidad para interpretar los gustos de los usuarios también plantea interrogantes sobre el tipo de contenidos que consumen y los mensajes que reciben.
Una investigación de Informativos Telecinco pone el foco en cómo los algoritmos de TikTok e Instagram pueden conducir a los usuarios hacia publicaciones machistas a partir de unas pocas interacciones, incluso cuando su interés inicial no tiene relación con este tipo de mensajes.
Para comprobarlo, el equipo de Informativos Telecinco creó una cuenta en ambas redes sociales simulando ser un usuario de 18 años. La única preferencia que indicó fue el deporte. Sin embargo, entre las primeras publicaciones que aparecieron en su pantalla había un vídeo de violencia machista, un contenido que llamó la atención de los periodistas y que marcó el comienzo de un recorrido para comprobar hasta dónde podía llevarles el algoritmo.
El experimento muestra cómo las recomendaciones pueden cambiar en muy poco tiempo. Basta con dedicar unos segundos a determinados vídeos para que las plataformas comiencen a ofrecer publicaciones similares, hasta construir un entorno digital en el que ciertos discursos adquieren cada vez más protagonismo.
La cuestión no es solo qué contenido se muestra, sino también cómo el sistema interpreta las reacciones del usuario y qué conclusiones extrae de ellas.
TikTok, el algoritmo que aprende más rápido de las reacciones
El recorrido de la cuenta creada permitió observar diferencias entre las dos plataformas. Según explica José Gabriel García, CEO de la agencia Phi y experto en estrategia digital, "TikTok tiene el algoritmo más eficiente y seguramente más agresivo para entender qué contenido nos gusta".
La experiencia del equipo muestra esa capacidad para ajustar las recomendaciones a partir de señales insignificantes. Después de visualizar durante unos 20 segundos un vídeo de chicas durante el Mundial, la cuenta comenzó a recibir más publicaciones de esa misma temática. El sistema no necesitó que el usuario expresara una preferencia, bastó con que permaneciera unos segundos viendo el contenido para interpretar que podía interesarle.
Instagram, por su parte, se mostró en un primer lugar más moderado, aunque también empezó a tantear al usuario con publicaciones que reproducían estereotipos de género. Entre ellas, aparecía un vídeo sobre cómo debe comportarse una mujer dentro de una relación sentimental.
La investigación continuó siguiendo el rastro de las recomendaciones para comprobar hasta dónde podían llegar. A medida que la cuenta interactuaba con determinados contenidos, el algoritmo iba afinando sus propuestas y reforzando una visión cada vez más concreta de la masculinidad y de las relaciones entre hombres y mujeres.
Entre los vídeos que aparecieron durante la prueba figuraban mensajes como "Hay mujeres que son más malas que el diablo" y otros que vinculaban la felicidad masculina con el mantenimiento del hogar: "Barriga llena y casa limpia, eso es igual a un hombre feliz".
La ira, una de las claves para entender el funcionamiento de las redes
Daniel Gayo, profesor de Informática de la Universidad de Oviedo, pone el acento en el papel que desempeñan las emociones en la difusión de los contenidos. "Desgraciadamente, en medios sociales, la ira es la emoción que hace que la gente interactúe más", explica.
Esta dinámica ayuda a entender por qué algunos mensajes, opiniones o vídeos que generan indignación pueden captar la atención y desencadenar reacciones. Los comentarios, las reproducciones y el tiempo de visualización proporcionan señales que los sistemas de recomendación pueden utilizar para decidir qué mostrar a continuación.
Si un contenido provoca una reacción intensa, el algoritmo puede interpretarla como una señal de interés sin distinguir entre una respuesta de aprobación, rechazo o simple curiosidad.
De esta forma, una persona puede terminar recibiendo más publicaciones de una temática no porque comparta sus planteamientos, sino porque se ha detenido a observarlas o ha reaccionado ante ellas.
También interpreta nuestros gestos
El funcionamiento de las recomendaciones va más allá de los 'me gusta' o de las cuentas que sigue cada usuario. Durante la explicación del experimento, Gayo advierte de que las plataformas también pueden extraer información de la manera en que consumimos los vídeos.
"Tú estás sentado en el sofá y de repente haces así y lo subes y te inclinas, él ha entendido que ese contenido te ha gustado más", señala el experto, en referencia a cómo el sistema puede interpretar los gestos y el comportamiento del usuario mientras ve una publicación.
La idea central es que las plataformas no necesitan conocer las opiniones de una persona para construir un perfil de sus intereses. Pueden inferirlos a partir de múltiples señales de comportamiento y utilizar esas predicciones para personalizar el contenido que aparece en pantalla.
El riesgo de este proceso es que el usuario termine encerrado en una visión parcial de la realidad. "Así es como nos conduce a una única versión de la realidad", advierte Gayo al describir las consecuencias de esta personalización.
En este sentido, si el usuario recibe repetidamente publicaciones de una misma temática, cambiar esa dinámica puede exigir un esfuerzo. "El algoritmo te guía, pero lo que tenemos que hacer es tener un sentido crítico de la realidad", zanja Gayo.
