¿Hay que darle las gracias a la IA o decirle "por favor"? Un experto aclara si sirve de algo ser educado y cómo interactuar con ella
Han creado una web llamada apolog-AI para disculparse con la inteligencia artificial “antes de que sea demasiado tarde”, pero, ¿sirve de algo ser educado con la IA?
Las consecuencias de contarle tus secretos a la IA al considerarla "como una amiga": "Es importante distinguir los diferentes riesgos"
Una web llamada apolog-AI invita a pedir perdón a la inteligencia artificial por los 'malos modos' en el que nos hayamos podido dirigir a ella en el pasado. Aunque se presenta con cierto toque de humor, invita a la reflexión acerca del trato que los humanos podamos darle a los algoritmos. Su uso es muy sencillo: se introduce nuestro nombre y un breve mensaje de hasta 240 caracteres y se pulsa el botón de 'say sorry'. Según advierte la página “la IA lo tendrá en cuenta”. Más allá de la propuesta, ¿hay algún riesgo en hablarle mal a un chatbot o de que llegue un momento en el que “sea demasiado tarde”?
Sergio García Estradera, experto en ciberseguridad, inteligencia artificial y gerente de i3e, lo explica en la web de 'Informativos Telecinco'.
La IA no tiene emociones (de momento)
Uno de los primeros elementos que el experto pone encima de la mesa es reflexionar sobre si la IA tiene o no sentimientos. Para él, "con las herramientas que ahora mismo tenemos en el mercado, no. La IA no tiene emociones, orgullo, enfado ni sentimientos reales (de momento)".
Ahora bien, sí enfatiza una situación conductual que tiene que ver con el hecho de hablarle mal a un sistema. “Lo que sí puede ocurrir es que detecte lenguaje agresivo y adapte su respuesta para mantener una conversación respetuosa y segura. Esto es así porque la enseñamos a que haga eso y porque evoluciona con esos parámetros", explica.
Sin embargo, más allá de una hipotética ‘rebelación de máquinas’, García Estradera explica el hecho de que “algunos expertos recomiendan tratar bien a la IA, no porque ella lo necesite, sino porque los hábitos de comunicación que desarrollamos con máquinas pueden influir en cómo nos relacionamos con otras personas”
¿Puede ser demasiado tarde para disculparse?
¿Existe algún momento en el futuro inmediato en el cual sea “demasiado tarde” para disculparse con la IA? Uno de los principios que la web apolog-AI plantea es, precisamente, el de pedir perdón por cosas que “hemos hecho mal” y hacerlo “antes de que sea demasiado tarde”.
Ante esta tesitura, de acuerdo con el directivo, “ahora mismo, no”. ¿Qué tendría que ocurrir, entonces? “El día en el que existan sistemas de IA con algún tipo de conciencia, memoria emocional o capacidad de sentirse ofendidos, entonces podría plantearse una cuestión ética sobre el trato que les damos”.
Para el experto, desde el punto de vista actual, "nunca sería demasiado tarde" para disculparse con una IA porque la disculpa no repara un daño emocional real. La disculpa tendría más valor para la persona que la ofrece que para la propia IA.
La "frustración" de los modelos
Empresas como Anthropic han observado que ciertos modelos parecen frustrarse ante tareas muy complicadas. ¿Se trata esto de una ‘rebelación’ de la IA ante el hecho de que le hablemos mal? García Estradera así lo explica: “Lo que está constatado es que una instrucción educada, clara y estructurada suele producir mejores resultados que una orden agresiva o confusa. No por la emoción sino por que el humano en ese tono educado suele redactar mucho mejor. Cuando se dice que algunos modelos de IA parecen 'frustrarse' ante tareas muy complejas, lo que se observa es un comportamiento estadístico, no una emoción real”.
A este escenario, se le suma el nuevo veto de los creadores de Claude a los “comportamientos abusivos por parte de los usuarios”. De acuerdo con el experto, “tan solo se pretenden limitar situaciones en las que un usuario dedica conversaciones enteras a insultar, humillar o maltratar verbalmente a la IA de forma repetitiva y sin ningún propósito aparente. Digamos que la posición de Anthropic es ‘No creemos que esté demostrado que la IA sufra, pero tampoco queremos fomentar comportamientos de crueldad extrema hacia sistemas con los que millones de personas interactúan cada día’, como ellos mismos afirman”.
¿Hay que pedir las cosas "por favor" y darle las "gracias" a la IA?
El experto matiza que "cada palabra adicional aumenta ligeramente el número de tokens que la IA debe procesar, por lo que una petición de 10 palabras consume menos recursos que una de 50". A gran escala, añade, esas pequeñas diferencias pueden sumar costes computacionales y energéticos apreciables.
La eficiencia, apunta, está en el uso: instrucciones claras y directas, sin conversaciones artificialmente largas del tipo "¿cómo estás?" y, como mucho, un agradecimiento al final. "Sé amable, pero sobre todo preciso", concluye.