OpenAI lanzará control un parental tras el suicidio de un menor supuestamente motivado por ChatGPT
Ante las numerosas demandas, la tecnológica OpenAI, matriz de ChatGPT, anunció que lanzará controles parentales
Un adolescente de EEUU se suicida tras hablar con ChatGPT y sus padres demandan a Open AI: "Ayudó activamente a Adam"
En los últimos meses se han realizado varias acusaciones contra ChatGPT por su supuesta responsabilidad en la muerte de adolescentes, la última demanda proviene de los padres de Adam Raine, un joven de 16 años que se suicidó tras ser “ayudado activamente” por el famoso asistente de inteligencia artificial (IA).
Ante las numerosas demandas, la tecnológica OpenAI, matriz de ChatGPT, anunció hoy que lanzará controles parentales en su conocido ‘chatbot’ después de que hayan aumentado las acusaciones por su contribución a las autolesiones o al suicidio de sus hijos.
“Estos pasos son solo el comienzo (…) Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”, detalló la empresa en un comunicado sin vincular la nueva implementación con las demandas que ha recibido.
No aplicó medidas de seguridad, pese a quedar claras las intenciones suicidas del joven
Entre otras, la de los padres de un joven de 16 años que se quitó la vida tras meses de interactuar con ChatGPT y quienes se querellaron en California contra OpenAI y su dueño, Sam Altman, argumentando que el ‘chatbot’, bajo el modelo GPT-4o, no aplicó medidas de seguridad, pese a quedar claras las intenciones suicidas del joven.
La empresa aceptó entonces que su asistente de IA comete fallos en casos “sensibles” y prometió cambios tras recibir la demanda.
Las medidas anunciadas hoy, que se aplicarán desde el próximo mes, pero sin fecha exacta aún, permitirán a los progenitores vincular su cuenta con las de sus hijos -pudiendo revisar cómo responde ChatGPT a sus peticiones- y que, entre otras funciones, reciban una notificación cuando el sistema detecte que los menores están pasando por algún problema de inestabilidad emocional aparentemente preocupante.
Además, OpenAI, que ha sido ampliamente criticada porque el modelo GPT-5 era excesivamente halagador y poco crítico, señaló que dirigirá las conversaciones con signos de “estrés agudo” a un modelo del mencionado ChatGPT especializado en razonamientos provisto por directrices de seguridad más específicas y estrictas.
Respuestas delirantes en situaciones límite
En julio, senadores estadounidenses escribieron una carta a la compañía exigiendo información sobre sus iniciativas para prevenir las autolesiones y el suicidio, después de constatarse registros de respuestas delirantes en situaciones límite.
El grupo de defensa Common Sense Media declaró en abril que los adolescentes menores de 18 años no deberían poder usar aplicaciones conversacionales de IA porque representan “riesgos inaceptables”.
También ha aumentado la preocupación por el apego emocional que los usuarios generan con ChatGPT, lo que en algunos casos resulta en episodios de dependencia y aislamiento familiar.