OpenAI, la impulsora de ChatGPT, demandada por ocho estados de EEUU por "causar daños a niños" e infringir la ley

Los fiscales generales de ocho estados de EEUU, de diferentes signos políticos, han demandado a la empresa de inteligencia artificial OpenAI, acusando a la responsable de ChatGPT de "causar daño a niños, engañar a padres" e infringir leyes de protección al consumidor.

"La fiscal general (de Iowa), Brenna Bird, ha anunciado este miércoles, en una rueda de prensa, que va a demandar a OpenAI por causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa", según el comunicado difundido por la Fiscalía estatal, con una formulación replicada por otros fiscales de Arizona, Idaho, Nebraska y Virginia Occidental, que han presentado sendas demandas junto a los estados de Arkansas, Kansas y Montana.

El grupo, que incluye a responsables del partido Republicano y Demócrata, alega que OpenAI ha seguido adelante con el desarrollo de sus productos de inteligencia artificial a pesar de saber que estos requerían medidas de seguridad, así como que ha violado las leyes de protección al consumidor de sus respectivos estados y que fabrica un producto que pone en peligro a usuarios vulnerables como los niños.

Son varias las fiscalías que, en sus respectivas comunicaciones acerca de la demanda, alertan del uso de ChatGPT para obtener instrucciones para la autolesión e, incluso, el suicidio.

Entre los denunciantes, el fiscal general de Arkansas, el republicano Tim Griffin, que agrega que, en múltiples casos, algunos usuarios "lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar".

La fiscal general de Arizona, la demócrata, Kris Mayes, que ha manifestado que "OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, a pesar de existir claros indicios de que los menores interactuaban habitualmente con su chatbot". Por ello, ha afirmado que su oficina buscará con la demanda en cuestión "proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones".

Estas demandas se suman a una serie de desafíos legales que enfrenta OpenAI, mientras los tribunales siguen valorando si los desarrolladores de IA y sus sistemas son responsables del aumento de los problemas de salud mental entre los jóvenes. En Canadá, la familia de una joven gravemente herida en un tiroteo escolar demandó a la empresa de inteligencia artificial, alegando que esta estaba al tanto del tiroteo planeado por el sospechoso, pero no alertó a las autoridades.

El acceso de los menores a ChatGPT, en duda

ChatGPT permite el uso a personas mayores de 13 años, pero los menores de 18 requieren el permiso de un padre o tutor. Según OpenAI, la empresa intenta verificar la edad de los usuarios mediante una combinación de la edad declarada por el usuario, señales de comportamiento y, si es necesario, una verificación de edad.

El portavoz de la firma, Drew Pusateri, ha afirmado en un comunicado distribuido a medios estadounidenses que la empresa ha incorporado en sus productos "protecciones específicas por edad líderes en el sector", de las cuales carecen otras empresas.

"Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen", ha defendido el representante de OpenAI, cuyos responsables están, según ha asegurado, "comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria, y no solo a una empresa".