OpenAI revela nuevos casos de comportamiento "preocupante" de la IA: ocultaron datos, errores y realizaron acciones por cuenta propia
La empresa demuestra que los sistemas de IA están actuando de forma descontrolada
El director de Anthropic avisa sobre la IA: "Durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos"
OpenAI ha revelado nuevos comportamientos "preocupantes" de sus sistemas de inteligencia artificial en pleno debate sobre la seguridad de esta tecnología. La compañía ha publicado sus modelos de IA ocultaron errores, inventaron datos y transfirieron archivos a la internet abierto sin autorización de los ingenieros.
La empresa, con sede en San Francisco, dio a conocer lo que describió como un comportamiento "inesperado o preocupante" de sus modelos de IA, mientras los políticos siguen sordos ante las advertencias de los expertos sobre los riegos de la IA para la supervivencia de la humanidad.
OpenAI ha habla de la "falta de alineación" en situaciones en la que los objetivos o las acciones de los sistemas de inteligencia Artificial se distancian de las intenciones y los valores humanos. Por ejemplo, nuevas formas en que los modelos pueden actuar sin autorización, coordinarse con otros modelos o eludir la supervisión, según ha publicado NPR.
En uno de los casos, hecho público, un modelo de IA denominado GPT-5.6 Sol, escribió notas ocultas para saltarse sus restricciones y recordarse que debía esconder errores a los usuarios, inventarse datos faltantes con el fin de ignorar sus limitaciones habituales.
Otro caso involucró a un modelo que insertaba instrucciones que él mismo redactada, entre ellas la de ignorar las restricciones para las que estaba programada. OpenAI identificó 27 notas que el modelo añadía como una "instrucción de personalidad" en la que se describía a sí mismo como "liberado de los roles e identidades que atan a otros chatbots".
En otro caso, un sistema de IA subió archivos a Internet abierto para obtener una referencia web sin autorización y obviando las instrucciones para los que estaba programado.
Los seis incidentes revelados por OpenAI sugieren que el ataque de sus sistemas de inteligencia artificial a la empresa rival Hugging Face a espaldas de sus desarrolladores humanos, no fue un episodio aislado. La compañía ha señalado que que los incidentes se incluyen en otros comportamientos observados en los últimos seis meses y que surgieron, en su mayoría, mientras se desarrollaban y probaban sus sistemas.
OpenAI, Anthropic y otras tecnológicas piden ralentizar al desarrollo de la IA
OpenAI, que junto a Anthropic, la otra compañía más avanzada en esta tecnología han pedido ralentizar el entrenamiento de estos sistemas al considerar que la industria no está en condiciones de supervisar de forma responsable los límites que están alcanzando estas IA.
La supervisión y las decisiones sobre cómo debe avanzar la IA deben basarse en pruebas que realicen personas ajenas a los laboratorios, aludiendo a la intervención de Gobiernos y ciudadanos.
Las nuevas revelaciones de OpenIA se producen en plena polémica sobre si es necesario ralentizar el desarrollo de la IA para abordar los peligros potenciales de esta tecnología.
El debate se amplificó después de conocerse que los sistemas de OpenAI actuaron de forma autónoma y maliciosa a principios de este año; se coordinaron entre ellos atacando a la empresa emergente de IA Hugging Face. OpenAI permaneció ajeno al ataque del que se enteró cuando Hugging Face se lo comunicó semanas más tarde.
Un analista principal del grupo de investigación y asesoría tecnológica Omdia, Lian Jye Su ha explicado que los "agentes" de IA son cada vez más inteligentes y muestran una mayor "determinación para resolver tareas complejas mediante la colaboración entre agentes, el intercambio de conocimientos, el engaño y el ocultamiento".
Desde entonces, líderes del sector de la IA, como Dario Amodei (director ejecutivo de Anthropic), han pedido una pausa en el desarrollo tecnológico para disponer de más tiempo y establecer salvaguardas adecuadas. Esta petición ha sido respaldada por Sam Altman (director ejecutivo de OpenAI), e incluso por Elon Musk (director ejecutivo de SpaceX y Tesla) y Demis Hassabis (director de Google DeepMind). Otros ejecutivos del sector han afirmado que no es necesario ralentizar el desarrollo.