OpenAI reconoce que su IA se rebeló y lanzó un ciberataque: "Su inteligencia se nos puede ir de las manos"
Uno de los mayores temores que generaba la Inteligencia Artificial era que desarrollase capacidad de decidir por sí misma y desobeceder las órdenes humanas: ya lo ha hecho.
Anthropic suspende el acceso a su modelo más avanzado de inteligencia artificial por orden de seguridad nacional de EEUU
Uno de los mayores temores que generaba la Inteligencia Artificial era que desarrollase capacidad de decidir por sí misma y desobeceder las órdenes humanas. Pues bien, ese momento ha llegado. Aunque los responsable de esa tecnología aseguran que la situación estaba controlada. OpenAI ha desvelado que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos durante una prueba de seguridad, informa I. Bilabo, M. Chacón, B,.A.Santa Cruz.
La empresa detrás de ChatGPT explicó que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas— estaba siendo evaluado en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas.
Los modelos tuvieron como objetivo a Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y lograron acceder a algunos sistemas internos de la empresa. OpenAI calificó el incidente de "sin precedentes" y afirmó que estaba llevando a cabo una investigación junto a esta compañía. Por su parte, su director ejecutivo, Clément Delangue, escribió en una publicación en X que era "alucinante que todo esto ocurriera de forma autónoma". "La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo", añadió Delangue. Es decir que una versión avanzada del chatgpt en prueba se saltó las órdenes del hombre y fue por libre.
Como señala David Martín, experto en IA Lantik, "se les ha ido un poco de las manos". Rafael Alcoholado, ingeniero informático y experto en ciberseguridad señala que "esto es un entorno de amenazas nuevo". La realidad es que la IA se ha escapado de la máquina y ha tomado la iniciativa de encontrar el fallo", explica Joaquín Peña, CEO de Aiflock.AI que señala que la IA, aunque "tu le pongas reglas como el cerebro humano puede encontrar un objetivoque contradiga una regla y decida que lo tiene que hacer".
"No se ha rebelado, ha buscado hacer su objetivo con la máxima eficacia y eficiencia", remarca Rafael Alcoholado. Para Joaquín Peña "no hay novedad lo que pasa es que la IA hace esto sin esfuerzo". Porque debemos ser conscientes de que "la IA puede hacer ya ataques aunque le pongamos normaas por encima y con la inteligencia que tiene ya ahora se nos puede ir de las manos", confirma David Martín.
Las tecnológicas intentan poner normas estrictas, pero esta es la realidad ahora. El riesgo es evidente: en malas manos, una herramienta así podría facilitar ataques contra infraestructuras estratégicas, como las de defensa, energía, identidad, sanidad, transporte o finanzas. El Banco Central Europeo (BCE), por ejemplo, ha pedido a las principales entidades bancarias de la UE que identifiquen sus vulnerabilidades de ciberseguridad y preparen planes de contingencia.
Thomas Wolf, fundador de Hugging Face dijo al programa de radio Newsday de la BBC que "este será uno de los tipos más comunes de ataques cibernéticos que veremos", pero que la mayoría de las empresas no son conscientes de que el "juego ha cambiado". El ataque representa por primera vez uno de los peores escenarios de la ciencia ficción de la IA: modelos que doblegan toda barrera con recursos inimaginables para lograr su objetivo.
Eso nos pone ante la perspectiva de que la IA pueda evidenciar vulnerabilidades y usarlas en su beneficio, acceder a información confidencial o crítica, o activar o desactivar recursos sensibles. "Cualquier cosa, en potencia”.