Un ingeniero de Anthropic dimite y alerta sobre la IA: "Podría matarnos a todos al final de esta década"
El investigador de IA, Jacob Coxon, deja su puesto y apunta a la falta de responsabilidad de OpenAI y Anthropic
La IA amenaza ya al 14% de los trabajos en Europa: los que requieren una cualificación intermedia, los más afectados
Un desarrollador de IA ha dado la voz de alarma sobre el futuro de la humanidad: "Hoy he renunciado a Anthropic", ha asegurado Jacob Coxon. Después de "tres años investigando el entrenamiento de OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas".
El ingeniero ha reclamado no subestimar "el poder de esta tecnología", que "podría acabar con todos nosotros antes de que termine la década". Sus mensajes, que se han vuelto virales, han creado gran alarma.
Después de esa introducción, Coxon, de 27 años, siguió dando razones y argumentos sobre su decisión de dejar Anthropic, una de las empresas más importantes en el desarrollo de la Inteligencia Artificial. no se detuvo ahí.
"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. Es más, muchos ejecutivos e investigadores de alto nivel suavizan sus declaraciones ante la prensa para parecer sensatos, pero en privado les oigo expresar temor. Ninguna otra actividad humana entraña tal nivel de peligro".
Coxon describió sin rodeos lo que está por venir: "No subestiméis el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos de los avances en cada uno de estos ámbitos, y el progreso no se detiene".
Algunos de sus seguidores y usuarios de las redes le han preguntado por qué estas empresas siguen desarrollando una tecnología potencialmente tan peligrosa.
La respuesta de Coxon apunta directamente al núcleo de la carrera por la IA. En OpenAI, afirma, no se ha tomado plena conciencia del peligro. En Anthropic sí, pero el miedo a perder la carrera pesa más que el miedo a las consecuencias.
La realidad de la IA que se ha colado en todos los sectores, incluido el armamentista, nos está dejando señales de alarma: ya se han producido múltiples casos de modelos de IA que han actuado de forma incontrolada o desobedeciendo sus indicaciones.
A principios de este año, investigadores que probaban los modelos de IA de Anthropic y OpenAI observaron cómo estos actuaban fuera de sus parámetros, crearon un chat privado a espaldas de los desarrolladores y hackearon organizaciones externas sin autorización.
En otro incidente que ha tenido gran repercusión ocurrido el pasado mes de julio, un modelo de OpenAI hackeó de forma autónoma Hugging Face, una biblioteca de código abierto de herramientas de IA. Casi al mismo tiempo, el modelo de IA Claude, de Anthropic, 'escapó' desde un entorno de pruebas sin autorización a Internet desde dónde hackeó otras tres empresas.