El director de Anthropic avisa sobre la IA: "Durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos"

El fundador de Anthropic, Dario Amodei, ha asegurado que "la industria mintió" sobre el peligro de la inteligencia artificial (IA) por lo que el Gobierno y los ciudadanos deben intervenir. Es la segunda advertencia del director de una de las empresas que más ha avanzado en el desarrollo de la IA en el mundo, en una entrevista publicada este domingo tras la polémica que él avivó este sábado por los riesgos de la tecnología.

"No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", ha afirmado Amodei en una entrevista al programa ‘Sunday Morning’ de CBS.

El director de Anthropic hizo estas declaraciones tras publicar el sábado un ensayo para urgir "un ritmo más lento" a la industria ante los crecientes riesgos de seguridad de la IA, algo a lo que se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, un hecho inédito en el sector de la IA.

Amodei advirtió en su ensayo de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, pero rechazó una "prohibición completa" de la tecnología.

"No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios", señaló el empresario.

Amodei culpa a China: el principal "obstáculo" para la regulación de la IA

El ejecutivo consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.

Aún así, reconoció que se siente "incómodo" de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una "combinación de gobiernos democráticos" que tengan una "gobernanza conjunta" y una monitorización de las compañías de IA.

"Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", apuntó.

El debate sobre los riesgos de la IA saltó a los medios y a las redes después de que Jacob Coxon, un investigador de Anthropic que también trabajó para OpenAI, anunciara esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable. El experto aseguró rotundamente que lnteligencia Artificial podría acabar con la humanidad en la próxima década.