El rápido avance de la inteligencia artificial (IA) ha generado nuevas preocupaciones entre investigadores y líderes de la industria, algunos de los cuales consideran necesario reducir el ritmo de desarrollo para evaluar sus posibles riesgos.

Jacob Coxon, exinvestigador de Anthropic y OpenAI, aseguró a la BBC que trabajadores del sector sienten un “miedo genuino” ante la velocidad con la que avanza esta tecnología. Incluso advirtió que, si el progreso continúa sin controles, existe la posibilidad de que la IA represente una amenaza grave para la humanidad.

Las declaraciones coinciden con el llamado de Dario Amodei, CEO de Anthropic, quien propuso ralentizar el desarrollo de modelos avanzados y establecer medidas de seguridad que avancen al mismo ritmo que sus capacidades. La propuesta recibió apoyo de figuras como Sam Altman, de OpenAI, y Demis Hassabis, de Google.

Ante estas preocupaciones, empresas como Anthropic, OpenAI y Google han discutido la posibilidad de crear un organismo independiente de autorregulación que establezca estándares de seguridad para la industria. Microsoft, por su parte, presentó un código de conducta para sus futuros modelos, que contempla que la IA pueda ser corregida o apagada por humanos.

Sin embargo, la propuesta también enfrenta oposición. Donald Trump ha rechazado la idea de frenar el desarrollo de la IA al considerar que Estados Unidos debe mantener su ventaja frente a China. Mientras tanto, algunos especialistas cuestionan si las advertencias de las grandes compañías responden únicamente a preocupaciones de seguridad o también a intereses comerciales.