Jacob Coxon, exinvestigador de Anthropic, cuestionó públicamente el rumbo que están tomando las principales empresas de inteligencia artificial tras presentar su renuncia a la compañía.
El investigador aseguró que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic.
Según planteó, ambas compañías avanzan hacia sistemas cada vez más capaces sin abordar adecuadamente sus posibles consecuencias.
"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", escribió en X.
Anthropic desarrolla Claude, una familia de modelos de inteligencia artificial generativa que compite con herramientas como ChatGPT.
La empresa centra parte de su trabajo en la seguridad y el desarrollo responsable de estos sistemas.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
El temor a una inteligencia artificial sobrehumana
Coxon sostuvo que el rápido avance de la tecnología podría conducir próximamente a sistemas con capacidades superiores a las humanas y con acceso a recursos y poder.
"No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando", advirtió.
El investigador también aseguró que algunos profesionales de la industria temen que una inteligencia artificial avanzada pueda representar un riesgo extremo para la humanidad.
"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing", afirmó.
Según Coxon, algunos ejecutivos e investigadores expresan mayores preocupaciones en privado que públicamente.
Sus críticas también apuntaron a la competencia entre los laboratorios.
A su juicio, Anthropic comprendería mejor los riesgos, pero continuaría avanzando ante el temor de que otras compañías lleguen primero.
"En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, sostuvo.
De acuerdo con El País, Coxon cuestionó además que decisiones con posibles consecuencias globales dependan de empresas privadas.
"Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada", señaló.
Pese a sus advertencias, el investigador dijo mantener cierto optimismo sobre una eventual coordinación entre los laboratorios.
Incluso planteó que evitar una carrera global podría requerir medidas como una prohibición temporal para aumentar las capacidades de los modelos.
Finalmente, Coxon llamó a los investigadores a preguntarse si deben continuar desarrollando sistemas cada vez más avanzados solo porque consideran inevitable que otros lo hagan.