Un ingeniero de software británico que trabajó durante tres años en OpenAI y posteriormente se incorporó a Anthropic presentó su renuncia y lanzó una advertencia sobre los riesgos asociados con el desarrollo acelerado de la inteligencia artificial (IA).
Jacob Coxon, de 27 años, señaló en una serie de publicaciones en X que las principales compañías dedicadas al desarrollo de IA no están actuando con la responsabilidad necesaria ante una tecnología que, en su opinión, podría alcanzar capacidades superiores a las humanas en un futuro cercano.
El ingeniero, identificado por diversos medios como parte de los equipos que participaron en el desarrollo de GPT-4o y GPT-4.5, aunque sin ocupar cargos ejecutivos, sostuvo que existe dentro de la industria la preocupación de que sistemas de IA suficientemente avanzados puedan representar una amenaza extrema para la humanidad.
Coxon cuestionó que, pese a conocer los posibles riesgos, las empresas continúen compitiendo por desarrollar sistemas cada vez más potentes.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
A su juicio, los futuros modelos podrían convertirse en sistemas “sobrehumanos”, capaces de vulnerar sistemas informáticos, transformar distintas áreas de actividad y adquirir una capacidad significativa para obtener recursos y poder.
Cuestiona la carrera por desarrollar IA más avanzada
El ingeniero consideró que tanto OpenAI como Anthropic son conscientes de los desafíos que representa el avance de la inteligencia artificial, aunque con diferentes enfoques.
Según Coxon, OpenAI podría no haber dimensionado completamente las implicaciones que tendría el desarrollo de sistemas avanzados para la civilización, mientras que Anthropic comprendería mejor esos riesgos, pero estaría condicionada por la competencia tecnológica y la necesidad de no quedarse atrás.
Ante este escenario, planteó que la industria necesita una mayor coordinación entre empresas y proyectos de IA. Incluso propuso considerar medidas que impliquen costos importantes para el sector, entre ellas una prohibición temporal del incremento de las capacidades de los modelos, mientras se desarrollan mecanismos más sólidos para comprender y controlar estos sistemas.
También llamó a los investigadores a cuestionar si es responsable continuar impulsando técnicas como el aprendizaje por refuerzo hacia sistemas potencialmente superinteligentes sin contar con un conocimiento suficiente sobre su funcionamiento interno.
Investigador de Anthropic respalda la advertencia
Las declaraciones de Coxon fueron respaldadas parcialmente por Evan Hubinger, investigador de Anthropic, quien respondió a sus publicaciones y reconoció que dentro de la empresa existe una preocupación real sobre escenarios extremos relacionados con la IA.
Hubinger afirmó que la posibilidad de que una inteligencia artificial avanzada pudiera provocar la extinción humana no es descartada por algunos investigadores y estimó personalmente que existe más de un 10% de probabilidad de que ocurra durante la próxima década.
Sin embargo, también estableció una diferencia entre los modelos actuales y los sistemas que podrían desarrollarse posteriormente. Consideró que el riesgo asociado con las herramientas existentes es relativamente bajo, mientras que la principal preocupación se concentra en la posibilidad de que surja una superinteligencia capaz de mejorar sus propias capacidades de manera acelerada.
No es la primera salida por temor a los riesgos
La renuncia de Coxon se suma a otros casos de investigadores y especialistas que han abandonado puestos en grandes compañías tecnológicas para advertir públicamente sobre los posibles riesgos de la inteligencia artificial.
Uno de los casos más conocidos es el de Geoffrey Hinton, considerado uno de los pioneros de las redes neuronales y ganador del Premio Nobel de Física. En 2023 dejó su puesto en Google y posteriormente expresó públicamente su preocupación por las consecuencias que podría tener el desarrollo de sistemas de IA cada vez más capaces.
En 2024, además, exempleados de OpenAI difundieron una carta abierta en la que manifestaron su preocupación por el ritmo de desarrollo de la inteligencia artificial y señalaron la necesidad de contar con mayores mecanismos de protección para quienes denuncien posibles riesgos dentro de las empresas.
El debate sobre la seguridad de la IA se intensifica mientras compañías tecnológicas compiten por desarrollar modelos con capacidades cada vez mayores. Para críticos como Coxon, el desafío no consiste únicamente en determinar qué tan poderosa puede llegar a ser esta tecnología, sino en establecer si la humanidad podrá comprenderla y controlarla al mismo ritmo de su evolución.