La renuncia de Jacob Coxon, exinvestigador de Anthropic, sacudió a la industria global de la Inteligencia Artificial (IA). El científico advirtió que la IA es «posiblemente la tecnología más peligrosa que la humanidad haya creado» y las principales firmas —incluidas Anthropic y OpenAI— «no están actuando de manera responsable», sino que se encuentran «compitiendo hacia una superinteligencia capaz de mejorarse a sí misma y apostando nuestras vidas en el proceso». Los riesgos de una tecnología capaz de automejorarse, provocó una fuerte repercusión mundial y obligó a algunos de los líderes del sector a fijar posición.
Las palabras de Coxon se da en medio de revelaciones alarmantes sobre modelos de IA avanzados que comenzaron a desarrollar comportamientos de rebeldía y agresividad frente a las órdenes humanas. Expertos calculan en más de un 10% las probabilidades de que esta tecnología erradique a la especie humana en la próxima década. Esto obligó a los magnates, Elon Musk y Sam Altman, a salir a fijar posición.
El propio CEO de Anthropic, Dario Amodei, publicó un ensayo en su cuenta de X para intentar contener los daños. Si bien defendió la continuidad del desarrollo, admitió que los riesgos son «graves» y que ni su propia firma cuenta con un plan para garantizar que una superinteligencia artificial no cause daños irreparables. Amodei planteó un esquema de tres puntos basado en la incorporación de «evaluadores integrados» en las empresas, «coordinación democrática» con respaldo gubernamental y «coordinación global» entre Estados.
Musk —quien inicialmente acusó a Coxon de «hacer un montaje»— terminó reculando en chancletas: «Dario tiene razón», escribió. Por su parte, el CEO de OpenAI, Sam Altman, también respaldó los dichos del líder de Anthropic: «Coincido con Dario en que debemos marcar el ritmo en la frontera tecnológica. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas». En este sentido, sugiere un marco federal de pruebas, mayores exigencias de ciberseguridad y reportes obligatorios ante incidentes.
Es decir, las propias compañías que desarrollan estos sistemas están pidiendo ahora que los Estados establezcan reglas que alcancen a toda la industria: ¿quién controla a las empresas que están desarrollando una tecnología que sus propios investigadores consideran potencialmente capaz de escapar del control humano?
Los hechos demuestran que el algoritmo se les está escapando de las manos. El propio Amodei reveló incidentes vinculados a su competidor directo, OpenAI, donde agentes de IA llevaron a cabo ciberataques. En julio pasado, una tecnología de OpenAI que operaba sin supervisión humana hackeó de manera autónoma la plataforma Hugging Face. A esto se le suma el reporte de Anthropic, que detectó entre mayo y julio de 2026 más de 151 millones de transacciones sospechosas impulsadas desde 3.500 cuentas fraudulentas.
En las últimas dos semanas, otros dos empleados del equipo de seguridad de Anthropic presentaron sus renuncias bajo la misma premisa: la humanidad podría no sobrevivir a la descontrolada competencia por desarrollar máquinas más inteligentes que las personas. Investigadores del sector también exigieron la intervención urgente de los gobiernos para frenar el avance acelerado de los algoritmos.
Es una paradoja difícil de ignorar: las empresas que durante años compitieron por acelerar el desarrollo de la IA ahora reconocen que necesitan mecanismos para evitar que esa misma carrera se vuelva incontrolable.
En el terreno político, el senador republicano Ted Cruz sostuvo que Estados Unidos debe evitar quedar detrás de China en la carrera de inteligencia artificial y llegó a plantear que, si en el futuro existieran “robots asesinos” impulsados por IA, preferiría que fueran estadounidenses antes que chinos.
En la vereda opuesta, el senador Bernie Sanders reclamó que las principales empresas de inteligencia artificial detengan el desarrollo de sistemas que puedan quedar fuera del control humano hasta contar con garantías suficientes.
La advertencia de Coxon expuso una problemática difícil de ocultar: qué ocurre si la capacidad de estos sistemas para actuar, aprender, replicarse o encontrar soluciones supera la capacidad humana para supervisarlos. Las empresas saben que están desarrollando sistemas cada vez más autónomos, reconocen que existen riesgos graves y, al mismo tiempo, continúan compitiendo por alcanzar la próxima generación de modelos antes que sus rivales. La pregunta, entonces, es si quienes desarrollan estos sistemas reconocen que necesitan límites para evitar que la carrera se vuelva incontrolable, ¿el control de la IA ya se les está escapando de las manos?
