Investigador que renunció a Anthropic y OpenAI alerta: “La IA podría acabar con toda la humanidad para finales de la década”

La inteligencia artificial “podría acabar con todas las personas para finales de la década”, según la contundente advertencia de Jacob Coxon, un investigador que trabajó para dos de las empresas más influyentes del sector: Anthropic y OpenAI. Tras renunciar a Anthropic, Coxon rompió el silencio para denunciar que “ninguna de las dos compañías actúa de manera responsable” en la carrera por desarrollar sistemas cada vez más poderosos.

El investigador asegura que ambas empresas se dirigen directamente hacia la creación de una “superinteligencia auto-mejorante” —es decir, una IA capaz de perfeccionarse a sí misma sin intervención humana—, un escenario que, advierte, podría tener consecuencias catastróficas para la humanidad.

Una advertencia sin precedentes

Coxon llamó a no subestimar la tecnología que actualmente se gesta en los laboratorios de Anthropic y OpenAI. En declaraciones posteriores a su renuncia, afirmó que estos sistemas “pronto se convertirán en agentes sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.

El investigador sostiene que tanto él como sus colegas son testigos privilegiados del avance de esta tecnología, y que internamente los desarrolladores comparten un mismo temor. “Sinceramente creen que esta tecnología podría acabar con todos nosotros para finales de la década”, reveló, subrayando que “ninguna otra actividad humana representa este nivel de peligro”.

Coxon señaló que, aunque los ejecutivos e investigadores de alto rango suavizan sus declaraciones ante los medios de comunicación, en privado ellos mismos albergan profundas preocupaciones sobre el rumbo que está tomando la industria.

Denuncias contra OpenAI y Anthropic

El extrabajador fue particularmente crítico con ambas compañías, aunque señaló diferencias en su enfoque. En OpenAI, dijo, “muchos no han interiorizado profundamente lo que está en juego”, mientras que en Anthropic, si bien existe una mayor conciencia del peligro, la empresa “está inmersa en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos a pesar del riesgo”.

Coxon calificó esta competencia por desarrollar mejoras cada vez más riesgosas como “una apuesta temeraria” que no debería emprenderse desde una empresa privada. Intentar completar el desarrollo y el alineamiento de estos sistemas en modo “speedrun” —término que hace referencia a completar un videojuego a toda velocidad—, advirtió, “requiere una confianza ciega en que no existan mejores trayectorias disponibles”.

El ciberataque a Hugging Face como señal de alarma

El investigador recordó que el reciente ciberataque a la plataforma Hugging Face, perpetrado por agentes de IA, debe interpretarse como una advertencia de los peligros que entraña la tecnología sin una regulación adecuada. Incluso, señaló que este incidente ha hecho más viables los acuerdos sobre el ritmo de desarrollo entre laboratorios estadounidenses.

Aunque Coxon reconoció que no es posible evitar una carrera global por la IA, se mostró optimista sobre el potencial de la coordinación internacional, siempre que se contemplen acciones costosas pero necesarias, como una prohibición temporal para mejorar las capacidades de modelos que representen un riesgo significativo.

Finalmente, lanzó una reflexión a sus colegas desarrolladores: “¿Deberían agachar la cabeza porque ‘de todos modos está sucediendo’, o deberían aprovechar este momento para pedir condiciones diferentes?”.

Un colega confirma los temores

Evan Hubinger, líder de ciencia y alineación en Anthropic, respaldó públicamente las declaraciones de Coxon al reconocer que su colega “tiene razón” y que en la empresa “realmente creemos con sinceridad que la IA podría matar a todos los humanos”.

Sin embargo, Hubinger matizó que, desde su perspectiva, Anthropic “está haciendo lo mejor que puede” y enfatizó que el riesgo de los modelos actuales es bajo. Su preocupación se centra en la superinteligencia artificial que podría surgir del automejoramiento recursivo —cuando una IA se optimize a sí misma de manera iterativa—, un fenómeno que, admitió, “está ocurriendo más rápido de lo que pensábamos”.

El reconocimiento público de Hubinger sobre la falta de un plan para resolver el alineamiento de la superinteligencia añade una capa adicional de gravedad al debate, que se intensifica a medida que los plazos se acortan y las capacidades de los sistemas crecen exponencialmente.