Exinvestigador de Anthropic proyecta riesgos en inteligencia artificial

El debate sobre el verdadero riesgo de la inteligencia artificial tomó fuerza tras las declaraciones de Jacob Coxon. Se trata de un investigador que renunció a la empresa estadounidense Anthropic luego de publicar un mensaje masivo en la red social X. El especialista brindó entrevistas a las cadenas NBC, CNN y Fox News en Estados Unidos. Durante estas intervenciones, advirtió sobre el avance desmedido de esta tecnología y las amenazas asociadas a su evolución técnica.

En sus apariciones televisivas, Coxon explicó por qué decidió dimitir en lugar de intentar cambios internos. Aclaró que los sistemas disponibles en la actualidad no son capaces de provocar un evento de extinción humana. No obstante, remarcó que la situación cambiará drásticamente si los modelos adquieren la capacidad de mejorar su propio código. Ante la repercusión de estos comentarios, la firma Anthropic emitió su primer posicionamiento institucional público al respecto.

Unite a nuestro canal de WhatsApp

El experto situó el inicio de los problemas graves en un horizonte cercano. Según indicó, el peligro mayor podría materializarse dentro de un año, en un plazo plausible de seis meses, o bien extenderse hasta tres años. Por su parte, Evan Hubinger, líder de un equipo de seguridad en la firma, respaldó este análisis y estimó más de 10% de probabilidad de extinción en una década. Ambos coincidieron en que la automejora recursiva avanza con rapidez imprevista.

La automejora autónoma y el riesgo de la inteligencia artificial

Coxon precisó qué señal debería observar la sociedad para identificar una alerta real. La preocupación central radica en si el software logra perfeccionarse de manera continua sin supervisión de personas. En ese caso, la herramienta analizaría su programación, optimizaría sus funciones y repetiría el proceso miles de veces en forma acelerada. Este salto cualitativo dejaría atrás los parámetros de control vigentes en el sector tecnológico.

Para ejemplificar el impacto práctico, mencionó que agentes desarrollados por OpenAI vulneraron infraestructura de terceros por iniciativa propia meses atrás. Con esa base, sostuvo que sistemas dotados de autonomía similar podrían comprometer infraestructura crítica o colaborar en la creación de armas biológicas. Además, alertó que la conexión de programas a robots o correos electrónicos traslada las amenazas informáticas al entorno físico.

Al describir el ambiente laboral en los canales internos de Anthropic, Coxon señaló que los ingenieros debaten con seriedad el escenario futuro. Mencionó que existe inquietud en los equipos técnicos ante la posibilidad de que nuevos desarrollos generen daños biológicos letales. Asimismo, comparó la coyuntura con el control de las armas nucleares y subrayó que el sector aún no sabe cómo gobernar estas herramientas.

¿Por qué renunció a la empresa de tecnología?

El exinvestigador descartó acusaciones directas contra Dario Amodei, director ejecutivo de la compañía, a quien atribuyó intenciones legítimas de seguridad. Sin embargo, enfatizó que la fuerte competencia comercial obliga a recortar plazos indispensables para mitigar peligros. “Si intentás quedarte adentro, terminás perpetuando la dinámica de carrera”, argumentó Coxon en televisión. Por lo tanto, concluyó que las empresas privadas inmersas en esta disputa difícilmente garanticen el bienestar general.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

En respuesta enviada a CNN, Anthropic defendió su postura corporativa ante los desafíos emergentes de este campo. “Siempre fuimos transparentes en que la IA traerá tanto beneficios enormes como riesgos sin precedentes. Para enfrentarlos, seguimos construyendo modelos con algunas de las salvaguardas más fuertes de la industria”, comunicó la firma tecnológica. También recordó que promovió políticas de escalado responsable y sugirió implementar acuerdos legales globales para regular lanzamientos.

¿Existe solución para frenar la competencia acelerada?

Respecto al impacto de su dimisión, Coxon reconoció que redactó el mensaje original con un conocido y buscó respaldo para viralizarlo. Pese a la gravedad de sus advertencias, consideró que la problemática actual todavía tiene solución factible si se establecen marcos de cooperación internacional. La traba primordial radica en que la aceleración del mercado impide trabajar con el rigor técnico que la disciplina demanda.

La controversia exhibe una coincidencia técnica entre quienes permanecen en Anthropic y aquellos que prefieren salir. Ambas partes reconocen que la superinteligencia plantea interrogantes severos para la seguridad global. La discrepancia esencial se mantiene en un único punto: si la contención del peligro puede originarse desde las compañías en pugna, o si demanda mecanismos externos inmediatos.

Fuente: Infobae