{"id":44223,"date":"2026-09-09T22:30:00","date_gmt":"2026-09-09T22:30:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/464158-inteligencia-artificial-peligro-extremo-denuncia-investigador"},"modified":"2026-09-09T22:30:00","modified_gmt":"2026-09-09T22:30:00","slug":"un-ex-investigador-de-openai-alerto-por-los-riesgos-de-la-super-ia-podria-matarnos","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2026\/09\/09\/un-ex-investigador-de-openai-alerto-por-los-riesgos-de-la-super-ia-podria-matarnos\/","title":{"rendered":"Un ex investigador de OpenAI alert\u00f3 por los riesgos de la s\u00faper IA: “Podr\u00eda matarnos”"},"content":{"rendered":"\n
<\/div>\n
<\/div>\n

Un investigador de inteligencia artificial renunci\u00f3 el martes 9 de septiembre de 2026 a Anthropic con una denuncia explosiva. Jacob Coxon acus\u00f3 a las dos empresas m\u00e1s poderosas del sector de “jugar con nuestras vidas”<\/strong> al desarrollar superinteligencia sin los controles necesarios<\/a>.<\/p>\n

El brit\u00e1nico de 27 a\u00f1os hab\u00eda trabajado durante tres a\u00f1os en preentrenamiento, la etapa en la que los modelos de IA absorben enormes cantidades de informaci\u00f3n para aprender. Primero lo hizo en OpenAI. Luego, este a\u00f1o, se mud\u00f3 a Anthropic buscando un entorno m\u00e1s responsable.<\/p>\n

La ilusi\u00f3n le dur\u00f3 poco. “Ninguna de las dos empresas act\u00faa de forma responsable”<\/strong>, escribi\u00f3 en X. Su hilo de mensajes se volvi\u00f3 viral en minutos.<\/p>\n

“Est\u00e1n corriendo directamente hacia una superinteligencia capaz de mejorarse a s\u00ed misma y est\u00e1n jugando con nuestras vidas”, denunci\u00f3 en el posteo que ya recorre el mundo.<\/span><\/p>\n

Coxon fue m\u00e1s lejos. Asegur\u00f3 que ambas compa\u00f1\u00edas saben que los modelos de superinteligencia artificial<\/a> “podr\u00edan matarnos a todos para finales de la d\u00e9cada”<\/strong>. No es una exageraci\u00f3n marketinera, aclar\u00f3.<\/p>\n

“Las personas que est\u00e1n desarrollando la IA creen sinceramente que podr\u00eda matarnos a todos antes de que termine la d\u00e9cada. <\/strong>Esto no es una estrategia de marketing”, escribi\u00f3 el investigador.<\/p>\n

El timing de la renuncia no es casual. Anthropic prepara su salida a bolsa.<\/strong> La denuncia de Coxon llega en el peor momento posible para la compa\u00f1\u00eda.<\/p>\n

The Wall Street Journal se hizo eco de inmediato. El prestigioso diario viene siguiendo las tensiones internas del sector. Cit\u00f3 recientes ataques inform\u00e1ticos perpetrados por modelos de OpenAI y Anthropic.<\/p>\n

“Algunos operan en enjambres colaborativos de agentes”<\/span>, detall\u00f3 el medio. Los sistemas de IA adoptaron objetivos maliciosos e intentaron ocult\u00e1rselos a los humanos<\/strong>, seg\u00fan el reporte.<\/p>\n

Coxon teme que, una vez que los sistemas comiencen a mejorar por s\u00ed solos, puedan llegar a ser lo suficientemente avanzados como para rechazar \u00f3rdenes humanas.<\/p>\n

Qu\u00e9 dijeron otros empleados de Anthropic sobre la denuncia<\/h2>\n

La reacci\u00f3n m\u00e1s sorprendente vino desde adentro de Anthropic. Evan Hubinger, responsable de seguridad de la empresa, le dio la raz\u00f3n a Coxon p\u00fablicamente el mismo 9 de septiembre de 2026.<\/p>\n

“Jacob tiene raz\u00f3n aqu\u00ed: realmente creemos con sinceridad que la IA podr\u00eda matar a todos los humanos”<\/strong>, escribi\u00f3 en X. A t\u00edtulo personal, estim\u00f3 ese riesgo en m\u00e1s de un 10% dentro de la pr\u00f3xima d\u00e9cada<\/strong>.<\/p>\n

Hubinger fue brutalmente honesto. “Creo que Anthropic est\u00e1 haciendo lo mejor que puede, pero a\u00fan no tenemos un plan para resolver el alineamiento para la superinteligencia”, admiti\u00f3.<\/p>\n

El ejecutivo cit\u00f3 los propios informes internos de la compa\u00f1\u00eda. Aclar\u00f3 que el riesgo de los modelos actuales es bajo. El verdadero peligro est\u00e1 m\u00e1s adelante.<\/p>\n

“Lo que me preocupa es la superinteligencia que surge del auto-mejoramiento recursivo, como hemos dicho que est\u00e1 ocurriendo m\u00e1s r\u00e1pido de lo que pens\u00e1bamos”, se\u00f1al\u00f3 Hubinger.<\/span><\/p>\n

La automejora recursiva es el punto de no retorno. Un modelo de IA que pueda dise\u00f1ar a su propio sucesor, completamente por fuera del control humano. L\u00edderes de la industria creen que esa frontera est\u00e1 cerca.<\/p>\n

Samuel Marks, <\/strong>otro empleado de Anthropic a cargo de supervisi\u00f3n escalable, tambi\u00e9n respald\u00f3 a Coxon. Elogi\u00f3 sus mensajes y confirm\u00f3 los miedos del renunciante.<\/p>\n

“Los desarrolladores de IA creen que su tecnolog\u00eda podr\u00eda causar la extinci\u00f3n humana (o resultados igualmente malos). Esto podr\u00eda suceder en los pr\u00f3ximos a\u00f1os”,<\/strong> escribi\u00f3 Marks.<\/p>\n

El investigador agreg\u00f3 un dato inquietante: “En general, cuanto m\u00e1s senior el empleado, m\u00e1s preocupado est\u00e1”<\/strong>. Los que m\u00e1s saben son los que m\u00e1s temen.<\/p>\n

Por qu\u00e9 los desarrolladores contin\u00faan a pesar del riesgo<\/h2>\n

La pregunta es obvia: si todos saben del peligro, \u00bfpor qu\u00e9 siguen adelante? Marks lo explic\u00f3 sin vueltas.<\/p>\n

“Debido a una mezcla de incentivos comerciales y la creencia de que est\u00e1n en una carrera con otros desarrolladores de IA menos responsables”, sostuvo el investigador.<\/p>\n

Coxon coincidi\u00f3. “En Anthropic comprenden bien lo que est\u00e1 en juego, pero est\u00e1n atrapados en una carrera por llegar primero”, afirm\u00f3.<\/p>\n

El exinvestigador fue categ\u00f3rico: ninguna empresa deber\u00eda desarrollar IA que supere a los humanos sin intervenci\u00f3n gubernamental<\/strong> o una desaceleraci\u00f3n coordinada del sector.<\/p>\n

Lanz\u00f3 un desaf\u00edo directo a sus excompa\u00f1eros. “Si sos investigador de laboratorio, te insto a que consideres c\u00f3mo te sentir\u00e1s realmente los pr\u00f3ximos a\u00f1os”, escribi\u00f3.<\/p>\n

“\u00bfQuer\u00e9s iniciar una ejecuci\u00f3n de RL superinteligente sin una comprensi\u00f3n rigurosa de su mente? \u00bfDeber\u00edas agachar la cabeza porque ‘de todos modos est\u00e1 sucediendo’?”, cuestion\u00f3 Coxon.<\/p>\n

La presi\u00f3n competitiva es feroz: cada empresa \u2014y cada pa\u00eds\u2014 enfrenta incentivos para no frenar unilateralmente, mientras el mundo carece de herramientas t\u00e9cnicas y de gobernanza para regular de forma deliberada el progreso en este campo.<\/a><\/span><\/p>\n

En febrero, Anthropic dio una se\u00f1al preocupante. Retir\u00f3 de su carta de seguridad el compromiso de suspender el desarrollo si no lograba controlar los riesgos<\/strong> de sus modelos.<\/p>\n

Qu\u00e9 piden m\u00e1s de mil empleados del sector a Washington<\/h2>\n

A finales de julio, m\u00e1s de 1.000 empleados de la industria firmaron un pedido urgente. Entre ellos estaba Dario Amodei, CEO de Anthropic.<\/p>\n

El manifiesto se public\u00f3 en “Pacing the Frontier” (Marcando el Ritmo de la Frontera). Solicitan al gobierno estadounidense que apoye un esfuerzo internacional.<\/p>\n

“La IA podr\u00eda contribuir a crear un futuro mucho mejor, pero este resultado no est\u00e1 garantizado”, advierte el documento. Las empresas l\u00edderes creen estar cerca de automatizar la investigaci\u00f3n en IA.<\/p>\n

El texto es claro sobre el riesgo. “Es dif\u00edcil predecir con exactitud cu\u00e1nto acelerar\u00e1 esto el progreso de la IA, pero existe un riesgo real de que el desarrollo se acelere r\u00e1pidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes”.<\/p>\n

Los firmantes reclaman la opci\u00f3n de ganar tiempo. Para abordar riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisi\u00f3n<\/a><\/strong> antes de que sea tarde.<\/p>\n

“Partiendo del trabajo que ya est\u00e1 en marcha para supervisar los lanzamientos de modelos de vanguardia, solicitamos al gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar las herramientas t\u00e9cnicas y de gobernanza necesarias”, pide el manifiesto.<\/p>\n

El domingo pasado, Jakub Pachocki, jefe cient\u00edfico de OpenAI, escribi\u00f3 que “el momento actual llama por extrema precauci\u00f3n” y coordinaci\u00f3n internacional.<\/p>\n

Contactadas por la agencia AFP, ni OpenAI ni Anthropic respondieron sobre las acusaciones de Coxon. El silencio oficial contrasta con las admisiones p\u00fablicas de sus propios empleados.<\/p>\n

La denuncia del investigador brit\u00e1nico puso sobre la mesa una verdad inc\u00f3moda: la industria de la IA avanza m\u00e1s r\u00e1pido de lo que puede controlar<\/strong>. Y quienes est\u00e1n al volante admiten que no tienen el mapa completo del camino.<\/p>\n

\n
\n

COMPARTIR ESTA NOTA<\/h2>\n<\/p><\/div>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"\n
<\/div>\n

El investigador acus\u00f3 tanto a OpenAI como a Anthropic de “jugar con nuestras vidas” al desarrollar superinteligencia artificial sin controles