{"id":44221,"date":"2026-09-10T13:53:00","date_gmt":"2026-09-10T13:53:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/464194-anthropic-admite-que-no-tiene-un-plan-para-controlar-los-riesgos-de-la-superinteligencia"},"modified":"2026-09-10T13:53:00","modified_gmt":"2026-09-10T13:53:00","slug":"anthropic-admite-que-todavia-no-sabe-como-controlar-los-riesgos-de-la-superinteligencia","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2026\/09\/10\/anthropic-admite-que-todavia-no-sabe-como-controlar-los-riesgos-de-la-superinteligencia\/","title":{"rendered":"Anthropic admite que todav\u00eda no sabe c\u00f3mo controlar los riesgos de la superinteligencia"},"content":{"rendered":"\n
<\/div>\n
<\/div>\n

El avance de la inteligencia artificial <\/strong>ya no plantea \u00fanicamente interrogantes sobre productividad, empleo o transformaci\u00f3n de actividades. Dentro de las propias compa\u00f1\u00edas que desarrollan estos sistemas crece tambi\u00e9n la preocupaci\u00f3n por la capacidad de controlar modelos cada vez m\u00e1s sofisticados.<\/p>\n

Una de las \u00faltimas se\u00f1ales surgi\u00f3 desde Anthropic<\/strong><\/a>, que esta semana difundi\u00f3 un estudio sobre el impacto que podr\u00eda tener la automatizaci\u00f3n basada en IA sobre los trabajadores de oficina en Estados Unidos. En uno de los escenarios analizados, uno de cada cinco empleados de ese sector podr\u00eda quedar desplazado hacia 2030.<\/strong><\/p>\n

El documento contempla adem\u00e1s un deterioro de los ingresos de esos trabajadores. En ese escenario extremo, sus salarios ser\u00edan m\u00e1s de un 10% inferiores<\/strong> a los que alcanzar\u00edan si estas tecnolog\u00edas no estuvieran presentes, mientras que el desempleo se ubicar\u00eda por encima de registros hist\u00f3ricos.<\/span><\/p>\n

La compa\u00f1\u00eda con sede en San Francisco remarc\u00f3 que esas cifras no deben interpretarse como una proyecci\u00f3n de lo que necesariamente suceder\u00e1. Se trata, seg\u00fan explic\u00f3, de escenarios hipot\u00e9ticos<\/strong> elaborados para analizar posibles consecuencias de una expansi\u00f3n acelerada de la IA.<\/a><\/p>\n

El informe apareci\u00f3 en un momento especialmente relevante para Anthropic. La empresa dirigida por Dario Amodei<\/strong> consigui\u00f3 recientemente superar por primera vez a OpenAI <\/a><\/strong>en ingresos<\/a>, mientras que meses atr\u00e1s hab\u00eda quedado involucrada en una disputa pol\u00edtica despu\u00e9s de que Donald Trump<\/strong> la calificara como un “representante de la izquierda radical”.<\/strong><\/p>\n

Exinvestigador de OpenAI y Anthropic advierte sobre el futuro de la inteligencia artificial<\/span><\/h2>\n

En paralelo con ese debate econ\u00f3mico y laboral, Jacob Coxon<\/strong>, investigador brit\u00e1nico de 27 a\u00f1os que trabaj\u00f3 tanto en OpenAI como en Anthropic, public\u00f3 una serie de mensajes en X en los que puso el foco sobre un riesgo mucho m\u00e1s extremo.<\/p>\n

Coxon se especializ\u00f3 en el entrenamiento de los modelos que utilizan ChatGPT y Claude<\/strong>. Seg\u00fan sostuvo, las compa\u00f1\u00edas del sector son conscientes de que el desarrollo de sistemas cada vez m\u00e1s poderosos podr\u00eda desembocar en consecuencias graves. Su advertencia fue tajante: “Podr\u00edan matarnos a finales de esta d\u00e9cada”.<\/strong><\/span><\/p>\n

El planteo recibi\u00f3 una respuesta particularmente significativa porque provino de alguien que actualmente forma parte de Anthropic y que, adem\u00e1s, hab\u00eda sido superior de Coxon. Evan Hubinger<\/strong> coincidi\u00f3 p\u00fablicamente con el investigador y escribi\u00f3: “Jacob tiene raz\u00f3n”.<\/strong><\/p>\n

Pero el referente de Anthropic fue todav\u00eda m\u00e1s espec\u00edfico al explicar cu\u00e1l considera que es uno de los problemas pendientes. “Creo que estamos haciendo lo mejor que podemos, pero a\u00fan no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”,<\/strong><\/span> reconoci\u00f3.<\/p>\n

El llamado problema de alineamiento est\u00e1 relacionado con la dificultad de conseguir que sistemas de IA altamente capaces mantengan sus objetivos y comportamientos dentro de par\u00e1metros compatibles con los intereses humanos. En el caso planteado por Hubinger, la dificultad adquiere especial importancia ante la eventual llegada de una superinteligencia.<\/p>\n

La respuesta de Anthropic<\/h2>\n

Anthropic no neg\u00f3 completamente las preocupaciones expresadas por su exempleado. En cambio, aprovech\u00f3 la discusi\u00f3n para insistir en la necesidad de establecer mecanismos que permitan coordinar el desarrollo de los sistemas m\u00e1s potentes.<\/p>\n

“Creemos que el mundo se beneficiar\u00eda si el sector adoptase una forma legal y verificable de colaborar para regular el ritmo de lanzamiento de los modelos potentes”, <\/span>afirm\u00f3 la compa\u00f1\u00eda.<\/p>\n

Un vocero de la startup tambi\u00e9n defendi\u00f3 el trabajo que realiza en materia de seguridad y record\u00f3 que la llegada de la IA tendr\u00e1 efectos tanto positivos como negativos.<\/p>\n

“Siempre hemos sido transparentes al afirmar que la IA traer\u00e1 consigo tanto enormes beneficios<\/a> como riesgos sin precedentes. Para abordarlos, seguimos desarrollando modelos que cuentan con algunas de las medidas de seguridad m\u00e1s s\u00f3lidas del sector”, declar\u00f3.<\/p>\n

Coxon, sin embargo, mantuvo su posici\u00f3n cr\u00edtica respecto de las dos empresas en las que trabaj\u00f3. “Ninguna de las dos compa\u00f1\u00edas act\u00faa de manera responsable<\/strong>“, sostuvo.<\/p>\n

Qu\u00e9 dijo Coxon sobre una eventual amenaza para la humanidad<\/h2>\n

Despu\u00e9s de la repercusi\u00f3n que alcanzaron sus publicaciones, Coxon ampli\u00f3 sus argumentos en una entrevista con CNN<\/em>. All\u00ed mencion\u00f3 episodios en los que agentes de OpenAI realizaron ataques sin supervisi\u00f3n sobre plataformas de terceros<\/strong>, como parte de los comportamientos que considera relevantes para evaluar los riesgos de los nuevos sistemas.<\/span><\/p>\n

El investigador introdujo, de todos modos, una diferencia entre los peligros actuales y los escenarios m\u00e1s extremos. A su entender, la tecnolog\u00eda disponible hoy todav\u00eda no tiene las capacidades necesarias para provocar la extinci\u00f3n de la humanidad.<\/p>\n

Su preocupaci\u00f3n central pasa por otro punto: la velocidad a la que avanzan los modelos puede hacer que los mecanismos de control y adaptaci\u00f3n social queden detr\u00e1s de la evoluci\u00f3n tecnol\u00f3gica. “Creo que es importante revisar el ritmo de estos progresos”,<\/strong> concluy\u00f3.<\/p>\n

La posibilidad de desacelerar el desarrollo tampoco es una idea completamente ajena a OpenAI. Su CEO, Sam Altman<\/strong><\/a>, hab\u00eda planteado una inquietud similar a mediados de a\u00f1o durante una participaci\u00f3n en el podcast Invest Like The Best.<\/p>\n

“Es posible que debamos ajustar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad”<\/span>, afirm\u00f3 entonces. Altman tambi\u00e9n admiti\u00f3 que los episodios protagonizados por los modelos m\u00e1s avanzados generan “interrogantes de largo plazo”.<\/strong><\/p>\n

El debate, as\u00ed, excede la competencia comercial entre las principales empresas de inteligencia artificial. El crecimiento de las capacidades de estos sistemas abre al mismo tiempo discusiones sobre empleo, seguridad, supervisi\u00f3n y el ritmo con el que deber\u00edan llegar al p\u00fablico. Y algunas de las advertencias m\u00e1s fuertes ya provienen de personas que trabajaron dentro de las compa\u00f1\u00edas que encabezan esa carrera.<\/p>\n

\n
\n

COMPARTIR ESTA NOTA<\/h2>\n<\/p><\/div>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"\n
<\/div>\n

Un informe de Anthropic alert\u00f3 por el impacto laboral de la IA y un exinvestigador de la firma cuestion\u00f3 la seguridad de los modelos m\u00e1s avanzados