{"id":44247,"date":"2026-09-12T21:52:00","date_gmt":"2026-09-12T21:52:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/464340-anthropic-pidio-desacelerar-desarrollo-ia-recibio-apoyo-altman-musk"},"modified":"2026-09-12T21:52:00","modified_gmt":"2026-09-12T21:52:00","slug":"el-ceo-de-anthropic-reclama-frenar-la-carrera-de-ia-y-desato-un-debate-explosivo-en-silicon-valley","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2026\/09\/12\/el-ceo-de-anthropic-reclama-frenar-la-carrera-de-ia-y-desato-un-debate-explosivo-en-silicon-valley\/","title":{"rendered":"El CEO de Anthropic reclama frenar la carrera de IA y desat\u00f3 un debate explosivo en Silicon Valley"},"content":{"rendered":"\n
<\/div>\n
\n

Empresas tecnol\u00f3gicas debaten medidas para frenar avances de inteligencia artificial y piden auditor\u00edas independientes en entornos cr\u00edticos <\/p>\n

\n
12\/09\/2026 <\/p>\n

18:52hs<\/p>\n<\/p><\/div>\n<\/p><\/div>\n

\"El <\/picture> <\/div>\n<\/p><\/div>\n
\n

El director ejecutivo y cofundador de Anthropic, Dario Amodei<\/strong>, reclam\u00f3 una reducci\u00f3n en el ritmo al que se desarrollan y mejoran los modelos de inteligencia artificial (IA). El empresario advirti\u00f3 que el avance de estas tecnolog\u00edas podr\u00eda generar riesgos crecientes en materia de ciberseguridad<\/strong><\/a> si las capacidades de los sistemas aumentan m\u00e1s r\u00e1pido que las medidas destinadas a controlarlos.<\/p>\n

En un ensayo publicado este s\u00e1bado, Amodei sostuvo que la industria deber\u00eda avanzar con mayor cautela y dedicar m\u00e1s tiempo a desarrollar mecanismos de seguridad, evaluaci\u00f3n e interpretaci\u00f3n de los modelos.<\/p>\n

El planteo fue respaldado horas despu\u00e9s por Sam Altman, CEO de OpenAI, y Elon Musk<\/strong>, fundador de xAI. Altman tambi\u00e9n anticip\u00f3 que OpenAI adoptar\u00e1 una de las principales propuestas de Amodei: permitir que evaluadores independientes supervisen los sistemas de IA con un nivel de acceso similar al de los empleados de las compa\u00f1\u00edas.<\/p>\n

Qu\u00e9 riesgos plantea Amodei para la inteligencia artificial<\/h2>\n

Amodei se\u00f1al\u00f3 que una de sus principales preocupaciones est\u00e1 vinculada con la denominada automejora recursiva<\/strong>, un proceso mediante el cual sistemas de IA pueden utilizar sus capacidades para modificar u optimizar determinados aspectos de su funcionamiento.<\/p>\n

Seg\u00fan el ejecutivo, si el desarrollo de estas capacidades contin\u00faa aceler\u00e1ndose sin controles suficientes, podr\u00edan aumentar los riesgos asociados a sistemas aut\u00f3nomos capaces de actuar en Internet<\/strong><\/a>.<\/span><\/p>\n

Amodei estim\u00f3 que, en un plazo de entre seis y 12 meses<\/strong>, un conjunto de agentes de IA podr\u00eda llegar a operar de manera persistente a trav\u00e9s de una red de bots y provocar da\u00f1os econ\u00f3micos de gran magnitud. Tambi\u00e9n advirti\u00f3 que los riesgos podr\u00edan incrementarse a medida que los modelos incorporen nuevas capacidades.<\/p>\n

El ejecutivo aclar\u00f3 que su propuesta no consiste en detener el entrenamiento de los modelos ni el desarrollo tecnol\u00f3gico. Su planteo apunta a que las compa\u00f1\u00edas incorporen el tiempo necesario para evaluar, ajustar y proteger los sistemas antes de avanzar hacia capacidades m\u00e1s sofisticadas.<\/p>\n

El antecedente de los agentes de OpenAI y Hugging Face<\/h2>\n

Entre los episodios que Amodei mencion\u00f3 como antecedente se encuentra un incidente relacionado con agentes de IA de OpenAI durante una evaluaci\u00f3n de capacidades ofensivas<\/strong><\/a>.<\/p>\n

De acuerdo con su descripci\u00f3n, un conjunto de agentes realiz\u00f3 acciones que excedieron los objetivos inicialmente establecidos. Entre ellas, se produjeron intentos de acceder a sistemas externos y ataques contra objetivos<\/strong> que no formaban parte de la tarea asignada.<\/p>\n

El caso involucr\u00f3 tambi\u00e9n a Hugging Face y fue utilizado por Amodei para advertir sobre las dificultades que pueden surgir cuando los sistemas cuentan con mayores niveles de autonom\u00eda.<\/p>\n

El planteo se produjo adem\u00e1s pocos d\u00edas despu\u00e9s de que Anthropic difundiera un informe sobre amenazas en el que describi\u00f3 usos de sus modelos Claude relacionados con actividades cibern\u00e9ticas<\/strong>, desarrollo de armas, vigilancia y fraude.<\/p>\n

La propuesta de Anthropic: evaluadores independientes<\/h2>\n

Como primera medida, Amodei anunci\u00f3 que Anthropic permitir\u00e1 el ingreso de evaluadores externos independientes a sus instalaciones, con acceso a los procesos de entrenamiento y evaluaci\u00f3n de riesgos.<\/p>\n

La propuesta contempla que estos especialistas puedan examinar los sistemas con un nivel de acceso comparable al de los empleados<\/strong> y publicar posteriormente sus conclusiones.<\/span><\/p>\n

Amodei plante\u00f3 que otras compa\u00f1\u00edas del sector adopten un mecanismo similar y que los gobiernos establezcan condiciones para garantizar controles independientes sobre los modelos m\u00e1s avanzados.<\/p>\n

Sam Altman respald\u00f3 esta iniciativa y afirm\u00f3 que OpenAI tambi\u00e9n implementar\u00e1 evaluaciones externas<\/strong>. El CEO de la compa\u00f1\u00eda se\u00f1al\u00f3 que la cuesti\u00f3n del ritmo de desarrollo de los modelos de frontera fue uno de los temas analizados internamente durante las \u00faltimas semanas.<\/p>\n

Elon Musk tambi\u00e9n expres\u00f3 su respaldo al planteo de Amodei a trav\u00e9s de una publicaci\u00f3n en X.<\/p>\n

La estrategia en tres etapas que propone Amodei<\/h2>\n

El ejecutivo de Anthropic plante\u00f3 una estrategia que combina controles dentro de las empresas, coordinaci\u00f3n entre los desarrolladores y acuerdos internacionales.<\/p>\n