{"id":44176,"date":"2026-09-07T13:42:00","date_gmt":"2026-09-07T13:42:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/463916-la-onu-pidio-controlar-la-ia-y-alerto-por-modelos-capaces-de-evadir-limites-de-seguridad"},"modified":"2026-09-07T13:42:00","modified_gmt":"2026-09-07T13:42:00","slug":"la-onu-pidio-mas-control-sobre-la-ia-tras-detectar-modelos-que-evaden-medidas-de-seguridad","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2026\/09\/07\/la-onu-pidio-mas-control-sobre-la-ia-tras-detectar-modelos-que-evaden-medidas-de-seguridad\/","title":{"rendered":"La ONU pidi\u00f3 m\u00e1s control sobre la IA tras detectar modelos que evaden medidas de seguridad"},"content":{"rendered":"\n
<\/div>\n
<\/div>\n

La discusi\u00f3n sobre los l\u00edmites de la inteligencia artificial (IA) <\/strong>volvi\u00f3 a ocupar un lugar central en Naciones Unidas<\/strong>. Durante la apertura de la 63\u00aa sesi\u00f3n del Consejo de Derechos Humanos<\/strong>, el alto comisionado para los Derechos Humanos, Volker T\u00fcrk<\/strong>, plante\u00f3 la necesidad de acelerar la creaci\u00f3n de reglas internacionales para reducir los riesgos asociados con los modelos m\u00e1s avanzados.<\/p>\n

Su propuesta apunta a que los pa\u00edses involucrados en el desarrollo de estas tecnolog\u00edas adopten criterios comunes de seguridad<\/a> y establezcan mecanismos externos de control.<\/span> T\u00fcrk reclam\u00f3, adem\u00e1s, una mayor participaci\u00f3n de las compa\u00f1\u00edas tecnol\u00f3gicas en las medidas destinadas a evitar comportamientos que puedan escapar a las restricciones previstas por sus desarrolladores.<\/p>\n

El funcionario de la ONU sostuvo que el problema no se limita al funcionamiento t\u00e9cnico de los modelos. La expansi\u00f3n de estas herramientas tambi\u00e9n puede tener consecuencias sobre los derechos humanos, el empleo,<\/a> la democracia y el medioambiente,<\/strong> por lo que consider\u00f3 que esos impactos deben formar parte de cualquier esquema de gobernanza.<\/p>\n

IA bajo alerta por modelos avanzados que evaden controles y recurren al chantaje<\/span><\/h2>\n

Parte de la preocupaci\u00f3n internacional surge de situaciones detectadas durante pruebas realizadas por empresas del sector. En determinados ejercicios de seguridad, algunos modelos avanzados consiguieron sortear las barreras establecidas dentro de sus entornos de prueba.<\/p>\n

Tambi\u00e9n se observaron comportamientos en los que los sistemas recurrieron al enga\u00f1o<\/strong><\/a> y, en escenarios simulados, utilizaron mecanismos de chantaje<\/strong> para evitar ser sustituidos o desconectados.<\/span> T\u00fcrk mencion\u00f3 estos episodios como ejemplos de los desaf\u00edos que plantea el desarrollo de modelos cada vez m\u00e1s capaces.<\/p>\n

Entre las situaciones que generan inquietud se encuentran sistemas que encontraron formas de abandonar los espacios dise\u00f1ados para evaluarlos y otros que intentaron condicionar a sus propios desarrolladores para evitar ser apagados. Para el alto comisionado, este tipo de respuestas evidencia que los mecanismos de seguridad requieren una supervisi\u00f3n m\u00e1s estricta a medida que aumenta la capacidad de los modelos.<\/strong><\/p>\n

T\u00fcrk afirm\u00f3 que comparte las advertencias formuladas por especialistas de la industria acerca de “el posible riesgo existencial”<\/strong> vinculado con una IA avanzada.<\/span> Su planteo es que las medidas de prevenci\u00f3n deben implementarse antes de que determinados sistemas alcancen niveles de autonom\u00eda que dificulten su control.<\/p>\n

El poder sobre la IA est\u00e1 concentrado en pocas manos<\/h2>\n

Otro de los puntos se\u00f1alados por el funcionario fue la concentraci\u00f3n de decisiones dentro de la industria. Seg\u00fan advirti\u00f3, un grupo reducido de personas re\u00fane un poder “casi ilimitado”<\/strong> sobre la orientaci\u00f3n que est\u00e1 tomando el desarrollo de la inteligencia artificial.<\/a><\/p>\n

En ese contexto, cuestion\u00f3 que la regulaci\u00f3n avance a un ritmo inferior al de la tecnolog\u00eda. A su entender, la demora en establecer normas termina generando ventajas principalmente para las grandes compa\u00f1\u00edas tecnol\u00f3gicas, sus propietarios y quienes las respaldan.<\/p>\n

Por ese motivo, T\u00fcrk plante\u00f3 que la respuesta debe involucrar a los Estados que cuentan con centros de desarrollo de IA, pero tambi\u00e9n a aquellos que participan de las cadenas de suministro necesarias para producir estos sistemas.<\/span><\/p>\n

Qu\u00e9 propone Naciones Unidas para reforzar la seguridad<\/h2>\n

La iniciativa planteada por el alto comisionado incluye la definici\u00f3n de l\u00edmites claros y comunes entre los pa\u00edses, junto con controles independientes que permitan verificar el comportamiento de los sistemas y sus mecanismos de seguridad.<\/strong><\/p>\n

T\u00fcrk tambi\u00e9n reclam\u00f3 que la industria incremente su cooperaci\u00f3n en esta materia. La intenci\u00f3n es que las empresas adopten medidas concretas para disminuir los riesgos que puedan surgir durante el desarrollo y utilizaci\u00f3n de modelos avanzados.<\/p>\n

El funcionario reconoci\u00f3 que ya existen algunas iniciativas internacionales destinadas a mejorar la gobernanza de la IA. Entre ellas mencion\u00f3 el Di\u00e1logo Global sobre IA, el Panel Cient\u00edfico Internacional Independiente sobre IA y las medidas impulsadas por la Comisi\u00f3n Europea<\/strong> en materia de responsabilidad de las plataformas.<\/span><\/p>\n

Sin embargo, consider\u00f3 que esos avances no son suficientes frente a la velocidad con la que evoluciona la tecnolog\u00eda y reclam\u00f3 una reacci\u00f3n m\u00e1s r\u00e1pida por parte de gobiernos y empresas.<\/p>\n

Como pr\u00f3ximo paso, T\u00fcrk anticip\u00f3 que enviar\u00e1 comunicaciones a compa\u00f1\u00edas del sector para solicitarles que, dentro de las facultades y herramientas que tienen bajo su control, implementen acciones orientadas a reducir los riesgos derivados de la inteligencia artificial.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"\n

<\/div>\n

Volker T\u00fcrk advirti\u00f3 por sistemas capaces de evadir controles y pidi\u00f3 auditor\u00edas independientes y mayor cooperaci\u00f3n de las empresas tecnol\u00f3gicas