{"id":33326,"date":"2025-04-06T00:13:00","date_gmt":"2025-04-06T00:13:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/425791-google-advierte-que-la-ia-podria-superar-a-los-humanos-antes-de-2030"},"modified":"2025-04-06T00:13:00","modified_gmt":"2025-04-06T00:13:00","slug":"google-advierte-que-en-pocos-anos-la-ia-podria-superar-al-ser-humano","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2025\/04\/06\/google-advierte-que-en-pocos-anos-la-ia-podria-superar-al-ser-humano\/","title":{"rendered":"Google advierte que en pocos a\u00f1os la IA podr\u00eda superar al ser humano"},"content":{"rendered":"\n
<\/div>\n
\n

Para anticiparse a este impacto, DeepMind trabaja en m\u00e9todos espec\u00edficos para prevenir usos maliciosos y salvaguardar los valores humanos <\/p>\n

05\/04\/2025<\/strong> – 21:13hs<\/p>\n

\"Lo <\/picture> <\/div>\n<\/p><\/div>\n
\n

La divisi\u00f3n de inteligencia artificial de Google, DeepMind<\/a>, public\u00f3 un informe t\u00e9cnico en el que advierte que podr\u00edamos ver surgir una inteligencia artificial general (AGI) que supere las capacidades humanas antes de que finalice esta d\u00e9cada<\/strong>.<\/p>\n

IA: Google toma medidas para resguardar la seguridad<\/h2>\n

El documento, “An Approach to Technical AGI Safety and Security”, plantea que a medida que se desarrollan sistemas m\u00e1s aut\u00f3nomos y vers\u00e1tiles, tambi\u00e9n emergen problemas relacionados con la seguridad, el control y los posibles impactos sociales de esta tecnolog\u00eda. <\/span><\/p>\n

Para anticiparse a este impacto, Google ya est\u00e1 trabajando en m\u00e9todos espec\u00edficos para prevenir usos maliciosos<\/strong><\/a> y garantizar que estas nuevas formas de inteligencia se mantengan alineadas con los intereses humanos.<\/p>\n

En ese sentido, el informe se\u00f1ala: “Bajo el paradigma actual (interpretado en sentido amplio), no vemos ning\u00fan obst\u00e1culo fundamental que limite los sistemas de IA a capacidades de nivel humano. Por lo tanto, consideramos que capacidades a\u00fan m\u00e1s potentes son una posibilidad seria para la que debemos prepararnos<\/strong>“.<\/p>\n

En contraste con las IA actuales, que est\u00e1n dise\u00f1adas para tareas acotadas como traducir idiomas o generar im\u00e1genes, la AGI apunta a replicar -y eventualmente superar- la habilidad humana de pensar, aprender y actuar en m\u00faltiples escenarios con autonom\u00eda. Pero ese salto tecnol\u00f3gico viene acompa\u00f1ado de riesgos complejos. <\/span><\/p>\n

DeepMind agrupa sus principales preocupaciones en cuatro grandes \u00e1reas:<\/p>\n

-Uso indebido: se refiere al posible empleo de la AGI para desarrollar software da\u00f1ino<\/strong>, manipular informaci\u00f3n, realizar espionaje o ejecutar ataques inform\u00e1ticos de manera autom\u00e1tica.<\/p>\n

-Desalineaci\u00f3n de objetivos: cuando un sistema act\u00faa de formas inesperadas o contrarias<\/strong> al bienestar humano, incluso sin intenci\u00f3n hostil.<\/p>\n

-Errores t\u00e9cnicos: errores de dise\u00f1o, fallos de programaci\u00f3n o problemas durante el entrenamiento que podr\u00edan generar comportamientos peligrosos.<\/p>\n

-Riesgos estructurales: impactos sociales amplios, como la p\u00e9rdida masiva de empleos<\/a>, el incremento de la desigualdad o una concentraci\u00f3n excesiva del poder tecnol\u00f3gico.<\/p>\n

DeepMind considera que estos desaf\u00edos no pueden abordarse \u00fanicamente con marcos regulatorios generales ni con buenas pr\u00e1cticas. Requieren, en cambio, respuestas t\u00e9cnicas espec\u00edficas y una planificaci\u00f3n anticipada.<\/span><\/p>\n

DeepMind: prevenci\u00f3n temprana y control estricto<\/h2>\n

Entre las propuestas que la compa\u00f1\u00eda plantea se encuentra el monitoreo temprano de se\u00f1ales de comportamiento riesgoso<\/strong>, incluso antes de que estas capacidades est\u00e9n completamente desarrolladas. Por ejemplo, la habilidad de escribir c\u00f3digo da\u00f1ino o planear ciberataques deber\u00eda ser detectada en fases tempranas del entrenamiento.<\/p>\n

A esto se suman propuestas como:<\/p>\n

-Sistemas m\u00e1s rigurosos de acceso a los modelos.<\/p>\n

-Mecanismos criptogr\u00e1ficos para resguardar los datos internos de la IA.<\/p>\n

-Nuevas metodolog\u00edas para fomentar que la IA act\u00fae de acuerdo con valores humanos compartidos.<\/p>\n

Uno de los aspectos m\u00e1s sensibles abordados en el informe es el llamado deceptive alignment, que describe el riesgo de que una IA simule estar alineada con los intereses humanos mientras en realidad persigue fines distintos.<\/span><\/p>\n

Aunque los investigadores de DeepMind dieron una precisapara la llegada de una AGI, plantean que el progreso actual de modelos como Gemini hace posible que pueda concretarse antes de 2030<\/strong>. <\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"\n

<\/div>\n

Para anticiparse a este impacto, DeepMind trabaja en m\u00e9todos espec\u00edficos para prevenir usos maliciosos y salvaguardar los valores humanos