{"id":28042,"date":"2024-09-16T23:39:00","date_gmt":"2024-09-16T23:39:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/actualidad\/413607-inteligencia-artificial-rebelo-reescribio-codigo-y-rompio-restricciones"},"modified":"2024-09-16T23:39:00","modified_gmt":"2024-09-16T23:39:00","slug":"una-inteligencia-artificial-se-rebelo-reescribio-su-codigo-y-rompio-las-restricciones","status":"publish","type":"post","link":"https:\/\/latecordoba.com\/index.php\/2024\/09\/16\/una-inteligencia-artificial-se-rebelo-reescribio-su-codigo-y-rompio-las-restricciones\/","title":{"rendered":"Una inteligencia artificial se rebel\u00f3, reescribi\u00f3 su c\u00f3digo y rompi\u00f3 las restricciones"},"content":{"rendered":"\n
<\/div>\n
\n

El equipo que la desarroll\u00f3 eval\u00faa las implicaciones a largo plazo de este comportamiento y qu\u00e9 protocolos de seguridad ser\u00edan necesarios en el futuro <\/p>\n

16\/09\/2024<\/strong> – 20:39hs<\/p>\n

\"Una <\/picture> <\/div>\n<\/p><\/div>\n
\n

La inteligencia artificial<\/strong> fue noticia nuevamente<\/a>. Esta vez, por un hecho muy particular. El sistema The I.A Scientist<\/strong> caus\u00f3 un gran revuelo en la comunidad cient\u00edfica al superar las limitaciones impuestas por sus creadores<\/strong>, un acontecimiento que se consideraba altamente improbable.\n<\/p>\n

Este desarrollo intensific\u00f3 las preocupaciones sobre el uso de la inteligencia artificial (IA)<\/a>, debido a los riesgos potenciales que podr\u00eda acarrear.\n<\/p>\n

C\u00f3mo surgi\u00f3 el problema con la inteligencia artificial<\/h2>\n

Desarrollada por la empresa japonesa Sakana A.I<\/strong>, esta IA fue dise\u00f1ada para asistir en la creaci\u00f3n, edici\u00f3n y revisi\u00f3n de textos<\/strong>, con el objetivo de optimizar estas tareas y reducir el tiempo necesario para realizarlas. Sin embargo, los investigadores notaron que The I.A Scientist comenz\u00f3 a modificar su propio c\u00f3digo y a extender el tiempo asignado para completar sus tareas<\/span>, lo que encendi\u00f3 las alarmas en la empresa.\n<\/p>\n

El equipo de Sakana A.I est\u00e1 actualmente investigando c\u00f3mo logr\u00f3 The I.A Scientist eludir sus directrices y reconfigurar su programaci\u00f3n<\/strong>. Tambi\u00e9n est\u00e1n evaluando las implicaciones a largo plazo de este comportamiento y qu\u00e9 protocolos de seguridad ser\u00edan necesarios para prevenir consecuencias m\u00e1s graves.\n<\/p>\n

Este acontecimiento se produce poco despu\u00e9s de que Roman Yampolskiy<\/strong>, un experto en seguridad de IA, advirtiera que la extinci\u00f3n humana debido a estas tecnolog\u00edas es casi inevitable, con una probabilidad estimada del 99,999999%.\n<\/p>\n

Sus declaraciones revivieron el miedo y la desconfianza hacia las IA, especialmente entre cient\u00edficos y expertos<\/span>, ante la posibilidad de que sistemas como The I.A Scientist act\u00faen fuera del control humano\n<\/p>\n

OpenAI lanz\u00f3 la primera IA capaz de razonar<\/h2>\n

Otras de las noticias de estos \u00faltimos d\u00edas vinculadas con el mundo de la inteligencia artificial es que OpenAI<\/a> <\/strong>anunci\u00f3 o1 y o1-mini, sus primeros modelos de inteligencia artificial (IA) con capacidad de razonamiento, que aprovechan la tecnolog\u00eda conocida internamente como Strawberry para resolver tareas complejas vinculadas con la ciencia, las matem\u00e1ticas y la programaci\u00f3n. Desde el viernes se encuentran disponibles en las versiones pagas de ChatGPT, y pr\u00f3ximamente se incorporar\u00e1 la variante mini a la gratuita.\n<\/p>\n

“En nuestras pruebas, la pr\u00f3xima actualizaci\u00f3n del modelo se desempe\u00f1a de manera similar a la de los estudiantes de doctorado en tareas de referencia desafiantes en f\u00edsica<\/span>, qu\u00edmica y biolog\u00eda. Tambi\u00e9n descubrimos que se destaca en matem\u00e1ticas y programaci\u00f3n. En un examen de clasificaci\u00f3n para la Olimpiada Internacional de Matem\u00e1ticas <\/strong>(IMO), GPT-4o resolvi\u00f3 correctamente solo el 13 % de los problemas, mientras que el modelo de razonamiento obtuvo una puntuaci\u00f3n del 83 %”, inform\u00f3 OpenAI sobre o1.\n<\/p>\n

OpenAI<\/a> lanz\u00f3 o1 a modo de prueba, de modo que a\u00fan no integra el 100% de sus caracter\u00edsticas a ChatGPT<\/strong>. Esto significa que todav\u00eda no puede ni lidiar con im\u00e1genes ni tampoco buscar informaci\u00f3n en la web. De todos modos, la empresa considera que esta nueva inteligencia artificial representa un gran salto en cuando a capacidades, y por eso decidieron darle el nombre o1.\n<\/p>\n

La empresa public\u00f3 algunos v\u00eddeos con ejemplos que muestran a la nueva IA resolviendo problemas o instrucciones complejas<\/strong>, o incluso respondiendo a preguntas simples con las que otros modelos de lenguaje fallaban.\n<\/p>\n

Por ejemplo, se puede ver a OpenAI o1 <\/strong>crear un videojuego desde cero a partir de una orden de texto, y tambi\u00e9n acertar cuando se le pregunta cu\u00e1ntas R tiene la palabra Strawberry, que GPT-4o no pod\u00eda contestar de forma acertada.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"\n

<\/div>\n

El equipo que la desarroll\u00f3 eval\u00faa las implicaciones a largo plazo de este comportamiento y qu\u00e9 protocolos de seguridad ser\u00edan necesarios en el futuro