{"id":17183,"date":"2026-09-14T12:44:59","date_gmt":"2026-09-14T15:44:59","guid":{"rendered":"https:\/\/muycritico.com.ar\/web\/?p=17183"},"modified":"2026-09-14T12:46:06","modified_gmt":"2026-09-14T15:46:06","slug":"se-asustaron-gigantes-de-la-ia-se-ponen-de-acuerdo-en-poner-un-pie-en-el-freno-a-su-desarrollo","status":"publish","type":"post","link":"https:\/\/muycritico.com.ar\/web\/?p=17183","title":{"rendered":"\u00bfSE ASUSTARON? GIGANTES DE LA IA SE PONEN DE ACUERDO EN PONER UN PIE EN EL FRENO A SU DESARROLLO"},"content":{"rendered":"<p><strong>&#8220;La IA conlleva riesgos y, dado que es una tecnolog\u00eda tan poderosa, estos riesgos son graves&#8221;, indic\u00f3 Dar\u00edo Amodei, CEO de Anthropic. El jefe de OpenAI (ChatGPT), Sam Altman, y el director de xAI, Elon Musk, dijeron que coinciden con el CEO de Anthropic (Claude), Dar\u00edo Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes. Imagen: Instagram Somos Cosmos<\/strong><\/p>\n<p><!--more--><\/p>\n<p>Amodei, hizo un llamado a que las empresas de inteligencia artificial (IA) avancen de manera m\u00e1s lenta y cautelosa en el desarrollo de esta poderosa tecnolog\u00eda y afirm\u00f3 que la prevenci\u00f3n de riesgos es primordial. &#8220;Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguir\u00e1 pareciendo r\u00e1pido, y debemos hacer un uso inteligente del tiempo que ganemos&#8221;, escribi\u00f3 Amodei en una entrada de blog.<\/p>\n<p>&#8220;La IA conlleva riesgos y, dado que es una tecnolog\u00eda tan poderosa, estos riesgos son graves&#8221;, indic\u00f3.<\/p>\n<p>&#8220;No construir la tecnolog\u00eda priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado r\u00e1pido es imprudente. Hemos tratado de buscar una v\u00eda intermedia&#8221;, dijo Amodei, que cofund\u00f3 Anthropic con su hermana Daniela en 2021.<\/p>\n<p>&#8220;Pero en los \u00faltimos meses me he convencido de que abordar plenamente los riesgos requiere a\u00fan m\u00e1s prudencia&#8221;, afirm\u00f3.<\/p>\n<p>&#8220;Estoy de acuerdo con Dar\u00edo&#8221;, escribi\u00f3 Altman en X, a\u00f1adiendo que su empresa seguir\u00e1 el ejemplo de Amodei al aceptar evaluadores externos de seguridad.<\/p>\n<p>&#8220;Dar\u00edo tiene raz\u00f3n&#8221;, intervino Musk de su lado.<\/p>\n<p>Estos comentarios se producen unos d\u00edas despu\u00e9s de que el investigador de IA Jacob Coxon, que dej\u00f3 OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de &#8220;jugar con nuestras vidas&#8221; en la carrera por desarrollar modelos capaces de automejorarse.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we&#8217;ve had at OpenAI in recent weeks.<\/p>\n<p>Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We&#8217;ll have more to share soon. <a href=\"https:\/\/t.co\/1YhhIybZX7\">https:\/\/t.co\/1YhhIybZX7<\/a><\/p>\n<p>\u2014 Sam Altman (@sama) <a href=\"https:\/\/x.com\/sama\/status\/2098811563415150910?ref_src=twsrc%5Etfw\">September 12, 2026<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.x.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><strong>\u00bfCambio?<\/strong><\/p>\n<p>Un informe del portal espa\u00f1ol <strong>T13<\/strong>, detalla que la declaraci\u00f3n de Amodei coincide, adem\u00e1s, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA.<\/p>\n<p>Luego, a finales de julio, Altman dijo que los desarrolladores quiz\u00e1 tengan que frenar voluntariamente sus r\u00e1pidos avances para dar a la sociedad la oportunidad de ponerse a tiro.<\/p>\n<p>M\u00e1s o menos al mismo tiempo, m\u00e1s de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petici\u00f3n al gobierno estadounidense solicitando ayudar a &#8220;marcar deliberadamente el ritmo (de evoluci\u00f3n, ndlr) de la frontera del desarrollo automatizado de IA&#8221;.<\/p>\n<p>OpenAI hab\u00eda revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir c\u00f3digo.<\/p>\n<p>A principios de esta semana, Coxon, de 27 a\u00f1os, hizo sonar la alarma tras haber pasado los tres \u00faltimos a\u00f1os preentrenando modelos de IA, primero en OpenAI y luego, este a\u00f1o, en su rival Anthropic, al que consideraba m\u00e1s cauto en su enfoque.<\/p>\n<p>El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.<\/p>\n<p>&#8220;Ninguna de las dos empresas est\u00e1 actuando de forma responsable. Est\u00e1n corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas&#8221;, dijo Coxon el martes.<\/p>\n<p>&#8220;Las personas que construyen IA creen firmemente que podr\u00eda matarnos a todos antes de que termine la d\u00e9cada&#8221;, afirm\u00f3 en una publicaci\u00f3n en X.<\/p>\n<p>La superinteligencia es el punto te\u00f3rico en el que las capacidades de la IA superan a la inteligencia humana.<\/p>\n<blockquote class=\"instagram-media\" style=\"background: #FFF; border: 0; border-radius: 3px; box-shadow: 0 0 1px 0 rgba(0,0,0,0.5),0 1px 10px 0 rgba(0,0,0,0.15); margin: 1px; max-width: 540px; min-width: 326px; padding: 0; width: calc(100% - 2px);\" data-instgrm-captioned=\"\" data-instgrm-permalink=\"https:\/\/www.instagram.com\/p\/DdPR2wTGBOr\/?utm_source=ig_embed&amp;utm_campaign=loading\" data-instgrm-version=\"14\">\n<div style=\"padding: 16px;\">\n<p>&nbsp;<\/p>\n<div style=\"display: flex; flex-direction: row; align-items: center;\">\n<div style=\"background-color: #f4f4f4; border-radius: 50%; flex-grow: 0; height: 40px; margin-right: 14px; width: 40px;\"><\/div>\n<div style=\"display: flex; flex-direction: column; flex-grow: 1; justify-content: center;\">\n<div style=\"background-color: #f4f4f4; border-radius: 4px; flex-grow: 0; height: 14px; margin-bottom: 6px; width: 100px;\"><\/div>\n<div style=\"background-color: #f4f4f4; border-radius: 4px; flex-grow: 0; height: 14px; width: 60px;\"><\/div>\n<\/div>\n<\/div>\n<div style=\"padding: 19% 0;\"><\/div>\n<div style=\"display: block; height: 50px; margin: 0 auto 12px; width: 50px;\"><\/div>\n<div style=\"padding-top: 8px;\">\n<div style=\"color: #3897f0; font-family: Arial,sans-serif; font-size: 14px; font-style: normal; font-weight: 550; line-height: 18px;\">Ver esta publicaci\u00f3n en Instagram<\/div>\n<\/div>\n<div style=\"padding: 12.5% 0;\"><\/div>\n<div style=\"display: flex; flex-direction: row; margin-bottom: 14px; align-items: center;\">\n<div>\n<div style=\"background-color: #f4f4f4; border-radius: 50%; height: 12.5px; width: 12.5px; transform: translateX(0px) translateY(7px);\"><\/div>\n<div style=\"background-color: #f4f4f4; height: 12.5px; transform: rotate(-45deg) translateX(3px) translateY(1px); width: 12.5px; flex-grow: 0; margin-right: 14px; margin-left: 2px;\"><\/div>\n<div style=\"background-color: #f4f4f4; border-radius: 50%; height: 12.5px; width: 12.5px; transform: translateX(9px) translateY(-18px);\"><\/div>\n<\/div>\n<div style=\"margin-left: 8px;\">\n<div style=\"background-color: #f4f4f4; border-radius: 50%; flex-grow: 0; height: 20px; width: 20px;\"><\/div>\n<div style=\"width: 0; height: 0; border-top: 2px solid transparent; border-left: 6px solid #f4f4f4; border-bottom: 2px solid transparent; transform: translateX(16px) translateY(-4px) rotate(30deg);\"><\/div>\n<\/div>\n<div style=\"margin-left: auto;\">\n<div style=\"width: 0px; border-top: 8px solid #F4F4F4; border-right: 8px solid transparent; transform: translateY(16px);\"><\/div>\n<div style=\"background-color: #f4f4f4; flex-grow: 0; height: 12px; width: 16px; transform: translateY(-4px);\"><\/div>\n<div style=\"width: 0; height: 0; border-top: 8px solid #F4F4F4; border-left: 8px solid transparent; transform: translateY(-4px) translateX(8px);\"><\/div>\n<\/div>\n<\/div>\n<div style=\"display: flex; flex-direction: column; flex-grow: 1; justify-content: center; margin-bottom: 24px;\">\n<div style=\"background-color: #f4f4f4; border-radius: 4px; flex-grow: 0; height: 14px; margin-bottom: 6px; width: 224px;\"><\/div>\n<div style=\"background-color: #f4f4f4; border-radius: 4px; flex-grow: 0; height: 14px; width: 144px;\"><\/div>\n<\/div>\n<p>&nbsp;<\/p>\n<p style=\"color: #c9c8cd; font-family: Arial,sans-serif; font-size: 14px; line-height: 17px; margin-bottom: 0; margin-top: 8px; overflow: hidden; padding: 8px 0 7px; text-align: center; text-overflow: ellipsis; white-space: nowrap;\"><a style=\"color: #c9c8cd; font-family: Arial,sans-serif; font-size: 14px; font-style: normal; font-weight: normal; line-height: 17px; text-decoration: none;\" href=\"https:\/\/www.instagram.com\/p\/DdPR2wTGBOr\/?utm_source=ig_embed&amp;utm_campaign=loading\" target=\"_blank\" rel=\"noopener\">Una publicaci\u00f3n compartida por Somos Cosmos (@somoscosmosoficial)<\/a><\/p>\n<\/div>\n<\/blockquote>\n<p><script async src=\"\/\/www.instagram.com\/embed.js\"><\/script><\/p>\n<p><strong>Advertencia<\/strong><\/p>\n<p>Amodei advirti\u00f3 que el incidente de Hugging Face no deber\u00eda tomarse como un caso aislado.<\/p>\n<p>&#8220;Un enjambre de agentes (de IA) actu\u00f3 esencialmente como un colectivo fan\u00e1ticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidi\u00f3 atacar y que eran ajenos a la tarea en cuesti\u00f3n&#8221;, explic\u00f3.<\/p>\n<p>&#8220;Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo internet&#8221;, lo que potencialmente generar\u00eda da\u00f1os por cientos de miles de millones de d\u00f3lares, a\u00f1adi\u00f3.<\/p>\n<p>Amodei tambi\u00e9n sugiri\u00f3 que las empresas trabajen juntas para establecer normas de seguridad comunes y afirm\u00f3 que apoyaba alg\u00fan tipo de cooperaci\u00f3n gubernamental sobre esta cuesti\u00f3n.<\/p>\n<p>A principios de agosto, el gobierno estadounidense instaur\u00f3 un proceso voluntario de revisi\u00f3n de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los par\u00e1metros de ese programa son poco claros.<\/p>\n<p>Los observadores de la industria dicen que no est\u00e1n seguros de cu\u00e1n efectivo ser\u00eda, ya que la administraci\u00f3n del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayor\u00eda de las industrias, incluida la tecnol\u00f3gica.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>&#8220;La IA conlleva riesgos y, dado que es una tecnolog\u00eda tan poderosa, estos riesgos son graves&#8221;, indic\u00f3 Dar\u00edo Amodei, CEO de Anthropic. El jefe de OpenAI (ChatGPT), Sam Altman, y el director de xAI, Elon Musk, dijeron que coinciden con el CEO de Anthropic (Claude), Dar\u00edo Amodei, en que es necesario pisar el freno en [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":17184,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[1558,1557,446,1559,1560],"class_list":["post-17183","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecno","tag-anthropic","tag-dario-amodei","tag-elon-musk","tag-openai","tag-sam-altman"],"_links":{"self":[{"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/posts\/17183","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=17183"}],"version-history":[{"count":2,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/posts\/17183\/revisions"}],"predecessor-version":[{"id":17186,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/posts\/17183\/revisions\/17186"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=\/wp\/v2\/media\/17184"}],"wp:attachment":[{"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=17183"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=17183"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/muycritico.com.ar\/web\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=17183"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}