![](\"https:\/\/es.gizmodo.com\/app\/uploads\/2026\/06\/Anthropic-1024x683.jpg\")
<\/p>\n<\/p>\n
Anthropic urge a desacelerar el desarrollo de nuevos modelos de IA hasta tanto se implementen rigurosas salvaguardas, aunque hay puntos a tomar en cuenta.<\/span><\/p>\n En un<\/span> posteo de blog<\/span> publicado el jueves la compa\u00f1\u00eda cit\u00f3 sus propios datos internos como evidencia de que los sistemas modernos de IA se acercan al punto de \u201cautomejora\u201d de recursos\u201d, es decir, de tener la capacidad de refinar su capacidad sin participaci\u00f3n de un humano. \u201cLa IA que pueda construirse a s\u00ed misma ser\u00eda el desarrollo m\u00e1s importante en la historia de la tecnolog\u00eda, que podr\u00eda significar cosas enormemente buenas para todo el mundo en ciencias, atenci\u00f3n de la salud, y m\u00e1s aspectos\u201d, dice el posteo escrito por el cofundador de Jack Clark y la l\u00edder del<\/span> Anthropic Institute<\/span> Marina Favaro. \u201cPero el automejora recursivo tambi\u00e9n podr\u00eda aumentar los riesgos de que los humanos pierdan el control sobre los sistemas de IA\u201d.<\/span><\/p>\n El posteo sugiere que la mejor forma de eludir esos riesgos ser\u00eda una pausa mundial, algo parecido al desarme de la era de la Guerra Fr\u00eda y los pactos de no proliferaci\u00f3n en que los pa\u00edses como EE.UU. y Rusia acordaron limitar sus programas de armamento nuclear para evitar lo que se dio en llamar Destrucci\u00f3n Mutuamente Asegurada (MAD, en ingl\u00e9s). \u201cSi fuera posible efectivamente desacelerar el desarrollo de esta tecnolog\u00eda para darnos a nosotros mismos m\u00e1s tiempo para resolver sus inmensas implicancias, pensamos que ser\u00eda algo positivo\u201d, escribieron los autores del posteo.<\/span><\/p>\n Si todo esto te suena conocido, no es una alucinaci\u00f3n. Ya en 2023 la organizaci\u00f3n sin fines de lucro Future of Life Institute public\u00f3 una carta abierta convocando a todos los laboratorios de IA a instaurar una pausa de seis meses en el desarrollo de potentes nuevos modelos. Firmaban la carta Elon Musk, el pionero investigador de IA Yoshua Bengio, el cofundador de Apple Steve Wozniak, y decenas de miles m\u00e1s. Aunque esa carta y las celebridades firmantes lograron dar inicio a la conversaci\u00f3n p\u00fablica sobre los riesgos de una industria de la IA impulsada por la ciega l\u00f3gica capitalista, no se implementaron pol\u00edticas firmes para que esa pausa de seis meses se concretara. Pocos meses despu\u00e9s de su publicaci\u00f3n, Musk lanz\u00f3 p\u00fablicamente su propia startup de IA para competir con OpenAI, Anthropic, Google y otros grandes laboratorios.<\/span><\/p>\n Vale se\u00f1alar el lenguaje extremadamente guardado que usa Anthropic en su posteo: <\/span>Si fuera posible\u2026 pensamos que\u2026. Probablemente\u2026.<\/span><\/i> Suena m\u00e1s a sugerencia que a un llamado a la acci\u00f3n con compromiso. Eso podr\u00eda tener algo que ver con la encrucijada en la que se encuentra hoy la compa\u00f1\u00eda.<\/span><\/p>\n Desde los inicios Anthropic se ha construido un lugar de algo as\u00ed como la conciencia moral de la industria, un gran jugador dedicado a construir la IA con cautela y si es necesario, poco a poco para prevenir el tipo de situaci\u00f3n desfavorable de una IA que los autores de ciencia ficci\u00f3n, los fil\u00f3sofos y muchos l\u00edderes de grandes laboratorios de IA tem\u00edan desde hace mucho tiempo. Esa postura orientada a la seguridad claramente ha rendido sus frutos. Aunque sus chatbots Claude siguen estando por detr\u00e1s de las descargas de la app ChatGPT de OpenAI, sus herramientas se han hecho tremendamente populares entre los desarrolladores web y los clientes comerciales, ambos sectores entre los que son clave en esta industria. Y ese es uno de los grandes factores que hicieron que eclipsara a OpenAI como startup de mayor valor en el mundo.<\/span><\/p>\n Pero tambi\u00e9n, la compa\u00f1\u00eda est\u00e1 a punto de cotizar en la Bolsa de Valores, tras lo cual se le requerir\u00e1 hacer lo que sea mejor para sus accionistas, como sucede con todas las compa\u00f1\u00edas que comercializan acciones. Al menos en este momento del boom de la IA, pisar el freno no ser\u00eda lo que pudieras considerar una estrategia financiera ganadora a largo plazo.<\/span><\/p>\n Los que critican el argumento de la desaceleraci\u00f3n suelen decir que con lo que est\u00e1 en juego en la carrera de la IA en t\u00e9rminos econ\u00f3micos y geopol\u00edticos, es muy improbable que EE.UU., China y otros pa\u00edses acuerden pausar el desarrollo, y que si lo hicieran ser\u00eda imposible que se implemente esa desaceleraci\u00f3n. Incluso, y peor todav\u00eda, si los desarrolladores de EE.UU. acordaran desacelerar, quedar\u00eda tal vez abierta la puerta para que otros desarrolladores no tan bien intencionados o \u00e9ticos tomaran la delantera, algo que ser\u00eda perjudicial para todos. Clark y Favaro dicen en su posteo que \u201csi la desaceleraci\u00f3n simplemente permite que los actores menos prudentes avancen tecnol\u00f3gicamente, todos sufrir\u00edamos un deterioro en la seguridad\u201d.<\/span><\/p>\n Para que sea efectiva la desaceleraci\u00f3n, dicen Clark y Favaro, no solo tendr\u00eda que haber un acuerdo unilateral de los desarrolladores de IA de todo el mundo sino adem\u00e1s un mecanismo global que pudiera verificar que en verdad cada laboratorio ha pausado el desarrollo, dando una se\u00f1al de alarma si se detectara que alguno no est\u00e1 cumpliendo con esa pausa.<\/span><\/p>\n Surgen entonces m\u00e1s preguntas que respuestas porque no queda claro c\u00f3mo ser\u00eda un sistema de supervisi\u00f3n en la pr\u00e1ctica. En la era de la Guerra Fr\u00eda los acuerdos nucleares podr\u00edan servir como hoja de ruta, pero no se trata de un juego en que los actores est\u00e9n parejos. \u201cEl entrenamiento se hace con mucha facilidad, y no se parece en nada a esconder misiles en silos\u201d, reconoce el posteo (tampoco hay que olvidar que a pesar de los acuerdos internacionales postguerra para evitar la proliferaci\u00f3n de armas nucleares, las potencias nucleares como EE.UU., China y Rusia volvieron a trabajar en el avance de sus arsenales nucleares).<\/span><\/p>\n El posteo del blog se\u00f1ala que en los pr\u00f3ximos meses Anthropic planea reunirse con legisladores, competidores y otros actores en la industria para conversar sobre estos desaf\u00edos. Esperan trabajar en conjunto para construir sistemas de supervisi\u00f3n que sirvan para que la pausa se pueda implementar. Y tal vez, con un ojo puesto en sus futuros accionistas, la compa\u00f1\u00eda brinda lo que suena a compromiso a medias: \u201cSi existieran esos sistemas, esperamos que se pudiera desacelerar o pausar temporalmente el desarrollo, si es que otros desarrolladores que est\u00e9n en el mismo nivel, o cerca, lo hicieran tambi\u00e9n de manera verificable\u201d.<\/span><\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":" Anthropic urge a desacelerar el desarrollo de nuevos modelos de IA hasta tanto se implementen rigurosas salvaguardas, aunque hay puntos a tomar en cuenta. En un posteo de blog publicado el jueves la compa\u00f1\u00eda cit\u00f3 sus propios datos internos como evidencia de que los sistemas modernos de IA se acercan al punto de \u201cautomejora\u201d de […]<\/p>\n","protected":false},"author":1,"featured_media":8518,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-8517","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/8517","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8517"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/8517\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/8518"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8517"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8517"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8517"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}La encrucijada<\/b><\/h2>\n