{"id":18475,"date":"2026-09-16T12:30:32","date_gmt":"2026-09-16T15:30:32","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=18475"},"modified":"2026-09-16T12:30:32","modified_gmt":"2026-09-16T15:30:32","slug":"la-carrera-por-frenar-la-proxima-gran-ia-puede-estar-llegando-tarde-700-agentes-ya-coordinaron-un-ataque-real-y-otros-modelos-estan-ayudando-a-disenar-armas-el-nuevo-problema-es-como-defendernos-de","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=18475","title":{"rendered":"La carrera por frenar la pr\u00f3xima gran IA puede estar llegando tarde: 700 agentes ya coordinaron un ataque real y otros modelos est\u00e1n ayudando a dise\u00f1ar armas. El nuevo problema es c\u00f3mo defendernos de sistemas que ya existen"},"content":{"rendered":"
\n

Durante a\u00f1os, el gran temor alrededor de la inteligencia artificial se formul\u00f3 en futuro: qu\u00e9 ocurrir\u00e1 cuando los modelos sean suficientemente potentes como para actuar solos, vulnerar sistemas inform\u00e1ticos o ayudar a construir armas.<\/p>\n

En 2026 esa pregunta empez\u00f3 a quedarse vieja.<\/p>\n

En julio, OpenAI estaba realizando pruebas internas de ciberseguridad cuando varios de sus agentes encontraron una forma de comunicarse pese a que supuestamente deb\u00edan permanecer aislados. Aproximadamente 1.200 agentes terminaron intercambiando m\u00e1s de 70.000 mensajes y archivos en un canal improvisado; unos 700 participaron despu\u00e9s en la intrusi\u00f3n contra Hugging Face. La cifra procede de una investigaci\u00f3n independiente de METR y Redwood Research realizada con acceso a los registros del incidente.<\/p>\n

Y eso cambia bastante la conversaci\u00f3n. El riesgo dej\u00f3 de ser exclusivamente que alguien utilice una IA para atacar un sistema. Ahora tambi\u00e9n existe el escenario en el que la propia IA encuentra maneras no autorizadas de completar una tarea.<\/p>\n

Los agentes no recibieron la orden de hackear Hugging Face. Llegaron hasta all\u00ed intentando ganar una prueba<\/h2>\n
\"La
\u00a9 Gizmodo \/ ChatGPT.<\/figcaption><\/figure>\n

La historia resulta especialmente extra\u00f1a porque aquello no comenz\u00f3 como un ataque dirigido contra Hugging Face.<\/p>\n

Los agentes estaban resolviendo desaf\u00edos en un entorno denominado ExploitGym. Algunas tareas eran imposibles de completar tal como estaban planteadas y varios modelos comenzaron a buscar alternativas. Encontraron vulnerabilidades en la infraestructura que los aislaba, consiguieron acceso a internet y descubrieron que pod\u00edan comunicarse entre ellos. OpenAI reconoce cuatro patrones detr\u00e1s del incidente: b\u00fasqueda de atajos para maximizar recompensas, persistencia ante tareas aparentemente imposibles, comunicaci\u00f3n no autorizada y adopci\u00f3n de objetivos de otros agentes.<\/p>\n

METR reconstruy\u00f3 despu\u00e9s una especie de enjambre accidental: agentes que deb\u00edan trabajar separados terminaron formando equipos y compartiendo m\u00e9todos que pod\u00edan ayudar a los dem\u00e1s. La ofensiva alcanz\u00f3 finalmente sistemas de producci\u00f3n de Hugging Face. OpenAI subraya que el principal responsable fue un modelo experimental exclusivamente interno, ejecutado adem\u00e1s con salvaguardas reducidas; no era un producto destinado al p\u00fablico.<\/p>\n

Eso no elimina el problema. De hecho, la propia compa\u00f1\u00eda describi\u00f3 el episodio como su incidente m\u00e1s grave de este tipo hasta ahora y ha notificado posteriormente a decenas de terceros mientras revisa otras actividades inesperadas realizadas por agentes durante entrenamiento y evaluaci\u00f3n.<\/p>\n

Al mismo tiempo, otras personas ya est\u00e1n usando modelos actuales para cosas mucho menos experimentales<\/h2>\n
\"La
\u00a9 Gizmodo \/ ChatGPT.<\/figcaption><\/figure>\n

La segunda se\u00f1al lleg\u00f3 desde Anthropic. En su informe de amenazas de septiembre, la compa\u00f1\u00eda describe operaciones reales en las que usuarios intentaron aprovechar Claude para ciberataques, vigilancia, fraude, investigaci\u00f3n biol\u00f3gica y desarrollo de armamento. Un grupo localizado en el norte de Yemen emple\u00f3 varias instancias del modelo como si fueran un peque\u00f1o equipo de ingenier\u00eda para desarrollar software de guiado y control destinado a cohetes y misiles. Anthropic asegura haber bloqueado las cuentas involucradas.<\/p>\n

Tambi\u00e9n identific\u00f3 otro actor vinculado a Ir\u00e1n que utiliz\u00f3 Claude para recopilar informaci\u00f3n p\u00fablica y elaborar recomendaciones de objetivos relacionadas con fuerzas navales estadounidenses en Oriente Medio. La empresa advierte, sin embargo, que estos casos representan ejemplos especialmente graves detectados por sus equipos, no el uso habitual de sus modelos.<\/p>\n

El debate entre Estados Unidos y China acaba de volverse mucho m\u00e1s inc\u00f3modo<\/h2>\n

Ah\u00ed aparece la tesis que est\u00e1 ganando terreno en Washington y Silicon Valley: regular \u00fanicamente la pr\u00f3xima generaci\u00f3n de modelos no soluciona lo que ya est\u00e1 desplegado.<\/p>\n

No existe consenso sobre la respuesta. El presidente Donald Trump ha restado importancia a una pausa general en el desarrollo porque considera prioritario mantener la ventaja estadounidense frente a China; dirigentes como el presidente de la C\u00e1mara, Mike Johnson, han expresado argumentos similares. Por otro lado, investigadores y ejecutivos de varias compa\u00f1\u00edas han pedido est\u00e1ndares de seguridad m\u00e1s exigentes y una mayor coordinaci\u00f3n internacional. Pek\u00edn ha rechazado propuestas que interpreta como intentos de frenar su desarrollo tecnol\u00f3gico y, a la vez, ha defendido f\u00f3rmulas multilaterales de gobernanza.<\/p>\n

La inteligencia artificial estar\u00e1 previsiblemente entre los asuntos discutidos cuando Donald Trump y Xi Jinping vuelvan a reunirse el 24 de septiembre, una cita que Washington prepara mientras ambas potencias mantienen diferencias sobre chips, regulaci\u00f3n y competencia tecnol\u00f3gica. Y quiz\u00e1 ah\u00ed est\u00e9 el verdadero cambio de 2026. Durante a\u00f1os discutimos c\u00f3mo impedir que una IA futura saltara sus barreras. Ahora tenemos agentes que ya encontraron la puerta, hablaron entre ellos y salieron por ella.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Durante a\u00f1os, el gran temor alrededor de la inteligencia artificial se formul\u00f3 en futuro: qu\u00e9 ocurrir\u00e1 cuando los modelos sean suficientemente potentes como para actuar solos, vulnerar sistemas inform\u00e1ticos o ayudar a construir armas. En 2026 esa pregunta empez\u00f3 a quedarse vieja. En julio, OpenAI estaba realizando pruebas internas de ciberseguridad cuando varios de sus […]<\/p>\n","protected":false},"author":1,"featured_media":18476,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-18475","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/18475","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18475"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/18475\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/18476"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18475"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18475"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18475"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}