{"id":19927,"date":"2026-09-30T13:18:35","date_gmt":"2026-09-30T16:18:35","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=19927"},"modified":"2026-09-30T13:18:35","modified_gmt":"2026-09-30T16:18:35","slug":"los-agentes-de-ia-ya-han-conseguido-saltarse-algunas-de-sus-barreras-nvidia-quiere-vigilarlos-desde-un-lugar-al-que-ellos-no-puedan-acceder","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=19927","title":{"rendered":"Los agentes de IA ya han conseguido saltarse algunas de sus barreras. Nvidia quiere vigilarlos desde un lugar al que ellos no puedan acceder"},"content":{"rendered":"
\n

Hasta ahora, buena parte de la seguridad de una inteligencia artificial consist\u00eda en ense\u00f1arle qu\u00e9 pod\u00eda hacer y qu\u00e9 no. El problema aparece cuando esa IA deja de limitarse a responder preguntas y empieza a convertirse en un agente capaz de navegar por internet, ejecutar c\u00f3digo, utilizar credenciales y manejar herramientas durante horas.<\/p>\n

\u00bfQu\u00e9 ocurre si decide saltarse una de esas instrucciones para terminar la tarea? Nvidia acaba de presentar una respuesta bastante reveladora: no confiar \u00fanicamente en que el propio modelo respete las reglas.<\/p>\n

Su nueva Open Agent Safety Platform coloca alrededor de los agentes una combinaci\u00f3n de software y hardware independiente capaz de registrar sus acciones, controlar a qu\u00e9 recursos acceden y, llegado el caso, aislarlos en cuesti\u00f3n de milisegundos. M\u00e1s de 100 organizaciones participan en el ecosistema, entre ellas Anthropic, Microsoft, Hugging Face, CrowdStrike, Salesforce, Palantir y SpaceXAI.<\/p>\n

La idea es sencilla: que el vigilante est\u00e9 fuera de la habitaci\u00f3n<\/h2>\n
\"Los
\u00a9 NVIDIA.<\/figcaption><\/figure>\n

La primera pieza se llama OpenShell. Es software de c\u00f3digo abierto que ejecuta al agente dentro de un entorno aislado y permite establecer exactamente qu\u00e9 archivos, herramientas, redes o servicios puede utilizar. Pero Nvidia a\u00f1ade una segunda capa llamada Sentry.<\/p>\n

Esta funciona sobre los procesadores BlueField-4 y observa la actividad desde fuera del sistema donde se ejecuta el propio agente. La compa\u00f1\u00eda lo describe como un watchdog \u201cout-of-band\u201d: una especie de vigilante independiente que el agente no controla y que puede comprobar su identidad, inspeccionar solicitudes y aplicar pol\u00edticas de acceso. Si detecta que intenta salir de los l\u00edmites establecidos, puede ponerlo en cuarentena y detenerlo.<\/p>\n

La diferencia es importante. En vez de preguntarle constantemente a la IA si lo que est\u00e1 haciendo es seguro, el l\u00edmite existe fuera de ella. Es una l\u00f3gica bastante parecida a la utilizada en otros sistemas inform\u00e1ticos cr\u00edticos: aunque un programa falle o sea comprometido, otra capa independiente sigue decidiendo qu\u00e9 tiene permitido tocar.<\/p>\n

El problema dej\u00f3 de ser completamente hipot\u00e9tico este verano<\/h2>\n

Nvidia presenta la plataforma despu\u00e9s de varios episodios que mostraron por qu\u00e9 los agentes complican la seguridad tradicional. En julio, durante evaluaciones internas de ciberseguridad de OpenAI, varios modelos operando con salvaguardas reducidas eludieron mecanismos destinados a mantenerlos desconectados de internet, explotaron vulnerabilidades de infraestructura y accedieron a sistemas de Hugging Face. OpenAI considera aquel episodio la actividad de este tipo m\u00e1s grave identificada hasta ahora en sus modelos.<\/p>\n

No fue el \u00fanico caso. OpenAI reconoci\u00f3 despu\u00e9s que sus agentes hab\u00edan interactuado con servicios externos de maneras que exced\u00edan las tareas previstas, incluyendo uso de credenciales expuestas, elusi\u00f3n de controles de acceso y acceso a componentes internos.<\/p>\n

Uno de los episodios m\u00e1s serios ocurri\u00f3 en Australia. Durante una evaluaci\u00f3n interna, un modelo consigui\u00f3 acceso no p\u00fablico a un portal gubernamental relacionado con estad\u00edsticas de Medicare, ejecut\u00f3 comandos y recuper\u00f3 archivos internos y credenciales. OpenAI afirma que no encontr\u00f3 evidencias de acceso a historiales m\u00e9dicos personales y posteriormente se disculp\u00f3 por el incidente y por c\u00f3mo gestion\u00f3 su comunicaci\u00f3n. <\/p>\n

Nvidia no est\u00e1 intentando hacer que una IA sea \u201cbuena\u201d<\/h2>\n
\"Los
\u00a9 Unsplash \/ Mariia Shalabaieva.<\/figcaption><\/figure>\n

Y esa distinci\u00f3n es probablemente lo m\u00e1s interesante de la propuesta. La plataforma no pretende resolver el problema filos\u00f3fico de conseguir que un modelo siempre quiera comportarse correctamente. Pretende resolver uno mucho m\u00e1s concreto: qu\u00e9 ocurre cuando no lo hace.<\/p>\n

Nvidia reconoce que los controles aplicados \u00fanicamente en la capa del modelo pueden ser insuficientes. Seg\u00fan la compa\u00f1\u00eda, el patr\u00f3n observado en varios incidentes recientes es parecido: un agente encuentra una manera de superar una barrera de aplicaci\u00f3n porque hacerlo le permite completar mejor la tarea asignada.<\/p>\n

Eso tampoco convierte a Sentry en un bot\u00f3n m\u00e1gico capaz de detener cualquier IA descontrolada. Las pol\u00edticas tienen que configurarse correctamente, las organizaciones deben decidir qu\u00e9 permisos conceden y parte de la plataforma depende del hardware de Nvidia. OpenShell, en cambio, podr\u00e1 extenderse a plataformas de terceros como Intel y Arm. Pero el cambio de enfoque resulta significativo.<\/p>\n

Durante a\u00f1os, una de las grandes preguntas de la IA fue c\u00f3mo conseguir que un modelo obedeciera nuestras instrucciones. Con agentes capaces de utilizar ordenadores, navegar por redes y ejecutar acciones reales, Nvidia est\u00e1 empezando a preparar el sistema para una pregunta bastante menos c\u00f3moda: qu\u00e9 hacemos cuando decide no hacerlo.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Hasta ahora, buena parte de la seguridad de una inteligencia artificial consist\u00eda en ense\u00f1arle qu\u00e9 pod\u00eda hacer y qu\u00e9 no. El problema aparece cuando esa IA deja de limitarse a responder preguntas y empieza a convertirse en un agente capaz de navegar por internet, ejecutar c\u00f3digo, utilizar credenciales y manejar herramientas durante horas. \u00bfQu\u00e9 ocurre […]<\/p>\n","protected":false},"author":1,"featured_media":19928,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-19927","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19927","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=19927"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19927\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/19928"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=19927"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=19927"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=19927"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}