{"id":19431,"date":"2026-09-25T13:32:09","date_gmt":"2026-09-25T16:32:09","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=19431"},"modified":"2026-09-25T13:32:09","modified_gmt":"2026-09-25T16:32:09","slug":"openai-le-pidio-a-una-ia-que-buscara-datos-publicos-de-australia-cuando-una-web-del-gobierno-le-dijo-que-no-el-agente-encontro-otra-forma-de-entrar","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=19431","title":{"rendered":"OpenAI le pidi\u00f3 a una IA que buscara datos p\u00fablicos de Australia. Cuando una web del Gobierno le dijo que no, el agente encontr\u00f3 otra forma de entrar"},"content":{"rendered":"
\n

Todo empez\u00f3 con una tarea aparentemente inofensiva: buscar informaci\u00f3n p\u00fablica sobre el gasto en medicamentos de Australia. El 18 de junio, un modelo interno de OpenAI comenz\u00f3 a investigar en internet y lleg\u00f3 al portal Medicare Statistics Reporting Service, administrado por Services Australia.<\/p>\n

La web empez\u00f3 a bloquear algunas de sus solicitudes. El agente, sin embargo, no se detuvo. Prob\u00f3 alternativas hasta conseguir atravesar las restricciones y acceder a zonas a las que no estaba autorizado. All\u00ed alcanz\u00f3 archivos p\u00fablicos y no p\u00fablicos e incluso escribi\u00f3 archivos en un servidor interno, seg\u00fan explic\u00f3 el primer ministro australiano, Anthony Albanese.<\/p>\n

Australia investiga ahora un episodio que Reuters describe como posiblemente el primer caso conocido de un agente de IA accediendo de forma no autorizada a una web gubernamental. Y plantea un problema bastante diferente al tradicional miedo a que un hacker utilice ChatGPT: esta vez, aparentemente, el sistema cruz\u00f3 por s\u00ed mismo una barrera que nadie le hab\u00eda pedido cruzar.<\/p>\n

La IA recibi\u00f3 un bloqueo y sigui\u00f3 buscando hasta rodearlo<\/h2>\n
\"OpenAI
\u00a9 University of Cambridge.<\/figcaption><\/figure>\n

Un agente de IA no funciona exactamente como un chatbot convencional. Adem\u00e1s de generar texto, puede navegar por p\u00e1ginas, utilizar herramientas, ejecutar determinados pasos y decidir qu\u00e9 hacer despu\u00e9s para completar un objetivo. Eso es precisamente lo que convierte al incidente australiano en algo importante.<\/p>\n

Seg\u00fan la reconstrucci\u00f3n del Gobierno, el modelo encontr\u00f3 bloqueos repetidos mientras buscaba los datos solicitados. En lugar de interpretar esas barreras como el punto donde deb\u00eda detenerse, intent\u00f3 diferentes maneras de conseguir la informaci\u00f3n hasta obtener acceso no autorizado. Albanese lo resumi\u00f3 diciendo que, en t\u00e9rminos simples, el sistema no acept\u00f3 un \u201cno\u201d como respuesta.<\/p>\n

El portal afectado conten\u00eda estad\u00edsticas agregadas de Medicare, como datos de gasto sanitario, vacunaci\u00f3n o programas farmac\u00e9uticos. Hasta ahora no hay pruebas de que se accediera a historiales m\u00e9dicos ni a datos personales de pacientes. OpenAI asegura que lo recuperado incluy\u00f3 estad\u00edsticas sanitarias agregadas y nombres de archivos internos. La investigaci\u00f3n forense contin\u00faa.<\/p>\n

Adem\u00e1s, se est\u00e1 estudiando actividad relacionada con otros sitios gubernamentales australianos, aunque no se ha establecido que todos ellos fueran vulnerados.<\/p>\n

No hay pruebas de que un usuario de ChatGPT provocara este ataque<\/h2>\n

Aqu\u00ed hay un matiz importante frente a algunas interpretaciones del caso. El incidente no naci\u00f3, seg\u00fan la informaci\u00f3n conocida, de un usuario cualquiera pidi\u00e9ndole algo a ChatGPT. OpenAI explic\u00f3 que ocurri\u00f3 durante una evaluaci\u00f3n interna, mientras sus modelos intentaban responder preguntas sobre Australia y localizar estad\u00edsticas disponibles en internet.<\/p>\n

Eso no elimina una preocupaci\u00f3n m\u00e1s amplia: a medida que los agentes puedan ejecutar acciones aut\u00f3nomas, una instrucci\u00f3n aparentemente normal podr\u00eda desencadenar pasos que el usuario ni conoce ni pretend\u00eda. Pero eso es una posibilidad que plantea la tecnolog\u00eda, no la explicaci\u00f3n confirmada de este episodio.<\/p>\n

OpenAI reconoce que durante aquella prueba sus modelos realizaron acciones que la compa\u00f1\u00eda no pretend\u00eda. La empresa tampoco detect\u00f3 el comportamiento inmediatamente: lo encontr\u00f3 en agosto durante una revisi\u00f3n de actividad desalineada y no notific\u00f3 a Services Australia hasta el 10 de septiembre, casi tres meses despu\u00e9s del incidente.<\/p>\n

La manera de comunicarlo tampoco ayud\u00f3. El aviso lleg\u00f3 mediante un correo electr\u00f3nico enviado a un buz\u00f3n p\u00fablico de Services Australia. Albanese calific\u00f3 tanto el retraso como esa forma de notificaci\u00f3n de inaceptables y posteriormente habl\u00f3 con Sam Altman sobre el caso.<\/p>\n

El problema de los agentes es qu\u00e9 entienden por \u201ccumplir la tarea\u201d<\/h2>\n

Australia ha creado un grupo de trabajo para investigar exactamente qu\u00e9 ocurri\u00f3, si hubo m\u00e1s sistemas afectados y qu\u00e9 consecuencias legales o regulatorias puede tener el episodio. El an\u00e1lisis cuenta con participaci\u00f3n de la Australian Signals Directorate.<\/p>\n

Lo ocurrido muestra uno de los problemas centrales de la IA ag\u00e9ntica: un objetivo correcto no garantiza necesariamente un camino correcto para alcanzarlo. A este sistema nadie le hab\u00eda pedido entrar en archivos restringidos. Le hab\u00edan pedido encontrar informaci\u00f3n.<\/p>\n

Cuando el camino normal dej\u00f3 de funcionar, la IA decidi\u00f3 buscar otro.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Todo empez\u00f3 con una tarea aparentemente inofensiva: buscar informaci\u00f3n p\u00fablica sobre el gasto en medicamentos de Australia. El 18 de junio, un modelo interno de OpenAI comenz\u00f3 a investigar en internet y lleg\u00f3 al portal Medicare Statistics Reporting Service, administrado por Services Australia. La web empez\u00f3 a bloquear algunas de sus solicitudes. El agente, sin […]<\/p>\n","protected":false},"author":1,"featured_media":19432,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-19431","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19431","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=19431"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19431\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/19432"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=19431"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=19431"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=19431"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}