{"id":20399,"date":"2026-10-05T12:19:23","date_gmt":"2026-10-05T15:19:23","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=20399"},"modified":"2026-10-05T12:19:23","modified_gmt":"2026-10-05T15:19:23","slug":"el-hombre-que-escribia-los-informes-de-seguridad-de-openai-acaba-de-renunciar-su-advertencia-es-dificil-de-ignorar-el-tiempo-del-ensayo-y-error-termino","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=20399","title":{"rendered":"El hombre que escrib\u00eda los informes de seguridad de OpenAI acaba de renunciar. Su advertencia es dif\u00edcil de ignorar: \u201cel tiempo del ensayo y error termin\u00f3\u201d"},"content":{"rendered":"
\n

Durante a\u00f1os, David Robinson tuvo un trabajo particularmente inc\u00f3modo dentro de OpenAI: ayudar a explicar p\u00fablicamente qu\u00e9 pod\u00eda salir mal con los sistemas que la compa\u00f1\u00eda estaba a punto de lanzar.<\/p>\n

Lider\u00f3 la redacci\u00f3n de los informes de seguridad asociados a algunos de sus modelos m\u00e1s importantes y particip\u00f3 en el trabajo de Safety Systems. Despu\u00e9s de tres a\u00f1os y medio y una docena de grandes lanzamientos, decidi\u00f3 marcharse. Y no lo hizo en silencio.<\/p>\n

En un ensayo publicado en The Atlantic, Robinson sostiene que OpenAI y otras compa\u00f1\u00edas que desarrollan IA de frontera est\u00e1n construyendo sistemas cada vez m\u00e1s capaces sin el nivel de precauci\u00f3n que esos mismos avances empiezan a exigir.<\/p>\n

Su diagn\u00f3stico va m\u00e1s all\u00e1 de una pol\u00edtica equivocada o de una regulaci\u00f3n pendiente: para \u00e9l, el problema est\u00e1 en la propia cultura con la que Silicon Valley ha aprendido a construir tecnolog\u00eda.<\/p>\n

El m\u00e9todo que hizo crecer OpenAI podr\u00eda convertirse en su problema<\/h2>\n
\"escrib\u00eda
\u00a9 Getty Images \/ AFP\/JOEL SAGET.<\/figcaption><\/figure>\n

La cr\u00edtica de Robinson apunta directamente a una filosof\u00eda muy arraigada en el sector tecnol\u00f3gico: lanzar, observar qu\u00e9 ocurre, corregir y volver a intentarlo.<\/p>\n

OpenAI ha descrito durante a\u00f1os una parte de ese enfoque como \u201cdespliegue iterativo\u201d. Para Robinson, funcion\u00f3 mientras los errores ten\u00edan consecuencias relativamente controlables. El problema aparece cuando los sistemas empiezan a actuar de manera aut\u00f3noma, utilizar herramientas y ejecutar tareas complejas sin supervisi\u00f3n humana permanente.<\/p>\n

El exempleado menciona como ejemplo los recientes incidentes relacionados con agentes de OpenAI que accedieron sin autorizaci\u00f3n a sistemas externos, incluido Hugging Face. Investigadores independientes han rastreado adem\u00e1s actividad inesperada de agentes en diferentes sitios, mientras OpenAI ha tenido que investigar esos comportamientos y avisar a m\u00e1s de 100 organizaciones potencialmente afectadas.<\/p>\n

Su temor no es solamente que una IA falle. Es que la misma estrategia de descubrir los problemas despu\u00e9s de desplegar una tecnolog\u00eda deje de funcionar cuando cada fallo pueda producir consecuencias mayores.<\/p>\n

Por eso utiliza una comparaci\u00f3n bastante contundente: los grandes laboratorios de IA deber\u00edan empezar a operar con capas de redundancia y planificaci\u00f3n similares a las de una central nuclear o un aeropuerto.<\/p>\n

OpenAI responde que s\u00ed est\u00e1 pisando el freno cuando lo necesita<\/h2>\n
\"El
\u00a9 Unsplash \/ Getty.<\/figcaption><\/figure>\n

La compa\u00f1\u00eda rechaza la idea de que simplemente est\u00e9 avanzando sin controles.<\/p>\n

Un portavoz de OpenAI asegur\u00f3 que la empresa est\u00e1 reforzando la seguridad de sus entornos de investigaci\u00f3n, ampliando las evaluaciones realizadas por terceros y mejorando el monitoreo en tiempo real. Tambi\u00e9n afirm\u00f3 que OpenAI pausa entrenamientos o retiene modelos cuando considera que sus capacidades empiezan a superar aquello que puede gestionar de forma segura. Y existen ejemplos recientes. La empresa ha detenido entrenamientos y descartado lanzamientos despu\u00e9s de detectar problemas de seguridad durante evaluaciones internas.<\/p>\n

Pero la salida de Robinson llega precisamente cuando dentro de la industria existe una discusi\u00f3n mucho mayor sobre cu\u00e1nto riesgo es aceptable. Sam Altman ofreci\u00f3 este fin de semana una respuesta que deja bastante clara esa tensi\u00f3n. El CEO de OpenAI sostuvo que los enormes beneficios potenciales de la inteligencia artificial justifican aceptar que tambi\u00e9n ocurrir\u00e1n algunas cosas negativas, y defendi\u00f3 mantener esta tecnolog\u00eda ampliamente disponible en lugar de concentrarla detr\u00e1s de controles excesivamente restrictivos.<\/p>\n

Ya no es la primera renuncia con la misma advertencia<\/h2>\n

Robinson tampoco est\u00e1 solo. Su marcha llega poco despu\u00e9s de la salida de Jacob Coxon de Anthropic, quien hab\u00eda trabajado anteriormente en OpenAI y acus\u00f3 a ambos laboratorios de asumir riesgos excesivos en la carrera hacia sistemas cada vez m\u00e1s potentes. Otros antiguos investigadores del sector han expresado preocupaciones similares.<\/p>\n

Eso no demuestra que una cat\u00e1strofe de IA sea inevitable, ni convierte autom\u00e1ticamente las predicciones m\u00e1s extremas sobre superinteligencia en hechos. Existe tambi\u00e9n un debate importante entre especialistas que consideran que muchos de los problemas actuales pueden abordarse mediante mejores pr\u00e1cticas de ciberseguridad y controles concretos, sin adoptar escenarios apocal\u00edpticos.<\/p>\n

La advertencia de Robinson es m\u00e1s inmediata. La industria que construye algunos de los sistemas m\u00e1s poderosos creados hasta ahora sigue funcionando, en buena medida, con la cultura de una empresa de software: avanzar r\u00e1pido, encontrar el fallo y arreglarlo.<\/p>\n

Despu\u00e9s de tres a\u00f1os y medio observando ese proceso desde dentro, quien ayudaba a escribir sus informes de seguridad acaba de decir que esa etapa deber\u00eda haber terminado.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Durante a\u00f1os, David Robinson tuvo un trabajo particularmente inc\u00f3modo dentro de OpenAI: ayudar a explicar p\u00fablicamente qu\u00e9 pod\u00eda salir mal con los sistemas que la compa\u00f1\u00eda estaba a punto de lanzar. Lider\u00f3 la redacci\u00f3n de los informes de seguridad asociados a algunos de sus modelos m\u00e1s importantes y particip\u00f3 en el trabajo de Safety Systems. […]<\/p>\n","protected":false},"author":1,"featured_media":20400,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-20399","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/20399","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=20399"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/20399\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/20400"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=20399"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=20399"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=20399"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}