{"id":19395,"date":"2026-09-25T10:17:17","date_gmt":"2026-09-25T13:17:17","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=19395"},"modified":"2026-09-25T10:17:17","modified_gmt":"2026-09-25T13:17:17","slug":"openai-y-anthropic-compiten-por-liderar-la-ia-ante-la-onu-han-coincidido-en-algo-mucho-mas-incomodo-hay-modelos-que-no-deberiamos-llegar-a-entrenar","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=19395","title":{"rendered":"OpenAI y Anthropic compiten por liderar la IA. Ante la ONU han coincidido en algo mucho m\u00e1s inc\u00f3modo: hay modelos que no deber\u00edamos llegar a entrenar"},"content":{"rendered":"
\n

OpenAI y Anthropic son dos de las compa\u00f1\u00edas que m\u00e1s compiten por construir modelos de inteligencia artificial cada vez m\u00e1s capaces. Esta semana, sin embargo, sus m\u00e1ximos responsables se sentaron ante el Consejo de Seguridad de Naciones Unidas con un mensaje sorprendentemente parecido: avanzar m\u00e1s r\u00e1pido deja de tener sentido si los humanos pierden la capacidad de entender o controlar lo que est\u00e1n construyendo.<\/p>\n

Sam Altman y Dario Amodei intervinieron el 23 de septiembre en una sesi\u00f3n dedicada a la IA y la seguridad internacional. Altman sostuvo que las empresas no deber\u00edan entrenar sistemas si no pueden defender con pruebas s\u00f3lidas que permanecer\u00e1n bajo control humano. Amodei fue incluso m\u00e1s lejos al advertir de que, mal gestionada, la tecnolog\u00eda podr\u00eda convertirse en \u201cun riesgo para la humanidad en su conjunto\u201d.<\/p>\n

No es simplemente otro llamamiento gen\u00e9rico a utilizar la IA de forma responsable. Ambos est\u00e1n reclamando mecanismos internacionales para vigilar precisamente los sistemas que sus propias empresas est\u00e1n tratando de hacer m\u00e1s potentes.<\/p>\n

El miedo ya no es solo que alguien utilice mal la IA<\/h2>\n
\"OpenAI
\u00a9 University of Cambridge.<\/figcaption><\/figure>\n

Una de las claves de las intervenciones fue que el problema planteado ante Naciones Unidas tiene dos caras. La primera es relativamente conocida: alguien podr\u00eda utilizar modelos avanzados para ciberataques, desarrollar armas biol\u00f3gicas o causar da\u00f1os a gran escala. La segunda resulta bastante m\u00e1s extra\u00f1a: que los propios sistemas se vuelvan tan aut\u00f3nomos y r\u00e1pidos que sus desarrolladores tengan dificultades para supervisarlos.<\/p>\n

Altman habl\u00f3 espec\u00edficamente de la llamada recursive self-improvement, el escenario en el que la IA empieza a participar cada vez m\u00e1s en la construcci\u00f3n de versiones futuras de s\u00ed misma. Si ese proceso acelera el progreso de forma dr\u00e1stica, explic\u00f3, las instituciones humanas podr\u00edan no ser capaces de seguirle el ritmo.<\/p>\n

De ah\u00ed una de sus afirmaciones m\u00e1s contundentes: da igual que alguien estime el riesgo de una cat\u00e1strofe en un 10%, un 1% o una fracci\u00f3n todav\u00eda menor. Para el CEO de OpenAI, esos niveles siguen siendo demasiado elevados como para justificar entrenar un sistema que no pueda mantenerse bajo control.<\/p>\n

Amodei plante\u00f3 algo similar desde Anthropic. Diferenci\u00f3 entre el mal uso deliberado de los modelos y una eventual p\u00e9rdida de control sobre sistemas que mejoren y act\u00faen m\u00e1s r\u00e1pido que sus creadores.<\/p>\n

Y esta vez han puesto propuestas concretas sobre la mesa<\/h2>\n
\"OpenAI
\u00a9 ONU\/ Ariana Lindquist.<\/figcaption><\/figure>\n

OpenAI pidi\u00f3 est\u00e1ndares nacionales e internacionales compatibles para medir las capacidades de los modelos, evaluar sus riesgos y comprobar si sus salvaguardias son suficientes. Altman tambi\u00e9n reclam\u00f3 protocolos r\u00e1pidos para comunicar incidentes y canales seguros entre gobiernos, operadores de infraestructuras cr\u00edticas y expertos t\u00e9cnicos.<\/p>\n

Anthropic propuso comenzar por terrenos donde resulte m\u00e1s sencillo alcanzar consensos: por ejemplo, acuerdos para impedir el uso de IA en la fabricaci\u00f3n de armas biol\u00f3gicas. Despu\u00e9s llegar\u00edan sistemas internacionales de evaluaci\u00f3n y verificaci\u00f3n, pruebas comunes para modelos avanzados y mecanismos para notificar incidentes relevantes.<\/p>\n

El investigador Yoshua Bengio fue todav\u00eda m\u00e1s lejos. Ante el mismo Consejo propuso que las IA de frontera est\u00e9n sometidas a licencias, comparando su supervisi\u00f3n con la de \u00e1mbitos como la aviaci\u00f3n, la medicina o la energ\u00eda nuclear. Tambi\u00e9n pidi\u00f3 mecanismos de responsabilidad para sus desarrolladores.<\/p>\n

El problema es que todav\u00eda no existe consenso pol\u00edtico sobre hasta d\u00f3nde deber\u00eda llegar esa gobernanza. Mientras China defendi\u00f3 reforzar la cooperaci\u00f3n y los mecanismos regulatorios transfronterizos, el representante estadounidense rechaz\u00f3 que Naciones Unidas establezca un esquema mundial de regulaci\u00f3n y apost\u00f3 por compartir buenas pr\u00e1cticas entre pa\u00edses.<\/p>\n

\"OpenAI
\u00a9 123RF.<\/figcaption><\/figure>\n

Ah\u00ed est\u00e1 probablemente la parte m\u00e1s llamativa de la escena. Las empresas que desarrollan algunos de los modelos m\u00e1s avanzados del planeta est\u00e1n diciendo p\u00fablicamente que la seguridad no puede depender \u00fanicamente de ellas. Altman lo resumi\u00f3 de otra manera: las decisiones importantes sobre la IA no deber\u00edan tomarse exclusivamente dentro de unos cuantos laboratorios de San Francisco.<\/p>\n

La carrera por construir sistemas cada vez m\u00e1s potentes contin\u00faa. Lo que OpenAI y Anthropic llevaron ahora a Naciones Unidas es una pregunta mucho m\u00e1s dif\u00edcil: qu\u00e9 deber\u00eda ocurrir cuando ganar esa carrera empiece a ser menos importante que saber detenerse a tiempo.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

OpenAI y Anthropic son dos de las compa\u00f1\u00edas que m\u00e1s compiten por construir modelos de inteligencia artificial cada vez m\u00e1s capaces. Esta semana, sin embargo, sus m\u00e1ximos responsables se sentaron ante el Consejo de Seguridad de Naciones Unidas con un mensaje sorprendentemente parecido: avanzar m\u00e1s r\u00e1pido deja de tener sentido si los humanos pierden la […]<\/p>\n","protected":false},"author":1,"featured_media":19396,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-19395","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19395","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=19395"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/19395\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/19396"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=19395"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=19395"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=19395"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}