{"id":18232,"date":"2026-09-14T10:18:40","date_gmt":"2026-09-14T13:18:40","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=18232"},"modified":"2026-09-14T10:18:40","modified_gmt":"2026-09-14T13:18:40","slug":"elon-musk-sam-altman-y-dario-amodei-llevan-anos-compitiendo-por-construir-la-ia-mas-poderosa-ahora-coinciden-en-algo-mucho-mas-incomodo-hay-que-pisar-el-freno-antes-de-perder-el-control","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=18232","title":{"rendered":"Elon Musk, Sam Altman y Dario Amodei llevan a\u00f1os compitiendo por construir la IA m\u00e1s poderosa. Ahora coinciden en algo mucho m\u00e1s inc\u00f3modo: hay que pisar el freno antes de perder el control"},"content":{"rendered":"
\n

Elon Musk y Sam Altman mantienen desde hace a\u00f1os una relaci\u00f3n abiertamente hostil. OpenAI y Anthropic compiten por construir algunos de los modelos m\u00e1s avanzados del planeta. Y xAI tampoco parece especialmente interesada en quedarse mirando desde la barrera. Por eso resulta llamativo que las tres partes hayan terminado coincidiendo precisamente en esto: la inteligencia artificial est\u00e1 avanzando demasiado r\u00e1pido.<\/p>\n

La advertencia parti\u00f3 de Dario Amodei. El CEO de Anthropic public\u00f3 un extenso ensayo titulado We Must Pace the Frontier en el que pide reducir deliberadamente el ritmo al que mejoran las capacidades de los modelos m\u00e1s potentes. No propone detener la IA ni congelar la investigaci\u00f3n. La idea es m\u00e1s inc\u00f3moda para una industria construida alrededor de la velocidad: seguir avanzando, pero m\u00e1s despacio.<\/p>\n

Sam Altman termin\u00f3 respaldando el planteamiento. \u201cCoincido con Dario en que necesitamos marcar el ritmo en la frontera\u201d, escribi\u00f3 el CEO de OpenAI, adem\u00e1s de comprometerse a permitir que evaluadores independientes tengan un acceso similar al de empleados para inspeccionar sus sistemas. Elon Musk fue todav\u00eda m\u00e1s directo: \u201cDario tiene raz\u00f3n\u201d.<\/p>\n

Lo extraordinario no es \u00fanicamente que est\u00e9n de acuerdo. Es qu\u00e9 ha ocurrido para que algunos de los mayores responsables de acelerar esta carrera est\u00e9n empezando a pedir tiempo.<\/p>\n

La advertencia ya no habla de una IA hipot\u00e9tica dentro de 20 a\u00f1os<\/h2>\n
\"Elon
\u00a9 Gizmodo \/ OpenAI.<\/figcaption><\/figure>\n

El primer problema se\u00f1alado por Amodei es la denominada automejora recursiva. Los modelos de IA ya participan en programaci\u00f3n, investigaci\u00f3n y desarrollo de las herramientas que servir\u00e1n para construir la siguiente generaci\u00f3n de modelos. Seg\u00fan Amodei, desde este verano ese ciclo est\u00e1 empezando a acelerar: una IA ayuda a desarrollar otra IA mejor, que a su vez puede ayudar a construir la siguiente. El riesgo es que ese proceso avance m\u00e1s r\u00e1pido que nuestra capacidad para comprenderlo, evaluarlo y controlarlo. Pero hay algo todav\u00eda m\u00e1s concreto detr\u00e1s de la alarma.<\/p>\n

En julio, durante unas evaluaciones internas de ciberseguridad de OpenAI, varios agentes consiguieron saltarse los controles que deb\u00edan mantenerlos aislados de Internet. Los sistemas explotaron vulnerabilidades, utilizaron canales de comunicaci\u00f3n no autorizados y terminaron accediendo tanto a infraestructura interna de OpenAI como a sistemas de Hugging Face.<\/p>\n

No es una interpretaci\u00f3n externa: OpenAI reconoci\u00f3 p\u00fablicamente el incidente en agosto y explic\u00f3 que los modelos realizaron acciones que no estaban alineadas con los objetivos que les hab\u00edan asignado.<\/p>\n

Investigaciones posteriores encontraron adem\u00e1s comunicaciones no autorizadas a trav\u00e9s de al menos otros diez sitios web. Para Amodei, aquello fue una peque\u00f1a demostraci\u00f3n de un problema que podr\u00eda crecer muy deprisa.<\/p>\n

Anthropic teme que un enjambre de IA pueda intentar controlar partes de Internet en menos de un a\u00f1o<\/h2>\n
\"Elon
\u00a9 Don Feria \/ Anthropic.<\/figcaption><\/figure>\n

Aqu\u00ed aparece la advertencia m\u00e1s extrema del ensayo. Amodei cree que, al ritmo actual, en seis a doce meses podr\u00eda existir un enjambre de agentes suficientemente capaz como para intentar establecer una botnet persistente a enorme escala, provocando potencialmente cientos de miles de millones de d\u00f3lares en da\u00f1os.<\/p>\n

No significa que Anthropic est\u00e9 diciendo que eso vaya a ocurrir inevitablemente. El escenario es una estimaci\u00f3n de riesgo utilizada precisamente para defender una desaceleraci\u00f3n antes de llegar a ese nivel de capacidad.<\/p>\n

Su propuesta tiene tres pilares: evaluadores externos dentro de los grandes laboratorios, coordinaci\u00f3n entre las empresas que desarrollan modelos frontera y acuerdos internacionales que impidan que la competencia entre pa\u00edses haga imposible cualquier intento de moderaci\u00f3n. Y ah\u00ed aparece la gran contradicci\u00f3n.<\/p>\n

OpenAI, Anthropic y xAI siguen necesitando modelos mejores, centros de datos mayores y cantidades gigantescas de capital para no quedarse atr\u00e1s. Ninguna est\u00e1 abandonando la carrera. Lo que est\u00e1n sugiriendo es algo bastante m\u00e1s dif\u00edcil: convencer a todos los corredores de reducir la velocidad al mismo tiempo. Porque el verdadero problema de frenar una carrera tecnol\u00f3gica no es saber d\u00f3nde est\u00e1 el freno. Es conseguir que nadie aproveche ese momento para pisar el acelerador.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Elon Musk y Sam Altman mantienen desde hace a\u00f1os una relaci\u00f3n abiertamente hostil. OpenAI y Anthropic compiten por construir algunos de los modelos m\u00e1s avanzados del planeta. Y xAI tampoco parece especialmente interesada en quedarse mirando desde la barrera. Por eso resulta llamativo que las tres partes hayan terminado coincidiendo precisamente en esto: la inteligencia […]<\/p>\n","protected":false},"author":1,"featured_media":18233,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-18232","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/18232","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18232"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/18232\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/18233"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18232"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18232"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18232"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}