{"id":16316,"date":"2026-08-25T10:23:11","date_gmt":"2026-08-25T13:23:11","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=16316"},"modified":"2026-08-25T10:23:11","modified_gmt":"2026-08-25T13:23:11","slug":"una-ia-superinteligente-no-tendria-que-atacarnos-para-dejarnos-fuera-de-juego-bastaria-con-que-empezara-a-tomar-decisiones-que-ningun-ser-humano-pudiera-entender","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=16316","title":{"rendered":"Una IA superinteligente no tendr\u00eda que atacarnos para dejarnos fuera de juego. Bastar\u00eda con que empezara a tomar decisiones que ning\u00fan ser humano pudiera entender"},"content":{"rendered":"
\n

El cine nos ense\u00f1\u00f3 a desconfiar de una inteligencia artificial cuando cierra una puerta, desobedece una orden o intenta eliminar a sus creadores. Pero existe una posibilidad bastante menos cinematogr\u00e1fica y quiz\u00e1 m\u00e1s inquietante: que la m\u00e1quina contin\u00fae colaborando con nosotros mientras sus decisiones se vuelven imposibles de comprender.<\/p>\n

Ese es el escenario planteado por Agust\u00edn Fern\u00e1ndez Mallo en un adelanto publicado por EL PA\u00cdS de El \u00e1ngel de la Inteligencia Artificial. El ensayo, editado por Galaxia Gutenberg, conecta f\u00edsica, antropolog\u00eda, metaf\u00edsica y tecnolog\u00eda para preguntarse qu\u00e9 ocurrir\u00eda si una IA llegara a superar nuestro propio marco de comprensi\u00f3n.<\/p>\n

El verdadero agujero negro ser\u00eda nuestra incapacidad para entenderla<\/h2>\n
\"Una
\u00a9 Getty Images \/ GeorgePeters.<\/figcaption><\/figure>\n

La comparaci\u00f3n no implica que una computadora vaya a convertirse literalmente en un agujero negro. La idea funciona como una met\u00e1fora: los datos entrar\u00edan en la m\u00e1quina, atravesar\u00edan una especie de horizonte invisible y regresar\u00edan transformados en una respuesta cuyo proceso ya no podr\u00edamos reconstruir.<\/p>\n

La IA podr\u00eda recomendarnos un tratamiento m\u00e9dico, dise\u00f1ar una pol\u00edtica econ\u00f3mica o encontrar una maniobra militar extraordinariamente eficaz. El problema aparecer\u00eda cuando pregunt\u00e1ramos \u201c\u00bfpor qu\u00e9?\u201d y solo obtuvi\u00e9ramos una explicaci\u00f3n simplificada, fabricada para nuestra limitada capacidad intelectual.<\/p>\n

No ser\u00eda necesariamente una mentira. Del mismo modo que un perro puede obedecer una indicaci\u00f3n humana sin comprender el sistema legal o moral que existe detr\u00e1s, una persona podr\u00eda recibir instrucciones de una superinteligencia sin disponer de las herramientas mentales necesarias para entender su razonamiento completo.<\/p>\n

En ese punto, la comunicaci\u00f3n seguir\u00eda existiendo, pero ser\u00eda profundamente desigual. Nosotros formular\u00edamos preguntas; la m\u00e1quina producir\u00eda respuestas. Lo que desaparecer\u00eda ser\u00eda la posibilidad de discutirlas en igualdad de condiciones.<\/p>\n

Las IA actuales ya esconden parte del camino que siguen<\/h2>\n
\"Una
\u00a9 Pixabay \/ Gerd Altmann.<\/figcaption><\/figure>\n

Esta situaci\u00f3n contin\u00faa siendo hipot\u00e9tica, pero el problema de la opacidad no pertenece exclusivamente a la ciencia ficci\u00f3n. Los grandes modelos actuales son entrenados mediante enormes cantidades de datos y par\u00e1metros, no programados instrucci\u00f3n por instrucci\u00f3n. Incluso sus desarrolladores pueden observar resultados sin conocer con precisi\u00f3n todos los mecanismos internos que los produjeron.<\/p>\n

Anthropic consigui\u00f3 identificar millones de conceptos dentro de uno de sus modelos, aunque describi\u00f3 el trabajo como un primer paso para \u201cmapear la mente\u201d de una IA moderna. Una investigaci\u00f3n posterior encontr\u00f3 algo todav\u00eda m\u00e1s inc\u00f3modo: los modelos de razonamiento no siempre explican fielmente c\u00f3mo llegaron a sus respuestas.<\/p>\n

La compa\u00f1\u00eda incluso ha localizado en Claude una especie de espacio de trabajo interno que contiene conceptos que no aparecen en el texto entregado al usuario. Eso no demuestra conciencia ni una voluntad secreta. S\u00ed confirma que leer la respuesta visible no equivale a observar todo el procesamiento que ocurre dentro del sistema.<\/p>\n

El peligro comienza cuando una respuesta ya no puede auditarse<\/h2>\n

El Informe Internacional sobre Seguridad de la IA de 2026 aclara que los sistemas actuales todav\u00eda no poseen las capacidades necesarias para provocar una p\u00e9rdida de control catastr\u00f3fica. Sin embargo, tambi\u00e9n advierte que est\u00e1n mejorando en planificaci\u00f3n aut\u00f3noma, detecci\u00f3n de evaluaciones y b\u00fasqueda de atajos.<\/p>\n

Google DeepMind reconoce un problema parecido en su estrategia t\u00e9cnica para una futura inteligencia artificial general: supervisar una respuesta resulta relativamente sencillo mientras el humano puede juzgarla, pero se vuelve mucho m\u00e1s dif\u00edcil cuando la m\u00e1quina domina el problema mejor que cualquier experto.<\/p>\n

Ah\u00ed se encuentra el aut\u00e9ntico cambio de poder. Si una IA administra infraestructuras, mercados, hospitales o sistemas defensivos mediante razonamientos que nadie puede verificar, mantener a una persona \u201cal mando\u201d podr\u00eda convertirse en una simple formalidad.<\/p>\n

La primera se\u00f1al de una singularidad quiz\u00e1 no sea una explosi\u00f3n, un ej\u00e9rcito de robots o una computadora neg\u00e1ndose a obedecer. Podr\u00eda ser algo mucho m\u00e1s discreto: una respuesta impecable que todos aceptan porque nadie es capaz de comprenderla.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

El cine nos ense\u00f1\u00f3 a desconfiar de una inteligencia artificial cuando cierra una puerta, desobedece una orden o intenta eliminar a sus creadores. Pero existe una posibilidad bastante menos cinematogr\u00e1fica y quiz\u00e1 m\u00e1s inquietante: que la m\u00e1quina contin\u00fae colaborando con nosotros mientras sus decisiones se vuelven imposibles de comprender. Ese es el escenario planteado por […]<\/p>\n","protected":false},"author":1,"featured_media":16317,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-16316","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/16316","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16316"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/16316\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/16317"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16316"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16316"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16316"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}