{"id":7785,"date":"2026-05-28T10:39:55","date_gmt":"2026-05-28T13:39:55","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=7785"},"modified":"2026-05-28T10:39:55","modified_gmt":"2026-05-28T13:39:55","slug":"la-primera-enciclica-del-papa-leon-xiv-sobre-inteligencia-artificial-tuvo-un-protagonista-inesperado-christopher-olah-representa-el-gran-miedo-de-la-industria-crear-sistemas-cada-vez-mas-poderosos-s","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=7785","title":{"rendered":"La primera enc\u00edclica del papa Le\u00f3n XIV sobre inteligencia artificial tuvo un protagonista inesperado. Christopher Olah representa el gran miedo de la industria: crear sistemas cada vez m\u00e1s poderosos sin entender realmente c\u00f3mo funcionan"},"content":{"rendered":"
\n

Cuando el papa Le\u00f3n XIV present\u00f3 Magnifica Humanitas, su primera enc\u00edclica dedicada a los riesgos y desaf\u00edos de la inteligencia artificial, hubo un detalle que llam\u00f3 especialmente la atenci\u00f3n fuera del \u00e1mbito religioso. Entre los invitados no solo hab\u00eda representantes de la Iglesia o acad\u00e9micos tradicionales. Tambi\u00e9n estaba Christopher Olah, investigador de Anthropic y una de las figuras m\u00e1s respetadas (y a la vez m\u00e1s inquietas) dentro del mundo de la IA.<\/p>\n

No fue una invitaci\u00f3n simb\u00f3lica. Su presencia reflejaba algo mucho m\u00e1s profundo: el creciente miedo a que la humanidad est\u00e9 construyendo sistemas de inteligencia artificial que ni siquiera sus propios creadores terminan de comprender.<\/p>\n

El gran problema de la IA moderna es que funciona demasiado bien para lo poco que entendemos sobre ella<\/h2>\n
\"La
\u00a9 Vatican Media.<\/figcaption><\/figure>\n

Durante a\u00f1os, Silicon Valley vendi\u00f3 la inteligencia artificial como una revoluci\u00f3n tecnol\u00f3gica inevitable. Y lo cierto es que los resultados son impresionantes. Modelos como ChatGPT, Claude o Gemini ya escriben, programan, traducen, resumen documentos y mantienen conversaciones con una naturalidad que hace apenas una d\u00e9cada parec\u00eda ciencia ficci\u00f3n. Pero detr\u00e1s de esa apariencia sofisticada existe un problema inc\u00f3modo.<\/p>\n

Los grandes modelos de lenguaje funcionan mediante redes neuronales gigantescas compuestas por millones (o directamente miles de millones) de conexiones matem\u00e1ticas. El sistema aprende patrones absorbiendo cantidades absurdas de informaci\u00f3n de internet y, poco a poco, desarrolla capacidades emergentes que muchas veces sorprenden incluso a quienes lo dise\u00f1aron.<\/p>\n

Ah\u00ed es donde aparece Christopher Olah. Mientras gran parte de la industria se obsesionaba con lanzar modelos cada vez m\u00e1s potentes, \u00e9l llevaba a\u00f1os centrado en otra pregunta mucho m\u00e1s dif\u00edcil: \u00bfc\u00f3mo demonios est\u00e1 razonando realmente la IA?<\/p>\n

Christopher Olah convirti\u00f3 la \u201ccaja negra\u201d de la IA en su obsesi\u00f3n cient\u00edfica<\/h2>\n

El investigador canadiense nunca tuvo una trayectoria convencional. No sigui\u00f3 el t\u00edpico camino universitario de doctorados prestigiosos y laboratorios acad\u00e9micos. En cambio, se form\u00f3 de manera autodidacta y termin\u00f3 entrando muy joven en Google Brain, uno de los proyectos que ayud\u00f3 a sentar las bases de la IA moderna.<\/p>\n

All\u00ed empez\u00f3 a desarrollar investigaciones para visualizar c\u00f3mo trabajan internamente las redes neuronales Puede parecer un detalle t\u00e9cnico, pero cambi\u00f3 por completo la forma de estudiar inteligencia artificial. Hasta entonces, muchos sistemas funcionaban como aut\u00e9nticas cajas negras: introduc\u00edas datos y obten\u00edas respuestas, sin entender exactamente qu\u00e9 ocurr\u00eda entre medio.<\/p>\n

Olah intent\u00f3 abrir esa caja. Sus investigaciones pioneras sobre visualizaci\u00f3n neuronal ayudaron a mostrar c\u00f3mo la IA identifica patrones, conceptos e im\u00e1genes. M\u00e1s adelante, ya en OpenAI y posteriormente en Anthropic, profundiz\u00f3 todav\u00eda m\u00e1s en esa idea hasta convertirse en uno de los m\u00e1ximos referentes de la llamada \u201cinterpretabilidad mec\u00e1nica\u201d.<\/p>\n

La comparaci\u00f3n que suelen hacer muchos expertos es simple: Olah estudia la inteligencia artificial como si fuera un neurocient\u00edfico analizando el cerebro humano. Y cuanto m\u00e1s investiga, m\u00e1s inquietantes se vuelven algunas conclusiones.<\/p>\n

El propio Olah reconoce que siguen apareciendo comportamientos \u201cmisteriosos\u201d dentro de la IA<\/h2>\n

Durante la presentaci\u00f3n en el Vaticano, Christopher Olah dej\u00f3 una frase que resume perfectamente el momento actual de esta tecnolog\u00eda. \u201cSeguimos encontrando cosas misteriosas, incluso inquietantes\u201d.<\/p>\n

No hablaba de robots rebeldes ni de escenarios apocal\u00edpticos hollywoodenses. Hablaba de estructuras internas y patrones de comportamiento dentro de los modelos de IA que todav\u00eda no terminan de comprenderse del todo.<\/p>\n

Algunas investigaciones incluso encontraron mecanismos similares a procesos observados en neurociencia humana. O se\u00f1ales que podr\u00edan parecer formas primitivas de introspecci\u00f3n computacional. Y eso cambia completamente el debate. Porque el problema ya no es \u00fanicamente si la IA reemplazar\u00e1 empleos o generar\u00e1 desinformaci\u00f3n. El problema es que estamos desplegando sistemas extremadamente complejos mientras seguimos sin tener un mapa claro de c\u00f3mo toman decisiones.<\/p>\n

El Vaticano ve en la IA algo m\u00e1s grande que un simple avance tecnol\u00f3gico<\/h2>\n
\"La
\u00a9 EPA.<\/figcaption><\/figure>\n

La enc\u00edclica de Le\u00f3n XIV deja claro que la Iglesia no considera la inteligencia artificial \u00fanicamente como una herramienta tecnol\u00f3gica. La percibe como una transformaci\u00f3n social capaz de alterar trabajo, poder, informaci\u00f3n y relaciones humanas a escala global.<\/p>\n

Por eso el Papa insisti\u00f3 tanto en la necesidad de construir bases \u00e9ticas antes de que el desarrollo quede completamente dominado por intereses privados. Y ah\u00ed Anthropic ocupa un lugar curioso dentro de la industria.<\/p>\n

La empresa fue creada precisamente tras una ruptura interna en OpenAI, cuando varios investigadores consideraron que el sector avanzaba demasiado r\u00e1pido hacia la comercializaci\u00f3n sin priorizar suficientemente la seguridad. Desde entonces, Anthropic intent\u00f3 diferenciarse impulsando conceptos como la \u201cIA constitucional\u201d: sistemas guiados por principios \u00e9ticos predefinidos.<\/p>\n

Claro que eso tambi\u00e9n genera escepticismo. Muchos cr\u00edticos se\u00f1alan que sigue siendo una empresa privada multimillonaria participando en una carrera tecnol\u00f3gica feroz. Y que la \u00e9tica tambi\u00e9n puede convertirse en una estrategia de posicionamiento corporativo. Pero incluso quienes desconf\u00edan de ese discurso reconocen algo importante: pocas compa\u00f1\u00edas est\u00e1n hablando tan abiertamente sobre los riesgos internos de la IA como Anthropic.<\/p>\n

La gran pregunta ya no es tecnol\u00f3gica. Es pol\u00edtica, \u00e9tica y humana<\/h2>\n

Quiz\u00e1 lo m\u00e1s llamativo de todo esto sea que el Vaticano termin\u00f3 entrando en un debate que durante a\u00f1os parec\u00eda reservado a ingenieros y empresarios tecnol\u00f3gicos.<\/p>\n

Pero la raz\u00f3n es evidente. La inteligencia artificial ya no afecta solo a la industria tecnol\u00f3gica. Afecta al trabajo, la educaci\u00f3n, la pol\u00edtica, la econom\u00eda y hasta la manera en la que las personas se relacionan con la informaci\u00f3n y con ellas mismas. Y mientras los modelos siguen creciendo a una velocidad vertiginosa, incluso figuras como Christopher Olah admiten que todav\u00eda estamos intentando comprender qu\u00e9 ocurre dentro de esas redes neuronales gigantescas.<\/p>\n

La paradoja es brutal. Nunca hab\u00edamos creado una tecnolog\u00eda tan poderosa. Y quiz\u00e1 tampoco una que entendamos tan poco mientras ya forma parte de la vida cotidiana de millones de personas.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

Cuando el papa Le\u00f3n XIV present\u00f3 Magnifica Humanitas, su primera enc\u00edclica dedicada a los riesgos y desaf\u00edos de la inteligencia artificial, hubo un detalle que llam\u00f3 especialmente la atenci\u00f3n fuera del \u00e1mbito religioso. Entre los invitados no solo hab\u00eda representantes de la Iglesia o acad\u00e9micos tradicionales. Tambi\u00e9n estaba Christopher Olah, investigador de Anthropic y una […]<\/p>\n","protected":false},"author":1,"featured_media":7786,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-7785","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/7785","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7785"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/7785\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/7786"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7785"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7785"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7785"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}