![](\"https:\/\/es.gizmodo.com\/app\/uploads\/2026\/07\/Gizmodo-64-5-1024x683.jpg\")
<\/p>\n<\/p>\n
Las compa\u00f1\u00edas de inteligencia artificial saben c\u00f3mo construir y entrenar sus modelos. Eligen su arquitectura, preparan enormes conjuntos de datos y ajustan miles de millones de par\u00e1metros mediante algoritmos de aprendizaje. Sin embargo, una vez terminado ese proceso, no siempre pueden explicar con precisi\u00f3n c\u00f3mo el sistema organiza internamente lo aprendido.<\/p>\n
Dario Amodei, director ejecutivo de Anthropic, lo reconoci\u00f3 en abril de 2025 en su ensayo The Urgency of Interpretability. Compar\u00f3 el entrenamiento de una IA con el crecimiento de una planta: sus creadores establecen las condiciones iniciales, pero la estructura exacta que aparece resulta dif\u00edcil de predecir y entender. Al observar el interior del modelo, los investigadores encuentran inmensas matrices de n\u00fameros que realizan tareas cognitivas sin revelar f\u00e1cilmente su funcionamiento.<\/p>\n
Esto no significa que las inteligencias artificiales sean m\u00e1gicas o incomprensibles en todos los sentidos. Los especialistas conocen las operaciones matem\u00e1ticas que ejecutan y pueden inspeccionar cada activaci\u00f3n. El problema es traducir esos c\u00e1lculos en una explicaci\u00f3n humana completa de por qu\u00e9 el modelo produjo una respuesta concreta o aprendi\u00f3 determinada habilidad.<\/p>\n
\n\n
\u2014 Diario\u0e3fitcoin\uea00 (@DiarioBitcoin) March 20, 2026<\/p>\n<\/blockquote>\n
Capacidades que nadie program\u00f3 directamente<\/h2>\n
Una parte de esta incertidumbre aparece en las llamadas capacidades emergentes. El t\u00e9rmino se utiliza para describir habilidades que apenas se observan en modelos peque\u00f1os, pero que aparecen cuando aumentan el tama\u00f1o, los datos o la potencia de entrenamiento.<\/p>\n
Un influyente estudio de investigadores de Google y otras instituciones document\u00f3 tareas en las que el rendimiento permanec\u00eda cerca del azar hasta superar cierta escala. Entre ellas aparec\u00edan capacidades relacionadas con el razonamiento, la comprensi\u00f3n del lenguaje y el aprendizaje a partir de ejemplos incluidos en una conversaci\u00f3n.<\/p>\n
Sin embargo, existe un debate cient\u00edfico importante. Otra investigaci\u00f3n demostr\u00f3 que algunos de esos aparentes saltos pueden deberse a la forma de medir el rendimiento. Una habilidad puede parecer que surge repentinamente cuando se utiliza una m\u00e9trica que solo considera respuestas totalmente correctas, aunque el modelo haya estado mejorando gradualmente desde antes.<\/p>\n
Por tanto, no todas las capacidades emergentes aparecen necesariamente \u201cde golpe\u201d. Lo que s\u00ed permanece abierto es c\u00f3mo las redes combinan sus representaciones internas para resolver tareas que no fueron programadas mediante reglas expl\u00edcitas.<\/p>\n
Los investigadores intentan abrir la caja negra<\/h2>\n
Chris Olah, cofundador de Anthropic y uno de los principales investigadores de interpretabilidad mec\u00e1nica, lleva a\u00f1os intentando identificar los circuitos internos de las redes neuronales. Su equipo ha estudiado mecanismos como las cabezas de inducci\u00f3n, relacionadas con la capacidad de detectar patrones y utilizar ejemplos anteriores dentro de un texto.<\/p>\n
En 2024, Anthropic anunci\u00f3 que hab\u00eda extra\u00eddo millones de caracter\u00edsticas interpretables de una capa de Claude 3 Sonnet. Algunas respond\u00edan a ciudades, personas, elementos qu\u00edmicos o errores de programaci\u00f3n; otras representaban ideas m\u00e1s abstractas, como guardar un secreto o detectar sesgos profesionales.<\/p>\n
El experimento permiti\u00f3 observar una peque\u00f1a parte de lo que ocurre dentro del modelo, pero tambi\u00e9n mostr\u00f3 la dimensi\u00f3n del problema. Encontrar conceptos internos no explica autom\u00e1ticamente c\u00f3mo se conectan para producir una respuesta. Anthropic reconoce que elaborar un mapa completo con sus t\u00e9cnicas actuales podr\u00eda requerir m\u00e1s capacidad computacional que la empleada para entrenar el propio modelo.<\/p>\n
\nhttps:\/\/t.co\/W5eGz0XhOp
\ud83d\udea8\ud83e\udd16\u26a0\ufe0f ANTHROPIC PRESENTA CLAUDE FABLE 5: LA IA M\u00c1S POTENTE DE SU HISTORIA\u2026 Y LA M\u00c1S RESTRINGIDA<\/p>\n