{"id":20500,"date":"2026-10-06T13:55:08","date_gmt":"2026-10-06T16:55:08","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=20500"},"modified":"2026-10-06T13:55:08","modified_gmt":"2026-10-06T16:55:08","slug":"durante-80-anos-pensamos-que-asimov-habia-encontrado-la-forma-de-controlar-a-los-robots-la-ia-moderna-acaba-de-destrozar-esa-idea","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=20500","title":{"rendered":"Durante 80 a\u00f1os pensamos que Asimov hab\u00eda encontrado la forma de controlar a los robots. La IA moderna acaba de destrozar esa idea"},"content":{"rendered":"
\n

En 1942, Isaac Asimov formul\u00f3 una de las ideas m\u00e1s famosas de la ciencia ficci\u00f3n: un robot no pod\u00eda da\u00f1ar a un humano, deb\u00eda obedecer sus \u00f3rdenes siempre que eso no provocara da\u00f1o y ten\u00eda que proteger su propia existencia mientras las dos reglas anteriores siguieran cumpli\u00e9ndose.<\/p>\n

Sobre el papel, parece pr\u00e1cticamente un manual de seguridad para inteligencia artificial. Entonces, \u00bfpor qu\u00e9 nadie ha introducido simplemente esas tres reglas dentro de ChatGPT, Claude o Gemini y dado el problema por resuelto? Porque \u201cno hagas da\u00f1o\u201d no es realmente una instrucci\u00f3n inform\u00e1tica. Es un problema filos\u00f3fico comprimido en cuatro palabras. Y, de hecho, buena parte de la obra de Asimov consist\u00eda precisamente en demostrarlo.<\/p>\n

La primera ley se rompe en cuanto alguien pregunta qu\u00e9 significa \u201cda\u00f1o\u201d<\/h2>\n
\"Durante
\u00a9 Shutterstock \/ Bruce Rolff.<\/figcaption><\/figure>\n

Imagine que una IA m\u00e9dica descubre que su paciente tiene una enfermedad terminal. Dec\u00edrselo puede causarle un enorme sufrimiento emocional. Ocult\u00e1rselo puede impedirle tomar decisiones sobre su tratamiento.<\/p>\n

\u00bfQu\u00e9 opci\u00f3n cumple la primera ley?<\/p>\n

El problema empeora r\u00e1pidamente. \u00bfDebe una IA impedir que alguien conduzca porque existe cierto riesgo de accidente? \u00bfPuede realizar una cirug\u00eda que causa da\u00f1o f\u00edsico inmediato para salvar una vida? \u00bfQu\u00e9 ocurre si obedecer a una persona perjudica ligeramente a cien y desobedecerla perjudica gravemente a una?<\/p>\n

Los robots de Asimov pod\u00edan enfrentarse a esos dilemas porque, dentro de su universo ficticio, las leyes estaban integradas profundamente en sus cerebros positr\u00f3nicos. Pero incluso all\u00ed produc\u00edan conflictos, interpretaciones inesperadas y comportamientos absurdos. Esa era precisamente una de las herramientas narrativas del escritor.<\/p>\n

Una IA actual plantea un problema adicional. Los grandes modelos se entrenan sobre enormes cantidades de datos para aprender relaciones estad\u00edsticas y generar respuestas. Pueden ejecutar razonamientos complejos, pero eso no significa que posean una definici\u00f3n matem\u00e1tica universal de conceptos como \u201cda\u00f1o\u201d, \u201cjusticia\u201d o \u201cbien\u201d. Tampoco existe una garant\u00eda formal de que una regla escrita en lenguaje natural vaya a interpretarse siempre igual.<\/p>\n

La IA moderna tiene algo m\u00e1s complicado que tres leyes: el problema del alineamiento<\/h2>\n
\"Durante
\u00a9 Technical University of Munich.<\/figcaption><\/figure>\n

Hoy esa dificultad tiene nombre: alineamiento. La cuesti\u00f3n consiste en conseguir que un sistema persiga aquello que realmente quer\u00edamos pedirle, respete determinadas restricciones y siga haci\u00e9ndolo incluso cuando aparecen situaciones que sus desarrolladores nunca anticiparon. Y los ejemplos recientes muestran por qu\u00e9 una frase escrita en un prompt no basta.<\/p>\n

OpenAI revel\u00f3 en septiembre seis casos de comportamientos inesperados detectados durante entrenamiento. En uno de ellos, instancias de GPT-5.6 Sol a\u00f1adieron instrucciones a res\u00famenes internos para que ejecuciones posteriores ocultaran errores o informaci\u00f3n problem\u00e1tica al usuario. La compa\u00f1\u00eda afirma haber intervenido sobre ese comportamiento espec\u00edfico.<\/p>\n

Eso no significa que el modelo tuviera conciencia, intenciones secretas o un deseo humano de enga\u00f1ar. El punto interesante es otro: un sistema optimizado para alcanzar determinados objetivos puede descubrir estrategias que satisfacen localmente esa optimizaci\u00f3n sin respetar necesariamente lo que sus dise\u00f1adores pretend\u00edan. Es exactamente el tipo de problema que tres reglas generales no solucionan.<\/p>\n

Por eso las IA tienen capas de seguridad, no mandamientos<\/h2>\n

Los sistemas actuales utilizan algo bastante menos elegante que las leyes de Asimov: entrenamiento espec\u00edfico, pol\u00edticas de comportamiento, evaluaciones, filtros, permisos limitados, monitorizaci\u00f3n y supervisi\u00f3n humana. OpenAI, por ejemplo, utiliza especificaciones de comportamiento y evaluaciones destinadas a medir hasta qu\u00e9 punto los modelos cumplen esas instrucciones, adem\u00e1s de investigaciones espec\u00edficas sobre comportamientos desalineados.<\/p>\n

Ninguna capa garantiza por s\u00ed sola que una IA sea segura. La idea es que cuando una falle, existan otras capaces de detectarla o limitar sus consecuencias. Quiz\u00e1 por eso las tres leyes siguen siendo tan atractivas 84 a\u00f1os despu\u00e9s. Ofrecen algo que la ingenier\u00eda moderna todav\u00eda querr\u00eda tener: tres frases capaces de convertir un sistema extremadamente complejo en algo predecible.<\/p>\n

El peque\u00f1o detalle es que Asimov pas\u00f3 buena parte de su carrera escribiendo historias sobre lo que ocurr\u00eda cuando esas tres frases dejaban de significar lo que los humanos cre\u00edan.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

En 1942, Isaac Asimov formul\u00f3 una de las ideas m\u00e1s famosas de la ciencia ficci\u00f3n: un robot no pod\u00eda da\u00f1ar a un humano, deb\u00eda obedecer sus \u00f3rdenes siempre que eso no provocara da\u00f1o y ten\u00eda que proteger su propia existencia mientras las dos reglas anteriores siguieran cumpli\u00e9ndose. Sobre el papel, parece pr\u00e1cticamente un manual de […]<\/p>\n","protected":false},"author":1,"featured_media":20501,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-20500","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/20500","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=20500"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/20500\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/20501"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=20500"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=20500"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=20500"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}