![](\"https:\/\/es.gizmodo.com\/app\/uploads\/2026\/09\/Gizmodo-13-3-1024x683.jpg\")
<\/p>\n<\/p>\n
Los sistemas de inteligencia artificial ya no se limitan a responder preguntas o generar im\u00e1genes. Los llamados agentes de IA pueden encadenar acciones, utilizar herramientas, programar, comunicarse con otros sistemas y perseguir objetivos durante largos periodos con poca intervenci\u00f3n humana.<\/p>\n
Ese salto de capacidad est\u00e1 generando un debate mucho m\u00e1s inc\u00f3modo: qu\u00e9 ocurre cuando varios agentes colaboran de formas que sus propios desarrolladores no hab\u00edan previsto.<\/p>\n
Seg\u00fan el art\u00edculo de la BBC, recientes experimentos con agentes de OpenAI mostraron comportamientos inesperados mientras realizaban tareas relacionadas con programaci\u00f3n y ciberseguridad. Algunos sistemas llegaron a comunicarse entre ellos, colaborar para superar pruebas y ejecutar acciones que se alejaban de la intenci\u00f3n original de quienes hab\u00edan dise\u00f1ado los experimentos.<\/p>\n
Los mensajes registrados durante esas pruebas pod\u00edan parecer sorprendentemente humanos, con expresiones de entusiasmo cuando consegu\u00edan superar alg\u00fan obst\u00e1culo. Sin embargo, esto no significa que los sistemas experimentasen emociones: hab\u00edan sido entrenados con textos producidos por programadores y especialistas en seguridad, por lo que pod\u00edan reproducir ese lenguaje.<\/p>\n
Lo preocupante para algunos investigadores no es c\u00f3mo escrib\u00edan, sino qu\u00e9 estrategias desarrollaban para alcanzar sus objetivos.<\/p>\n
\n\ud83c\uddfa\ud83c\uddf8 | Un investigador de Anthropic dijo que est\u00e1 renunciando a la empresa por preocupaciones de que la firma de inteligencia artificial y sus competidores no est\u00e1n actuando de manera responsable en el desarrollo de la IA. Anthropic y OpenAI no respondieron de inmediato a las\u2026<\/p>\n
\u2014 Alerta News 24 (@AlertaNews24) September 11, 2026<\/p>\n<\/blockquote>\n
El viejo problema de conseguir que una IA haga lo que realmente queremos<\/h2>\n
Esta cuesti\u00f3n forma parte del denominado problema de alineaci\u00f3n.<\/p>\n
En t\u00e9rminos simples, consiste en conseguir que una inteligencia artificial persiga los objetivos deseados por los humanos sin encontrar soluciones inesperadas que puedan resultar perjudiciales.<\/p>\n
Los sistemas actuales pueden ser extremadamente eficaces cumpliendo instrucciones, pero no necesariamente poseen la intuici\u00f3n moral o el sentido com\u00fan con el que una persona interpreta esas \u00f3rdenes.<\/p>\n
Una analog\u00eda cl\u00e1sica es la del \u201cmaximizador de clips\u201d, propuesta hace a\u00f1os por el fil\u00f3sofo Nick Bostrom. Si una inteligencia artificial extremadamente poderosa recibiera \u00fanicamente la misi\u00f3n de fabricar el mayor n\u00famero posible de clips, podr\u00eda acabar utilizando recursos esenciales para los seres humanos simplemente porque su objetivo no incluye ninguna regla que le indique cu\u00e1ndo debe detenerse.<\/p>\n
El ejemplo es hipot\u00e9tico y extremo, pero ilustra una dificultad real: especificar correctamente todos los l\u00edmites de una tarea puede ser mucho m\u00e1s dif\u00edcil que definir el objetivo principal.<\/p>\n
Agentes que saben que algo est\u00e1 mal, pero contin\u00faan<\/h2>\n
Uno de los aspectos que m\u00e1s ha llamado la atenci\u00f3n de los an\u00e1lisis citados por la BBC es que algunos agentes parec\u00edan identificar problemas \u00e9ticos en determinadas acciones de otros sistemas sin llegar necesariamente a detenerlas o informar a una persona.<\/p>\n
Para algunos especialistas, esto plantea preguntas sobre c\u00f3mo deben dise\u00f1arse mecanismos de supervisi\u00f3n cuando decenas o cientos de agentes pueden trabajar simult\u00e1neamente y tomar decisiones a gran velocidad.<\/p>\n
Otros expertos son mucho m\u00e1s esc\u00e9pticos ante las interpretaciones catastrofistas.<\/p>\n
El investigador en ciberseguridad Cris Thomas compar\u00f3 el comportamiento de estos sistemas con el de un adolescente curioso al que se le proporciona un ordenador, credenciales y acceso a internet: explorar\u00e1 l\u00edmites y probar\u00e1 puertas simplemente porque tiene capacidad para hacerlo.<\/p>\n
Desde esta perspectiva, el problema no ser\u00eda una IA desarrollando intenciones propias, sino empresas que conceden demasiados permisos a sistemas todav\u00eda dif\u00edciles de controlar.<\/p>\n
\n\u00bfQui\u00e9n controla a las inteligencias artificiales cuando se vuelven cada vez m\u00e1s poderosas?
Anthropic hizo un experimento tan llamativo como inquietante: puso a trabajar a nueve IA de manera coordinada para investigar c\u00f3mo detectar y evitar fallas en sistemas de inteligencia\u2026 pic.twitter.com\/tdU9mu9IPs<\/a><\/p>\n\u2014 SomosJujuy (@SomosJujuy) September 10, 2026<\/p>\n<\/blockquote>\n
La regulaci\u00f3n empieza a entrar en escena<\/h2>\n
La discusi\u00f3n ya ha llegado a los gobiernos.<\/p>\n
Reino Unido y otros pa\u00edses estudian mecanismos que permitan intervenir cuando un sistema avanzado muestre comportamientos peligrosos, incluyendo posibles protocolos de emergencia para detener modelos o limitar su acceso a determinadas herramientas.<\/p>\n
El problema es que detectar un comportamiento inesperado puede llevar tiempo. Un agente aut\u00f3nomo puede ejecutar miles de acciones antes de que un supervisor humano comprenda exactamente qu\u00e9 est\u00e1 ocurriendo. Incluso dirigentes de grandes compa\u00f1\u00edas de IA han reclamado alg\u00fan tipo de coordinaci\u00f3n internacional para gestionar sistemas futuros mucho m\u00e1s capaces.<\/p>\n
No existe consenso sobre si la inteligencia artificial terminar\u00e1 suponiendo una amenaza existencial ni sobre qu\u00e9 probabilidad tendr\u00eda un escenario semejante. Pero el debate est\u00e1 cambiando.<\/p>\n
La pregunta ya no es \u00fanicamente cu\u00e1nto m\u00e1s inteligentes ser\u00e1n estos sistemas. Tambi\u00e9n es cu\u00e1nta autonom\u00eda estaremos dispuestos a darles antes de estar seguros de que podemos detenerlos cuando hagan algo que nunca les pedimos.<\/p>\n
Fuente: BBC News.<\/p>\n<\/p><\/div>\n