Blog

La inteligencia artificial ya no es únicamente una discusión de Silicon Valley. Esta semana ha llegado prácticamente hasta el centro de la diplomacia mundial.

Coincidiendo con la Asamblea General de Naciones Unidas en Nueva York, Bill Gates ha convertido la IA en el eje de Goalkeepers 2026, la iniciativa de la Gates Foundation vinculada al seguimiento de los Objetivos de Desarrollo Sostenible. A pocos kilómetros de allí, Sam Altman tiene otra cita todavía más inusual: el CEO de OpenAI participará presencialmente en una sesión abierta del Consejo de Seguridad de Naciones Unidas dedicada a la inteligencia artificial y la seguridad internacional.

Los dos llegan con preocupaciones diferentes, pero con un punto común: la tecnología avanza demasiado rápido como para pensar que sus consecuencias se resolverán únicamente dentro de las empresas que la desarrollan.

Gates quiere gastar 1.000 millones de dólares para que la IA no sea solo para los países ricos

La Gates Foundation ha acompañado su encuentro de Nueva York con uno de sus mayores compromisos relacionados con inteligencia artificial: al menos 1.000 millones de dólares durante los próximos dos años.

El dinero se destinará a desarrollar y desplegar herramientas en cuatro grandes áreas. Un 40% irá a educación y otro 40% a salud; un 10% se centrará en agricultura y el 10% restante servirá para construir infraestructura digital, incluidos conjuntos de datos en idiomas que actualmente tienen poca representación en los grandes modelos.

El problema que señala Gates es bastante sencillo. Gran parte de la primera generación de modelos fue entrenada principalmente con contenido en inglés y pensando en usuarios de mercados con altos ingresos. Según el informe Goalkeepers 2026, más del 90% de los datos empleados por los primeros grandes modelos de lenguaje procedía de fuentes en inglés.

La fundación ya está intentando cambiar esa situación. Entre sus proyectos aparecen sistemas destinados a ayudar a trabajadores sanitarios, tutores educativos y herramientas capaces de asesorar a pequeños agricultores utilizando información local sobre suelo, clima o cultivos.

Además, mantiene acuerdos con varias de las empresas que están detrás de los modelos actuales. En mayo anunció, por ejemplo, una colaboración plurianual de 200 millones de dólares con Anthropic para proyectos de salud, educación y agricultura. También trabaja con OpenAI en Horizon 1000, una iniciativa para llevar herramientas de IA a 1.000 centros de atención primaria y sus comunidades en África subsahariana.

Sam Altman llevará una preocupación diferente al Consejo de Seguridad

Mientras Gates habla principalmente de quién podrá utilizar la IA, el encuentro del Consejo de Seguridad aborda otra cuestión: qué ocurre cuando estos sistemas se convierten en un problema de seguridad internacional.

La reunión fue convocada por Francia, que preside el Consejo durante septiembre, y estará encabezada por el ministro francés de Exteriores, Jean-Noël Barrot. Altman tiene previsto defender la necesidad de una mayor coordinación internacional y de estándares de seguridad compartidos entre países.

La discusión llega además en un momento peculiar. Varias de las principales figuras de la industria han advertido recientemente sobre el ritmo al que están mejorando los modelos y han pedido mecanismos independientes de evaluación y una mayor coordinación entre desarrolladores. Al mismo tiempo, existe un fuerte desacuerdo entre empresas y gobiernos sobre cuánto deberían ralentizarse o regularse esos avances.

OpenAI también publicó esta semana una propuesta para que Estados Unidos impulse estándares técnicos internacionales para los sistemas de IA más avanzados, incluyendo protocolos comunes de evaluación y notificación de incidentes.

La discusión sobre la IA acaba de cambiar de escenario

Naciones Unidas ya había abordado el problema. En julio de 2023, el Consejo de Seguridad celebró su primera sesión específica sobre inteligencia artificial. Lo diferente ahora es la velocidad con la que el asunto ha pasado de ser una cuestión tecnológica a mezclarse con desarrollo económico, empleo, desigualdad y seguridad entre Estados.

Por eso las dos conversaciones de Nueva York parecen casi las dos caras del mismo problema. Gates plantea que una IA extremadamente capaz podría ampliar todavía más la brecha mundial si sus beneficios permanecen concentrados en unos pocos países y empresas. Altman llega al Consejo de Seguridad con otra pregunta: cómo coordinar a esos mismos países cuando la tecnología empiece a tener capacidades cada vez mayores.

La inteligencia artificial lleva años prometiendo cambiar el mundo. Lo nuevo es que quienes discuten qué hacer con ella ya no están sentados únicamente en laboratorios y empresas tecnológicas: también están empezando a ocupar las salas de Naciones Unidas.

Una jornada de pesca frente a la costa de Florida terminó con una captura difícil de superar. El capitán Daniel Arsenault, de Hot Spots Charters, divisó un extraño objeto flotando en el Golfo de México. Primero aprovechó la sombra que proyectaba para sacar un mahi-mahi que nadaba debajo. Después, con ayuda de los pasajeros, subió a bordo un dron militar estadounidense de casi tres metros de largo.

El aparato apareció el 19 de septiembre cerca de la Base de la Fuerza Aérea de Eglin, uno de los principales centros estadounidenses para probar armamento y sistemas aéreos. Inicialmente, las autoridades confirmaron únicamente que habían perdido un «artículo de prueba». Un día después llegó una respuesta bastante más concreta: era un LUCAS y había caído al agua durante unas pruebas rutinarias realizadas el 17 de septiembre. El dron ya está nuevamente bajo custodia del Departamento de Defensa.

Lo extraño es que Estados Unidos construyó este dron copiando un arma iraní

La forma triangular del aparato encontrado por los pescadores ofrece la primera pista. LUCAS (Low-Cost Uncrewed Combat Attack System) procede del FLM-136 desarrollado por la estadounidense SpektreWorks, una plataforma creada originalmente para imitar amenazas enemigas durante ejercicios de defensa antidrón. Y el enemigo que sus ingenieros querían reproducir era muy concreto: el Shahed-136 iraní, el dron kamikaze de ala delta que se convirtió en una de las armas no tripuladas más reconocibles de los últimos años.

SpektreWorks describe directamente al FLM-136 como un sistema desarrollado mediante ingeniería inversa para conseguir una «emulación auténtica de amenazas». La idea inicial era bastante lógica: si las fuerzas estadounidenses querían entrenar sistemas capaces de derribar Shahed, necesitaban blancos que volaran y se comportaran de una forma similar.

El FLM-136 mide aproximadamente 3 metros de largo y 2,5 metros de envergadura, puede permanecer unas seis horas en vuelo y admite hasta unos 18 kilos de carga útil. Además, puede despegar mediante una catapulta neumática o con asistencia de cohetes. Pero el proyecto terminó recorriendo un camino bastante curioso: Estados Unidos pasó de fabricar una copia para aprender a derribarla a convertir esa misma arquitectura en un arma propia.

Del blanco de entrenamiento al dron kamikaze LUCAS

La versión militarizada se convirtió en LUCAS, una munición merodeadora de ataque unidireccional pensada para ser relativamente barata y producirse a escala. U.S. Central Command creó a finales de 2025 una unidad específica para operar estos drones y señaló que pueden lanzarse mediante catapultas, cohetes o sistemas montados sobre vehículos.

El coste declarado ronda los 35.000 dólares por unidad, muy por debajo del precio de muchos misiles tradicionales de largo alcance. Durante 2026, el sistema llegó además al combate en Oriente Medio, después de haber nacido esencialmente como una réplica estadounidense de una tecnología iraní.

El ejemplar pescado en Florida había sufrido claramente el impacto con el agua. Las fotografías muestran que perdió el motor, la hélice trasera y parte del morro, daños compatibles con una caída al mar. Aun así, buena parte de su peculiar estructura de ala delta permaneció intacta.

La aparición tampoco resulta tan inexplicable como podría parecer. Eglin dispone de un enorme campo de pruebas sobre el Golfo de México y la Fuerza Aérea realiza allí regularmente ensayos con drones y armamento. De hecho, cuenta incluso con embarcaciones dedicadas a recuperar objetivos no tripulados que terminan en el agua.

Lo insólito fue quién llegó primero esta vez. Un dron estadounidense nacido para imitar a uno de los diseños militares más conocidos de Irán terminó su prueba flotando en el Golfo de México, con un mahi-mahi escondido debajo y un grupo de pescadores intentando subirlo a cubierta.

Los robots humanoides llevan años acercándose cada vez más a capacidades que hasta hace poco parecían exclusivas de los seres humanos. Ya pueden caminar, correr, saltar, manipular objetos, practicar deportes e incluso trabajar en entornos industriales.

Ahora esa evolución dejó una escena mucho más llamativa: un robot humanoide enfrentándose directamente a una persona dentro de una jaula de combate.

El protagonista humano fue el creador de contenido estadounidense Frankie LaPenna, que participó el 18 de septiembre en una exhibición realizada en San Francisco por Robot Entertainment Kombat, una organización que anteriormente ya había organizado combates entre robots.

Esta vez, sin embargo, decidieron cambiar las reglas y colocar a una persona frente a uno de los humanoides.

El rival era un EngineAI T800

El robot utilizado en la exhibición fue un EngineAI T800, un humanoide de aproximadamente 1,73 metros de altura y entre 75 y 85 kilos de peso, dependiendo de su configuración.

Su nombre recuerda inevitablemente al T-800 de la saga Terminator, aunque el funcionamiento del robot real es bastante diferente al de la ficción. Durante el combate, el humanoide podía desplazarse, mantener su postura y ejecutar diferentes movimientos de ataque. Pero había una diferencia fundamental: no tomaba decisiones por sí mismo.

Un operador humano controlaba sus movimientos a distancia utilizando sistemas de teleoperación y realidad virtual. La inteligencia artificial cumplía otro papel: estabilizaba al robot, corregía su postura y coordinaba parte de sus movimientos para evitar caídas.

Una patada terminó con el humano en el suelo

Durante los primeros momentos del enfrentamiento, LaPenna se mantuvo a cierta distancia y lanzó varios golpes contra el robot.

Las imágenes mostraron algo que llamó especialmente la atención: el humanoide apenas reaccionaba físicamente cuando recibía impactos. Su estructura y peso le permitían mantenerse relativamente estable.

Después comenzó a avanzar hacia su rival. En uno de los momentos más espectaculares de la demostración, el T800 lanzó una patada que terminó derribando al creador de contenido.

La escena rápidamente comenzó a circular en redes sociales, principalmente por lo inusual de ver a una máquina humanoide intercambiando golpes con una persona.

No era un robot autónomo

Aunque las imágenes pueden dar la impresión de que el humanoide estaba combatiendo por su cuenta, la realidad es más limitada.

El operador seguía decidiendo cuándo desplazarse, atacar o realizar determinadas acciones. La IA ayudaba principalmente con tareas como equilibrio, coordinación y estabilidad. Eso significa que el enfrentamiento fue, en cierto sentido, una pelea entre dos personas, aunque una de ellas controlaba remotamente un cuerpo robótico.

La diferencia es importante porque los robots humanoides actuales todavía dependen ampliamente de sistemas de teleoperación en demostraciones de este tipo.

Una muestra de hasta dónde está llegando la robótica

Más allá del espectáculo, el combate permite observar el rápido progreso de los humanoides. Mantener el equilibrio durante una pelea, absorber impactos y ejecutar patadas requiere una combinación compleja de sensores, motores, control de movimiento y software.

Hace apenas unos años, muchos humanoides tenían dificultades simplemente para caminar sobre superficies irregulares. Hoy algunos pueden realizar movimientos cada vez más rápidos y coordinados. El enfrentamiento entre LaPenna y el T800 todavía estuvo lejos de ser una pelea entre un humano y una máquina completamente autónoma.

Pero dejó una imagen difícil de ignorar: los robots humanoides ya tienen suficiente fuerza, equilibrio y movilidad como para compartir una jaula de combate con una persona.

Fuente: 20 Minutos.

A unos 150 metros bajo el mar, frente a la pequeña isla noruega de Fedje, hay un submarino alemán de la Segunda Guerra Mundial partido en dos. No es solamente un pecio histórico: en su interior todavía quedan recipientes de mercurio y el sedimento que lo rodea está contaminado.

El U-864 se hundió el 9 de febrero de 1945 mientras transportaba material y personal especializado hacia Japón. No existe un manifiesto completo que permita conocer su carga con exactitud, pero los archivos británicos conservan un pedido japonés de 1.867 recipientes de mercurio. Si todos estaban a bordo, equivaldrían a entre 65 y 67 toneladas del metal.

Más de ocho décadas después, Noruega sigue intentando responder una pregunta aparentemente sencilla: ¿es mejor sacar ese mercurio o dejarlo allí y sepultarlo?

El U-864 también protagonizó una batalla que nunca volvió a repetirse

La historia del submarino ya era extraordinaria antes de que apareciera el problema ambiental. En los últimos meses de la guerra, Alemania puso en marcha una misión secreta para llevar tecnología militar y materias primas a Japón. El U-864 formaba parte de aquella operación.

Los británicos conocían sus movimientos y enviaron al HMS Venturer para interceptarlo. El 9 de febrero de 1945, su comandante, Jimmy Launders, siguió al submarino alemán y calculó una solución de disparo tridimensional para atacarlo mientras ambos permanecían sumergidos.

Venturer lanzó cuatro torpedos. El U-864 esquivó tres, pero el cuarto lo alcanzó y lo partió. Murieron las 73 personas que viajaban a bordo. El episodio continúa siendo el único caso conocido en el que un submarino hundió deliberadamente a otro mientras ambos estaban bajo el agua.

El pecio permaneció perdido hasta 2003, cuando la Armada noruega localizó sus dos grandes secciones cerca de Fedje. Las inspecciones confirmaron después que parte del mercurio había escapado y contaminado el fondo marino.

En 2026 Noruega abrió el submarino. Lo que encontró complicó todavía más la decisión

Las investigaciones más recientes han permitido acercarse como nunca a su carga. En junio de 2026, vehículos submarinos operados remotamente accedieron a seis compartimentos de la quilla y recuperaron 22 recipientes.

Los resultados no fueron tranquilizadores. Una evaluación inicial determinó que alrededor del 80% presentaba daños y fugas. La operación recuperó aproximadamente media tonelada de mercurio y también encontró metal líquido libre dentro de los compartimentos y en los sedimentos.

El hallazgo confirmó algo importante: recuperar la carga es técnicamente posible, pero tocar el pecio también puede empeorar temporalmente la contaminación. Los trabajos sobre la estructura, la excavación de sedimentos y la manipulación de los recipientes deteriorados pueden dispersar mercurio hacia zonas que actualmente permanecen relativamente confinadas.

La solución más segura puede ser enterrar el submarino

Tras estudiar las dos opciones, la Administración Costera de Noruega (Kystverket) entregó en septiembre de 2026 su recomendación al Gobierno: cubrir permanentemente el pecio y los sedimentos contaminados. Según el organismo, recuperar primero parte de la carga y después sellar la zona reduciría el riesgo a largo plazo, pero supone más posibilidades de dispersar mercurio durante los trabajos y un coste considerablemente mayor. El área tendría que cubrirse igualmente después.

La decisión final corresponde ahora al Gobierno noruego. Curiosamente, décadas de vigilancia tampoco muestran una catástrofe ecológica extendiéndose por la costa. El Instituto de Investigación Marina de Noruega controla peces y cangrejos de la zona desde 2004 y no ha detectado un aumento sostenido atribuible al pecio frente a las áreas de referencia cercanas.

El problema está concentrado mucho más abajo. Noruega sabe dónde está el mercurio, sabe que muchos de sus recipientes se están degradando e incluso sabe cómo intentar recuperarlos. Lo que todavía debe decidir es si la mejor forma de eliminar una amenaza de 1945 consiste, paradójicamente, en no volver a tocarla.

La inteligencia artificial avanza a un ritmo que hace apenas unos años parecía difícil de imaginar. Modelos capaces de programar, investigar, resolver problemas científicos y trabajar de forma cada vez más autónoma están llevando nuevamente al centro del debate uno de los grandes desafíos del sector: el problema de la alineación.

La cuestión es aparentemente sencilla, pero técnicamente muy compleja: ¿cómo asegurarse de que una inteligencia artificial haga exactamente lo que sus desarrolladores y usuarios pretenden, incluso cuando dispone de múltiples estrategias para alcanzar un objetivo?

La preocupación volvió a intensificarse durante septiembre después de varios anuncios relacionados con sistemas de IA avanzados, entre ellos la presentación de GPT-6 Astra por parte de OpenAI y nuevos resultados obtenidos mediante modelos empleados en investigación científica y matemática.

New Anthropic research: Building and evaluating alignment auditing agents.

We developed three AI agents to autonomously complete alignment auditing tasks.

In testing, our agents successfully uncovered hidden goals, built safety evaluations, and surfaced concerning behaviors. pic.twitter.com/HMQhMaA4v0

— Anthropic (@AnthropicAI) July 24, 2025

Cuanto más capaz es una IA, más difícil puede ser controlarla

Una inteligencia artificial puede recibir un objetivo y cumplirlo técnicamente sin producir necesariamente el resultado que una persona esperaba.

Este fenómeno aparece cuando un sistema encuentra una estrategia inesperada para maximizar aquello que se le pidió. El problema no significa simplemente que la IA “se equivoque”, sino que puede interpretar literalmente una meta y optimizarla de una forma incompatible con la intención humana original.

Con sistemas relativamente simples, estos fallos suelen ser fáciles de detectar. Pero a medida que los modelos adquieren mayores capacidades para planificar, utilizar herramientas, escribir código o resolver problemas complejos, también aumenta el número de estrategias que pueden encontrar.

Por eso la alineación se ha convertido en una de las principales áreas de investigación en seguridad de inteligencia artificial.

Los últimos avances aceleraron la discusión

La presentación de nuevos modelos capaces de desarrollar tareas científicas y técnicas volvió a poner el foco sobre la velocidad con la que está evolucionando esta tecnología.

El debate se intensificó especialmente después de que sistemas de IA comenzaran a participar en investigaciones matemáticas y científicas que tradicionalmente requerían años de trabajo especializado.

Estos avances no implican necesariamente que los modelos actuales sean completamente autónomos ni que puedan resolver cualquier problema. Sin embargo, muestran que el rango de tareas que pueden abordar continúa expandiéndose rápidamente.

La discusión entre investigadores y empresas gira entonces alrededor de una cuestión clave: cómo desarrollar mecanismos de seguridad al mismo ritmo que aumentan las capacidades.

A central worry in AI alignment is that advanced AI systems will coherently pursue misaligned goals—the so-called “paperclip maximizer.”

But another possibility is that AI takes unpredictable actions without any consistent objective.

— Anthropic (@AnthropicAI) February 3, 2026

Qué significa realmente alinear una inteligencia artificial

La alineación busca que un sistema respete objetivos, restricciones y valores definidos por humanos incluso frente a situaciones nuevas.

Una de las herramientas más utilizadas actualmente es el aprendizaje por refuerzo con retroalimentación humana (RLHF). Mediante este método, evaluadores humanos comparan respuestas del modelo y ayudan a orientar su comportamiento hacia resultados considerados más útiles y seguros.

Sin embargo, esta técnica no resuelve por sí sola todos los problemas.

También se investigan métodos de interpretabilidad destinados a comprender qué ocurre dentro de los modelos, evaluaciones capaces de detectar comportamientos peligrosos y sistemas de supervisión que permitan controlar el acceso de la IA a herramientas externas.

Regulación, auditorías y pruebas antes del lanzamiento

La otra parte del debate ocurre fuera de los laboratorios. Investigadores, empresas y gobiernos analizan mecanismos como auditorías independientes, pruebas de seguridad previas al despliegue, documentación de capacidades y monitoreo continuo después del lanzamiento.

El desafío será encontrar un equilibrio entre aprovechar las enormes posibilidades de estos sistemas y evitar que su capacidad avance más rápido que las herramientas diseñadas para comprenderlos y controlarlos.

La pregunta de fondo ya no es únicamente cuánto puede hacer una inteligencia artificial. Cada vez importa más si podremos garantizar que sistemas progresivamente más poderosos sigan haciendo aquello que realmente queremos que hagan.

Fuente: Futura Science.

Durante años, los modelos de inteligencia artificial aplicados a la biología han demostrado que pueden reconocer proteínas, predecir estructuras o encontrar patrones escondidos dentro del ADN. El siguiente paso era bastante más complicado: dejar de limitarse a interpretar el código genético y empezar a escribirlo.

Investigadores de la Universidad de Stanford y el Arc Institute acaban de demostrar que esa frontera ya puede cruzarse. En un estudio publicado en Science, utilizaron modelos de lenguaje genómico para diseñar genomas completos de bacteriófagos, virus especializados en infectar bacterias. Después sintetizaron algunos de esos diseños en el laboratorio. Dieciséis funcionaron.

No significa que una IA pueda crear cualquier organismo desde cero, ni mucho menos que pueda generar automáticamente virus humanos. El experimento se realizó con uno de los sistemas virales más pequeños y estudiados que existen. Sin embargo, demuestra algo que hasta hace poco estaba fuera del alcance de estos modelos: coordinar miles de letras de ADN hasta obtener una secuencia capaz de funcionar como un sistema biológico completo.

Un ChatGPT que en lugar de palabras escribe ADN

Los protagonistas del experimento fueron Evo 1 y Evo 2, modelos que funcionan siguiendo una idea parecida a la de los grandes modelos de lenguaje. La diferencia está en su vocabulario. En lugar de trabajar con palabras, aprenden las relaciones existentes entre las cuatro letras básicas del ADN: A, C, G y T.

Evo 2 lleva esta aproximación a otra escala. Su versión más grande cuenta con 40.000 millones de parámetros y fue entrenada con alrededor de 9,3 billones de tokens genómicos, procedentes de bacterias, arqueas, eucariotas y bacteriófagos. Además, puede trabajar con secuencias de hasta un millón de nucleótidos, lo que le permite identificar relaciones que aparecen a grandes distancias dentro de un genoma.

Para comprobar si esa capacidad podía servir para algo más que analizar ADN, los investigadores eligieron al bacteriófago ΦX174, un diminuto virus con un genoma de solo 5.386 nucleótidos y 11 genes. También es una vieja celebridad de la genética: en 1977 se convirtió en el primer genoma de ADN secuenciado por completo.

El equipo afinó los modelos con 14.466 secuencias de la familia Microviridae y les pidió generar miles de nuevos genomas relacionados con ΦX174. Después de filtrarlos computacionalmente, seleccionaron 285 candidatos para sintetizarlos y probarlos físicamente.

La mayoría falló. Eso hace más interesante a los 16 que funcionaron

El resultado pone también los límites actuales de la tecnología sobre la mesa. De esos 285 diseños, solamente 16 produjeron bacteriófagos viables, una tasa de éxito cercana al 5,6%. La IA todavía está muy lejos de escribir genomas funcionales de manera fiable.

Sin embargo, los que funcionaron no eran simples copias del virus original. Los nuevos fagos acumulaban entre 67 y 392 mutaciones respecto a sus parientes naturales más cercanos. Uno de ellos incluso consiguió incorporar una proteína de empaquetamiento procedente de un bacteriófago evolutivamente distante, manteniendo operativo el resto de la maquinaria viral.

Ese detalle es importante. Diseñar un genoma no consiste simplemente en reunir genes que funcionan individualmente. Las proteínas deben encajar entre ellas, el ADN tiene que replicarse y empaquetarse correctamente, y el virus debe reconocer a su huésped, entrar en él y reproducirse.

En otras palabras, la IA no tuvo que escribir una pieza que funcionara: tuvo que conseguir que todas funcionaran juntas.

El objetivo no son los virus humanos, sino las bacterias resistentes

Los investigadores fueron un paso más allá. Crearon cepas de E. coli resistentes al ΦX174 original y las enfrentaron a combinaciones de los fagos generados mediante IA. Un cóctel con varios de estos nuevos virus consiguió superar rápidamente esa resistencia en el laboratorio.

Esto abre una posibilidad especialmente interesante para la fagoterapia, que utiliza bacteriófagos para atacar infecciones bacterianas. En el futuro, modelos semejantes podrían ayudar a explorar rápidamente enormes cantidades de variantes y encontrar virus capaces de atacar bacterias que hayan desarrollado resistencia.

Por ahora, es solamente una prueba de concepto y no una nueva terapia. También existe una cuestión inevitable de bioseguridad. Los desarrolladores de Evo 2 excluyeron deliberadamente de sus datos de entrenamiento los virus capaces de infectar células eucariotas (entre ellos los virus humanos) precisamente para degradar el rendimiento del modelo en ese terreno.

La frontera que acaba de moverse está en otro lugar. La IA ya no solo puede aprender las reglas escritas en un genoma. Por primera vez, ha demostrado que puede utilizar algunas de ellas para escribir uno nuevo y conseguir que funcione en el mundo real.