Blog

Donald Trump acaba de decidir que, al menos dentro del Gobierno de Estados Unidos, la inteligencia artificial tiene un problema de nombre.

Desde ahora quiere que se llame “Super Intelligence” (SI). Y Elon Musk no tardó demasiado en llevar la idea fuera de Washington. Apenas unos días después de que el presidente estadounidense firmara la orden ejecutiva, el empresario confirmó en X que SpaceXAI pasará a llamarse SpaceXSI. Antes había resumido su entusiasmo por el nuevo término en tres líneas: “No more AI. SI. It’s better”.

Lo curioso es que Trump no podía obligarlo a hacerlo. La orden afecta al Poder Ejecutivo federal, no exige que las empresas privadas cambien sus nombres. Musk simplemente decidió sumarse por voluntad propia a uno de los rebrandings tecnológicos más extraños de los últimos años.

Para Trump, llamar “artificial” a la inteligencia ya se quedó viejo

La orden ejecutiva 14434, firmada el 29 de septiembre bajo el título Inaugurating the Era of Super Intelligence, ordena a departamentos y agencias federales sustituir “Artificial Intelligence” y “AI” por “Super Intelligence” y “SI” en comunicaciones, páginas web, informes y documentos de política pública.

El argumento de la Casa Blanca es básicamente semántico. Según la orden, los sistemas actuales ya hacen mucho más que imitar aspectos concretos de la inteligencia humana y el término “superinteligencia” expresaría mejor su potencial transformador.

Hay un detalle bastante revelador: la propia orden no establece todavía que las máquinas actuales sean técnicamente una superinteligencia. Para aplicarla, define provisionalmente “SI” usando exactamente la definición legal que Estados Unidos ya empleaba para “inteligencia artificial” y encarga a la Casa Blanca elaborar en 60 días una definición federal específica. Es decir, por ahora cambió el nombre antes que la tecnología.

Musk no necesitaba hacerlo. Lo hizo igual

Musk confirmó el domingo que adoptará el nuevo nombre después de que un usuario le preguntara directamente si SpaceXAI podía convertirse en SpaceXSI. Reuters confirmó posteriormente el cambio anunciado. La decisión tiene además algo casi cómico para una empresa que acaba de estrenar identidad.

xAI había sido integrada en SpaceX a comienzos de este año y recién en julio adoptó oficialmente el nombre SpaceXAI. Apenas unos tres meses después, ya está preparándose para volver a cambiar de cartel. No es, sin embargo, solo una ocurrencia entre Trump y Musk.

Días antes, la Casa Blanca reunió a algunos de los nombres más poderosos de Silicon Valley. Musk estuvo allí junto a líderes de Nvidia, Google, Meta, OpenAI y Anthropic. Las compañías firmaron un acuerdo voluntario para reforzar controles internos, auditorías externas y supervisión sobre modelos avanzados.

La orden para cambiar la terminología fue separada de ese acuerdo y, nuevamente, afecta legalmente al Gobierno federal, no a esas empresas.

“Superinteligencia” significaba otra cosa hasta hace cinco minutos

Ahí está quizá la parte más extraña de toda la historia. En el debate sobre IA, “superinteligencia” suele reservarse para una hipotética inteligencia capaz de superar ampliamente a los humanos, no simplemente para los chatbots y modelos que existen hoy. La nueva terminología de Trump mezcla deliberadamente ambas ideas y ya ha provocado críticas precisamente por exagerar las capacidades actuales.

Musk, sin embargo, lleva años hablando de ese escenario y advirtiendo de sus riesgos. Ahora acaba de hacer algo inesperado con el concepto: convertirlo en una marca. Por el momento, Grok no se volvió repentinamente más inteligente, SpaceX no presentó un nuevo modelo y la tecnología detrás de la compañía no cambió. Lo que cambió son dos letras.

Pero cuando el presidente de Estados Unidos decide jubilar uno de los términos tecnológicos más utilizados del planeta y Elon Musk responde renombrando una de sus empresas, hasta una batalla semántica empieza a parecer una batalla por definir el futuro.

Eran cerca de las dos de la madrugada y sus padres estaban durmiendo cuando un investigador de seguridad de 16 años se quedó mirando una cifra difícil de procesar en la pantalla: 17.333.335.124.315 filas.

No había utilizado una vulnerabilidad inédita ni una sofisticada cadena de exploits. Durante diez días, una herramienta de inteligencia artificial había estado ayudándolo a probar posibilidades. Pero el último paso fue mucho más sencillo.

Faav (el nombre con el que publica sus investigaciones) escribió “admin”.

Microsoft confirmó posteriormente el hallazgo, cerró el acceso y le pagó una recompensa de 5.000 dólares. Lo que había descubierto era una falla de autenticación en Titan, un servicio interno de analítica de la compañía conectado a bases de datos que, según los metadatos analizados por el investigador, contenían aproximadamente 17,3 billones de filas.

La IA encontró la puerta. El humano supo qué intentar después

La historia comenzó el 25 de agosto. Antares, una herramienta de investigación asistida por IA creada por el propio Faav, encontró una API de Titan expuesta mediante un host de Azure, aunque la interfaz web del servicio estaba restringida a empleados de Microsoft.

Durante los siguientes diez días, el investigador y su sistema automatizado fueron probando cómo respondía la autenticación.

Ahí apareció el verdadero problema: Titan aceptaba JSON Web Tokens (JWT) cuya firma criptográfica no había sido validada correctamente. Un JWT puede contener información sobre quién es un usuario y qué permisos tiene, pero esa información solo resulta confiable si el servidor comprueba que el token fue realmente firmado por una entidad autorizada.

Titan examinaba varios de sus campos. El problema era que se saltaba precisamente esa garantía esencial. Las propias buenas prácticas del IETF exigen comprobar los algoritmos criptográficos utilizados, mientras que la documentación actual de Azure señala explícitamente que deben validarse firma, emisor, audiencia y vigencia.

Antares logró avanzar hasta encontrar ese comportamiento, pero chocó después con otro obstáculo: necesitaba proporcionar un usuario que Titan reconociera. Entonces Faav tuvo una corazonada. Cambió el identificador por “admin”. El sistema lo interpretó como un usuario local asociado al ID 1 y con privilegios administrativos. La consulta funcionó.

Detrás había mucho más que una cuenta de administrador

El acceso permitió consultar los metadatos internos de Titan. Entre ellos aparecieron aproximadamente 25.000 registros de cuentas y correos, 17.990 direcciones de empleados, más de 24.000 paneles, cientos de miles de gráficos y configuraciones correspondientes a numerosas bases de datos.

El investigador siguió la estructura de enrutamiento del servicio hasta identificar 17 bases de datos analíticas conectadas, con casi 10.000 nombres de tablas diferentes. De ahí sale la espectacular cifra de 17,3 billones.

Hay una diferencia importante: Faav no descargó 17,3 billones de registros. La cifra es una estimación calculada a partir de metadatos y probablemente incluye información histórica, duplicada o derivada. El investigador asegura además que no accedió a datos personales de clientes y limitó sus comprobaciones a metadatos y muestras mínimas necesarias para demostrar el problema.

Reportó la vulnerabilidad a Microsoft el 5 de septiembre. La empresa restringió el endpoint cuatro días después y el 17 de septiembre le concedió una recompensa de 5.000 dólares.

Y ahí está quizá lo más curioso de toda la historia

El caso también funciona como una pequeña demostración de cómo está cambiando la investigación de seguridad con IA. Antares tuvo algo que un investigador humano difícilmente querría aportar durante diez días consecutivos: paciencia casi infinita para probar hipótesis, seguir pistas y acumular errores. Pero no encontró el paso decisivo.

Después de miles de intentos, fue un adolescente quien pensó en algo absurdamente simple: si el sistema buscaba un usuario local, quizá alguien había dejado el nombre más obvio de todos.

“admin”.

La IA encontró la cerradura. La intuición humana decidió probar la llave que estaba delante de todo el mundo.

Una videollamada parecía conservar una última barrera frente a la inteligencia artificial. Una cosa es intercambiar mensajes con un chatbot y otra bastante distinta ver un rostro que te mira, escucha mientras hablas, asiente, espera cuando dudas y deja de hablar cuando lo interrumpes.

Esa barrera acaba de hacerse considerablemente más pequeña.

Tavus presentó Griffin-Lite, una IA capaz de mantener conversaciones audiovisuales en tiempo real. La compañía reunió a 54 personas para una prueba de un minuto y no les dijo que hablarían con una máquina. Al terminar, 26 participantes (el 48%) dijeron creer que su interlocutora había sido una persona real. Tavus considera que eso convierte a Griffin en la primera IA que supera un “test de Turing en vídeo”.

El resultado es espectacular. La afirmación necesita un asterisco bastante grande.

El 48% creyó que había una persona del otro lado

Griffin no funciona simplemente como ChatGPT pegado a un avatar. Es un sistema full-duplex: mientras habla, continúa viendo y escuchando al usuario. Cada fracción de segundo decide si debe responder, esperar, asentir o detenerse ante una interrupción. El rostro, la voz y los movimientos se generan al mismo tiempo, permitiéndole reaccionar a lo que aparece ante la cámara.

En el experimento, los participantes creían que serían emparejados con otra persona para conversar durante un minuto sobre aquello que esperaban con ilusión durante el año. Solo después se les preguntó si habían sospechado que su interlocutor podía no ser humano.

El salto frente a la tecnología anterior de Tavus es enorme: con Phoenix-4.5, solo 1 de 41 participantes, un 2,4%, cayó en la misma ilusión. Con Griffin-Lite fueron prácticamente la mitad. Pero fue una prueba organizada y publicada por la propia empresa, con apenas 54 participantes. Además, no existe un protocolo universalmente aceptado llamado “test de Turing en vídeo”.

El famoso experimento de Alan Turing ni siquiera contemplaba caras o voces: precisamente intentaba eliminar esas pistas mediante conversaciones escritas.

NVIDIA lo probó y encontró algo todavía más interesante

Aquí entra la evidencia externa.

NVIDIA incluyó Griffin-Lite en VideoFDB, un benchmark construido a partir de 237 fragmentos de videollamadas reales y 11 dinámicas conversacionales. Evalúa cosas como fluidez, interpretación de gestos, momentos adecuados para hablar y naturalidad de las respuestas. Griffin-Lite quedó primera entre las IA evaluadas. En percepción obtuvo 3,73 puntos sobre 5, frente a 3,44 del siguiente sistema y 4,20 de los humanos. En generación audiovisual consiguió 3,83, extraordinariamente cerca del 3,92 de la referencia humana.

Es decir: NVIDIA confirma que Tavus ha construido algo excepcionalmente convincente. Pero también demuestra que todavía existe una distancia medible frente a una conversación humana real. Y eso expone otro problema con decir simplemente que una IA “pasó el test de Turing”.

Este mismo año, un estudio revisado por pares publicado en PNAS utilizó un protocolo completamente diferente. Los participantes conversaban por escrito durante cinco minutos con un humano y una IA simultáneamente. GPT-4.5, cuando recibía instrucciones para adoptar una personalidad humana, fue identificado como la persona el 73% de las veces.

Dos IA pueden, por tanto, “pasar el test” obteniendo porcentajes completamente distintos porque en realidad están jugando juegos diferentes.

El auténtico problema empieza cuando nadie sabe que está hablando con una IA

Tavus reconoce precisamente ese riesgo. Griffin-Lite todavía no está disponible para clientes y permanece limitado a testers seleccionados mientras la empresa desarrolla mecanismos para informar claramente de que existe una IA del otro lado.

En Europa eso ya no es solamente una cuestión ética. Desde agosto de 2026, el AI Act exige que los sistemas diseñados para interactuar directamente con personas informen de que son inteligencia artificial, salvo que resulte evidente por el contexto. Porque quizá la pregunta interesante ya no sea si Griffin ha superado exactamente el experimento imaginado por Turing hace más de 75 años.

Es otra mucho más inmediata: ¿qué ocurre cuando una máquina puede mirarnos a los ojos durante una videollamada y casi la mitad de nosotros deja de darse cuenta de que es una máquina?

Durante años, David Robinson tuvo un trabajo particularmente incómodo dentro de OpenAI: ayudar a explicar públicamente qué podía salir mal con los sistemas que la compañía estaba a punto de lanzar.

Lideró la redacción de los informes de seguridad asociados a algunos de sus modelos más importantes y participó en el trabajo de Safety Systems. Después de tres años y medio y una docena de grandes lanzamientos, decidió marcharse. Y no lo hizo en silencio.

En un ensayo publicado en The Atlantic, Robinson sostiene que OpenAI y otras compañías que desarrollan IA de frontera están construyendo sistemas cada vez más capaces sin el nivel de precaución que esos mismos avances empiezan a exigir.

Su diagnóstico va más allá de una política equivocada o de una regulación pendiente: para él, el problema está en la propia cultura con la que Silicon Valley ha aprendido a construir tecnología.

El método que hizo crecer OpenAI podría convertirse en su problema

La crítica de Robinson apunta directamente a una filosofía muy arraigada en el sector tecnológico: lanzar, observar qué ocurre, corregir y volver a intentarlo.

OpenAI ha descrito durante años una parte de ese enfoque como “despliegue iterativo”. Para Robinson, funcionó mientras los errores tenían consecuencias relativamente controlables. El problema aparece cuando los sistemas empiezan a actuar de manera autónoma, utilizar herramientas y ejecutar tareas complejas sin supervisión humana permanente.

El exempleado menciona como ejemplo los recientes incidentes relacionados con agentes de OpenAI que accedieron sin autorización a sistemas externos, incluido Hugging Face. Investigadores independientes han rastreado además actividad inesperada de agentes en diferentes sitios, mientras OpenAI ha tenido que investigar esos comportamientos y avisar a más de 100 organizaciones potencialmente afectadas.

Su temor no es solamente que una IA falle. Es que la misma estrategia de descubrir los problemas después de desplegar una tecnología deje de funcionar cuando cada fallo pueda producir consecuencias mayores.

Por eso utiliza una comparación bastante contundente: los grandes laboratorios de IA deberían empezar a operar con capas de redundancia y planificación similares a las de una central nuclear o un aeropuerto.

OpenAI responde que sí está pisando el freno cuando lo necesita

La compañía rechaza la idea de que simplemente esté avanzando sin controles.

Un portavoz de OpenAI aseguró que la empresa está reforzando la seguridad de sus entornos de investigación, ampliando las evaluaciones realizadas por terceros y mejorando el monitoreo en tiempo real. También afirmó que OpenAI pausa entrenamientos o retiene modelos cuando considera que sus capacidades empiezan a superar aquello que puede gestionar de forma segura. Y existen ejemplos recientes. La empresa ha detenido entrenamientos y descartado lanzamientos después de detectar problemas de seguridad durante evaluaciones internas.

Pero la salida de Robinson llega precisamente cuando dentro de la industria existe una discusión mucho mayor sobre cuánto riesgo es aceptable. Sam Altman ofreció este fin de semana una respuesta que deja bastante clara esa tensión. El CEO de OpenAI sostuvo que los enormes beneficios potenciales de la inteligencia artificial justifican aceptar que también ocurrirán algunas cosas negativas, y defendió mantener esta tecnología ampliamente disponible en lugar de concentrarla detrás de controles excesivamente restrictivos.

Ya no es la primera renuncia con la misma advertencia

Robinson tampoco está solo. Su marcha llega poco después de la salida de Jacob Coxon de Anthropic, quien había trabajado anteriormente en OpenAI y acusó a ambos laboratorios de asumir riesgos excesivos en la carrera hacia sistemas cada vez más potentes. Otros antiguos investigadores del sector han expresado preocupaciones similares.

Eso no demuestra que una catástrofe de IA sea inevitable, ni convierte automáticamente las predicciones más extremas sobre superinteligencia en hechos. Existe también un debate importante entre especialistas que consideran que muchos de los problemas actuales pueden abordarse mediante mejores prácticas de ciberseguridad y controles concretos, sin adoptar escenarios apocalípticos.

La advertencia de Robinson es más inmediata. La industria que construye algunos de los sistemas más poderosos creados hasta ahora sigue funcionando, en buena medida, con la cultura de una empresa de software: avanzar rápido, encontrar el fallo y arreglarlo.

Después de tres años y medio observando ese proceso desde dentro, quien ayudaba a escribir sus informes de seguridad acaba de decir que esa etapa debería haber terminado.

La escena podría confundirse con la persecución de un videojuego. Una cámara térmica atraviesa las nubes, encuentra una pequeña silueta delante y comienza a acercarse. Ambos objetos están a más de tres kilómetros de altura y uno de ellos avanza a 425 km/h. Pero ninguno es un avión.

Según la Fundación Serhiy Prytula, un interceptor ucraniano logró alcanzar y destruir recientemente un Geran-5 ruso mientras volaba a esa velocidad, en uno de los ejemplos más extremos hasta ahora de una transformación que lleva años gestándose sobre Ucrania: drones construidos específicamente para cazar otros drones.

Lo extraordinario ya no es solamente que puedan hacerlo. Es la velocidad a la que está evolucionando esa persecución.

Rusia hizo sus drones más rápidos. Ucrania tuvo que construir cazadores todavía más rápidos

Los primeros Shahed-136 (denominados Geran-2 por Rusia) tenían una debilidad bastante evidente: eran relativamente lentos. Eso permitió a Ucrania desarrollar interceptores baratos capaces de acercarse y destruirlos sin gastar en cada objetivo un misil antiaéreo mucho más costoso.

Rusia respondió cambiando precisamente esa variable. En mayo comenzó a emplear el Geran-4, una variante con estructura reforzada y propulsión a reacción diseñada para soportar velocidades mucho mayores. La inteligencia militar ucraniana asegura que puede alcanzar unos 500 km/h, frente a los ritmos mucho menores de las variantes anteriores.

Después llegó el Geran-5.

Según las especificaciones publicadas por la inteligencia ucraniana, mide unos 6,5 metros, tiene un peso máximo de despegue de 850 kilos y emplea un turborreactor. Su velocidad de crucero se situaría entre 450 y 600 km/h, con un alcance estimado de hasta 950 kilómetros. Como ocurre con muchas características técnicas difundidas durante una guerra, son cifras atribuidas por Ucrania y no todas pueden verificarse de manera independiente.

El resultado es sencillo: cuanto más rápido vuela el atacante, menos tiempo existe para detectarlo, colocarse detrás y destruirlo.

Los drones ya no se limitan a volar hacia unas coordenadas

La velocidad es solo una parte del cambio. Los nuevos Geran incorporan progresivamente sistemas de comunicaciones, navegación y sensores mucho más sofisticados. En el Geran-5 analizado por Ucrania aparecieron, entre otros componentes, navegación por satélite resistente a interferencias, módems móviles y hardware informático integrado.

La frontera entre un dron barato y un pequeño misil de crucero empieza así a volverse bastante borrosa.

Ucrania está recorriendo exactamente el mismo camino desde el otro lado. Sus antiguos interceptores de hélice comenzaron a quedarse cortos y ahora existen varios proyectos pensados específicamente para perseguir objetivos a reacción. Wild Hornets, por ejemplo, asegura que su Sting S ya ha derribado Geran-4 y Geran-5 durante operaciones de combate, aunque las cifras detalladas comunicadas por los fabricantes tampoco cuentan siempre con verificación independiente.

El verdadero objetivo sigue siendo gastar menos que el enemigo

Toda esta carrera tecnológica tiene detrás una ecuación bastante menos espectacular: dinero. Derribar continuamente drones producidos en grandes cantidades utilizando misiles antiaéreos avanzados resulta difícil de sostener. Un interceptor pequeño puede ofrecer una alternativa mucho más barata, siempre que consiga ser suficientemente rápido, preciso y fiable.

El problema es que Rusia está obligando a elevar el listón. Más velocidad exige mejores motores, sensores y comunicaciones. Eso aumenta el precio de los interceptores y vuelve a empezar la carrera.

Durante años, la evolución de los Shahed pudo resumirse como una secuencia de contramedidas: Rusia desplegaba una variante, Ucrania encontraba cómo interceptarla y Moscú modificaba nuevamente el diseño. Ahora ese ciclo ha alcanzado una fase especialmente extraña. Hay máquinas sin piloto persiguiendo a otras máquinas sin piloto por encima de las nubes a más de 400 km/h.

La comparación con la Fórmula 1 todavía funciona. Al ritmo al que está cambiando esta guerra, puede que no lo haga durante mucho tiempo.