{"id":11777,"date":"2026-07-09T10:43:10","date_gmt":"2026-07-09T13:43:10","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=11777"},"modified":"2026-07-09T10:43:10","modified_gmt":"2026-07-09T13:43:10","slug":"descubren-el-riesgo-que-enfrenta-la-inteligencia-artificial-cuando-se-entrena-con-datos-generados-por-otras-maquinas","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=11777","title":{"rendered":"Descubren el riesgo que enfrenta la inteligencia artificial cuando se entrena con datos generados por otras m\u00e1quinas"},"content":{"rendered":"
\n

La inteligencia artificial evoluciona a un ritmo sin precedentes, pero ese avance tambi\u00e9n est\u00e1 dejando al descubierto desaf\u00edos inesperados que podr\u00edan afectar su desarrollo en los pr\u00f3ximos a\u00f1os. Un reciente estudio pone el foco en un problema silencioso que crece junto con Internet y presenta una estrategia capaz de retrasar sus efectos. Sus conclusiones podr\u00edan influir en la forma en que se entrenar\u00e1n los modelos del futuro.<\/p>\n

La nueva amenaza que surge con el crecimiento de la IA<\/h2>\n

Durante a\u00f1os, el desarrollo de la inteligencia artificial se bas\u00f3 en una idea sencilla: cuanto mayor sea la cantidad de informaci\u00f3n utilizada para entrenar un modelo, mejores ser\u00e1n sus respuestas. Esa l\u00f3gica permiti\u00f3 la creaci\u00f3n de sistemas capaces de redactar textos, generar im\u00e1genes, escribir c\u00f3digo e incluso producir videos con un nivel de calidad sorprendente.<\/p>\n

Sin embargo, el \u00e9xito de estas herramientas est\u00e1 transformando la propia fuente de informaci\u00f3n de la que dependen. Cada d\u00eda aparecen millones de art\u00edculos, publicaciones, rese\u00f1as, comentarios y descripciones elaborados por inteligencia artificial. Todo ese contenido termina integr\u00e1ndose en Internet, mezcl\u00e1ndose con el material producido por personas.<\/p>\n

Este fen\u00f3meno plantea un interrogante cada vez m\u00e1s importante para la comunidad cient\u00edfica: \u00bfqu\u00e9 ocurrir\u00e1 cuando las pr\u00f3ximas generaciones de modelos aprendan principalmente de informaci\u00f3n creada por otras inteligencias artificiales?<\/p>\n

Un trabajo publicado en npj Artificial Intelligence concluye que ese escenario puede provocar un deterioro gradual en el rendimiento de los modelos, aunque tambi\u00e9n demuestra que existen formas de retrasar significativamente ese proceso.<\/p>\n

\"Subes
\u00a9 FreePik<\/figcaption><\/figure>\n

Cuando las m\u00e1quinas comienzan a aprender de otras m\u00e1quinas<\/h2>\n

Los grandes modelos de lenguaje no comprenden el mundo como lo hace un ser humano. Su funcionamiento consiste en identificar patrones estad\u00edsticos dentro de enormes cantidades de informaci\u00f3n para predecir qu\u00e9 palabra, frase o respuesta resulta m\u00e1s probable en cada situaci\u00f3n.<\/p>\n

Hasta hace pocos a\u00f1os, la inmensa mayor\u00eda de esos datos proced\u00eda de libros, peri\u00f3dicos, investigaciones cient\u00edficas, sitios web y conversaciones escritas por personas. Esa diversidad proporcionaba una representaci\u00f3n muy amplia del lenguaje, con diferentes estilos, excepciones y formas de expresi\u00f3n.<\/p>\n

La situaci\u00f3n est\u00e1 cambiando r\u00e1pidamente. Internet incorpora cada vez m\u00e1s contenido generado autom\u00e1ticamente por asistentes conversacionales y otros sistemas de IA. Ese material tambi\u00e9n pasa a formar parte de las bases de datos utilizadas para entrenar nuevos modelos, creando un ciclo en el que las m\u00e1quinas empiezan a alimentarse de producciones creadas por otras m\u00e1quinas.<\/p>\n

Los investigadores comparan este fen\u00f3meno con una p\u00e9rdida progresiva de diversidad. No se trata de una equivalencia biol\u00f3gica, sino de una analog\u00eda que ayuda a comprender c\u00f3mo un intercambio limitado dentro del mismo grupo puede hacer que determinadas caracter\u00edsticas se repitan mientras otras desaparecen con el paso del tiempo.<\/p>\n

Un deterioro que aparece lentamente y puede afectar el conocimiento<\/h2>\n

Este proceso recibe el nombre de colapso del modelo (model collapse). Lejos de representar una falla inmediata, describe un desgaste gradual que se produce generaci\u00f3n tras generaci\u00f3n.<\/p>\n

Cuando un modelo se entrena con una proporci\u00f3n creciente de datos sint\u00e9ticos, comienza a reforzar los patrones m\u00e1s comunes mientras pierde informaci\u00f3n relacionada con casos poco frecuentes. Como consecuencia, conserva peor los ejemplos excepcionales y reduce la riqueza de sus representaciones.<\/p>\n

Una forma sencilla de entenderlo consiste en imaginar una fotograf\u00eda que es copiada una y otra vez. Cada reproducci\u00f3n parece correcta por separado, pero los peque\u00f1os defectos terminan acumul\u00e1ndose hasta que la imagen final pierde detalles presentes en el original.<\/p>\n

Los autores destacan que el problema no radica en utilizar contenido generado por inteligencia artificial. Ese tipo de informaci\u00f3n resulta muy \u00fatil para numerosas aplicaciones. El verdadero riesgo aparece cuando desplaza una parte demasiado importante del material creado por personas y acaba dominando el entrenamiento de nuevas generaciones de modelos.<\/p>\n

En ese contexto, las respuestas m\u00e1s repetitivas reciben cada vez mayor protagonismo, mientras que la informaci\u00f3n menos habitual pierde presencia. El resultado es un conocimiento m\u00e1s uniforme, menos diverso y con menor capacidad para responder correctamente ante situaciones poco comunes.<\/p>\n

El m\u00e9todo que consigue retrasar el colapso<\/h2>\n

Con el objetivo de reducir ese problema, el equipo desarroll\u00f3 una nueva estrategia de entrenamiento denominada Confidence-Aware Loss, dise\u00f1ada para modificar la importancia que el modelo concede a determinados ejemplos durante el aprendizaje.<\/p>\n

La propuesta parte de una observaci\u00f3n simple. Cuando el sistema encuentra patrones extremadamente predecibles, suele asignarles un nivel muy alto de confianza. Sin embargo, esos ejemplos aportan poca informaci\u00f3n nueva porque el modelo ya los domina.<\/p>\n

Para evitar que el aprendizaje se concentre \u00fanicamente en esos casos repetitivos, los investigadores dise\u00f1aron una variante conocida como Truncated Cross-Entropy, que disminuye el peso de las predicciones excesivamente seguras y dirige una mayor atenci\u00f3n hacia ejemplos capaces de aportar mayor diversidad al entrenamiento.<\/p>\n

De esta manera, el algoritmo mantiene un equilibrio m\u00e1s saludable entre los datos habituales y aquellos menos frecuentes, preservando mejor la riqueza estad\u00edstica del conjunto de informaci\u00f3n utilizado.<\/p>\n

Un avance que podr\u00eda marcar el futuro del entrenamiento de IA<\/h2>\n

Las pruebas realizadas mostraron resultados especialmente alentadores. Seg\u00fan los investigadores, el nuevo m\u00e9todo permiti\u00f3 que los modelos soportaran m\u00e1s de 2,3 veces una mayor proporci\u00f3n de contenido sint\u00e9tico antes de comenzar a experimentar los efectos caracter\u00edsticos del colapso.<\/p>\n

Aunque la t\u00e9cnica no elimina completamente el problema, s\u00ed consigue retrasar considerablemente su aparici\u00f3n, ampliando el margen para combinar informaci\u00f3n humana y contenido generado autom\u00e1ticamente sin deteriorar el rendimiento con la misma rapidez.<\/p>\n

Adem\u00e1s del algoritmo, el equipo public\u00f3 un banco de pruebas abierto que permitir\u00e1 evaluar futuras estrategias destinadas a enfrentar este desaf\u00edo, facilitando la comparaci\u00f3n entre distintos m\u00e9todos y acelerando nuevas investigaciones.<\/p>\n

Las conclusiones del estudio van mucho m\u00e1s all\u00e1 de una mejora t\u00e9cnica. Reflejan un cambio profundo en la evoluci\u00f3n de Internet, donde la cantidad de contenido creado por inteligencia artificial aumenta sin descanso. En ese escenario, conservar fuentes originales de informaci\u00f3n y garantizar la diversidad de los datos podr\u00eda convertirse en un aspecto tan importante como desarrollar modelos cada vez m\u00e1s potentes.<\/p>\n

La inteligencia artificial ha demostrado que puede aprender con enorme eficacia, pero esta investigaci\u00f3n recuerda que la calidad de ese aprendizaje depender\u00e1 tanto de la cantidad de informaci\u00f3n disponible como de qui\u00e9n o qu\u00e9 haya producido ese conocimiento. En un mundo donde las m\u00e1quinas generan cada vez m\u00e1s contenido, evitar que terminen aprendiendo \u00fanicamente de s\u00ed mismas podr\u00eda convertirse en uno de los mayores desaf\u00edos tecnol\u00f3gicos de la pr\u00f3xima d\u00e9cada.<\/p>\n

\u00a0<\/p>\n

[Fuente: Muy Interesante]<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial evoluciona a un ritmo sin precedentes, pero ese avance tambi\u00e9n est\u00e1 dejando al descubierto desaf\u00edos inesperados que podr\u00edan afectar su desarrollo en los pr\u00f3ximos a\u00f1os. Un reciente estudio pone el foco en un problema silencioso que crece junto con Internet y presenta una estrategia capaz de retrasar sus efectos. Sus conclusiones podr\u00edan […]<\/p>\n","protected":false},"author":1,"featured_media":11778,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-11777","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/11777","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=11777"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/11777\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/11778"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=11777"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=11777"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=11777"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}