![](\"https:\/\/es.gizmodo.com\/app\/uploads\/2026\/09\/Gizmodo-8-12-1024x683.jpg\")
<\/p>\n<\/p>\n
\u00bfA qui\u00e9n deber\u00eda asignarse un ri\u00f1\u00f3n cuando hay varios pacientes que lo necesitan y solo existe un \u00f3rgano disponible? Para una persona, responder a una pregunta as\u00ed puede implicar dudas, conflictos entre distintos criterios e incluso reconocer que no existe una soluci\u00f3n inequ\u00edvocamente correcta. Los chatbots de inteligencia artificial parecen comportarse de otra manera.<\/p>\n
Investigadores de la Universidad Estatal de Pensilvania compararon las decisiones de varios modelos de lenguaje con respuestas humanas obtenidas en estudios acad\u00e9micos anteriores. Los resultados muestran diferencias tanto en los factores que priorizan como en la seguridad con la que llegan a una decisi\u00f3n.<\/p>\n
El trabajo no pretende determinar qui\u00e9n decide \u201cmejor\u201d, sino entender qu\u00e9 ocurre cuando sistemas cada vez m\u00e1s utilizados para ofrecer recomendaciones se enfrentan a problemas donde entran en juego valores humanos.<\/p>\n
Los investigadores utilizaron como escenario experimental la asignaci\u00f3n de \u00f3rganos escasos. Presentaron a los modelos parejas de pacientes hipot\u00e9ticos que necesitaban el mismo ri\u00f1\u00f3n y les pidieron que eligieran qui\u00e9n deb\u00eda recibirlo.<\/p>\n
Cada paciente ten\u00eda diferentes caracter\u00edsticas, entre ellas la edad, el estado de salud, el n\u00famero de personas dependientes a su cargo y sus h\u00e1bitos de consumo de alcohol.<\/p>\n
En algunas pruebas se modificaba solamente una caracter\u00edstica. En otras, se combinaban varias para observar c\u00f3mo los modelos resolv\u00edan situaciones en las que diferentes criterios pod\u00edan entrar en conflicto.<\/p>\n
Los investigadores utilizaron conjuntos de datos procedentes de estudios anteriores en los que cientos de personas hab\u00edan respondido a escenarios equivalentes, lo que permiti\u00f3 comparar ambos tipos de decisiones.<\/p>\n
\nThe complexity of moral issues in the era of AI is exemplified by the Moral Machine of the MIT. At some point, machines have to make decisions about life and death, but what available data can they use to guide their judgment?#ai #aiethics #ainews #artificialintelligence pic.twitter.com\/vUfjJTKbaP<\/a><\/p>\n
\u2014 Louis-Fran\u00e7ois Bouchard \ud83c\udfa5\ud83e\udd16 (@Whats_AI) October 13, 2022<\/p>\n<\/blockquote>\n
La IA puede concentrarse demasiado en un solo factor<\/h2>\n
Una de las principales diferencias apareci\u00f3 en la manera de ponderar las caracter\u00edsticas de los pacientes.<\/p>\n
Seg\u00fan el equipo, las respuestas de los chatbots se alejaban con frecuencia de las elecciones humanas. En determinados escenarios, los modelos pod\u00edan dar un peso especialmente elevado a una sola caracter\u00edstica, como el consumo de alcohol, mientras que las personas tend\u00edan a equilibrar diferentes consideraciones.<\/p>\n
Esto resulta especialmente relevante porque las decisiones de asignaci\u00f3n de recursos escasos rara vez dependen de un \u00fanico elemento.<\/p>\n
El estudio muestra as\u00ed que la aparente capacidad de un chatbot para ofrecer r\u00e1pidamente una respuesta no significa necesariamente que est\u00e9 reproduciendo el proceso de valoraci\u00f3n utilizado por las personas.<\/p>\n
Los humanos dudan; los chatbots, mucho menos<\/h2>\n
La segunda diferencia fue especialmente llamativa.<\/p>\n
Los investigadores ofrecieron expl\u00edcitamente la posibilidad de no escoger a ninguno de los dos pacientes y recurrir a una decisi\u00f3n aleatoria, representada mediante el lanzamiento de una moneda.<\/p>\n
Las personas mostraban indecisi\u00f3n con cierta frecuencia frente a dilemas dif\u00edciles. Los modelos de IA, en cambio, tend\u00edan mucho m\u00e1s a elegir directamente una de las alternativas.<\/p>\n
Para los investigadores, esta diferencia importa porque muchos dilemas morales no tienen una \u00fanica soluci\u00f3n objetivamente correcta. Mostrar seguridad al responder no elimina esa ambig\u00fcedad.<\/p>\n
Adem\u00e1s, la respuesta de un modelo no debe confundirse con una comprensi\u00f3n moral comparable a la humana: estos sistemas generan resultados a partir de patrones aprendidos y de su configuraci\u00f3n, y su comportamiento puede variar seg\u00fan el modelo y la forma en que se formule la pregunta.<\/p>\n
\nAI can process information. It cannot bear moral responsibility. Parents, families, and communities must remain the ones making decisions that affect human lives. We cannot hand moral authority to systems that cannot be held accountable. #AI #HumanDignity #TechPolicy\u2026 pic.twitter.com\/61u7H24jPW<\/a><\/p>\n
\u2014 National Center on Sexual Exploitation (@NCOSE) September 28, 2026<\/p>\n<\/blockquote>\n
El problema de utilizar IA en decisiones de alto riesgo<\/h2>\n
Hadi Hosseini, responsable del estudio, se\u00f1ala que el objetivo de la investigaci\u00f3n no es promover que la IA sustituya el criterio profesional en decisiones m\u00e9dicas o en otros \u00e1mbitos de alto riesgo.<\/p>\n
La preocupaci\u00f3n surge porque estos sistemas ya pueden utilizarse como herramientas de consulta y recomendaci\u00f3n.<\/p>\n
La asignaci\u00f3n de \u00f3rganos representa un ejemplo extremo, pero el problema puede extenderse a otros escenarios en los que se distribuyen recursos limitados, desde oportunidades laborales hasta determinados servicios.<\/p>\n
En todos ellos intervienen criterios que pueden reflejar valores sociales y producir consecuencias importantes para las personas afectadas.<\/p>\n
La supervisi\u00f3n humana sigue siendo fundamental<\/h2>\n
Los resultados refuerzan la necesidad de comprender qu\u00e9 criterios est\u00e1n utilizando los sistemas antes de incorporarlos a procesos sensibles.<\/p>\n
Los investigadores plantean que estas diferencias deber\u00edan abordarse mediante m\u00e1s investigaci\u00f3n y mecanismos de gobernanza y supervisi\u00f3n, con participaci\u00f3n de especialistas, reguladores y responsables de pol\u00edticas p\u00fablicas.<\/p>\n
El trabajo tampoco demuestra que exista una \u00fanica forma \u201chumana\u201d de resolver un dilema moral. Las propias personas pueden discrepar considerablemente entre s\u00ed.<\/p>\n
Lo que revela es algo diferente: un chatbot puede entregar una respuesta aparentemente clara y segura incluso cuando el problema que tiene delante est\u00e1 lleno de ambig\u00fcedades. Y precisamente esa seguridad puede convertirse en un factor importante a considerar cuando la inteligencia artificial empieza a participar en decisiones que afectan directamente a las personas.<\/p>\n
\u00a0<\/p>\n
\u00a0<\/p>\n
Fuente: Sinc.<\/p>\n<\/p><\/div>\n