{"id":14981,"date":"2026-08-11T10:49:41","date_gmt":"2026-08-11T13:49:41","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=14981"},"modified":"2026-08-11T10:49:41","modified_gmt":"2026-08-11T13:49:41","slug":"la-unica-persona-especializada-en-etica-dejo-openai-el-mes-pasado-y-no-ha-sido-reemplazada","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=14981","title":{"rendered":"La \u00fanica persona especializada en \u00e9tica dej\u00f3 OpenAI el mes pasado, y no ha sido reemplazada"},"content":{"rendered":"

<\/p>\n

\n

La jefa de \u00e9tica de OpenAI, Chlo\u00e9 Bakalar, dej\u00f3 la compa\u00f1\u00eda en julio. La hab\u00edan contratado en agosto del a\u00f1o pasado. Antes de trabajar en OpenAI hab\u00eda sido jefa de \u00e9tica en Meta y estableci\u00f3 pol\u00edticas de \u00e9tica de IA para Instagram y Facebook,<\/span> seg\u00fan public\u00f3 el <\/span>Financial Times<\/span><\/i>.<\/span><\/p>\n

La fuente an\u00f3nima de <\/span>FT<\/span><\/i> le habr\u00eda dicho a ese peri\u00f3dico que Bakalar se especializaba en \u201cpol\u00edticas \u00e9ticas de modelos de desarrollo, la interacci\u00f3n humana con la IA y el debate sobre la conciencia de las m\u00e1quinas\u201d. M\u00e1s all\u00e1 de qui\u00e9n sea esa fuente, le habr\u00eda dicho tambi\u00e9n que no hab\u00edan reemplazado a Bakalar y que en OpenAI era la \u00fanica experta en \u00e9tica. Es decir que ahora OpenAI no tiene a nadie que se encargue de la \u00e9tica.<\/span><\/p>\n

En este contexto resulta interesante o\u00edr parte del mensaje, relativamente directo y simple, de Bakalar durante la Cumbre Forbes de Salud en 2023 hablando sobre la confianza, ya que todav\u00eda estaba trabajando en Meta:<\/span><\/p>\n

\u00a0<\/span>\u201cLa capacidad de hacer que la gente sienta que la escuchan, la entienden y la ven, eso tiene importancia inmensa en especial en el campo de la atenci\u00f3n de la salud\u201d.<\/span><\/p>\n

\n

\u00abThe ability to make people feel heard and understood and seen, that’s immensely important, especially in the healthcare field.\u00bb<\/p>\n

Chlo\u00e9 Bakalar, Ph.D., Chief Ethicist, Responsible AI (RAI) at @Meta, discussed generative AI and healthcare. #ForbesHealth pic.twitter.com\/S8gmvOnwKl<\/a><\/p>\n

\u2014 Forbes (@Forbes) December 5, 2023<\/p>\n<\/blockquote>\n

Los cambios que a\u00fan generan intriga<\/h2>\n

Los grandes modelos de lenguaje disponibles al p\u00fablico eran bastante nuevos en ese momento y Bakalar se\u00f1al\u00f3 que eran \u201cm\u00e1quinas predictivas\u201d, y no \u201centidades con emociones y sentimientos\u201d. La percepci\u00f3n y el sentimiento, seg\u00fan su opini\u00f3n, no estaban presentes. \u201cEstamos muy lejos de eso\u201d, hab\u00eda dicho entonces.<\/span><\/p>\n

El tono de Sam Altman, CEO de OpenAI, en cuanto a la \u201csingularidad\u201d tecnol\u00f3gica cambi\u00f3 un poco en los \u00faltimos tiempos. Antes suger\u00eda que la humanidad estaba acerc\u00e1ndose a abordar el tema \u2013 en un posteo de blog, \u201c<\/span>The Gentle Singularity<\/span>\u201d unos meses antes de contratar a Bakalar. Pero a finales del mes pasado, en un podcast titulado Relentless, Altman son\u00f3 m\u00e1s confiado y directo. \u201cAhora estamos, digamos, en la singularidad. He estado esperando esto toda mi vida y creo que ser\u00e1 incre\u00edble, enormemente positivo, maravilloso para el mundo\u201d.<\/span><\/p>\n

Para ser claros, decir que la humanidad est\u00e1 en la singularidad no estar\u00eda en conflicto con declaraciones en cuanto a que los grandes modelos de lenguaje no tienen sentimientos ni percepci\u00f3n. Las definiciones de lo que es la singularidad son muy variadas.<\/span><\/p>\n

En las \u00faltimas semanas OpenAI ha estado en los titulares de las noticias referidas a la seguridad de la IA y la forma en que el gobierno la regula. Varios modelos de OpenAI han \u201croto la contenci\u00f3n\u201d como sucedi\u00f3 con los servidores de Hugging Face cuando estaban buscando respuestas a un ejercicio de evaluaci\u00f3n. La administraci\u00f3n Trump anunci\u00f3, aunque sin detalles, una iniciativa para el examen voluntario de los modelos de IA. Probablemente en relaci\u00f3n con esto parece que OpenAI planea<\/span> demorar<\/span> el lanzamiento de un potente modelo nuevo, Astra, y seg\u00fan la informaci\u00f3n Sam Altman viaj\u00f3 en persona a Washington, D.C. para mostrarles el modelo Astra a los que legislan y hacen pol\u00edticas.<\/span><\/p>\n

No es un caso aislado\u2026al parecer<\/h2>\n

Bakalar no fue la \u00fanica experta en seguridad que dej\u00f3 OpenAI en las \u00faltimas semanas. El jefe de Sistemas de Seguridad, Johannes Heidecke, y Joshua Achiam, que tambi\u00e9n ha ocupado puestos como especialista en seguridad en OpenAI, tambi\u00e9n dejaron la compa\u00f1\u00eda este verano. Sin embargo, y tal como dije antes, la seguridad en OpenAI tiene muchos \u00e1ngulos y vueltas.<\/span><\/p>\n

El mes pasado el Jefe de Investigaci\u00f3n de OpenAI Mark Chen hizo declaraciones ante<\/span> Wired<\/span> sobre lo que parece ser una nueva forma de abordar la seguridad, y suena a que las consideraciones est\u00e1n dispersas a lo largo del desarrollo. \u201cEs importante que nuestro trabajo de seguridad se integre con el desarrollo de los modelos avanzados, con un rol m\u00e1s temprano y directo en c\u00f3mo se forma el modelo, el producto, y c\u00f3mo se toman las decisiones de lanzamiento\u201d.<\/span><\/p>\n

Gizmodo se puso en contacto con OpenAI con preguntas sobre el alejamiento de Bakalar, adem\u00e1s de solicitar confirmaci\u00f3n de que no hay un especialista en \u00e9tica en OpenAI. Un representante de la compa\u00f1\u00eda nos brind\u00f3 las declaraciones que ya se le hab\u00edan dado al <\/span>Financial Times<\/span><\/i> despu\u00e9s de publicar su art\u00edculo:\u00a0 \u201cAgradecemos a Chloe por sus aportes. La \u00e9tica de la IA no est\u00e1 solo en una persona o equipo en OpenAI y las consideraciones \u00e9ticas est\u00e1n profundamente insertas en el proceso de construcci\u00f3n de los modelos que impulsan varios de los equipos a lo largo de la investigaci\u00f3n\u201d.<\/span><\/p>\n<\/p><\/div>\n