{"id":13499,"date":"2026-07-28T08:50:50","date_gmt":"2026-07-28T11:50:50","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=13499"},"modified":"2026-07-28T08:50:50","modified_gmt":"2026-07-28T11:50:50","slug":"un-nuevo-informe-revela-lo-que-cientos-de-usuarios-le-preguntaron-a-chatgpt-y-por-que-las-respuestas-encendieron-las-alarmas","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=13499","title":{"rendered":"Un nuevo informe revela lo que cientos de usuarios le preguntaron a ChatGPT y por qu\u00e9 las respuestas encendieron las alarmas"},"content":{"rendered":"
\n

El<\/span> Wall Street Journal<\/span> public\u00f3 este verano un nuevo informe que dice que se detect\u00f3 que cientos de usuarios de todo el mundo han consultado a<\/span> ChatGPT<\/span> sobre c\u00f3mo fabricar venenos y armas biol\u00f3gicas. El informe cita fuentes como \u201cempleados actuales y anteriores de grandes laboratorios de IA, incluyendo a OpenAI\u201d, y a \u201cconsejeros de pol\u00edticas e investigadores que estudian armas biol\u00f3gicas\u201d. OpenAI aparentemente le dijo a Journal que la mayor\u00eda de las consultas relevantes eran sobre venenos.<\/span><\/p>\n

Lo que sorprende es el p\u00fablico que realiz\u00f3 las consultas<\/h2>\n

El informe no detalla la naturaleza exacta de esas detecciones de consultas que violan las reglas pero implica que se trata de usuarios promedio de ChatGPT, y no de consultas que alertan o causan banderas rojas. Tal parece que luego se mostraron las respuestas a expertos en defensa y a cient\u00edficos para verificar la precisi\u00f3n de ChatGPT. \u201cLos expertos en biolog\u00eda y terrorismo revisaron los intercambios con ChatGPT y dijeron que algunos eran de precisi\u00f3n letal, seg\u00fan los conocedores\u201d, indica el Journal.<\/span><\/p>\n

\"Dise\u00f1o
\u00a9 JOCA_PH \u2013 shutterstock<\/figcaption><\/figure>\n

Las instrucciones se describen como brindadas \u201ccon paciencia\u201d al nivel de un estudiante de la escuela secundaria. Se bloque\u00f3 a los usuarios por su conducta, pero el Journal dice que no se notific\u00f3 a las autoridades. OpenAI le dijo al Journal que este tipo de consultas se env\u00edan a las fuerzas del orden cuando se considera que son peligros cre\u00edbles en el mundo real.<\/span><\/p>\n

Hasta ahora la mayor\u00eda de las formas siniestras de los chatbots de IA de consumo han brindado a gente con malas intenciones algo as\u00ed como consejos generales, m\u00e1s que instrucciones precisas, algo que los alienta. En un incidente publicado en el New York Times, miembros de Boko Haram habr\u00edan pedido consejos a un chatbot para<\/span> modificar sus motocicletas para hacer saltos<\/span> y luego usaron esas motocicletas (tras mucha pr\u00e1ctica) para lograr lo que el Times llam\u00f3 \u201celevaci\u00f3n como para montar un ataque exitoso\u201d. Si es verdad, no es algo bueno, aunque un libro confiable sobre el tema tambi\u00e9n habr\u00eda ayudado a Boko Haram sin necesidad de la IA.<\/span><\/p>\n

\u00bfNo hay un l\u00edmite?<\/h2>\n

El informe del Journal sobre las armas biol\u00f3gicas y los venenos se da en un momento en que estas tecnolog\u00edas est\u00e1n avanzando y diversific\u00e1ndose. Hay modelos avanzados como el m\u00e1s reciente modelo de GPT que eventualmente podr\u00edan dar lugar a modelos de destilaci\u00f3n secreta, lanzados como productos a bajo costo que solo se pueden usar en una m\u00e1quina con potencia suficiente. Tambi\u00e9n existen t\u00e9cnicas para modificar modelos que eliminan las restricciones que tienen hoy las versiones m\u00e1s nuevas, lo que significa que se puede encontrar cualquier informaci\u00f3n.<\/span><\/p>\n

Resulta razonable la preocupaci\u00f3n del gobierno federal ante los modelos de IA en 2026, que se prohibieron y luego se permitieron, ya que tal vez no pasen m\u00e1s de dos a\u00f1os antes de que se conviertan en algo sin censura que cualquier persona con malas intenciones pueda conseguir al precio correcto si sabe d\u00f3nde buscar. Al mismo tiempo hay t\u00e9cnicas que buscan eliminar las salvaguardas de los modelos, y esas t\u00e9cnicas tambi\u00e9n est\u00e1n avanzando.<\/span><\/p>\n

OpenAI le dijo al Journal que sus modelos est\u00e1n dise\u00f1ados para rechazar consultas da\u00f1inas, y que se eval\u00faan antes de lanzarlos al mercado. Es probable que el Journal est\u00e9 parafraseando lo que les dijo un vocero de OpenAI: que puede \u201cidentificar y detener intentos de utilizar sus modelos para obtener informaci\u00f3n biol\u00f3gica perjudicial\u201d.<\/span><\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"

El Wall Street Journal public\u00f3 este verano un nuevo informe que dice que se detect\u00f3 que cientos de usuarios de todo el mundo han consultado a ChatGPT sobre c\u00f3mo fabricar venenos y armas biol\u00f3gicas. El informe cita fuentes como \u201cempleados actuales y anteriores de grandes laboratorios de IA, incluyendo a OpenAI\u201d, y a \u201cconsejeros de […]<\/p>\n","protected":false},"author":1,"featured_media":13500,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-13499","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/13499","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=13499"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/13499\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/13500"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=13499"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=13499"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=13499"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}