{"id":17743,"date":"2026-09-09T10:48:41","date_gmt":"2026-09-09T13:48:41","guid":{"rendered":"http:\/\/laf5.publisher.highstack.com.ar\/?p=17743"},"modified":"2026-09-09T10:48:41","modified_gmt":"2026-09-09T13:48:41","slug":"hasta-donde-se-puede-confiar-en-las-herramientas-de-deteccion-de-ia","status":"publish","type":"post","link":"https:\/\/laf5.publisher.highstack.com.ar\/?p=17743","title":{"rendered":"\u00bfHasta d\u00f3nde se puede confiar en las herramientas de detecci\u00f3n de IA?"},"content":{"rendered":"<p><img decoding=\"async\" src=\"https:\/\/es.gizmodo.com\/app\/uploads\/2026\/09\/Diseno-sin-titulo-48-7-1024x683.jpg\" \/><\/p>\n<div>\n<p>[Versi\u00f3n en espa\u00f1ol resumida a partir del art\u00edculo original en ingl\u00e9s]<\/p>\n<p>Las herramientas de detecci\u00f3n de IA, como los grandes modelos de lenguaje, son m\u00e1s que nada cajas negras. Y en lo que es un abrir y cerrar de ojos en el transcurso de la historia, la IA ha inundado al mundo con basura.<\/p>\n<p>Es cierto que Internet nunca fue el faro de la integridad y la confiabilidad. Pero antes de que se lanzara ChatGPT hace casi cuatro a\u00f1os, se pod\u00eda al menos leer un art\u00edculo, ver un video o escuchar una canci\u00f3n en l\u00ednea con la casi certeza de que lo hab\u00eda creado un humano. Eso ya no es as\u00ed. Vivimos en la era de la incertidumbre, cuando casi la mitad de lo que aparece en Internet ha sido escrito por bots.<\/p>\n<p>El Dr. Hany Farid ha dedicado gran parte de su vida a estudiar la cuesti\u00f3n, de a un deepfake de IA a la vez. Hoy es profesor de ciencias de la computaci\u00f3n en Dartmouth, y fund\u00f3 una compa\u00f1\u00eda de detecci\u00f3n de deepfakes llamada GetReal, coincidentemente el mismo d\u00eda en que se lanz\u00f3 ChatGPT en noviembre de 2022. GetReal se especializa en la ciencia forense digital, un campo relativamente joven que identifica la presencia de IA como lo hacen los detectives que buscan ADN o se\u00f1ales de actividad humana. Los modelos generativos han madurado tanto que Farid desconf\u00eda de gran parte de lo que ve en una pantalla. A\u00f1os atr\u00e1s aconsejaba a un abogado sobre un caso de alto perfil cuando un scammer us\u00f3 la IA para clonar su voz e intent\u00f3 obtener informaci\u00f3n sensible del abogado, usando \u201cvoice phishing\u201d. La esposa de Farid, neurocient\u00edfica y tambi\u00e9n profesora en Dartmouth, acord\u00f3 con \u00e9l una palabra clave que usan cuando hablan en remoto para confirmar que no est\u00e1n hablando con una m\u00e1quina que ha clonado sus voces.<\/p>\n<p>Farid me dijo que \u201cla IA generativa est\u00e1 creciendo muy r\u00e1pidamente, y se usa como arma\u201d.<\/p>\n<div class=\"not-prose video-container\"><noscript><iframe loading=\"lazy\" title=\"How AI Deepfakes Are Really Made | Hany Farid\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube-nocookie.com\/embed\/syNN38cu3Vw?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen=\"\"><\/iframe><\/noscript><\/div>\n<h2>Un objetivo m\u00f3vil<\/h2>\n<p>GetReal es una entre varias compa\u00f1\u00edas j\u00f3venes que buscan dar transparencia, responsabilidad y confianza a un paisaje de medios envuelto en una niebla de deepfakes. Se centra mayormente en im\u00e1genes y videos pero tambi\u00e9n hay plataformas para detectar texto generado por la IA, la forma m\u00e1s dif\u00edcil de detectar porque los patrones estad\u00edsticos son m\u00e1s simples que los que se requieren para crear im\u00e1genes o videos.<\/p>\n<p>Pangram es una de las compa\u00f1\u00edas m\u00e1s populares, fundada por dos graduados de Stanford muy j\u00f3venes, en 2023. Afirma tener un 99,98% de precisi\u00f3n para detectar la IA, y un estudio de la Universidad de Chicago encontr\u00f3 que Pangram es la herramienta m\u00e1s efectiva. Sin embargo, el CEO y cofundador Max Spero me dijo que las herramientas de detecci\u00f3n como Pangram est\u00e1n destinadas a ir siempre por detr\u00e1s de los modelos generativos. \u201cNo creo que alcancemos nunca la precisi\u00f3n del 100%. Solo podemos acumular m\u00e1s certeza utilizando m\u00e1s datos\u201d.<\/p>\n<p>Y Jon Gillham, CEO de Originality.ai, le dijo a Gizmodo algo similar. Dijo que determinar si un texto ha sido generado con IA es como predecir el clima: si el algoritmo te dice que hay 100% de probabilidades de lluvia, entonces probablemente llueva. Pero como todos sabemos, las predicciones del clima no siempre se cumplen. Gillham dice que el arte de detectar texto generado con IA es \u201caltamente preciso, pero no es perfecto, y creo que as\u00ed seguir\u00e1 siendo todo en el futuro\u201d.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Small-but-happy win:<\/p>\n<p>If you tell ChatGPT not to use em-dashes in your custom instructions, it finally does what it&#8217;s supposed to do!<\/p>\n<p>\u2014 Sam Altman (@sama) November 14, 2025<\/p>\n<\/blockquote>\n<p>Parte del desaf\u00edo est\u00e1 en las capacidades que van evolucionando en modelos como ChatGPT, Claude, Gemini y Grok, a medida que consumen m\u00e1s y m\u00e1s datos. Hay caracter\u00edsticas recurrentes en el contenido generado con IA, como los guiones medios, pero \u201cson objetivos m\u00f3viles\u201d, seg\u00fan me dijo Spero. Adem\u00e1s, est\u00e1n los \u201chumanizadores\u201d, que son sitios web que reformulan el texto generado por la IA para que parezca m\u00e1s humano y convincente.<\/p>\n<h2>\u00bfQu\u00e9 hay con las marcas de agua?<\/h2>\n<p>Los mecanismos avanzados de detecci\u00f3n tal vez no har\u00edan falta si se declarara por ley que hay que etiquetar el contenido generado con IA. Eso no sucede, no al menos en EE.UU., donde solo algunos estados est\u00e1n avanzando en ese sentido. En la Uni\u00f3n Europea hay una medida que requiere la etiqueta que indique que \u201cel texto se publica con el prop\u00f3sito de informar al p\u00fablico sobre asuntos de inter\u00e9s p\u00fablico\u201d, si ha sido generado o manipulado artificialmente. Adem\u00e1s, debe llevar una marca de agua invisible que se detecta con una m\u00e1quina.<\/p>\n<p>Pero tampoco la marca de agua representa la bala de plata. Anthropic anunci\u00f3 que usar\u00eda marcas de agua para el contenido generado por Claude, pero los desarrolladores han logrado encontrar c\u00f3mo eludirlas. Google tambi\u00e9n introdujo una opci\u00f3n para que el usuario pueda quitar la etiqueta visible de im\u00e1genes, video y m\u00fasica generadas por IA de las herramientas de la compa\u00f1\u00eda.<\/p>\n<div class=\"not-prose video-container\"><noscript><iframe loading=\"lazy\" title=\"SynthID: A tool for watermarking and identifying AI-generated content\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube-nocookie.com\/embed\/9btDaOcfIMY?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen=\"\"><\/iframe><\/noscript><\/div>\n<p>Al menos, es un comienzo Farid dice que no deber\u00edamos dejar de lado las herramientas de detecci\u00f3n solo porque tengan fallas. \u201cAl salir de la casa, cierras la puerta con llave. \u00bfEso impide que entre un ladr\u00f3n? No. Pero sigues cerrando con llave porque lo imperfecto sigue siendo parte de la soluci\u00f3n\u201d.<\/p>\n<h2>Qu\u00e9 pasar\u00e1 en el futuro<\/h2>\n<p>Con el ritmo al que se desarrolla la IA y la cantidad de capital que se invierte en la tecnolog\u00eda, solo podemos esperar que las oraciones, im\u00e1genes, videos, canciones y voces generados con IA sean mucho m\u00e1s dif\u00edciles de detectar a medida que pase el tiempo. Eso dar\u00e1 lugar a nuevos enga\u00f1os, confusiones y falta de confianza.<\/p>\n<p>Como las herramientas como Pangram siempre ir\u00e1n por detr\u00e1s de los modelos generativos, la detecci\u00f3n se convertir\u00eda m\u00e1s en una habilidad personal que hay que aprender y practicar atentamente. Eso incluye el pensamiento cr\u00edtico sobre la fuente de la informaci\u00f3n.<\/p>\n<p>El consejo que les da Farid a sus estudiantes es: \u201cDejen de fingir que pueden convertirse en expertos forenses digitales. Entiendan lo que es una fuente confiable. Entiendan que al leer algo en un medio, hay personas detr\u00e1s de escena, que verifican los datos con est\u00e1ndares editoriales y aunque no sean perfectos, al menos intentan traerles informaci\u00f3n confiable. Los multimillonarios tecnol\u00f3gicos no te brindan informaci\u00f3n confiable y honesta, sino que intentan convertirte en adicto a su producto para seguir acumulando millones\u201d.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"<p>[Versi\u00f3n en espa\u00f1ol resumida a partir del art\u00edculo original en ingl\u00e9s] Las herramientas de detecci\u00f3n de IA, como los grandes modelos de lenguaje, son m\u00e1s que nada cajas negras. Y en lo que es un abrir y cerrar de ojos en el transcurso de la historia, la IA ha inundado al mundo con basura. Es [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":17744,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-17743","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/17743","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=17743"}],"version-history":[{"count":0,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/17743\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=\/wp\/v2\/media\/17744"}],"wp:attachment":[{"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=17743"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=17743"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laf5.publisher.highstack.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=17743"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}