Escribir cuando la máquina también escribe: la paradoja que nadie esperaba

Hace un par de semanas una colega me envió un texto que le tomó algunos días escribir. Resultado: 100% probabilidad de origen IA. Ese mismo día, yo generé un borrador con Claude para un informe institucional, lo revisé, lo ajusté introduciendo y complementando elementos que omitió en la instrucción. Pangram lo clasificó como 70% humano.

En redes sociales se comparten publicaciones con imágenes de detectores de IA catalogando de 100% IA textos de Gabriel García Márquez. Este realismo mágico se convierte en pesadilla para académicos y estudiantes, sí un texto escrito por una persona puede ser marcado como artificial, y un texto generado por una máquina puede pasar como humano, ¿qué estamos midiendo exactamente cuando hablamos de "autoría"?

Este escrito explora esa pregunta. No la resuelve, sería deshonesto prometer eso, es un primer intento para comprender el problema dialogando con la evidencia disponible y la experiencia de la escritura asistida con IA.

Cómo genera texto un modelo de lenguaje

Conviene empezar preguntándonos ¿Cómo genera texto la IA? un modelo de lenguaje grande (LLM, por sus siglas en inglés) no "piensa" un texto. Lo predice. Token por token, fragmento por fragmento, calcula cuál es la siguiente unidad más probable dada la secuencia anterior.

La arquitectura que hizo posible esta capacidad es el Transformer, propuesto por Vaswani et al. (2017). Un Transformer es un tipo de red neuronal diseñada para procesar secuencias de texto. A diferencia de los modelos anteriores, que leían las palabras una por una en orden (redes recurrentes), el Transformer procesa toda la secuencia de forma simultánea mediante un mecanismo llamado atención: para cada palabra, calcula qué tan relevante es cada una de las demás palabras del texto. Eso le permite captar relaciones distantes (entre el sujeto de una oración y un verbo que aparece varias líneas después, por ejemplo) sin perder información por el camino.

Brown et al. (2020) demostraron con GPT-3 que al escalar estos modelos a 175 mil millones de parámetros, la capacidad de generación textual alcanza un punto donde evaluadores humanos tienen dificultad para distinguir artículos de noticias generados por el modelo de los escritos por periodistas. El modelo producía texto con fluidez, gramaticalmente correcto, coherente y contextualmente apropiado.

Pero hay una trampa estadística debajo de esa fluidez. El modelo, al optimizar la probabilidad de cada siguiente token, tiende a elegir completaciones "seguras". Palabras frecuentes con estructuras probables, lo que Jawahar et al. (2020) describieron como patrones reconocibles en el texto generado por máquinas: uniformidad en la longitud de las oraciones, sobreuso de determinadas construcciones gramaticales, y una previsibilidad léxica que el ojo entrenado puede detectar.

Esa previsibilidad se denomina perplejidad baja. Cada palabra que el modelo elige es, estadísticamente, la que menos sorprende al propio modelo. Y eso, paradójicamente, es lo que lo delata.

Pero reducir la generación a una sucesión mecánica de elecciones probables sería simplificar en exceso. Se conoce el mecanismo algorítmico con el que los LLM generan texto, pero se comprende solo de forma parcial cómo se organizan internamente las representaciones y por qué aparecen ciertas capacidades y fallos. Como advierte el equipo de Anthropic, la naturaleza de caja negra de estos modelos resulta cada vez más insatisfactoria a medida que ganan en sofisticación y se despliegan en más aplicaciones (Lindsey et al., 2025). Justamente por eso, al estudiar los circuitos internos de Claude 3.5 Haiku, descubrieron que el modelo planifica cuando escribe poesía rimada, antes de componer un verso, activa representaciones internas de palabras candidatas para cerrar la rima, y después construye la línea para que esa palabra encaje. Es planificación, pero estadística. En un estudio posterior, Lindsey (2025) encontró que estos modelos tienen una forma limitada de conciencia introspectiva: en ciertos escenarios pueden detectar estados inyectados en sus activaciones, aunque esta capacidad es frágil y los fallos son la norma. El modelo planifica, genera con sofisticación estructural, y en ocasiones percibe algo de su propio procesamiento.

No todo uso de IA es igual: el espectro de la escritura con inteligencia artificial

Antes de hablar de detección conviene una distinción que suele perderse en el debate. La pregunta "¿lo escribió la IA?" presupone una respuesta binaria, pero la realidad se parece más a un espectro. Un estudio de OpenAI sobre más de un millón de conversaciones con ChatGPT encontró que cerca de dos tercios de las consultas relacionadas con escritura piden al modelo que modifique un texto existente, no que genere uno desde cero (Chatterji et al., 2025). La mayoría de las personas no le pide a la IA que escriba por ellas; le pide que las ayude a escribir.

Thai et al. (2025) formalizaron esa intuición en EditLens, un modelo que predice el grado de intervención de IA en un texto como un puntaje continuo, no como una etiqueta binaria. Su trabajo distingue dos tipos de autoría mixta. En la heterogénea, los segmentos humanos y los de IA conviven con fronteras identificables: un párrafo lo escribió la persona, el siguiente lo generó el modelo. En la homogénea, la autoría está entrelazada por el proceso de edición: la IA parafrasea, reestructura o pule un texto humano, y aunque reemplace cada palabra con un sinónimo, la autoría sigue siendo mixta porque las ideas, la estructura argumentativa y la intención comunicativa provienen del autor original.

Pensando en términos prácticos, la escritura con IA opera en al menos cuatro niveles:

1. Escritura humana con herramientas convencionales. El autor concibe, redacta y revisa sin intervención de un LLM. Puede usar corrector ortográfico, diccionarios, bases de datos, incluso pedirle a un colega que lea y comente. La autoría es enteramente de la persona.
2. Escritura humana asistida por IA de forma puntual. El autor escribe el borrador completo. En momentos específicos consulta al modelo para buscar un dato, verificar una cita, encontrar un sinónimo o resolver una duda de redacción. Las decisiones estructurales, argumentativas y de tono son del autor. El modelo funciona como un asistente de consulta, no como coautor.
3. Escritura coelaborada con IA. El autor y el modelo interactúan de forma iterativa. El autor puede pedir al modelo que redacte un párrafo a partir de notas, que reestructure una sección, que ajuste el tono de un pasaje, o que sugiera transiciones. Después revisa, descarta, modifica y decide qué permanece. La autoría es compartida en grados variables. Aquí entran la mayoría de los usos profesionales: informes institucionales editados con IA, propuestas ajustadas en tono, textos donde la idea es humana pero la redacción final atravesó un modelo.
4. Texto generado íntegramente por IA. El usuario introduce un prompt y publica la salida sin edición o con cambios cosméticos. La estructura, los argumentos, el tono, la selección de información y la redacción completa provienen del modelo. La persona funciona como editor superficial, no como autora.

Cada nivel tiene implicaciones distintas para la detección, la valoración y la ética. Los detectores binarios tradicionales tratan los cuatro por igual: humano o IA. Pero EditLens demostró que las ediciones menos invasivas no dejan la misma huella que las más profundas (Thai et al., 2025). Corregir gramática y ortografía con IA apenas mueve el puntaje de detección. Pedir que resuma, reestructure o agregue detalle lo mueve sustancialmente. Y cada pase adicional de edición con IA incrementa la señal de forma monótona: la huella se acumula.

La implicación es directa. No es lo mismo usar la IA como diccionario sofisticado que como escritor fantasma. Y cualquier política, académica, editorial o institucional, que trate ambos usos como equivalentes estará confundiendo herramienta con suplantación.

Cómo funcionan los detectores

Los primeros detectores de texto IA se apoyaban en esa intuición: medir la perplejidad del texto y su variación a lo largo del documento (lo que se conoce como burstiness o ráfaga). Mitchell et al. (2023) formalizaron esta idea con DetectGPT, mostrando que el texto generado por un LLM tiende a ocupar regiones de curvatura negativa en la función de log-probabilidad del modelo.

El razonamiento consistía en que si un texto "sorprende poco" a un modelo de lenguaje, probablemente fue generado por uno. Pero Emi (2025) señaló cinco problemas graves con este enfoque. Primero, los textos que aparecen frecuentemente en los datos de entrenamiento del LLM (la Declaración de Independencia de Estados Unidos, artículos de Wikipedia) tienen perplejidad artificialmente baja y son clasificados erróneamente como IA. Segundo, la perplejidad varía entre modelos: lo que es predecible para GPT puede no serlo para Claude. Tercero, los modelos comerciales cerrados ni siquiera exponen las probabilidades necesarias para calcularla. Cuarto, la escritura de hablantes no nativos de inglés tiene naturalmente perplejidad baja (vocabulario limitado, estructuras simples) y es penalizada por estos detectores. Liang et al. (2023) confirmaron esto con un estudio sobre 91 ensayos TOEFL: los detectores basados en perplejidad clasificaron consistentemente la escritura de no nativos como generada por IA.

El quinto problema es el más estructural: los detectores basados en perplejidad no mejoran con más datos. No aprenden.

Por eso herramientas como Pangram abandonaron ese enfoque. Usan clasificadores de deep learning entrenados con millones de documentos, tanto humanos como generados por IA, que aprenden patrones estructurales, estilísticos y semánticos a partir de los datos, no de una métrica calculada. Tokenización, embeddings, red neuronal, cabeza clasificadora. El modelo no mide cuánto "sorprende" el texto. Aprende a distinguir la huella completa del lenguaje producido por una máquina: elección de palabras, estructura sintáctica, variación rítmica, densidad nominal, patrones de cohesión.

Y algo más: para evitar que el clasificador dependa de diferencias superficiales, Pangram genera "prompts espejo", textos IA que coinciden en estilo, tono y contenido con las muestras humanas de entrenamiento, forzando al modelo a captar solo la firma intrínseca del LLM (Pangram Labs, 2024). Masrour (2025) demostró además que las frases que los detectores resaltan como típicas de IA, son indicadores calculados después de la predicción, no su causa. Eliminarlas no cambia la puntuación. Lo que el clasificador analiza son características de orden superior: la estructura argumentativa, la organización y el tono del documento completo. Para alterar esas señales habría que reescribir el texto entero, y en ese punto resulta más eficiente haber escrito desde el principio.

La grieta: cuando los detectores se equivocan

Sadasivan et al. (2023) plantearon la pregunta que muchos evitaban: ¿puede el texto generado por IA ser detectado de manera confiable? Su respuesta fue matizada pero inquietante. Demostraron que ataques de paráfrasis recursiva (reformular el texto generado varias veces con otro modelo) reducen las tasas de detección sin degradar visiblemente la calidad del texto. Y mostraron algo peor: que un atacante puede inferir las firmas ocultas del texto IA sin acceso de caja blanca al detector, permitiendo ataques de suplantación donde texto humano es reclasificado como artificial.

El estudio conecta con una realidad menos técnica y más cotidiana. No hacen falta "ataques" sofisticados. Basta con que un humano escriba de manera ordenada, con vocabulario formal, sin errores gramaticales, siguiendo una estructura lógica limpia (como nos enseñaron en la universidad), y los detectores lo marcan como sospechoso. La escritura académica convencional, con sus transiciones generalizadas y su estilo impersonal, se parece estructuralmente al texto que produce un LLM.

Y en la otra dirección: basta con que alguien revise un texto generado por IA, rompa la simetría de sus párrafos, cambie tres transiciones mecánicas, agregue un detalle concreto y una oración corta que interrumpa el ritmo, para que el detector lo clasifique como humano.

No estamos ante un sistema de detección infalible. Estamos ante una carrera de patrones.

El aprendizaje cruzado: humanos que escriben como IA, IA que escribe como humanos

Aquí aparece el giro que este texto quiere señalar.

Los modelos de lenguaje pueden ser orientados, mediante instrucciones de sistema, ejemplos de estilo o ajuste fino, para producir texto con las características que los detectores asocian a escritura humana: variación rítmica, imperfecciones deliberadas, voz editorial, especificidad concreta, léxico regionalmente marcado. No se trata de un truco. Se trata de que el espacio de estilos que un LLM puede producir incluye estilos que los detectores actuales no pueden distinguir de escritura humana genuina.

Al mismo tiempo, los humanos que usan IA con frecuencia empiezan a absorber sus patrones. Estructuras tri-partitas. Transiciones con "Asimismo" y "No obstante". Oraciones que anuncian lo que van a decir antes de decirlo. Conclusiones que resumen sin agregar. Un investigador que lee veinte borradores de IA al día empieza a escribir como la IA, no por pereza, sino por exposición. El fenómeno es análogo a lo que ocurre con cualquier inmersión lingüística prolongada.

Liang et al. (2023) observaron algo complementario: que instrucciones simples de prompting (pedirle al modelo que "escriba como un escritor más sofisticado") no solo mejoraban la calidad del texto generado sino que reducían los falsos positivos en detectores de IA. El límite entre estilo humano y estilo máquina se desdibuja desde ambos lados.

Hacia una valoración del texto por lo que comunica

Si la detección binaria (humano o máquina) se vuelve técnicamente insostenible a medida que los modelos mejoran y los humanos se adaptan, ¿qué queda?

Queda lo que nunca debió dejar de importar: qué dice el texto, quién lo escribe, a quién interpela, con qué intención y qué proceso o experiencia abre. Este desplazamiento no es menor. Implica transitar de una pregunta cerrada ¿lo escribió una persona? hacia preguntas que interrogan el acto comunicativo completo que contemplan al emisor, mensaje y receptor.

Pensemos en el emisor. ¿Qué experiencias, conocimiento, procesos y preguntas tuvo en cuenta quien escribió el texto? ¿Qué decisiones tomó, qué descartó, qué priorizó y por qué? Un informe de investigación importa porque conecta datos de campo con preguntas que le duelen a alguien, y porque quien lo firma estuvo ahí, eligió esas preguntas y no otras, y asume las consecuencias de lo que concluye. Una propuesta de proyecto importa porque evidencia que quien la escribió dialogó con actores del territorio y que juntos acordaron cooperar para resolver un problema o construir una visión de futuro.

Pensemos en el mensaje. ¿Es coherente con la experiencia que lo sustenta? ¿Ofrece algo que antes de leerlo no existía? Un LLM puede redactar un guion de entrevista pertinente, técnicamente bien estructurado. Pero difícilmente comprende (por el momento), la necesidad de devolver los relatos de familias víctimas en el marco de un proceso restaurativo. No sabe que esa familia ha realizado decenas de entrevistas con preguntas similares, que está cansada de contar lo mismo sin que nada cambie. Es ahí donde emerge la creatividad humana: el investigador, con apoyo de la IA, musicaliza esos relatos, y producto de la entrevista las familias víctimas cocrean canciones para honrar y dignificar a sus seres queridos. Ese giro no lo produce un modelo de lenguaje. Lo produce alguien que estuvo presente, que escuchó, que sintió la responsabilidad de hacer algo distinto con lo que le confiaron.

Pensemos en el receptor. ¿El texto llega? ¿Transforma algo en quien lo lee, lo escucha, lo usa? Un elemento que suele omitirse en esta discusión es la intencionalidad del texto y su usabilidad. ¿Facilita que las personas, las familias, las comunidades o las instituciones transformen o mejoren sus realidades concretas? La autoría importa cuando el texto sirve para algo más allá de sí mismo.

Pero aquí cabe una precaución. No todo texto necesita ser "útil" en sentido instrumental. La literatura, la contemplación, el placer de leer por leer, el ensayo que no resuelve nada pero nos deja pensando durante días: esas formas textuales tienen un valor que no se mide en resultados. Reconocer múltiples estilos y propósitos es parte de la honestidad intelectual. La pregunta no es "¿para qué sirve este texto?" sino "¿qué hace posible?". Y a veces lo que hace posible es el silencio, la belleza o la incomodidad.

Quizá lo que necesitamos no es mejores detectores sino mejores preguntas. No "¿quién escribió esto?" sino "¿qué sabe quien lo firma? ¿qué vivió? ¿qué pone en juego? ¿a quién le habla y qué le ofrece?". La evaluación transita de la autoría como origen hacia la autoría como responsabilidad, y del texto como producto hacia el texto como acto comunicativo.

Referencias

• Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., … Amodei, D. (2020). Language models are few-shot learners. Advances in Neural Information Processing Systems, 33, 1877–1901. https://arxiv.org/abs/2005.14165
• Chatterji, A., Cunningham, T., Deming, D. J., Hitzig, Z., Ong, C. Y. S., & Wadman, K. (2025). How people use ChatGPT (Working Paper No. 34255). National Bureau of Economic Research. http://www.nber.org/papers/w34255
• Emi, B. (2025, 4 de marzo). Why perplexity and burstiness fail to detect AI. Pangram Labs Blog. https://www.pangram.com/blog/why-perplexity-and-burstiness-fail-to-detect-ai
• Jawahar, G., Abdul-Mageed, M., & Lakshmanan, L. V. S. (2020). Automatic detection of machine generated text: A critical survey. Proceedings of the 28th International Conference on Computational Linguistics (COLING 2020), 2296–2309. https://arxiv.org/abs/2011.01314
• Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. https://doi.org/10.1016/j.patter.2023.100779
• Lindsey, J. (2025). Emergent introspective awareness in large language models. Transformer Circuits Thread. https://transformer-circuits.pub/2025/introspection/index.html
• Lindsey, J., Gurnee, W., Ameisen, E., Chen, B., Pearce, A., Turner, N. L., Citro, C., Abrahams, D., Carter, S., Hosmer, B., Marcus, J., Sklar, M., Templeton, A., Bricken, T., McDougall, C., Cunningham, H., Henighan, T., Jermyn, A., Jones, A., … Batson, J. (2025). On the biology of a large language model. Transformer Circuits Thread. https://transformer-circuits.pub/2025/attribution-graphs/biology.html
• Masrour, E. (2025, 29 de agosto). Can you avoid AI detection through editing? Pangram Labs Blog. https://www.pangram.com/blog/can-you-avoid-ai-detection-through-editing
• Mitchell, E., Lee, Y., Khazatsky, A., Manning, C. D., & Finn, C. (2023). DetectGPT: Zero-shot machine-generated text detection using probability curvature. Proceedings of the 40th International Conference on Machine Learning (ICML 2023). https://arxiv.org/abs/2301.11305
• Pangram Labs. (2024). Technical report on the Pangram AI-generated text classifier. https://arxiv.org/pdf/2402.14873
• Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (2023). Can AI-generated text be reliably detected? Transactions on Machine Learning Research (TMLR). https://arxiv.org/abs/2303.11156
• Thai, K., Emi, B., Masrour, E., & Iyyer, M. (2025). EditLens: Quantifying the extent of AI editing in text. arXiv preprint arXiv:2510.03154. https://arxiv.org/abs/2510.03154
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30, 5998–6008. https://arxiv.org/abs/1706.03762