La Distorsión Invisible De Las Fuentes
No son únicamente los contenidos de baja calidad o los actores extranjeros los que amenazan nuestros flujos de información. Estos están siendo reconfigurados por las decisiones invisibles de las empresas de inteligencia artificial.
Se ha escrito mucho acerca de cómo determinados actores extranjeros manipulan los ecosistemas informativos mediante la inteligencia artificial (IA), así como sobre la proliferación de contenidos de baja calidad generados por IA que terminan contaminando los flujos de información y los resultados de búsqueda. Sin embargo, estas narrativas se concentran fundamentalmente en qué contenidos se incorporan al ecosistema informativo. Mucha menos atención se ha prestado a otro conjunto de fuerzas que condicionan aquello que vemos: qué información deciden recuperar los sistemas de IA, qué fuentes permanecen suficientemente actualizadas como para seguir siendo accesibles y útiles, y qué datos pasan progresivamente a estar disponibles únicamente para determinadas empresas.
Los motores de respuesta basados en IA construyen su representación del mundo a través de, al menos, dos canales distintos de información. El primero es el entrenamiento: el inmenso corpus de conocimientos y datos del que aprende un modelo antes de ser puesto a disposición de los usuarios. El segundo es la recuperación de información: los datos actualizados que un sistema busca e incorpora en el momento de generar una respuesta. La generación aumentada por recuperación (retrieval-augmented generation, RAG) fue desarrollada, en parte, para abordar el problema de las alucinaciones de los modelos y su incapacidad para comprender acontecimientos posteriores a la fecha límite de sus datos de entrenamiento; el RAG permite que los sistemas consulten fuentes externas mientras elaboran sus respuestas.
Por consiguiente, aquello que un modelo ha aprendido y aquello que consulta cuando necesita responder no son necesariamente lo mismo. Los muros de pago, las restricciones impuestas a los rastreadores web, los acuerdos comerciales y las decisiones relativas al diseño de los productos condicionan las respuestas generadas por la IA. Tanto el entrenamiento como la recuperación de información están cada vez más determinados por fuerzas con importantes consecuencias que permanecen, en gran medida, fuera de la vista del público que depende crecientemente de esas respuestas.
Denominamos a este fenómeno distorsión invisible de las fuentes: la configuración gradual de un entorno informativo a través de decisiones rutinarias de producto adoptadas por las empresas de IA acerca de qué fuentes se recuperan, cuáles se mantienen actualizadas e incluso qué conjuntos de datos se adquieren. Cada una de estas decisiones puede resultar técnicamente razonable, comercialmente racional o incluso completamente ordinaria. Sin embargo, consideradas en conjunto, configuran una infraestructura epistémica pública cuyos insumos pueden modificarse de manera radical sin que los usuarios —y, con frecuencia, prácticamente nadie ajeno a las propias empresas— puedan observar, comprender o cuestionar esos cambios.
La distorsión invisible de las fuentes se manifiesta, al menos, de tres maneras. En primer lugar, en la capa de recuperación de información, los sistemas de IA pueden dejar, silenciosa y repentinamente, de recurrir a fuentes de las que anteriormente dependían de manera considerable, sin anuncio ni explicación alguna. Todo indica que esto ha ocurrido en más de una ocasión con Reddit y ChatGPT.
En segundo lugar, en la capa de las fuentes, determinados sitios web que se han convertido en materiales de referencia fundamentales para sistemas situados en fases posteriores de la cadena informativa pueden dejar silenciosamente de actualizarse en términos de precisión o actualidad, aun cuando continúen presentándose ante los usuarios como autoridades fiables. Esto es precisamente lo que parece haber ocurrido con Grokipedia, una plataforma generada mediante IA, cuando su actividad editorial se interrumpió en abril.
En tercer lugar, en la capa de los datos de entrenamiento, las empresas de IA están adquiriendo conjuntos de datos singulares y de acceso privado: representaciones no públicas del mundo capaces de ejercer una influencia desproporcionada y poco representativa sobre aquello que aprenden los modelos. La oferta presentada por Google ante un tribunal de quiebras para hacerse con los restos del patrimonio de datos corporativos de Spirit Airlines constituye un ejemplo particularmente ilustrativo de este fenómeno.
Ninguno de estos casos tiene que ver con actores maliciosos que intenten deliberadamente envenenar el entorno informativo. Y es precisamente por eso por lo que resultan tan importantes.
¿Cómo condiciona la recuperación de fuentes las respuestas de la IA?
Reddit posee un valor extraordinario para los grandes modelos de lenguaje. En una internet cada vez más saturada de textos sintéticos, constituye uno de los últimos grandes repositorios abiertos integrados, en su mayor parte, por conversaciones entre seres humanos: personas que intentan solucionar problemas con sus lavavajillas, comparan sus experiencias con la quimioterapia, debaten sobre cuestiones de ordenación urbanística o preguntan si han sido ellas quienes se han comportado como imbéciles. Esta clase de contenido orgánico y genuino ha convertido a Reddit en uno de los dominios más citados en las respuestas generadas por inteligencia artificial. Como indicio de su valor, Reddit alcanzó acuerdos de licencia de datos tanto con OpenAI como con Google, cuyo importe, según diversas informaciones, se situaría entre los 60 y los 70 millones de dólares en cada caso.
Posteriormente, el 18 de agosto, Promptwatch, una empresa especializada en optimización y análisis para motores de IA, informó de que la presencia de Reddit entre las fuentes citadas por ChatGPT prácticamente se había desplomado en apenas seis días. Según su investigación, entre el 18 de julio y el 7 de agosto Reddit había mantenido una participación media estable del 3,83 % en las citas de ChatGPT Search, una de las cuotas más elevadas registradas por cualquier dominio. El 8 de agosto, el mismo día en que ChatGPT modificó determinados aspectos de la manera en que distribuye las consultas de búsqueda utilizadas para recuperar fuentes, la participación de Reddit comenzó a descender. Para el 14 de agosto había caído por debajo del 1 % y desde entonces se ha mantenido en ese nivel. El promedio del 0,52 % registrado entre el 14 y el 17 de agosto representa una caída relativa del 86 %.
Nadie fuera de OpenAI sabe con certeza por qué ocurrió.
No se trata del primer cambio abrupto registrado en las citas de Reddit. En septiembre de 2025, su participación en las fuentes citadas por ChatGPT se desplomó desde aproximadamente un 10 % hasta alrededor de un 2 %. Mientras los inversores trataban de interpretar las implicaciones de aquel cambio, las acciones de Reddit perdieron más de un 10 % de su valor. Ante la ausencia de una explicación pública sobre lo sucedido, analistas externos a la empresa intentaron reconstruir los acontecimientos. Una de las explicaciones más debatidas se centró en una modificación poco conocida introducida en Google Search. Hacia el 11 de septiembre de 2025, Google dejó de admitir el parámetro «num=100», que permitía a usuarios y herramientas automatizadas recuperar hasta cien resultados de una sola vez. Al limitar a los proveedores a visualizar únicamente los primeros diez o veinte resultados, el cambio alteró el funcionamiento de las herramientas de seguimiento de posiciones y de los proveedores de datos de búsqueda; además, su cronología coincidía aproximadamente con el descenso de las citas.
Sin embargo, otros análisis introdujeron matices que complicaban esta explicación. Semrush sugirió que la modificación del parámetro, por sí sola, probablemente no bastaba para explicar la magnitud del descenso de Reddit y planteó la posibilidad de que ChatGPT también hubiera llevado a cabo deliberadamente un reajuste del peso concedido a determinadas fuentes que anteriormente citaba con gran frecuencia.
Dicho de otro modo, una modificación poco conocida introducida por una empresa se convirtió en una de las principales hipótesis para explicar por qué el chatbot de una segunda empresa había dejado de citar de manera significativa los contenidos de una tercera. Incluso identificar esta posibilidad exigió semanas de auténtico trabajo detectivesco por parte de personas ajenas a esas compañías.
Los usuarios y el público en general que no siguen las noticias sobre productos de inteligencia artificial ni consultan paneles de optimización para motores de respuesta permanecen, en gran medida, ajenos al hecho de que una fuente en la que sus respuestas se apoyaban hasta el día anterior puede perder, prácticamente de la noche a la mañana, una parte sustancial de su influencia. Al mismo tiempo, marcas y creadores de contenido trabajan activamente para conseguir que los sistemas RAG recuperen sus contenidos, pese a disponer de muy poca visibilidad acerca de las razones por las que determinadas fuentes ganan o pierden relevancia.
Una única decisión de producto, adoptada por una empresa y nunca anunciada públicamente, puede reducir de manera drástica el papel que desempeña uno de los mayores archivos de conversaciones humanas de internet en las respuestas que reciben cientos de millones de personas. Y esos usuarios apenas disponen de medios para saber que semejante transformación ha tenido lugar. Más aún, poco pueden hacer al respecto, salvo abandonar el motor de respuestas y acudir directamente a Reddit.
Las fuentes desactualizadas pueden conservar su autoridad
La segunda modalidad de la distorsión invisible de las fuentes aparece cuando una fuente sigue siendo accesible, pero silenciosamente deja de mantenerse o permanece estancada.
Grokipedia, la enciclopedia generada por inteligencia artificial que xAI lanzó en octubre de 2025 como respuesta de Elon Musk a Wikipedia, constituye un importante caso de estudio en este sentido. Como uno de nosotros informó a comienzos de este mes en Lawfare, Grokipedia parece no haber actualizado un solo artículo desde el 24 de abril. Su sistema editorial impulsado por modelos, que en otro tiempo procesaba las modificaciones propuestas con un tiempo mediano de decisión de aproximadamente tres minutos, sencillamente se detuvo sin anuncio alguno. Un análisis de más de 34.000 páginas, que contenían más de 225.000 propuestas de edición, reveló que desde hacía más de tres meses no se había aceptado ni rechazado una sola corrección. Más de 13.000 propuestas enviadas por usuarios permanecen ahora aparentemente bloqueadas bajo el estado de «en revisión», dentro de una cola que ya no parece estar supervisada ni por seres humanos ni por sistemas de IA. En el universo de Grokipedia, SpaceX todavía no ha realizado su oferta pública inicial y Vincent Pastore aún sigue vivo.
Si Grokipedia fuera un proyecto experimental o un sitio aislado, todo esto no pasaría de ser una curiosidad. Pero no lo es. Un análisis independiente estimó que las URL de Grokipedia aparecían en aproximadamente 356.000 citas realizadas por sistemas de inteligencia artificial, buena parte de ellas en ChatGPT y en el Modo IA de Google. De este modo, una enciclopedia que ha dejado de actualizarse puede permanecer en una posición situada aguas arriba de otros productos de IA mucho después de que su propio mecanismo de actualización haya dejado de funcionar, proporcionando información aparentemente fiable y revestida de autoridad.
La comparación con Wikipedia resulta esclarecedora. Wikipedia también se utiliza ampliamente tanto en el entrenamiento de modelos como en la recuperación de información, y en gran medida por la misma razón que Reddit: está escrita por seres humanos. Su proceso editorial es radicalmente trazable. Cada modificación, cada reversión y cada controversia desarrollada en las páginas de discusión son públicas; por consiguiente, incluso sus errores y sesgos pueden ser objeto de escrutinio y cuestionamiento. Aunque los productos informativos generados mediante IA pueden resultar extraordinariamente útiles, Grokipedia muestra lo que ocurre cuando un producto continúa ocupando el espacio propio de una fuente de referencia aun después de haber dejado de funcionar como una referencia viva, y cómo los sistemas situados aguas abajo pueden seguir tratándolo como si nada hubiera cambiado.
El peligro no reside únicamente en que una enciclopedia pueda contener información desactualizada. Las enciclopedias siempre han contenido errores. La diferencia fundamental es que ahora resulta más difícil percibir el estado real de la propia fuente. Los usuarios de un sistema de IA situado aguas abajo quizá ni siquiera sepan que una determinada respuesta se apoya en Grokipedia; mucho menos sabrán que sus mecanismos de autocorrección dejaron de funcionar meses atrás.
Cuando los datos de entrenamiento reflejan únicamente aquello que las empresas pueden adquirir
Llegamos, por último, a la cuestión de los datos privados y de alcance limitado, así como a sus posibles efectos sobre el entrenamiento. En este caso, la fuente privada no se está deteriorando; el problema radica en que su contenido es, al mismo tiempo, potencialmente exclusivo y poco representativo: una porción excepcional de la realidad que queda a disposición de un único desarrollador de inteligencia artificial a través de mecanismos que poco tienen que ver con el diseño deliberado de corpus de entrenamiento representativos.
El 14 de agosto, Spirit Airlines designó a Google como ganador de una subasta de quiebra celebrada en el Distrito Sur de Nueva York para adquirir un enorme repositorio de datos internos pertenecientes a la aerolínea, ya fuera de actividad. La oferta de Google, valorada en 10 millones de dólares y presentada, según la compañía, con el propósito de contribuir al desarrollo de sus productos y modelos de IA, incluía aproximadamente 100 millones de correos electrónicos, 500 millones de mensajes de Teams, 7.200 millones de registros sobre precios de vuelos de competidores, 7.500 millones de registros de transacciones de pasajeros que se remontaban a 2008, 30 millones de líneas de código y más de 175.000 registros de empleados. El conjunto comprendía, asimismo, datos relacionados con marketing, recursos humanos, estrategia, auditorías y fraude. Los perfiles de pasajeros, los registros de programas de fidelización, los materiales sujetos a privilegio jurídico y la información de identificación personal deben quedar excluidos o ser eliminados; Google se comprometió a retirar del conjunto de datos toda información personalmente identificable antes de que se produzca su transferencia.
La venta propuesta todavía no se ha formalizado —el sindicato de auxiliares de vuelo de Spirit presentó una objeción alegando preocupaciones relacionadas con la privacidad de los trabajadores—. Sin embargo, con independencia del desenlace concreto de esta operación, la subasta pone de manifiesto una nueva vía mediante la cual corpus únicos de información sobre el mundo real pueden transformarse en activos privados destinados a sistemas de inteligencia artificial.
El registro interno completo de una empresa estadounidense real que terminó fracasando —su estrategia competitiva, el historial de correos electrónicos de todos sus empleados, sus decisiones operativas— constituye un material verdaderamente excepcional. Economistas, reguladores o historiadores podrían estudiarlo. En cambio, los archivos de Spirit podrían convertirse en un activo privado de entrenamiento perteneciente exclusivamente a un único desarrollador de IA, adquirido por una suma comparable al precio de un gran anuncio de la Super Bowl mediante un procedimiento concursal cuyo propósito no consiste en evaluar las consecuencias posteriores de concentrar una fuente singular de conocimiento en unas únicas manos, sino en maximizar la recuperación económica de los acreedores.
La cuestión más profunda es la de la selección. Los desarrolladores de inteligencia artificial poseen poderosos incentivos para adquirir datos originales, de alta calidad y no sintéticos. Sin embargo, existe una curiosa asimetría en cuanto al tipo de información a la que pueden acceder: ninguna empresa que continúe operando entregaría 100 millones de correos electrónicos internos a compañías externas de IA; una empresa desaparecida y vendida por partes, en cambio, sí podría hacerlo. Esto significa que los datos corporativos que llegan a las cadenas de entrenamiento pueden atravesar una especie de filtro de supervivencia invertido: los modelos podrían terminar aprendiendo de manera desproporcionada «cómo funcionan las empresas» a partir de los registros internos de compañías que fracasaron y de culturas corporativas singulares cuyos archivos acabaron siendo subastados.
La tesis no consiste en afirmar que los correos electrónicos de Spirit vayan a enseñar de algún modo a un modelo que todas las empresas funcionan como Spirit. No sabemos cómo Google —o cualquier comprador que finalmente adquiera los datos incorporaría esta clase de materiales ni qué peso les concedería. La cuestión más amplia es que los procedimientos de quiebra, las adquisiciones empresariales, las negociaciones de licencias y las ventas de activos en situaciones de dificultades financieras están convirtiéndose en canales para la construcción de corpus privados destinados a sistemas de inteligencia artificial. Ninguna de las instituciones que participan en esos procesos fue concebida para preguntarse si los corpus resultantes son representativos, si el acceso a ellos debería ser exclusivo o qué significa que una empresa pueda incorporar de manera privada un fragmento de la historia social o económica al que nadie más tiene acceso. Al parecer, los tribunales de quiebras se han convertido ahora en uno de los canales de la política de datos de la IA, aunque prácticamente nadie los conciba todavía en esos términos.
La mayoría de los usuarios finales seguirá siendo, en gran medida, ajena a todo ello. No existe una etiqueta de ingredientes que permita conocer de qué se ha construido la representación del mundo de un modelo, ni tampoco una forma sencilla de determinar hasta qué punto un corpus específico resulta decisivo en su funcionamiento. Sin embargo, decisiones con profundas consecuencias para la construcción del conocimiento público están adoptándose ahora en lugares donde, hasta hace muy poco, nadie habría pensado buscarlas.
La suma de las pequeñas decisiones
En ninguno de estos tres casos existe un actor malicioso que trate deliberadamente de contaminar el ecosistema informativo. No hay granjas de troles, ni comportamientos coordinados no auténticos, ni deepfakes. Lo que encontramos es un pequeño ajuste en la ingeniería de recuperación de información, un producto de referencia basado en IA aparentemente abandonado y una venta rutinaria de activos. Sin embargo, es precisamente el carácter ordinario de estos hechos lo que los hace relevantes.
Los marcos predominantes desde los que se analiza la amenaza que la inteligencia artificial representa para el ecosistema informativo parten de la premisa de que el problema fundamental reside en la entrada de contenidos nocivos o de baja calidad. Pero un ecosistema informativo también puede transformarse mediante decisiones aparentemente rutinarias relacionadas con la selección: qué información se recupera, qué fuentes se mantienen actualizadas y qué conjuntos de datos se adquieren.
Cada una de estas decisiones puede ser perfectamente racional considerada de manera aislada: Google modifica un parámetro de búsqueda; OpenAI reajusta las fuentes que recupera su chatbot. Sin embargo, en conjunto, estas decisiones están reconfigurando una infraestructura epistémica pública que prácticamente nadie ajeno a las propias empresas puede examinar de manera significativa ni cuestionar eficazmente.
El antiguo ecosistema informativo también contaba con guardianes de acceso: los periódicos decidían qué publicar, las bibliotecas qué conservar en sus colecciones y las enciclopedias qué asuntos merecían convertirse en una entrada. Tampoco aquellas instituciones eran neutrales. Sin embargo, sus decisiones eran comparativamente más visibles. Un lector podía identificar la fuente y, al menos en principio, reconocer la institución responsable de haber realizado aquella selección. Las respuestas generadas mediante inteligencia artificial, en cambio, hacen que tanto la fuente como el proceso de selección resulten cada vez más invisibles.
Lo verdaderamente llamativo del sistema actual es el extraordinario grado de concentración del poder sobre la información y la magnitud de los efectos posteriores que pueden generar decisiones aparentemente menores y opacas. Una fuente puede desaparecer de un motor de respuestas; una obra de referencia puede dejar de actualizarse; o un corpus nuevo y excepcional puede incorporarse a los datos de entrenamiento de un modelo sin que los usuarios lleguen siquiera a saber que algo ha cambiado. Así es como el entorno informativo se transforma cada vez con mayor frecuencia: no mediante espectaculares actos de manipulación, sino a través de decisiones particulares adoptadas dentro de las empresas y prácticamente invisibles para cualquiera que se encuentre fuera de ellas.
*Kate Klonick es profesora asociada de la Facultad de Derecho de la Universidad de St. John’s; investigadora de la Brookings Institution, del Information Society Project de la Facultad de Derecho de Yale y del Berkman Klein Center de Harvard, así como investigadora distinguida del Institute for Humane Studies. Sus trabajos sobre el discurso en línea, la libertad de expresión y la gobernanza de las plataformas privadas de internet han sido publicados en Harvard Law Review, Yale Law Journal, The New Yorker, The New York Times, The Atlantic, The Washington Post y numerosas otras publicaciones. Durante el curso académico 2023-2024 fue becaria Fulbright Schuman de Innovación en la Unión Europea y, como profesora visitante en Sciences Po y la Universidad de Ámsterdam, investigó y escribió sobre la Ley de Servicios Digitales y la Ley de Mercados Digitales.
**Renée DiResta es profesora investigadora asociada en la McCourt School of Public Policy de la Universidad de Georgetown. Es editora colaboradora de Lawfare.
Fuente:https://www.lawfaremedia.org/article/invisible-source-skew