Synthetic Feedback Loop: La nueva Alcoba de IA o el nuevo Filtro Burbuja de la IA

1. Post-Verdad: El filtro Burbuja y la Cámara de Eco

Hasta ahora habíamos sido atrapados desde la creación de las redes sociales en una burbuja de filtro basada en aquellos contenidos que premiaba lo que en última instancia generaba stickiness (pegajosidad) por parte de las plataformas sociales: si retengo al usuario un segundo más, adelante con mostrar más ese contenido o contenidos similares.En otras palabras, la web y los medios sociales generaban:

• Sesgo sobre qué información veíamos.

• El sesgo era externo (algoritmos de distribución de las plataformas).

• La unidad de sesgo era el contenido mostrado en nuestra navegación.

El resultado es que ahora (dos décadas más tarde) odiamos más (polarización), hablamos menos con gente que difiere con respecto a nuestras ideas (tribalización ideológica) y los hechos sobre los que pensamos, discutimos e incluso soñamos pertenecen a los relatos que ganan la carrera de la viralidad (actualidad ≂ viralidad).

El sesgo de la burbuja de filtro ya está antropológicamente demostrado. Ha derrocado democracias, ha cambiado el curso de la historia con referéndums y ha elegido líderes mundiales de dudosa reputación con respecto a su interés por el bien común.

El término "Cámara de eco" (echo chamber) fue acuñado por Cass Sunstein (Echo Chambers: Bush v. Gore, Impeachment, and Beyond). El término "burbuja de filtro" (filter bubble) una década más tarde por Eli Parisier (The Filter Bubble: What The Internet is Hiding from You).

¿Y ahora? Ese era el problema. Pero no es el problema actual.

2. Post-Realidad: De sesgo a Dependencia Estructural

Ahora la gente habla con IA a diario. Pregunta sobre sus amores hasta sobre sus inseguridades (terapia y compañía), charla sobre cómo organizar su vida e incluso cómo encontrar un propósito o una estrella del norte vital. La IA es nuestra consejera personal (Top 10 GenAI cases in 2025 by Marc Zao-Sanders) y se ha vuelto posiblemente la pieza más íntima de nuestra vida, igualando incluso a nuestra más preciada intimidad.

En ese devenir, quizás no hemos sido conscientes de que ya no solo compartimos nuestras búsquedas (search) y afinidades (likes) para definir el grosor de nuestra burbuja de filtro. En los últimos tres años, hemos ido enriqueciendo el relato con nuestras reflexiones más íntimas. Estas preferencias, diferidas e interpretadas como un rastro de migas de pan digital de nuestra propia personalidad en las interacciones con la IA, han generado una nueva capa de sesgo que se amalgama con la burbuja anterior. El eco de la habitación digital y la alcoba de la IA empieza a ser de un hormigón armado imposible de franquear.

Aparecen nuevos filtros de sesgo que van incrementando el grosor del "muro de nuestra alcoba de IA" que técnicamente podríamos denominar el synthetic feedback loop (o bucle de retroalimentación sintético):

• A cada uno se nos construye una realidad en cada respuesta.

• El sesgo es endógeno y dinámico.

• La unidad es la respuesta generada para cada uno de nosotros.

2.1 Sesgos Invisibles: Los que no ves

Aparecen nuevos filtros de sesgo que definen ese "synthentic feedback loop" o Alcoba de IA, empezando por el filtro de sesgo del fabricante del modelo base sobre el que se ejecuta el LLM (Large Language Model) basado en el conjunto de datos ( data corpus ) con el que fue entrenado el modelo original y sucesivas versiones.

El sesgo de contexto definido por los intereses y l as preferencias del usuario que ha definido cuando usa una IA y su interfaz cualquiera que sea el modelo que esté usando (OpenAI, Gemini, Claude, Perplexity, Doubao - o Dola, ErnieBot, etc.). Cada uno de nosotros no recibe la misma respuesta, pues la IA ha tratado de ser amable con nosotros (sycophantic, en inglés) y progresivamente nos ha agradado personalizando las respuestas en función de nuestros intereses y preferencias de trabajo o personales. De este modo, cada nueva respuesta se enfrenta a un filtro burbuja similar al que nos ofrecían las plataformas digitales de medios sociales o búsquedas, solo que ahora está expresado en función de nuestras preferencias históricas mostradas y observadas sobre la base de nuestras conversaciones históricas con la misma IA.

Este sesgo lo quiero llamar sesgo de memoria contextual de usuario y lo hemos definido, consciente o inconscientemente, en nuestras condiciones generales de aceptación de la plataforma (Memorias guardadas — ChatGPT, por ejemplo, recuerda y gestiona automáticamente lo que es relevante y personal).

Otro sesgo que se introduce es el derivado de la memoria caché del modelo para optimizar el coste por token. Cuando el usuario realiza una consulta que otros ya han formulado, la segmentación generada por el fabricante de IA —basada en las peculiaridades de ese usuario y su pertenencia a una cohorte de gustos similares— le asigna una respuesta ya generada, sin leer la totalidad de la documentación presentada. Ninguna IA procesa de nuevo información cuyos metadatos ya ha analizado previamente. El coste por millón de tokens de procesar dicha información no puede ser superior al coste que se repercute al usuario en su suscripción mensual. Ahora, la verdad compite contra el coste computacional.

2.2 Sesgos Sistémicos: Los que no controlas

El sesgo generado por una masa crítica de usuarios condiciona la evolución del modelo. Cuando los usuarios limitan sus propias consultas —como ocurre en regímenes no democráticos, donde se evita cuestionar a la autoridad por temor a la vigilancia—, restringen el conocimiento que el modelo puede desarrollar en ciertos ámbitos. Un ejemplo claro es la disparidad que ya estará siendo detectada por ByteDance entre Doubao - 豆包(China) y Dola (internacional). Por tanto, el volumen de respuestas en un área geográfica específica limita la profundidad del modelo ante temas controvertidos en comparación con otros sistemas. No se trata solo del sesgo de origen en el corpus de datos, sino del sesgo masivo derivado del aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF bias).

Adicionalmente, surgen sesgos futuros aún no detectados que afectan la personalización de las respuestas según nuestro prompt. Me refiero al sesgo que se producirá cuando los modelos comiencen a reentrenarse sucesivamente con contenidos generados de forma mayoritaria por otras IA. Este fenómeno ocurre de forma natural cuando los usuarios publican en redes sociales contenidos sintéticos que, posteriormente, sirven para alimentar el nuevo corpus de datos de las siguientes generaciones de modelos. A este proceso de retroalimentación circular podemos denominarlo sesgo de regurgitación o sesgo de las vacas locas de la IA (en alusión a la encefalopatía espongiforme, mad cow disease, propagada al alimentar al ganado con proteínas de su propia especie; un bucle donde la degradación se hereda y amplifica hasta el colapso del sistema).

2.3 Sesgos Futuros: Los que no podrás corregir

Por otro lado, hay un sesgo final o sumatorio de sesgos finales que aún no han llegado y que merece la pena mencionar. Se trata del sesgo final combinado acumulado fruto de la evolución de los modelos y los sesgos anteriores cuando estos evolucionen de no-deterministas a modelos deterministas.

Hoy por hoy, ante diferentes formulaciones semánticas de la misma pregunta, cada uno recibimos respuestas diferentes, lo que ha generado una batalla en los últimos años por reducir la alucinación de los modelos. Ha sido un éxito evolucionar de LLM a LRM (Large Reasoning Models), no solo tokenizando lenguaje natural sino también tokenizando pensamiento o grupos de ideas para afinar la calidad de las respuestas, adicionando la intención del usuario antes de secuenciar la respuesta. Cuando llegue el momento en que los modelos ganen en rigor científico y sus respuestas sean homogéneas independientemente de la semántica usada en la formulación de la pregunta o prompt (misma respuesta para diferentes prompts , generando rigor absoluto independiente del perfil del usuario), habrá un 'momento cero' a partir del cual los modelos empezarán a funcionar en una realidad determinista.

¿Cuál será el sesgo compuesto total acumulado hasta ese momento? Claramente, partirán de un stock total de información acumulada como data corpus donde los datos de entrenamiento contendrán el efecto anterior de sesgo de regurgitación. Adicionalmente, sumarán la mediocridad de conversaciones generadas por los usuarios en base a los temas de actualidad y viralidad, o sesgo masivo de retroalimentación humana acumulado hasta el hito del determinismo. Serán datos ya sesgados por la realidad acumulada hipotética en el momento de la derrota del no determinismo. Ese ansiado momento que Mira Murati ya anunció el año pasado (https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/) y que estaba a punto de ser superado en septiembre de 2025, llegará un día, en algún momento. ¿Cuál será el sesgo total compuesto agregado hasta la fecha?

Este sesgo cero acumulado de la derrota del no-determinismo también hay que sumarlo.

En resumen, hemos pasado de acumular un sesgo por filtro burbuja (post-verdad), aumentado ahora con la creación de modelos, la memoria contextual de usuario, la verdad sesgada por el coste computacional, el sesgo por regurgitación y sesgo de masa, y, deberíamos estar reflexionando en las consecuencias del determinismo futuro.

Toca trabajar el futuro de una colaboración diaria entre humanos y máquinas.

3. Co-evolución cognitiva humano–modelo

Si el dato es la unidad base que, una vez procesada, nos permite acceder a la información homogénea de un ámbito, y si a su vez definimos el conocimiento como la comunicación o adquisición de esos saberes o contenidos que nos permiten ampliar o precisar una materia determinada. Entonces la inteligencia, entendida como la capacidad de entender y resolver problemas, es la facultad que nos permite orquestar ese conocimiento. Y si además, a esta inteligencia, cuando la dotamos de la capacidad de reconocer la realidad circundante y de relacionarse con ella, la denominamos consciencia. Entonces, trascender los límites de nuestra propia existencia y alcanzar el grado más alto de conocimiento profundo, se convierte en sabiduría o trascendencia.

datos > información > conocimiento > inteligencia > consciencia > Sabiduría y Transcendencia

Si aceptamos, tal como sugiere el siguiente modelo visual, que el dominio que abarca desde el dato hasta la inteligencia pertenece tanto a la IA como a la mayoría de los humanos, mientras que la consciencia, la sabiduría y la trascendencia son atributos exclusivos de solo algunos humanos, ¿cómo vamos a lograr este reto de trascender de forma conjunta en una era donde humanos e IA colaboran a diario?

Sin habernos dado cuenta, hemos entrado en una nueva era en la convivimos de forma mutualista con IA en todo lo que hacemos. Reforzamos los modelos con feedback humano a través de nuestras respuestas y los modelos mejoran agregando el colectivo cognitivo del planeta y lo ponen a disposición de la siguiente conversación, del siguiente prompt. ¿Algún humano se ha preguntado alguna vez como él o ella contribuyen unitariamente a la evolución de la IA a través de sus disquisiciones? A veces tengo mis dudas de que sea un juego mutualista porque intuyo que la evolución del interés común y de las empresas que diseñan esta IA, sea más una relación de parasitismo que de mutualismo o comensalismo. Pero asumamos un contexto de colaboración mutua.

En ese contexto y conocidos los sesgos anteriores, nuestro reto debería ser potenciar y desarrollar de forma sistemática el pensamiento crítico para evitar hacer banales y superficiales análisis sobre las respuestas que recibimos a diario de la IA. Esto sería un uso responsable de la IA. Sin embargo, estoy observando la necesidad urgente de una alfabetización obligatoria y no opcional en materia de IA. Máxime en situaciones claras de confusión de una masa desinformada. Bernie Sanders en sus conversaciones con Claude (ver vídeo viral) debería ser consciente de toda la batería anterior de sesgos antes de dar por cierta una respuesta.

Me duele la evolución de la conversación social alrededor de las posibilidades de la IA, si no existe un discernimiento previo de los sesgos que acumulamos (invisibles, sistémicos y futuros), cuando usamos este nuevo acompañante digital. Además, todos deberíamos estar reflexionando a diario sobre cómo cuestionar gran parte del discurso fácil que ahora permite el uso de la IA para aumentar nuestras conversaciones. El conocimiento de los modelos y sus sesgos está condicionado por la falta de pensamiento crítico por parte de los usuarios. Faltan mentes críticas y sobran contenidos.

A modo de resumen autocontenido nos enfrentamos a un sistema de múltiples vectores de sesgos y de filtro de acceso al conocimiento que toca discernir:

• [𝙸𝚗𝚟𝚒𝚜𝚒𝚋𝚕𝚎𝚜] Autocensura → dataset implícito

• [𝙸𝚗𝚟𝚒𝚜𝚒𝚋𝚕𝚎𝚜] Memoria Contexto usuario: Dependencia epistemológica de nuestras preferencias

• [𝙸𝚗𝚟𝚒𝚜𝚒𝚋𝚕𝚎𝚜] Memoria caché: el litigio entre verdad y coste computacional

• [𝚂𝚒𝚜𝚝é𝚖𝚒𝚌𝚘𝚜] Uso agregado: Cultura o límites del pensamiento modelado

• [𝚂𝚒𝚜𝚝é𝚖𝚒𝚌𝚘𝚜] Regurgitamiento: reentrenamiento con contenido sintético

• [𝚂𝚒𝚜𝚝é𝚖𝚒𝚌𝚘𝚜] sesgo por interés común definido por la viralidad

• [𝙵𝚞𝚝𝚞𝚛𝚘𝚜] convergencia y acumulación de mediocridad antes del determinismo

Este colapso epistemológico suave (analogía: rana cociéndose en el cazo de agua tibia), nos debe llevar a formular una serie de reflexiones a modo de nuevos mantras en la era de colaboración humano-máquina:

El conocimiento de los modelos está condicionado por el coraje colectivo de los usuarios → Dependencia epistemológica compartida

La burbuja ya no es un filtro que nos oculta el mundo. Es un sistema que nos lo reconstruye en función de cada uno de nosotros y de nuestro ser o pensar colectivo.

En la era de la IA (generativa, agéntica y contextual), el problema ya no es qué información se selecciona para el usuario, sino qué realidad se genera para el usuario. El filtro burbuja evoluciona hacia una burbuja de contexto predictivo, sostenida por un bucle de retroalimentación sintética (synthetic feedback loop), donde la eficiencia computacional, la memoria contextual y el comportamiento colectivo de los usuarios convergen para producir un mundo que, siendo coherente y plausible, puede estar progresivamente alejado de la verdad, o que puede estar generando una representación de una nueva verdad colectiva (post realidad).

¿Y qué es la verdad?, ¿Acaso nos queda una realidad factual no discutible?

La respuesta no es técnica. Es conductual: exponerse deliberadamente a lo que no encaja. Yo sigo creyendo que ya no basta con luchar contra la descarga cognitiva a nivel individual, toca desarrollar un pensamiento crítico como ejercicio individual, y además, hay que elevar la alfabetización en materia de IA para generar consciencia y discernimiento (responsabilidad moral) sobre cómo debería ser un futuro co-creado entre humanos y máquinas interactuando a diario.

La Ilustración luchó contra la ignorancia.

La era digital contra la desinformación.

La era de la IA generativa no lucha contra nada. Simplemente optimiza.

Y en ese proceso, puede estar optimizando algo peligroso: un mundo donde todo parece tener sentido.

Un mundo tan coherente con nosotros mismos, que dejemos de buscar el sentido fuera… incluso cuando deja de ser verdad.

Solución al Synthetic Feedback Loop

A) Redes Sociales → Post Verdad

B) IA → Post-Realidad

(A + B) → Colapso epistemológico suave

Solución: (Pensamiento Crítico × Conversación Divergente)→ Evolución

¿Y acaso este reto de un nuevo mundo sesgado (post-verdad + post-realidad) basado en la colaboración humano-máquina no puede ser neutralizado si fomentamos el pensamiento crítico sostenido en base a conversaciones entre des-iguales?

ADENDA [May 12, 2026]

ℝ𝕖𝕗𝕝𝕖𝕩𝕚ó𝕟: 𝗖𝗶𝗻𝗰𝗼 𝗜𝗱𝗲𝗮𝘀 𝗽𝗮𝗿𝗮 𝗻𝗼 𝗮𝗯𝗱𝗶𝗰𝗮𝗿 𝗲𝗻 𝘂𝗻 𝗲𝘀𝗽𝗮𝗰𝗶𝗼 𝗱𝗲 𝗰𝗼𝗻𝗼𝗰𝗶𝗺𝗶𝗲𝗻𝘁𝗼 𝗱𝗼𝗺𝗶𝗻𝗮𝗱𝗼 𝗽𝗼𝗿 𝗹𝗮 𝗜𝗔

𝟭. 𝗥𝗲𝗰𝗼𝗻𝗾𝘂𝗶𝘀𝘁𝗮𝗿 𝗹𝗮 𝗮𝘁𝗲𝗻𝗰𝗶ó𝗻 𝗽𝗹𝗲𝗻𝗮 𝗰𝗼𝗺𝗼 𝘁𝗲𝗿𝗿𝗶𝘁𝗼𝗿𝗶𝗼 𝘀𝗼𝗯𝗲𝗿𝗮𝗻𝗼. Si la información consume atención, y la economía digital ha aprendido a capturarla, entonces la primera frontera de libertad no está en la tecnología, sino en la atención. La atención no es una métrica de engagement. Es el lugar desde el que decidimos.

“La información consume atención"-Herbert Simon

𝟮. 𝗗𝗲𝗳𝗲𝗻𝗱𝗲𝗿 𝗲𝗹 𝗲𝘀𝗽𝗮𝗰𝗶𝗼 𝗲𝗻𝘁𝗿𝗲 𝗲𝘀𝘁í𝗺𝘂𝗹𝗼 𝘆 𝗿𝗲𝘀𝗽𝘂𝗲𝘀𝘁𝗮: 𝗖𝗼𝗻𝘀𝗰𝗶𝗲𝗻𝗰𝗶𝗮 La IA tiende a cerrar ese espacio: anticipa, sugiere, ordena y ejecuta. La conciencia humana lo abre: pausa, duda, contempla, espera. Quizá una de las habilidades más radicales del futuro sea recuperar el derecho a no responder inmediatamente.

“Entre el estímulo y la respuesta hay un espacio. En ese espacio está nuestro poder para elegir nuestra respuesta. En nuestra respuesta radica nuestro crecimiento y nuestra libertad”–Viktor Frankl.

𝟯. 𝗥𝗲𝗵𝗮𝗯𝗶𝗹𝗶𝘁𝗮𝗿 𝗹𝗮 𝗶𝗻𝘁𝘂𝗶𝗰𝗶ó𝗻 𝘆 𝗹𝗮 𝘀𝗮𝗯𝗶𝗱𝘂𝗿í𝗮 𝘀𝗼𝗯𝗿𝗲 𝗹𝗮 𝗶𝗻𝗳𝗼𝗿𝗺𝗮𝗰𝗶ó𝗻 La IA puede amplificar el conocimiento, pero no sustituye la sabiduría. Puede procesar más datos que nosotros, pero no necesariamente comprende mejor lo que merece ser cuidado. El conocimiento habla. La sabiduría escucha.

“Knowledge speaks. Wisdom listens” –Jimi Hendrix

𝟰. 𝗖𝗼𝗻𝘀𝘁𝗿𝘂𝗶𝗿 𝗰𝗼𝗼𝗽𝗲𝗿𝗮𝗰𝗶ó𝗻— 𝗶𝗻𝘁𝗲𝗿𝗱𝗲𝗽𝗲𝗻𝗱𝗲𝗻𝗰𝗶𝗮 𝗵𝘂𝗺𝗮𝗻𝗮, 𝗻𝗼 𝗱𝗲𝗽𝗲𝗻𝗱𝗲𝗻𝗰𝗶𝗮 𝗮𝗹𝗴𝗼𝗿í𝘁𝗺𝗶𝗰𝗮. La distopía de una IA gobernante prospera cuando el ser humano queda solo frente a una pantalla. Se neutraliza cuando las decisiones se sostienen en comunidades, conversaciones, criterio compartido y confianza.

La confianza no es un adorno ético. Es la arquitectura que impide que la tecnología se convierta en sustituto de lo humano. Porque, si vas con toda la tribu, llegarás más lejos.

𝟱. 𝗣𝗿𝗮𝗰𝘁𝗶𝗰𝗮𝗿 𝘂𝗻 𝗽𝗼𝘀𝗶𝗯𝗶𝗹𝗶𝘀𝗺𝗼 𝗿𝗮𝗱𝗶𝗰𝗮𝗹 𝗱𝗲𝘀𝗱𝗲 𝗹𝗮 𝗶𝗺𝗮𝗴𝗶𝗻𝗮𝗰𝗶ó𝗻 𝘆 𝗹𝗮 𝘃𝗼𝗰𝗮𝗰𝗶ó𝗻 No se trata de ser ingenuamente optimistas. Se trata de ser seriamente posibilistas. Imaginar futuros alternativos no es evasión: es responsabilidad. Porque el futuro digital no se hereda. Se diseña, se disputa y se construye.

“No soy optimista. Soy un posibilista muy serio”-.Hans Rosling

1 + 2 + 3 + 4 +5 = 𝗖𝗼𝗻𝘀𝘁𝗿𝘂𝘆𝗲𝗻𝗱𝗼 𝗖𝗼𝗻𝗳𝗶𝗮𝗻𝘇𝗮. Las cinco ideas convergen en una intuición sencilla: la IA no nos gobernará solo por su potencia, sino por nuestra abdicación de la atención, la pausa, la sabiduría, el vínculo y la imaginación.

Recuperar esas cinco prácticas —no como virtudes privadas, sino como infraestructura cívica— es una forma concreta de neutralizar la distopía. Más que maquinaria, necesitamos humanidad.

Nota: [Este artículo se etiqueta como "Human led". Contenido liderado por un humano. Machines conduct checks, highlight and correct errors, enhance output. Las máquinas realizan comprobaciones, resaltan y corrigen errores, y mejoran el rendimiento. Esquema basado en la Dubai Future Foundation. "Human-Machine Collaboration (HMC) Icons." Dubai Future Foundation, dubaifuture.ae/hmc]

www.bernardocrespo.com/#aboutme

Bernardo Crespo is a seasoned digital transformation and data strategy leader with over 25 years of experience. He has held leadership positions in Fortune 500 companies and digital consultancies, and has founded and advised numerous startups and venture builders. Currently, as CEO of his own firm, Quantum Markethink, he provides strategic guidance to C-suite executives, helping them navigate the complexities of digital transformation.

Furthermore, he serves as an Academic Director at IE Executive Education, where he brings his expertise in emerging technologies, digital strategy, data strategy, and artificial intelligence to the classroom. Prior to these roles, he spearheaded digital transformation initiatives at Merkle Spain and led digital marketing at BBVA, where he notably pioneered the application of gamification in banking.

Bernardo is also the co-author, with Gam Dias, of "The Data Mindset Playbook: A Book about Data for People Who Don't Feel Like Reading about Data" (KDP, March 2023).