6  De la sociedad de la información a la sociedad del conocimiento

Este capítulo desarrolla el Tema 6 del programa de Filosofía y conocimiento (26311M9). La tabla completa de equivalencias está en Guía de uso docente.

6.1 Economía de la información y prospectiva histórico-social

La economía de la información estudia cómo la información y los sistemas informativos afectan al funcionamiento de la economía e influye en las decisiones económicas de sus individuos. Un problema que estudia la economía de la información es el valor y calidad de los elementos informativos que influyen en las decisiones de los actores económicos, así como las previsiones y proyecciones de escenarios en contexto de crisis o dificultades, puesto que pueden ser instrumentalizadas para sesgar o distorsionar la toma de decisiones y favorecer así los intereses de ciertos grupos de actores.

La economía de la información se ocupa de temas como la asimetría de la información, el papel de los intermediarios, los incentivos, la reputación, el riesgo, la incertidumbre y el valor de la información como bien público o privado, así como de las tecnologías y servicios asociados. El planteamiento canónico del problema procede del análisis de Akerlof sobre los mercados en los que el comprador no puede observar la calidad. Cuando la información está repartida de forma desigual, el precio deja de discriminar y los productos buenos acaban expulsados por los malos (Akerlof, 1970). Sus estudios y análisis tienen implicaciones para el funcionamiento de los mercados, las organizaciones, las instituciones y las políticas públicas, asumiendo como factor crucial que la investigación y el conocimiento asociado se ajusten a los máximos estándares de calidad y rigor metodológico.

Qué se decide cuando la información está mal repartida

El planteamiento de Akerlof describe un mercado de coches usados, pero el mecanismo opera en cualquier situación donde alguien deba elegir sin poder comprobar la calidad de lo que le ofrecen: un tratamiento, un dictamen pericial, una noticia. Si el desnivel informativo se sostiene, quien ofrece calidad acaba retirándose antes que quien ofrece apariencia de calidad, porque el comprador no puede pagar una diferencia que no ve.

Trasladado al asunto de este capítulo, el problema cambia de forma. La pregunta sobre la sociedad del conocimiento rara vez es cuánta información circula, y casi siempre quién dispone de los instrumentos para interpretarla y quién resuelve la duda en lugar de otros cuando faltan tiempo y competencia para resolverla bien.

Dada la ventaja que pueden adquirir determinados actores en escenarios de incertidumbre —si disponen de acceso privilegiado a fuentes de información fiable—, han adquirido relevancia los estudios de prospectiva histórico-social, con múltiples nodos disciplinares y servicios de consultoría dedicados a analizar las tendencias y los escenarios futuros en contextos sociales relevantes, además de recopilar series muy amplias de datos validados, del pasado y del presente, en los aspectos relevantes a efectos de prospectiva centrada en sectores específicos de actividad.

Estos estudios tienen como objetivo anticipar los posibles cambios y desafíos que será necesario afrontar, a diversa escala, en los ámbitos económico, político, social, cultural, ambiental y tecnológico. Los modelos y enfoques de prospectiva histórico-social no se utilizan para predecir el futuro, sino para explorar alternativas y opciones cuyas consecuencias pueden condicionar las decisiones colectivas e individuales a corto, medio y largo plazo. La distinción es metodológica y no retórica, dado que el análisis prospectivo opera sobre la premisa de que el futuro no guarda un parecido exacto con el pasado. En consecuencia, la extrapolación de series históricas resulta insuficiente para anticipar los acontecimientos de baja probabilidad y alto impacto, que son los que más importan (Sytnik y Proskuryakova, 2024).

NotaMétodos más utilizados en la prospectiva histórico-social
  1. investigación documental
  2. análisis estadístico
  3. construcción de indicadores
  4. elaboración de modelos y simulaciones
  5. realización de encuestas y entrevistas
  6. organización de talleres participativos
  7. formulación de hipótesis y transformaciones asociadas
  8. definición de objetivos y estrategias

Estos métodos permiten generar conocimiento útil para orientar la acción y la planificación en diferentes niveles: local, regional, nacional e internacional. Algunos centros de prospectiva de ámbito estatal son:

  1. Oficina Nacional de Prospectiva y Estrategia a Largo Plazo: creada para identificar retos y oportunidades a nivel demográfico, económico, geopolítico, medioambientales, sociales o educativos.
  2. Agencia Nacional de Evaluación y Prospectiva (ANEP), del Ministerio de Ciencia e Innovación. Su objetivo es evaluar la calidad de las propuestas que solicitan financiación pública.
  3. Observatorio de Prospectiva Tecnológica e Industrial (OPTI): Da a conocer las tendencias tecnológicas de mayor relevancia para el futuro desarrollo económico y social, y que estas den apoyo a la toma de decisiones de carácter tecnológico, en el ámbito público y empresarial.
  4. Centro Andaluz de Prospectiva (CANP). Fomenta la investigación en técnicas de prospectiva y su aplicación a los ámbitos tecnológicos, socioeconómicos y de servicios.
  5. Fundación COTEC para la Innovación Tecnológica. Funciona como observatorio de la I+D+I en España, y proporciona análisis y asesoramiento en materia de innovación, tecnología y economía.
  6. Instituto de Prospectiva Estratégica (IPE): Busca identificar las estrategias más adecuadas para competir, de manera eficaz, en un mundo interrelacionado.
  7. Instituto de Prospectiva Tecnológica (IPTS): Investigar sobre prospectivas tecnológicas y energéticas en el ámbito de la Unión Europea.

La pandemia de covid-19 mostró claros límites en la capacidad para elaborar modelos y simulaciones —seguramente fue un contexto de prueba demasiado exigente— y dejó dos lecciones que la literatura posterior ha recogido. La primera es que la producción masiva de escenarios no equivale a buena prospectiva. La evaluación de los escenarios elaborados durante la crisis mostró una calidad muy desigual en los procesos de construcción y en el contenido, con una proporción alta de ejercicios que no cumplían los requisitos metodológicos mínimos (Crawford y Wright, 2022). La segunda es que las situaciones en las que ni las probabilidades ni siquiera el abanico de resultados posibles se conocen con precisión —lo que la literatura de política pública denomina incertidumbre profunda— exigen instrumentos distintos de los de la decisión bajo riesgo. En lugar de optimizar sobre un escenario central, se buscan estrategias robustas que funcionen aceptablemente en muchos futuros y admitan corrección conforme llega nueva información (Hadjisotiriou et al., 2023).

Un escenario no se juzga por si acertó

La evaluación de los ejercicios prospectivos elaborados durante la pandemia encontró una proporción alta que no cumplía requisitos metodológicos mínimos (Crawford y Wright, 2022). El dato invita a un error de lectura, que consiste en medir la calidad de un escenario por su coincidencia posterior con los hechos. Un escenario bien construido puede no realizarse, y uno improvisado puede acertar por casualidad.

El criterio de calidad es anterior al resultado: qué supuestos declara, qué series utiliza, qué descarta y con qué justificación. Bajo incertidumbre profunda, cuando no se conocen ni las probabilidades ni el abanico de resultados posibles, el objetivo deja de ser optimizar sobre un escenario central y pasa a ser identificar estrategias que funcionen aceptablemente en muchos futuros (Hadjisotiriou et al., 2023). Puntuar esas estrategias por el acierto de su pronóstico central equivale a evaluar un seguro por si hubo siniestro.

Economía de la información y análisis de prospectiva histórico-social se interrelacionan. La primera aporta herramientas para comprender cómo se produce, se distribuye y se utiliza la información en los procesos económicos. La prospectiva histórico-social aporta herramientas para comprender cómo se genera, se difunde y se aprovecha la información en los procesos que impulsan las grandes transformaciones sociales. Ambas disciplinas pueden contribuir a mejorar la calidad y la eficiencia de las decisiones que afectan al futuro colectivo.

Diversos obstáculos y limitaciones comunes en estos dominios disciplinares derivan del acceso desigual a la información, las barreras legales y culturales para el intercambio de información, las distorsiones y los sesgos en el procesamiento de información, las dificultades para medir y valorar la información, las incertidumbres y su efecto en la evaluación de riesgos, las dinámicas de resistencia al cambio y los actores que explotan políticamente el descontento de quienes se oponen a la innovación. Estos aspectos enfatizan la necesidad de fomentar una cultura crítica y reflexiva sobre el papel de la información y del acceso al conocimiento en el desarrollo económico y social.

En el contexto de la digitalización, la economía de la información adquiere nuevas connotaciones. La era de la información modula de manera inesperada el papel de los principios fundamentales de la economía. Aunque el costo de la producción de información tiende a cero (no así el del conocimiento), su valor en contextos y plataformas específicas puede ser extraordinariamente alto, mediando los mecanismos de generación de valor basados en la atención. La atención es aquí un recurso escaso y disputado, y su captación no es un efecto secundario del diseño de las plataformas sino su objetivo declarado, con consecuencias que la investigación reciente examina en términos cognitivos y políticos a la vez (González de la Torre et al., 2026). Grupos de usuarios conectados por intereses muy específicos pueden adquirir un valor estratégico para actores del mercado que poco o nada tienen que ver con los intereses sobre los que se desarrolló el núcleo de la red de usuarios, pero que ha podido adquirir un gran potencial como generadora de tendencias o para incrementar el valor de marca.

Aspectos intangibles pero de gran valor simbólico pueden excluir del mercado a actores consolidados e introducir a otros nuevos con la visión y capacidad para explotar las nuevas oportunidades de innovación y generación de valor. En esta dinámica, el acceso a la información y el conocimiento de modos emergentes de interacción de ciertos colectivos en nuevas plataformas de servicios, junto con la capacidad de analizar estos elementos y utilizarlos con criterio estratégico, pueden aportar enormes beneficios a expensas de aquellos que no disponen de tal capacidad.

Capitalismo de vigilancia

La economía de la información ha dado lugar a una forma de capitalismo que Shoshana Zuboff denomina capitalismo de vigilancia: los datos personales se recogen y se emplean para modificar el comportamiento de segmentos concretos de usuarios y consumidores, y no solo para anticipar tendencias o afinar el análisis prospectivo. La deriva socio-técnica que describe exige, en su formulación, un debate informado y crítico sobre la privacidad, la autonomía y la democracia (Zuboff, 2019).

La tesis de Zuboff no es unánime y merece algún contraste. Sus críticos sostienen que la etiqueta induce a error, que buena parte de los perjuicios atribuidos al modelo están mal documentados y que el balance omite beneficios reales para los usuarios (Königs, 2024). La discusión importa aquí menos por quién tiene razón que por las cautelas metodológicas exigibles a quienes asumen la tesis. Se trata de distinguir qué parte de la tesis es una descripción contrastable del modelo de negocio y qué parte es una valoración de sus efectos.

Referencias

  1. Bárcena, A. y otros (CEPAL, 2016): Planificación y prospectiva para la construcción de futuro en América Latina y el Caribe. https://www.oitcinterfor.org/sites/default/files/file_publicacion/S1600345_es.pdf.

  2. Benkler, Yochai, Robert Faris, y Hal Roberts (2018). Network propaganda: Manipulation, disinformation, and radicalization in American politics. Oxford University PressNew York. https://doi.org/10.1093/oso/9780190923624.001.0001.

  3. Fuchs, Ch. (2018). Digital Demagogue: Authoritarian Capitalism in the Age of Trump and Twitter. Londres: Pluto Press.

  4. Gavigan, J. P. (2001): Panorama de la prospectiva en Europa. Principios y visión general por países. https://www.mincotur.gob.es/Publicaciones/Publicacionesperiodicas/EconomiaIndustrial/RevistaEconomiaIndustrial/342/11JamesGavigan.pdf

  5. Rodríguez Cortezo, J. (2000): La prospectiva y la política de innovación Herramientas estratégicas clave para la competitividad. https://www.mincotur.gob.es/Publicaciones/Publicacionesperiodicas/EconomiaIndustrial/RevistaEconomiaIndustrial/331/13.JESUS%20RODRIGUEZ.pdf.

  6. Zuboff, Shoshana (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Nueva York, NY, Estados Unidos de América: PublicAffairs.

  7. Akerlof, George A. (1970). “The Market for «Lemons»: Quality Uncertainty and the Market Mechanism”. The Quarterly Journal of Economics 84 (3): 488-500. https://doi.org/10.2307/1879431

  8. Crawford, Megan M., y George Wright (2022). “The Value of Mass-Produced COVID-19 Scenarios”. Technological Forecasting and Social Change 183: 121937. https://doi.org/10.1016/j.techfore.2022.121937

  9. González de la Torre, Pablo, Marta Pérez-Verdugo y Xabier E. Barandiaran (2026). “Attention Is All They Need”. AI & Society 41 (1): 5-21. https://doi.org/10.1007/s00146-025-02400-z

  10. Hadjisotiriou, Sophie, Vincent Marchau, Warren Walker y Marcel Olde Rikkert (2023). “Decision Making under Deep Uncertainty for Pandemic Policy Planning”. Health Policy 133: 104831. https://doi.org/10.1016/j.healthpol.2023.104831

  11. Königs, Peter (2024). “In Defense of «Surveillance Capitalism»”. Philosophy & Technology 37 (4): 122. https://doi.org/10.1007/s13347-024-00804-1

  12. Sytnik, Veronica M., y Liliana N. Proskuryakova (2024). “Expanding Foresight Methodology to Better Understand the Unknown Future”. European Journal of Futures Research 12: 21. https://doi.org/10.1186/s40309-024-00244-2

Enlaces

  1. Qué es la Prospectiva y el Análisis Prospectivo. https://www.lisainstitute.com/blogs/blog/prospectiva-y-analisis-prospectivo

  2. UC3M, Gabinete de estudios y prospectiva. https://www.uc3m.es/consejosocial/gabinete-estudios-prospectiva

Yochai Benkler y sus colaboradores examinan la forma, composición y prácticas del panorama de los medios políticos de Estados Unidos. Exploran las raíces de la actual crisis epistémica en la comunicación política, centrándose en las peculiares elecciones presidenciales de Estados Unidos de 2016 que culminaron con la victoria de Donald Trump y el primer año de su presidencia. Los autores presentan un mapa detallado del panorama de los medios políticos estadounidenses basado en el análisis de millones de historias y publicaciones en las redes sociales, que revela un ecosistema de medios altamente polarizado y asimétrico. Estudios de caso detallados rastrean el surgimiento y la propagación de desinformación en la esfera pública estadounidense que se aprovechó de las debilidades estructurales de las instituciones mediáticas en todo el espectro político.

Este libro describe cómo la facción conservadora liderada por Steve Bannon y financiada por Robert Mercer fue capaz de inyectar investigaciones de la oposición en la agenda de los principales medios de comunicación que dejaron una mancha de corrupción infundada pero indeleble en la campaña de Clinton. Los autores también documentan cómo Fox News desvía la cobertura negativa del presidente Trump y ha promovido una serie de contranarrativas exageradas y fabricadas para defender al presidente contra las noticias dañinas que surgen de la investigación de Mueller.

Basado en un análisis de los actores que intentaron influir en el discurso público político, este libro sostiene que los problemas actuales de los medios y la democracia no son el resultado de la interferencia rusa, la microfocalización conductual y los algoritmos en las redes sociales, el clickbait político, los hackers, las cuentas falsas o los trolls, sino de estructuras mediáticas asimétricas que llevan décadas gestándose. La crisis es política, no tecnológica.

Y. Benkler, Robert Faris y Hal Roberts (2018). Network propaganda: Manipulation, disinformation, and radicalization in American politics. Nueva York, NY: Oxford University Press.

1. Desinformación y algoritmos de detección en redes sociales

1. Contexto
En diciembre de 2021, Carlos del Castillo publicó un artículo en elDiario.es titulado “Así de fácil se saltan los negacionistas los controles antibulos de las redes sociales”. El artículo aborda cómo los negacionistas y antivacunas logran evadir los controles de desinformación en plataformas como Instagram, Facebook, Twitter y YouTube.

2. Problema
Las redes sociales utilizan algoritmos para detectar y bloquear la desinformación. Sin embargo, los negacionistas han desarrollado técnicas para burlar estos sistemas. Una de las estrategias más comunes es el camuflaje de palabras, donde se alteran términos clave como “vacuna” o “COVID-19” para que los algoritmos no los detecten, pero siguen siendo comprensibles para los usuarios humanos.

3. Ejemplos de Camuflaje de Palabras
- “Vacuna” se convierte en “b4kun4” o “v@kN4”. - “COVID-19” se transforma en “k0 B1T” o “C (o (v (i (d”. - “Plandemia” se escribe como “pl@πd€m1∆”.

4. Impacto
Esta técnica permite que los mensajes de desinformación pasen desapercibidos para los algoritmos, manteniendo su visibilidad en las redes sociales. Aunque no es una práctica masiva, es suficiente para que los negacionistas continúen difundiendo sus ideas y desinformación.

5. Aspectos filosóficos
1. Ética de la Información: ¿Es ético que las plataformas de redes sociales utilicen algoritmos para censurar contenido? ¿Dónde se traza la línea entre la libertad de expresión y la protección contra la desinformación? 2. Responsabilidad Social: ¿Quién es responsable de la desinformación: las plataformas, los usuarios que la crean, o los que la comparten? 3. Tecnología y Sociedad: ¿Cómo afecta la capacidad de burlar los algoritmos a la confianza pública en la información disponible en las redes sociales?

6. Discusión
1. ¿Qué medidas adicionales podrían tomar las plataformas de redes sociales para combatir la desinformación sin violar la libertad de expresión? 2. ¿Cómo pueden los usuarios individuales contribuir a la lucha contra la desinformación? 3. ¿Qué papel deben jugar los gobiernos en la regulación de la información en las redes sociales?

C. Del Castillo (2/12/2021). Así de fácil se saltan los negacionistas los controles antibulos de las redes sociales. elDiario.es. https://www.eldiarioar.com/tecnologia/facil-saltan-negacionistas-controles-anti-fake-news-redes-sociales_1_8548224.html.

Ejemplos de camuflaje de palabras empleados para eludir los filtros automáticos de desinformación en redes sociales. Fuente: elDiario.es.

Ejemplos de camuflaje de palabras empleados para eludir los filtros automáticos de desinformación en redes sociales. Fuente: elDiario.es.

2. Bots y desinformación climática en redes sociales

Investigaciones recientes indican que una fracción relevante de las publicaciones sobre cambio climático en redes sociales procede de cuentas automatizadas o semiautomatizadas; la magnitud estimada varía según la plataforma, el periodo analizado y los criterios para identificar automatización. En algunos estudios y campañas concretas esa proporción ha alcanzado niveles comparables a la cuarta parte del volumen de mensajes, pero en otros análisis la contribución de bots es menor y está fuertemente condicionada por picos de actividad coordinada.

Sáez, S. (25/02/2020): La desinformación da una idea distorsionada del apoyo a las teorías negacionistas sobre el clima. https://climatica.coop/bots-negacionistas-toman-twitter/

Notas de actualización

  • Variabilidad metodológica. Las estimaciones sobre la presencia de bots dependen de los métodos de detección (heurísticos, aprendizaje automático, verificación manual) y de la definición de “bot” (completamente automatizada vs. cuentas semiautomatizadas o gestionadas por humanos con automatización parcial).
  • Contexto temporal y de plataforma. Tras cambios en las políticas y arquitecturas de plataformas (moderación, eliminación de cuentas, migraciones a redes federadas), la visibilidad y el impacto relativo de cuentas automatizadas han fluctuado.
  • Coordinación y amplificación humana. Gran parte del daño informativo no proviene únicamente de bots puros, sino de redes mixtas donde cuentas humanas y automatizadas se coordinan para amplificar narrativas negacionistas.
  • Efectos en la percepción pública. Aunque los bots pueden inflar la impresión de apoyo a posturas negacionistas, el impacto real sobre actitudes y comportamientos depende de factores como la exposición repetida, la credibilidad percibida de las fuentes y los ecosistemas de información locales.
  • Respuesta y mitigación. Algunas plataformas han implementado medidas (detección y suspensión de cuentas, etiquetado, reducción de alcance) y han surgido iniciativas de verificación y alfabetización mediática que reducen, en ciertos contextos, la eficacia de campañas automatizadas.

3. Confianza en las fuentes para el desmentido de información errónea

Tabla 6.1: Confianza en la fuente y eficacia de los desmentidos: esquema en tres niveles del estudio de Bruns et al. (2024).
Nivel 1: Ideas principales Nivel 2: Ideas secundarias Nivel 3: Detalles, explicaciones o casos
Efectividad de las intervenciones contra la desinformación - Los “debunks” y “prebunks” son efectivos para combatir la desinformación. - Se observó una reducción significativa en la aceptación de afirmaciones falsas, la credibilidad percibida y la intención de compartir información errónea.
- Los “debunks” son ligeramente más efectivos que los “prebunks”. - Esta diferencia se observó en la reducción de la creencia en afirmaciones falsas y la probabilidad de compartir información errónea para expresar acuerdo.
- La revelación de la fuente de la intervención (Comisión Europea) no afectó significativamente su efectividad general. - Este hallazgo sugiere que las instituciones públicas pueden intervenir contra la desinformación sin temor a un impacto negativo por revelar su participación.
Influencia de la confianza en la fuente - Existe una correlación negativa entre la confianza en la UE y la susceptibilidad a la desinformación. - A mayor confianza en la UE, menor creencia en información errónea, menor credibilidad percibida y menor intención de compartirla.
- La efectividad de los “debunks” de la Comisión Europea aumenta con mayores niveles de confianza en la UE. - Este hallazgo sugiere la importancia de fomentar la confianza en las instituciones públicas para una mayor efectividad de las intervenciones contra la desinformación.
- Se observó un efecto heterogéneo indeseable: los “debunks” con fuentes reveladas fueron menos efectivos para disminuir la credibilidad de la información errónea entre personas con bajos niveles de confianza en la UE. - Este hallazgo destaca la necesidad de considerar la confianza en la fuente al diseñar intervenciones para audiencias con baja confianza institucional.
Limitaciones del estudio y futuras líneas de investigación - El estudio presenta limitaciones en cuanto a su validez externa. - Las intervenciones se realizaron inmediatamente después de la exposición a la desinformación, lo que podría haber inflado el tamaño del efecto.
- Se necesitan más investigaciones para comprender el papel de la confianza en la fuente en la efectividad de las intervenciones. - Se sugiere explorar la medición de la confianza antes del tratamiento o la manipulación externa de la confianza para abordar posibles sesgos.
- Se requiere una comprensión más profunda de las diferencias transnacionales en la efectividad de las intervenciones. - Se anima a investigar las causas de las variaciones observadas en los efectos de las intervenciones entre los países estudiados.

H. Bruns et al. (2024): Investigating the role of source and source trust in prebunks and debunks of misinformation in online experiments across four EU countries. Sci Rep 14, 20723 (2024). https://doi.org/10.1038/s41598-024-71599-6

6.2 Política en la sociedad del conocimiento

La sociedad del conocimiento se articula sobre el papel que desempeña el conocimiento y la información en todos los aspectos de la vida social, incluida la esfera política. El acceso y control del conocimiento se convierten en factores claves de poder e influencia política. Este contexto se asocia con un gran potencial para democratizar la política, al permitir una participación más amplia, informada y diversa y nuevas formas de activismo político y movilización social a través de las redes sociales y plataformas en línea.

El mayor desafío surge de las dinámicas de control del conocimiento (datos, información y herramientas para su interpretación), concentradas en unas pocas corporaciones tecnológicas globales con la capacidad y recursos en la escala necesaria para operar en régimen de cuasi-monopolio. Ese poder no se ejerce solo en el mercado: el análisis del proceso legislativo del Reglamento europeo de Servicios Digitales muestra hasta qué punto las grandes plataformas intervienen en la elaboración de las normas llamadas a limitarlas (Kausche y Weiss, 2025). El resultado son nuevas formas de restringir la diversidad y pluralidad de la información, con impacto capaz de sesgar y deteriorar el debate público. Aparte del riesgo de exacerbar desigualdades existentes en términos de acceso a la información y competencias digitales (la denominada “brecha digital”), por lo que adquieren importancia fundamental las políticas públicas dirigidas a garantizar un acceso equitativo al conocimiento y el marco regulador que sancione las prácticas abusivas de las corporaciones tecnológicas y garantice la diversidad y la pluralidad del espacio de información.

En la sociedad del conocimiento cobra importancia todo el sistema de producción, distribución y uso de la información para potenciar el conocimiento (y sus aplicaciones) determinantes de la competitividad, la innovación y el bienestar social. En la sociedad del conocimiento no cabe hablar de neutralidad en el despliegue de las tecnologías de la información y la comunicación, puesto que facilitan el acceso, la generación y la difusión del conocimiento. El argumento tiene una formulación clásica: los artefactos incorporan disposiciones políticas, sea porque se diseñaron deliberadamente para producir un determinado reparto de poder, sea porque su funcionamiento exige de suyo una forma de organización social y no otra (Winner, 1980). Trasladado a las infraestructuras digitales, el argumento se vuelve más exigente todavía, porque lo que está en juego no es un artefacto aislado sino los estándares, protocolos y capas de servicio sobre los que descansa el resto (Silvast y Williams, 2026).

Dónde se decide la política de una infraestructura

Si los artefactos incorporan disposiciones políticas, el debate sobre contenidos llega tarde. Retirar una publicación o etiquetarla deja intacta la capa donde se decide qué formatos circulan, qué sistemas son interoperables, qué se puede consultar mediante interfaz abierta y quién puede cambiar esas reglas sin negociarlas.

Esa capa se modifica pocas veces, con escasa visibilidad pública y con efectos que duran años. Ahí se juega la parte del poder que este capítulo examina, y recibe una fracción de la atención que reciben los contenidos. La asimetría no es casual: discutir sobre mensajes es accesible a cualquiera, mientras que discutir sobre protocolos exige una competencia técnica que actúa como filtro de participación.

Además de las grandes corporaciones tecnológicas que aglutinan a miles de millones de usuarios en la actividad y servicios ligados a las plataformas con las que operan por todo el planeta, la dinámica política de la sociedad del conocimiento involucra a muchos más actores e instituciones, privadas o públicas, en la definición, la implementación y la evaluación de las políticas públicas relacionadas con el acceso al conocimiento, a las redes digitales y a las tecnologías de la información.

La acción política en la sociedad del conocimiento plantea sus propios desafíos y oportunidades para la gobernabilidad, la democracia, la participación, la transparencia, la rendición de cuentas y el respeto a los derechos humanos (privacidad, reputación digital y libertad de expresión, por ejemplo). Entre los desafíos cabe mencionar los siguientes:

  1. La brecha digital: Se refiere a las desigualdades en el acceso y el uso de las TIC entre diferentes grupos sociales, regiones o países. La brecha digital puede generar exclusión, marginación y discriminación en el ámbito del conocimiento, lo que afecta al desarrollo humano y a la cohesión social. El concepto ha ido desplazándose del acceso a los dispositivos hacia las diferencias de uso y, más recientemente, hacia la capacidad desigual de obtener resultados con las herramientas disponibles. El análisis de las regiones de la Unión Europea muestra que la brecha en la adopción de inteligencia artificial reproduce en buena medida las brechas digitales anteriores, en lugar de corregirlas (Vicente et al., 2025).

  2. La adecuación del marco regulador: Se refiere al marco legal que regula los aspectos éticos, económicos y sociales del conocimiento, el acceso a las redes digitales y a las tecnologías de la información. Entre otras aspectos, las instancias reguladoras deben garantizar el equilibrio entre los derechos de autor y el acceso abierto al conocimiento, así como proteger la privacidad, la seguridad y la libertad de expresión de los usuarios.

  3. La calidad de la información: Se refiere al grado de veracidad, relevancia y utilidad de la información que circula en el ámbito del conocimiento. La calidad de la información puede verse afectada por fenómenos como la desinformación, las noticias falsas, los sesgos o las manipulaciones, que pueden generar confusión, desconfianza o polarización en la opinión pública.

La brecha se desplaza más deprisa de lo que se corrige

El concepto de brecha digital se ha desplazado dos veces: del acceso a los dispositivos a las diferencias de uso, y de estas a la capacidad desigual de obtener resultados con las herramientas disponibles. El análisis de las regiones europeas muestra que la brecha en la adopción de inteligencia artificial reproduce en buena medida las anteriores en lugar de corregirlas (Vicente et al., 2025).

Para la política pública, la consecuencia es incómoda. Un programa diseñado sobre la definición previa de la brecha llega al terreno cuando la desigualdad ya se ha reorganizado en otro plano, de modo que reparte equipos cuando lo escaso es la competencia, o forma en competencias cuando lo escaso es el acceso a los sistemas que importan. Medir la brecha vigente, y no la que justificó el programa, es la condición para que la inversión no consolide el desnivel que pretendía cerrar.

Las oportunidades asociadas con la dinámica política de la sociedad del conocimiento para mejorar la participación democrática y la calidad del debate público como trasfondo de decisiones mejor informadas y responsables son únicas:

  1. Innovación social, referida al uso creativo y colaborativo del conocimiento y de las tecnologías de la información para resolver problemas sociales, hacer más ágil y eficiente la comunicación corporativa o con las administraciones públicas y favorecer nuevos servicios y canales de interacción que mejoren las condiciones de vida de las comunidades. La innovación social se concreta en el desarrollo de nuevas competencias (digitales, epistémicas) y en el aprendizaje y la participación activa de los ciudadanos en el diseño e implementación de soluciones locales a sus necesidades.

  2. Gobernanza en red, referida a la articulación horizontal y flexible entre diferentes actores públicos y privados para definir e implementar políticas públicas relacionadas con el conocimiento y el acceso a las tecnologías de la información y los servicios digitales. La gobernanza en red promueve el diálogo, la cooperación y la coordinación entre los distintos niveles de gobierno (local, regional, estatal), así como entre los sectores académico, empresarial y social. La revisión sistemática de la literatura advierte, sin embargo, de que el término se emplea a menudo como etiqueta indistinta para modos de coordinación muy diferentes entre sí, con requisitos y límites propios, y de que la evidencia sobre su eficacia comparada es más escasa de lo que su popularidad sugiere (Van den Oord et al., 2023).

  3. Democracia digital, asociada con el uso de las redes digitales y tecnologías de la información para fortalecer los procesos democráticos y ampliar los espacios de participación ciudadana en el ámbito político. La democracia digital requiere un marco jurídico que garantice el acceso sin restricciones a la información pública relevante para ciudadanos, empresas e instituciones; la consulta y deliberación en línea para personas con niveles diversos de alfabetización digital; sistemas seguros de voto electrónico; control social (agencias reguladoras) para desincentivar las malas prácticas o el fraude; y la promoción del activismo digital con criterios inclusivos, para evitar su instrumentalización por grupos de presión o de ideología antidemocrática (OECD, 2020).

Datos de acceso a Internet por grupos afroamericanos, blancos e hispanos en EE. UU.

  1. Access to computers and internet connection by race and ethnicity
  2. Workforce representation by race and ethnicity in highly digital occupations

Referencias

  1. Gorski, Paul C. (2003). “Privilege and Repression in the Digital Era: Rethinking the Sociopolitics of the Digital Divide”. Race, Gender & Class 10 (4): 145-170. https://www.proquest.com/docview/218807872.

  2. Medero, Kristina, Kelly Merrill Jr, y Morgan Quinn Ross (2022). “Modeling Access across the Digital Divide for Intersectional Groups Seeking Web-Based Health Information: National Survey”. Journal of Medical Internet Research 24 (3): e32678. https://doi.org/10.2196/32678.

  3. Walker, Daniel M., Jennifer L. Hefner, Naleef Fareed, Timothy R. Huerta, y Ann Scheck McAlearney (2020). “Exploring the Digital Divide: Age and Race Disparities in Use of an Inpatient Portal”. Telemedicine Journal and E-Health: The Official Journal of the American Telemedicine Association 26 (5): 603–13. https://doi.org/10.1089/tmj.2019.0065.

  4. Kausche, Katharina, y Moritz Weiss (2025). “Platform Power and Regulatory Capture in Digital Governance”. Business and Politics 27 (2): 284-308. https://doi.org/10.1017/bap.2024.33

  5. Silvast, Antti, y Robin Williams (2026). “The Politics of Artifacts Revisited”. Sociology Compass 20 (7): e70234. https://doi.org/10.1111/soc4.70234

  6. Van den Oord, Steven, Patrick Kenis, Jörg Raab y Bart Cambré (2023). “Modes of Network Governance Revisited”. Public Administration Review 83 (6): 1564-1598. https://doi.org/10.1111/puar.13736

  7. Vicente, María Rosalía, Carla Álvarez-Rodríguez y Ana Suárez-Álvarez (2025). “An Old Familiar Song? Assessing the Artificial Intelligence Divide among the Regions of the European Union”. Telecommunications Policy 49 (8): 103030. https://doi.org/10.1016/j.telpol.2025.103030

  8. Winner, Langdon (1980). “Do Artifacts Have Politics?”. Daedalus 109 (1): 121-136. https://www.jstor.org/stable/20024652

Enlaces

  1. La política en la SOCIEDAD DEL CONOCIMIENTO. https://isaachernandez.es/consultoria-politica/la-politica-en-la-sociedad-del-conocimiento/

  2. Brecha digital: Dimensiones y críticas al concepto. https://es.wikipedia.org/wiki/Brecha_digital; https://es.wikipedia.org/wiki/Brecha_digital#Dimensiones; https://es.wikipedia.org/wiki/Brecha_digital#Cr%C3%ADticas

  3. NetRef (14/01/2016). «The Digital Divide in the Age of the Connected Classroom». https://net-ref.com/wp-content/uploads/2016/01/Bridging-the-Digital-Divide-NetRef-White-Paper-FINAL.pdf

  4. Internet Usage Statistics. The Internet Big Picture. World Internet Users and 2023 Population Stats. https://www.internetworldstats.com/stats.htm

  5. Closing the digital divide in Black America. January 18, 2023. https://www.mckinsey.com/industries/public-sector/our-insights/closing-the-digital-divide-in-black-america

  6. Digital divide in the United States. https://en.wikipedia.org/wiki/Digital_divide_in_the_United_States

  7. Home broadband adoption, computer ownership vary by race, ethnicity in the U.S. JULY 16, 2021. https://www.pewresearch.org/short-reads/2021/07/16/home-broadband-adoption-computer-ownership-vary-by-race-ethnicity-in-the-u-s/

  8. Some digital divides persist between rural, urban and suburban America. AUGUST 19, 2021. https://www.pewresearch.org/short-reads/2021/08/19/some-digital-divides-persist-between-rural-urban-and-suburban-america/

  9. Digital Injustice: Disparities in Digital Access across the US and How they Disproportionately Hurt the Black and Latinx Communities. https://sites.tufts.edu/digitalplanet/digital-injustice-covid19/

6.3 Del acceso a la participación activa en la generación de conocimiento

El predominio de la dimensión económica en las políticas ligadas a la sociedad del conocimiento constituye un indicador del papel que desempeña la producción y distribución del conocimiento como motores esenciales del crecimiento económico. Esto significa que los colectivos de trabajadores altamente cualificados —con acceso a niveles de educación superior y capacitación profesional muy especializada— demandan del sistema educativo y de las empresas grandes inversiones en investigación y desarrollo. El relato tiene, sin embargo, un reverso poco atendido: la sobrecualificación es una condición extendida en la base de la economía del conocimiento, y quienes la padecen tienden a interpretarla como un problema de trayectoria personal y no como un rasgo estructural del mercado que los emplea (Pantea, 2026).

Las personas que trabajan en la industria del conocimiento son hoy el arquetipo del tipo de especialización que se requiere para articular una sociedad del conocimiento en todas sus dimensiones no estrictamente económicas (ocio, formación permanente, calidad de vida, disponibilidad para el cuidado y la conciliación, etc.).

La mano de obra que posibilita los servicios especializados con mayor valor añadido en la sociedad del conocimiento se incorpora al mercado laboral tras un largo y costoso proceso de cualificación y formación especializada, en el que aprenden a utilizar sus conocimientos y habilidades para crear nuevos productos, servicios e ideas. Además de acceso a las tecnologías de la información, se requieren habilidades multidisciplinares (programación, gestión de equipos, coordinación de proyectos, colaboración en línea, etc.) que facilitan la producción, distribución y uso del conocimiento, involucrando de manera habitual a trabajadores del conocimiento que colaboran y comparten sus ideas desde diferentes ubicaciones geográficas.

Se difuminan así las fronteras entre los sectores público y privado, entre jurisdicciones de ámbito local o estatal y entre actores que pertenecen a instituciones públicas y privadas cada vez más interdependientes, incentivados para colaborar en sectores cuya competitividad y viabilidad dependen del conocimiento especializado para alcanzar sus objetivos.

Nuevas formas de colaboración descentralizada cuestionan los modos tradicionales de ejercer el poder y la autoridad política, y modifican el rol de las instituciones estatales (consolidado para afrontar los desafíos de la era industrial, en lo esencial). Pero en muchos campos de actividad altamente especializada, el Estado ya no es el único proveedor de conocimiento y educación. El desplazamiento es observable en la propia infraestructura educativa, donde un sector empresarial de tecnología educativa ha pasado a intervenir en decisiones que antes correspondían a la administración: qué plataformas se usan, qué datos se recogen y con qué criterios se evalúa el aprendizaje (Villalobos et al., 2024). Sus programas formativos tienden a incluir la colaboración con el sector privado y la sociedad civil para crear una economía más innovadora, basada en el conocimiento y en su aplicación para ofertar servicios de alto valor añadido.

Cuando se trata de servicios que atraen o interesan a consumidores de distintos continentes, la cooperación internacional resulta inevitable en un mundo globalizado, y obliga a consolidar programas de intercambio y formación sin fronteras. El retroceso en los procesos de cooperación abiertos por la globalización mina, a medio plazo, el dinamismo de la sociedad del conocimiento y genera desigualdades para los países con menor porcentaje de población altamente cualificada. Ese retroceso tiene desde 2022 un nombre administrativo, seguridad de la investigación, y un desarrollo normativo propio en Alemania y en Estados Unidos que somete la colaboración internacional a controles de los que antes estaba exenta. La cuestión abierta es si se trata de una gestión razonable de riesgos identificados o del primer tramo de una securitización de la ciencia con consecuencias sobre qué se puede investigar y con quién (Rüffin et al., 2026).

La participación activa admite además una forma que este apartado no puede pasar por alto, porque es la que más literalmente responde a su título: la investigación con participación de personas ajenas a la profesión académica. La revisión sistemática de la ciencia ciudadana ofrece un balance con dos caras. Del lado de los resultados científicos la evidencia es sólida, y hay un número considerable de estudios que validan la calidad de los datos recogidos por voluntarios y la encuentran comparable a la profesional. Del lado de los resultados educativos —interés por la ciencia, comprensión de cómo se produce, cambio de actitudes—, que es el que suele invocarse para justificar estos programas, la evidencia es escasa y metodológicamente débil (Finger et al., 2023). La asimetría entre lo que se promete y lo que se ha medido merece discutirse.

Se mide una cosa y se promete otra

La revisión sistemática de la ciencia ciudadana deja un balance de dos caras (Finger et al., 2023). Del lado de los resultados científicos la evidencia es sólida, y un número considerable de estudios valida la calidad de los datos recogidos por voluntarios y la encuentra comparable a la profesional. Del lado de los resultados educativos —interés por la ciencia, comprensión de cómo se produce, cambio de actitudes—, la evidencia es escasa y metodológicamente débil.

La asimetría importa porque el segundo grupo de resultados es el que suele invocarse al justificar estos programas ante financiadores e instituciones. Aceptar la validez de los datos no autoriza a dar por buena la promesa formativa. Quien diseñe una actividad de este tipo hará bien en decidir cuál de los dos objetivos persigue, porque no se miden con los mismos instrumentos ni se alcanzan con el mismo diseño.

Aquella promesa se formuló en torno a la web 2.0, la generación de servicios que convirtió al usuario en creador de contenidos y no solo en destinatario. Dos décadas después, lo interesante del balance no es cuánto se cumplió, sino en qué dirección se ha desviado. La producción entre pares funcionó y sigue funcionando, pues los comunes digitales que sostienen la enciclopedia colaborativa, los repositorios de código libre o las colecciones de datos abiertos se construyeron con trabajo voluntario coordinado sin jerarquía y sin contrato. Lo que ha cambiado es quién recoge el fruto. Esos comunes —una parte sustancial del procomún cognitivo— se han convertido en materia prima para entrenar sistemas comerciales que responden sin remitir a la fuente, en una relación que sus estudiosos describen como apertura sin reciprocidad: lo que era un bien público empieza a funcionar como capa de extracción privada (Khattar y Kostakis, 2026).

Apertura sin reciprocidad

Los comunes digitales se construyeron sobre una expectativa de reciprocidad: quien toma también devuelve, aunque sea en otro momento y de otra forma. Esa expectativa no figuraba en las licencias, que autorizan el uso sin exigir contrapartida, sino en la práctica de las comunidades que sostienen la enciclopedia colaborativa, los repositorios de código libre o las colecciones de datos abiertos.

Entrenar sistemas comerciales sobre ese material respeta la licencia y rompe la práctica. Un bien público empieza a funcionar como capa de extracción privada, con un consumo que no remite a la fuente y no alimenta el circuito que la mantiene (Khattar y Kostakis, 2026). El procomún cognitivo no se agota por uso, a diferencia de un recurso natural, pero sí se agota si deja de reponerse.

El efecto se deja medir por los dos extremos, el del consumo de las fuentes y el de su mantenimiento. La participación activa en la generación de conocimiento no se ha detenido, pero el circuito que la alimentaba —consultar una fuente, encontrar un error, corregirlo— tiene hoy un tramo interrumpido.

El circuito de la corrección, medido por sus dos extremos

Del lado del consumo: cuando el buscador entrega un resumen generado, la proporción de búsquedas que terminan en un clic a una fuente cae aproximadamente a la mitad, y apenas una de cada cien lleva a un enlace citado dentro del propio resumen (Chapekis y Lieb, 2025). Las visitas humanas a la enciclopedia colaborativa retrocedieron alrededor de un ocho por ciento en 2025 respecto de los mismos meses del año anterior (Wikimedia Foundation, 2025).

Del lado de la producción, esas comunidades han tenido que decidir qué hacer con las aportaciones generadas por máquina. Tres años de deliberación en la enciclopedia terminaron con el fracaso de las propuestas normativas ambiciosas, por falta de consenso, y con la aprobación de reglas mínimas (Froneman, 2026). Las dos series miden tramos distintos de un mismo recorrido, porque encontrar un error en una fuente exige antes haber llegado hasta ella.

  1. Smith, Aaron (Pew Research Center, 2013): Civic Engagement in the Digital Age. https://core.ac.uk/reader/30677017

  2. Andersen, Kim, Jakob Ohme, Camilla Bjarnøe, Mats Joe Bordacconi, Erik Albæk, y Claes de Vreese (2020). Generational gaps in political media use and civic engagement: From baby boomers to generation Z. London: Routledge. https://core.ac.uk/reader/344665774

  3. Barassi, Veronica (2016). “Datafied Citizens? Social Media Activism, Digital Traces and the Question about Political Profiling”. Communication and the Public 1 (4): 494–99. https://doi.org/10.1177/2057047316683200.

  4. Wihbey, John (Oct. 18, 2015): How does social media use influence political participation and civic engagement? A meta-analysis. https://journalistsresource.org/politics-and-government/social-media-influence-politics-participation-engagement-meta-analysis/

  5. Onguny, Philip Oburu (2019). “Mediated political participation and competing discourses of online civic engagement”. Journal of development and communication studies 6 (1): 36–47. https://doi.org/10.4314/jdcs.v6i1.3.

  6. Web 2.0., Web 3.0 o Web semántica: https://es.wikipedia.org/wiki/Web_2.0

  7. Finger, Lea, et al. (2023). “The Science of Citizen Science: A Systematic Literature Review on Educational and Scientific Outcomes”. Frontiers in Education 8: 1226529. https://doi.org/10.3389/feduc.2023.1226529

  8. Pantea, Maria-Carmen (2026). “Degrees of Doubt: Overqualification as a Blind Spot at the Base of the Knowledge Economy”. Minerva 64 (1): 217-240. https://doi.org/10.1007/s11024-024-09564-w

  9. Rüffin, Nicolas V., Katharina C. Cramer, Maximilian Mayer y Philip J. Nock (2026). “«Research Security» in Germany and the United States”. Global Policy 17 (1): 47-57. https://doi.org/10.1111/1758-5899.70103

  10. Villalobos, Cristóbal, Lluís Parcerisa, Karla Castillo y Tomás Olguin (2024). “EdTech Companies and Contemporary Digital Educational Governance”. International Journal of Educational Development 110: 103141. https://doi.org/10.1016/j.ijedudev.2024.103141

  11. Chapekis, Athena, y Anna Lieb (2025). “Google Users Are Less Likely to Click on Links When an AI Summary Appears in the Results”. Pew Research Center, 22 de julio. https://www.pewresearch.org/short-reads/2025/07/22/google-users-are-less-likely-to-click-on-links-when-an-ai-summary-appears-in-the-results/

  12. Froneman, Willemien (2026). “Failed Comprehensiveness, Successful Minimalism: Wikipedia’s 3-Year Struggle to Govern AI-Generated Content (2022-2025)”. AI & Society 41 (7): 7045-7061. https://doi.org/10.1007/s00146-026-03046-1

  13. Khattar, Pranay, y Vasilis Kostakis (2026). “Mining the Commons: AI Extraction, Wikipedia, and the Case for a Multi-stakeholder Settlement”. Internet Policy Review 15 (1). https://policyreview.info/articles/news/commons-ai-extraction-wikipedia/2089

  14. Wikimedia Foundation (2025). “New User Trends on Wikipedia”. Diff, 17 de octubre. https://diff.wikimedia.org/2025/10/17/new-user-trends-on-wikipedia/

6.4 Participación pública, democracia y conocimiento

La web 2.0 incluye plataformas como blogs, wikis, redes sociales, podcasts o vídeos online. La web 2.0 facilita la participación activa en la generación de conocimiento al ofrecer espacios de expresión, comunicación e intercambio de información entre personas con intereses, habilidades y manejo de herramientas comunes. Pero sus posibilidades se han ido ampliando y evolucionan con el desarrollo de nuevos estándares técnicos y servicios de potencial impacto disruptivo, como la IA generativa basada en grandes modelos de lenguaje.

Una dinámica de participación activa en la generación de conocimiento tiene beneficios tanto individuales como colectivos. A nivel individual, permite desarrollar habilidades cognitivas, afectivas y sociales que mejoran el aprendizaje y el desempeño profesional. A nivel colectivo, permite generar conocimiento más diverso, innovador y pertinente para las necesidades y demandas de la sociedad.

Además, favorece la inclusión, la democracia y la ciudadanía activa, combinando posibilidades y ventajas de cada generación de servicios digitales y el tipo de colaboración que cada una contribuyó a consolidar.

Inventario de referencia cerrado en 2022. Se conserva porque documenta qué tipo de participación habilitó cada generación de servicios, no como panorama del estado actual: varias de las plataformas citadas han perdido relevancia y otras posteriores no figuran.

Tabla 6.2: Servicios y plataformas por generación tecnológica. Inventario de referencia cerrado en 2022.
Tipo Empresa (servicio) Características y posibilidades
Web 2.0 YouTube Plataforma de compartición de videos con capacidades de interacción y comentarios.
2.0 Redes sociales Interacción y comunicación entre usuarios
2.0 Facebook Red social para conectar amigos, compartir contenido y crear comunidades.
2.0 Wikipedia Enciclopedia colaborativa editable por los usuarios.
2.0 Blogger Herramienta de blogs donde los usuarios pueden crear y compartir sus propios blogs.
2.0 Wikis Creación y edición colaborativa de contenido
2.0 Dropbox Almacenamiento en la nube y compartición de archivos.
2.0 Comunidades virtuales Creación de espacios de encuentro y participación en línea
2.0 Comercio electrónico Compraventa de bienes y servicios a través de Internet
Web 3.0 Blockchain Almacenamiento y distribución de datos de forma segura e inmutable. Criptomonedas, contratos inteligentes, trazabilidad de productos
3.0 Ethereum Plataforma de blockchain para contratos inteligentes y aplicaciones descentralizadas.
3.0 IPFS Sistema de archivos peer-to-peer (P2P) para almacenar, compartir y acceder a datos de manera descentralizada.
3.0 Solid Proyecto que permite a los usuarios almacenar sus datos de forma descentralizada.
3.0 DAOs Organizaciones autónomas descentralizadas que operan en blockchain.
3.0 NFTs Tokens no fungibles para representar propiedad única en activos digitales.
3.0 Realidad virtual y aumentada Creación de entornos virtuales inmersivos. Metaverso, NFT, tokens no fungibles
3.0 Internet de las cosas Conectividad entre dispositivos físicos. Smart home, wearables, vehículos autónomos
3.0 Inteligencia artificial Automatización de tareas y análisis de datos. Chatbots, asistentes virtuales, aprendizaje automático
3.0 Big data Análisis de grandes cantidades de datos. Analítica predictiva, machine learning, insights

Ese inventario se detiene además en 2022, y desde entonces han aparecido o cobrado peso tres cosas que lo modifican. La primera son los protocolos abiertos de red social, que permiten participar sin depender de un intermediario único y devuelven a la discusión la cuestión de quién es dueño del grafo de relaciones. La segunda es la verificación distribuida: las notas escritas por los propios usuarios han pasado de experimento a modelo dominante en varias plataformas, y la evidencia disponible indica que reducen de forma apreciable la difusión de contenidos falsos, aunque el debate sobre si pueden sustituir a la verificación profesional sigue abierto (Slaughter et al., 2025). La tercera, y la que más afecta al supuesto de partida de este apartado, es el asistente conversacional como interfaz de acceso al conocimiento, cuyo efecto sobre el circuito de la participación se examinó en §6.3.

La inteligencia artificial ha entrado además en la propia deliberación. Un sistema de mediación basado en grandes modelos de lenguaje ha demostrado ser capaz de redactar declaraciones de grupo que los participantes prefieren a las de mediadores humanos, incorporando mejor las posiciones minoritarias (Tessler et al., 2024). El resultado es notable y merece examinarse con cuidado, porque la promesa de «deliberación a escala» traslada al sistema la tarea de decidir qué posiciones se sintetizan y cuáles se descartan, que es justamente la parte políticamente decisiva del procedimiento (Moats y Ganguly, 2025).

Mediación algorítmica de la deliberación

Un sistema basado en grandes modelos de lenguaje redacta declaraciones de grupo que los participantes prefieren a las de mediadores humanos, e incorpora mejor las posiciones minoritarias (Tessler et al., 2024). El resultado está bien medido y no admite descarte fácil.

La objeción deja el hallazgo en pie y pregunta por otra cosa: qué queda delegado al aceptarlo. Sintetizar una deliberación obliga a decidir qué posiciones entran en la declaración final, cuáles se agregan bajo una fórmula común y cuáles se descartan por marginales, que es la parte políticamente decisiva del procedimiento (Moats y Ganguly, 2025). Un mediador humano responde de esas decisiones ante los participantes; un sistema que las resuelve por criterio de preferencia agregada no responde ante nadie, y su acierto medido en satisfacción no informa sobre el reparto que hizo.

La participación pública puede conducir a la producción de nuevos conocimientos y a mejorar la calidad de los procesos de deliberación democrática. El balance de dos décadas de investigación sobre minipúblicos y asambleas ciudadanas es, no obstante, más matizado que la expectativa que los acompañó: los resultados son desiguales y persisten obstáculos en la inclusión de los participantes, en la igualdad efectiva dentro del proceso y en la influencia real de sus conclusiones sobre la decisión política (Welp, 2024). Cuando los ciudadanos participan en la deliberación, están expuestos a nueva información y perspectivas que pueden cuestionar sus creencias y suposiciones, induciendo dinámicas de aprendizaje y adquisición de nuevos conocimientos. La deliberación puede ayudar a cualquier sector de la ciudadanía a comprender mejor la complejidad de las cuestiones que se les plantean y evitar soluciones inadecuadas o simplistas. La deliberación informada sirve de oportunidad para debatir las cuestiones en profundidad y considerar distintos puntos de vista, lo que estimula el desarrollo del pensamiento crítico y procedimientos más sofisticados de evaluación de pruebas y argumentación razonada.

Una deliberación sin efecto también enseña algo

La deliberación ciudadana se defiende por dos razones que no siempre se separan. Una es epistémica: exponerse a información y a perspectivas ajenas corrige creencias y mejora la evaluación de pruebas. Otra es legitimadora, pues el procedimiento hace aceptable la decisión ante quienes no participaron.

Las dos dependen de la misma condición. Si las conclusiones no tienen efecto sobre la decisión política, el aprendizaje se produce igual, pero cambia de contenido: los participantes y quienes los observan concluyen que el procedimiento era ornamental. El balance de dos décadas de minipúblicos sitúa ahí uno de los obstáculos persistentes, junto con la inclusión y la igualdad efectiva dentro del proceso (Welp, 2024).

Entre otros beneficios, la producción participativa de nuevos conocimientos puede y suele conducir a mejores decisiones. Cuando los responsables de la toma de decisiones tienen acceso a una gama más amplia de información y puntos de vista, es más probable que tomen decisiones que redunden en beneficio del público. En segundo lugar, la producción de nuevos conocimientos puede contribuir a la cohesión social. Cuando los ciudadanos participan en la deliberación, es más probable que comprendan los puntos de vista de los demás y desarrollen un sentido compartido de los objetivos. El efecto alcanza también, aunque con menos fuerza, a quienes no participan: la percepción de que hubo deliberación ciudadana dentro de una institución representativa aumenta la legitimidad que le atribuye el público general, sobre todo entre quienes partían de una confianza institucional baja. Ese efecto se invierte cuando el resultado de la deliberación se ignora (Webb et al., 2026).

Theocharis y otros estudian cómo las oportunidades de participación política se han ido ampliando durante años, más recientemente a través de herramientas digitales. Las plataformas de redes sociales se han integrado bien en la participación cívica y política. Utilizando una muestra transnacional de Estados Unidos, Reino Unido y Francia, examinan si los actos de participación asociados con las redes sociales deben clasificarse utilizando una solución tradicional de cinco factores para la estructura de los actos participativos. Se deja de lado la distinción entre participación en línea y fuera de línea, centrándose en cambio en actos apoyados y habilitados por las redes sociales y, en particular, en las diferencias entre el uso de Twitter y Facebook. El análisis muestra que los actos habilitados por las redes sociales no saturan en los factores tradicionales de la estructura de participación.

Y. Theocharis, Shelley Boulianne, Karolina Koc-Michalska, y Bruce Bimber (2023). “Platform Affordances and Political Participation: How Social Media Reshape Political Engagement”. West European Politics 46 (4): 788–811. https://doi.org/10.1080/01402382.2022.2087410

  1. Burkle, Martha, y Cristobal Cobo (2018). “Redefining knowledge in the digital age”. Journal of new approaches in educational research 7 (2): 79–80. https://doi.org/10.7821/naer.2018.7.294.

  2. Caluwaerts, Didier, Kamil Bernaerts, Rebekka Kesberg, Lien Smets, y Bram Spruyt (2023). “Deliberation and polarization: a multi-disciplinary review”. Frontiers in political science 5. https://doi.org/10.3389/fpos.2023.1127372.

  3. Council of Europe (March 2023): Report on deliberative democracy. European Committee on Democracy and Governance (CDDG). https://rm.coe.int/report-on-deliberative-democracy-eng/1680aaf76f

  4. Dahlgren, Peter (2013). The Political Web: Media, Participation and Alternative Democracy. Basingstoke, Inglaterra: Palgrave Macmillan. https://doi.org/10.1057/9781137326386.

  5. Filipe, Angela, Alicia Renedo y Cicely Marston (2017). “The Co-Production of What? Knowledge, Values, and Social Relations in Health Care”. PLoS Biology 15 (5): e2001403. https://doi.org/10.1371/journal.pbio.2001403 https://doi.org/10.1371/journal.pbio.2001403.

  6. Fishkin, James S. (2011). “Making deliberative democracy practical”. En When the People Speak, 95–105. Oxford University Press. https://doi.org/10.1093/acprof:osobl/9780199604432.003.0004

  7. O’Doherty, Kieran C. (2017). “Deliberative Public Opinion: Development of a Social Construct”. History of the Human Sciences 30 (4): 124–45. https://doi.org/10.1177/0952695117722718.

  8. Redman, S., T. Greenhalgh, L. Adedokun, S. Staniszewska, y S. Denegri (2021). “Co-Production of Knowledge: The Future”. BMJ (Clinical Research Ed.), n434. https://doi.org/10.1136/bmj.n434.

  9. Sunstein, Cass R. (2017). #republic: Divided Democracy in the Age of Social Media. Princeton, NJ, Estados Unidos de América: Princeton University Press.

  10. Moats, David, y Chandrima Ganguly (2025). “Bringing AI Participation Down to Scale”. Patterns 6 (5): 101241. https://doi.org/10.1016/j.patter.2025.101241

  11. Slaughter, Isaac, Axel Peytavin, Johan Ugander y Martin Saveski (2025). “Community Notes Reduce Engagement with and Diffusion of False Information Online”. PNAS 122 (38): e2503413122. https://doi.org/10.1073/pnas.2503413122

  12. Tessler, Michael Henry, et al. (2024). “AI Can Help Humans Find Common Ground in Democratic Deliberation”. Science 386 (6719): eadq2852. https://doi.org/10.1126/science.adq2852

  13. Webb, Adele, Max Grömping y Marlene Mauk (2026). “Does Citizen Deliberation inside Representative Institutions Enhance Legitimacy among Non-participating Publics?”. European Journal of Political Research: 1-21. https://doi.org/10.1017/S1475676526101509

  14. Welp, Yanina (2024). “Trends in Mini-Publics Research: High Expectations, Mixed Findings, and Clear-Cut Challenges”. International Political Science Abstracts 74 (3): 383-394. https://doi.org/10.1177/00208345241262093

6.5 Redes sociales y redes de conocimiento: ¿la revolución humanista?

La relación entre redes sociales y redes de conocimiento es estrecha y dinámica. Las redes sociales pueden favorecer la creación y el fortalecimiento de las redes de conocimiento al ofrecer espacios de encuentro, diálogo y colaboración entre personas con intereses comunes o complementarios. Las redes o nodos de conocimiento pueden ampliar su impacto y utilidad social con el uso y versatilidad que aportan las redes sociales, asumiendo un papel de actores relevantes capaces de proporcionar contenidos rigurosos, útiles e innovadores para los usuarios. La idea de fondo tiene formulación propia en la literatura sobre inteligencia colectiva: grupos de personas y máquinas conectados de determinada manera resuelven problemas que ninguno de sus miembros resolvería por separado, y el diseño de esa conexión decide en buena medida el resultado (Malone, 2018).

La revolución humanista es el proceso histórico y cultural que se caracteriza por el resurgimiento y la valoración del humanismo, es decir, del conjunto de principios y valores que defienden la dignidad, la libertad y la razón del ser humano. El humanismo implica el reconocimiento de la diversidad, el pluralismo, el diálogo, la tolerancia y la solidaridad entre los seres humanos, como integrantes de un colectivo genérico (especie) que afronta desafíos comunes. Aplicado a la técnica, ese planteamiento admite una versión exigente y nada nostálgica, orientada a examinar qué virtudes intelectuales y cívicas requiere vivir bien con tecnologías que reconfiguran la percepción, la atención y el trato con los demás, en lugar de preguntarse únicamente si son buenas o malas (Vallor, 2016).

La relación entre redes sociales, redes de conocimiento y revolución humanista es compleja. Sus características específicas pueden combinarse para ampliar el alcance y contenido de la revolución humanista, aportando nuevas formas de fomentar la participación, la educación, la ciencia, la cultura y la ciudadanía activa entre seres humanos de todo el planeta. La cultura de la convergencia describió pronto ese desplazamiento: los públicos dejan de recibir contenidos para producirlos, circularlos y reinterpretarlos, con consecuencias sobre quién tiene autoridad para decir qué (Jenkins, 2008). Y la revolución humanista puede orientar el sentido y el uso de las redes sociales y las redes de conocimiento de modo compatible con criterios éticos, elementos estéticos e ideales políticos basados en el humanismo.

Esta dinámica positiva puede verse lastrada por las brechas o desigualdades en el acceso y el uso de las TIC entre diferentes grupos o regiones; las amenazas o vulneraciones a los derechos humanos en el ámbito digital; los conflictos o contradicciones entre los valores humanistas y los intereses económicos o políticos; o los efectos no deseados o no previstos de aplicaciones, plataformas y servicios digitales sobre el desarrollo humano y el medio ambiente.

La revolución humanista no se sigue de la conectividad

Conectar a más personas amplía el alcance de lo que ya está en marcha, sin decidir su dirección. La misma infraestructura que permitió a los movimientos de indignación coordinarse sin organización previa está disponible para fabricar la apariencia de un movimiento donde no lo hay (Castells, 2016), y el mismo diseño que facilita encontrar a quien comparte un interés minoritario facilita encontrar a quien comparte un delirio.

El apartado sostiene, por tanto, una tesis condicional. Las redes sociales pueden sostener redes de conocimiento y valores humanistas cuando concurren condiciones que la tecnología no proporciona: reguladores independientes, garantías jurídicas en los procedimientos de exclusión de contenidos y un reparto del capital digital que no deje fuera a quien carece de él. Sin esas condiciones, la infraestructura amplifica lo que encuentra.

Las redes sociales no solo proporcionan una plataforma para la comunicación y el intercambio de información, sino que también posibilitan la creación de redes de conocimiento, permitiendo que la información se distribuya, se construya y aplique colectivamente. Pero, en ciertos contextos y sin reguladores independientes, las redes sociales pueden funcionar como plataformas de desinformación, y no solo bajo intereses genuinamente democráticos. La misma infraestructura que permitió a los movimientos de indignación coordinarse sin organización previa está disponible para quien quiera fabricar una apariencia de movimiento donde no lo hay (Castells, 2016). Las restricciones y ventajas en el acceso pueden favorecer a ciertos actores con mayor capital social y digital, excluyendo a colectivos que carecen de él.

Cuestión aparte es la relativa al valor y la calidad del conocimiento producido y distribuido en las redes sociales. Si bien estas plataformas pueden ser lugares de innovación y creatividad, dada la naturaleza abierta y colaborativa de las redes sociales —en principio, asociada con dinámicas favorables a la producción de conocimientos más diversos y ricos—, no resulta sencillo asegurar la calidad del conocimiento que circula por las redes sociales, dado el carácter problemático de casi cualquier esquema de censura y la dificultad para introducir en el proceso de exclusión o filtrado de contenidos las garantías jurídicas que hacen posible el reconocimiento efectivo de los derechos y libertades políticas en otros ámbitos.

Durante años la explicación dominante de este deterioro fueron las cámaras de eco y las burbujas de filtro: el algoritmo selecciona lo afín, el usuario deja de encontrar lo que le contradice y la polarización se agrava (Flaxman et al., 2016; Garrett, 2009). La tesis conserva una parte sólida y ha perdido otra, y la distinción merece hacerse con cuidado porque es un ejercicio de la clase que este libro propone. Lo que se sostiene es que existe segregación ideológica medible en la exposición a noticias, y que es asimétrica: hay mucho más contenido consumido casi en exclusiva por un extremo del espectro que por el otro, y ahí se concentra prácticamente todo lo que los verificadores etiquetan como falso (González-Bailón et al., 2023). Lo que no se sostiene con la misma firmeza es el paso siguiente. Cuatro experimentos de campo realizados durante la campaña electoral estadounidense de 2020, con millones de cuentas y en colaboración con la propia empresa, alteraron durante tres meses los elementos que la tesis señala como causa: sustituir el muro algorítmico por uno cronológico, eliminar el contenido recompartido y reducir en un tercio las fuentes afines. Los tres cambiaron mucho lo que la gente veía y ninguno produjo efectos detectables sobre la polarización ni sobre las actitudes políticas (Guess et al., 2023a, 2023b; Nyhan et al., 2023).

Dos cautelas antes de sacar conclusiones. La primera es de método: aquellos experimentos midieron un algoritmo que la empresa había modificado con medidas de emergencia electoral, y tres meses no descartan efectos acumulativos de años. La segunda procede de la propia literatura: una revisión sistemática de ciento veintinueve estudios encuentra que el resultado depende sistemáticamente del método empleado, de modo que los trabajos basados en homofilia tienden a confirmar la cámara de eco y los basados en exposición real tienden a refutarla (Hartmann et al., 2025). A ello se añade la advertencia de que el relato público sobre los daños de la desinformación en línea podría haber sobrestimado tanto su alcance como su efecto causal, siendo la exposición minoritaria y estar muy concentrada en un público reducido (Budak et al., 2024). Nada de esto exculpa a las plataformas; desplaza la pregunta desde el algoritmo hacia quién busca qué y por qué.

Cómo leer un cuerpo de evidencia que se contradice

La discusión sobre cámaras de eco reúne trabajos que afirman el efecto y trabajos que lo niegan, y la tentación consiste en contar votos. La revisión de ciento veintinueve estudios muestra que el reparto no es aleatorio, porque los basados en homofilia tienden a confirmar la cámara de eco y los basados en exposición real tienden a refutarla (Hartmann et al., 2025). Buena parte del desacuerdo está en el instrumento.

Antes de cualquier recuento caben dos preguntas: qué midió cada estudio y sobre qué población. Una tercera vale para los experimentos de campo, y es cuánto duró la intervención. Tres meses sobre un sistema que lleva años operando informan del margen de maniobra a corto plazo y dicen poco de lo acumulado. El ejercicio no pertenece en exclusiva a este debate, y reaparece cada vez que una etiqueta cómoda agrupa hallazgos obtenidos con métodos distintos.

Lo dicho podría quedar pronto desfasado, como parte de un régimen que parece dejar de existir. En enero de 2025 Meta anunció el fin de su programa de verificación con verificadores externos en Estados Unidos y su sustitución por notas redactadas por los propios usuarios, un modelo que la evidencia disponible acredita como capaz de reducir de forma apreciable la difusión de contenidos falsos (Slaughter et al., 2025), pero que el órgano de supervisión de la propia empresa describió en marzo de 2026 como una herramienta de naturaleza distinta y complementaria, no sustitutiva, de la verificación profesional. La diferencia importa menos por cuánta desinformación circula que por quién sostiene el coste de verificar y con qué incentivos, puesto que una nota comunitaria no reduce la distribución del contenido, mientras que una etiqueta de verificación sí lo hacía.

Quién sostiene el coste de verificar

El paso de la verificación profesional a las notas redactadas por los propios usuarios se ha discutido sobre todo por su eficacia, y la evidencia disponible acredita que las notas reducen de forma apreciable la difusión de contenidos falsos (Slaughter et al., 2025). La comparación deja fuera dos diferencias que no son de eficacia.

La primera es económica: verificar deja de ser un servicio contratado y pasa a ser trabajo voluntario de los usuarios, con un ahorro que las plataformas no han cuantificado en público. La segunda es operativa, y afecta al mecanismo. Una nota comunitaria añade contexto al contenido; la etiqueta de verificación reducía además su distribución. Una medida informa a quien ya ha llegado al mensaje, mientras que la otra determinaba a cuánta gente llegaba. Discutir solo cuál convence más deja sin examinar quién paga y qué palanca se ha retirado.

El debate público se ha desplazado además desde el contenido hacia el diseño. La cuestión que ocupa hoy a reguladores y tribunales no es principalmente qué se dice en las plataformas, sino cómo están construidas para retener la atención de quien las usa y, muy en particular, la de los menores. Ese desplazamiento tiene consecuencias directas para lo que este apartado sostiene, porque sitúa el margen humanista de estas tecnologías donde efectivamente se decide —es decir, en relación con opciones de diseño que hasta hace poco se adoptaban sin escrutinio público y que han empezado a tenerlo por las cuatro vías examinadas en el caso que cierra esta sección—.

  1. Brown, Phillip, y Hugh Lauder (2001). “Human Capital, Social Capital and Collective Intelligence”. En S. Baron, J. Field y T. Schuller (eds.), Social Capital: Critical Perspectives, 226-242. Oxford: Oxford University Press.

  2. Fladerer, Johannes-Paul, y Ernst Kurzmann (2019). The Wisdom of the Many: How to Create Self-Organisation and How to Use Collective Intelligence in Companies and in Society. From Management to ManagemANT. Norderstedt: Books on Demand.

  3. Castells, M. (2016). Networks of outrage and hope: Social movements in the internet age. Polity Press.

  4. Flaxman, Seth, Sharad Goel, y Justin M. Rao (2016). “Filter Bubbles, Echo Chambers, and Online News Consumption”. Public Opinion Quarterly 80 (S1): 298–320. https://doi.org/10.1093/poq/nfw006.

  5. Garrett, R. Kelly (2009). “Echo Chambers Online?: Politically Motivated Selective Exposure among Internet News Users”. Journal of Computer-Mediated Communication: JCMC 14 (2): 265–85. https://doi.org/10.1111/j.1083-6101.2009.01440.x.

  6. Jenkins, Henry (2008). Convergence Culture: Where Old and New Media Collide. Nueva York, NY, Estados Unidos de América: New York University Press.

  7. Malone, Thomas W. (2018). Superminds: The Surprising Power of People and Computers Thinking Together. Nueva York: Little, Brown Spark.

  8. Martínez-Cortiña, R. (16/11/2022): Hacia la revolución humanista: Podemos superar colectivamente una eventual era de la oscuridad emulando una de las mejores prácticas en la historia del ser humano, el Renacimiento. https://telos.fundaciontelefonica.com/hacia-la-revolucion-humanista/

  9. Budak, Ceren, Brendan Nyhan, David M. Rothschild, Emily Thorson y Duncan J. Watts (2024). “Misunderstanding the Harms of Online Misinformation”. Nature 630 (8015): 45-53. https://doi.org/10.1038/s41586-024-07417-w

  10. González-Bailón, Sandra, David Lazer, Pablo Barberá et al. (2023). “Asymmetric Ideological Segregation in Exposure to Political News on Facebook”. Science 381 (6656): 392-398. https://doi.org/10.1126/science.ade7138

  11. Guess, Andrew M., Neil Malhotra, Jennifer Pan et al. (2023). “How Do Social Media Feed Algorithms Affect Attitudes and Behavior in an Election Campaign?”. Science 381 (6656): 398-404. https://doi.org/10.1126/science.abp9364

  12. Guess, Andrew M., Neil Malhotra, Jennifer Pan et al. (2023). “Reshares on Social Media Amplify Political News but Do Not Detectably Affect Beliefs or Opinions”. Science 381 (6656): 404-408. https://doi.org/10.1126/science.add8424

  13. Hartmann, David, Sonja Mei Wang, Lena Pohlmann y Bettina Berendt (2025). “A Systematic Review of Echo Chamber Research”. Journal of Computational Social Science 8 (2): 52. https://doi.org/10.1007/s42001-025-00381-z

  14. Nyhan, Brendan, Jaime Settle, Emily Thorson, Magdalena Wojcieszak et al. (2023). “Like-Minded Sources on Facebook Are Prevalent but Not Polarizing”. Nature 620 (7972): 137-144. https://doi.org/10.1038/s41586-023-06297-w

  15. Vallor, Shannon (2016). Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford: Oxford University Press.

  16. Comisión Europea (2026). Commission Preliminarily Finds Meta in Breach of Digital Services Act for Failing to Prevent Minors under 13 from Using Instagram and Facebook. IP/26/920, 29 de abril. https://ec.europa.eu/commission/presscorner/detail/en/ip_26_920

  17. Comisión Europea (2026). Commission Preliminarily Finds the Addictive Design of Instagram and Facebook in Breach of the Digital Services Act. IP/26/1579, 10 de julio. https://digital-strategy.ec.europa.eu/en/news/commission-preliminarily-finds-addictive-design-instagram-and-facebook-breach-digital-services-act

  18. Conseil constitutionnel (2026). Décision n.º 2026-911 DC du 14 août 2026. https://www.conseil-constitutionnel.fr/decision/2026/2026911DC.htm

  19. Fiscalía General de California (2026). Attorney General Bonta Secures Transformative $17 Billion Settlement with Meta. 26 de agosto. https://oag.ca.gov/news/press-releases/attorney-general-bonta-secures-transformative-17-billion-settlement-meta

  20. Slaughter, Isaac, Axel Peytavin, Johan Ugander y Martin Saveski (2025). “Community Notes Reduce Engagement with and Diffusion of False Information Online”. PNAS 122 (38): e2503413122. https://doi.org/10.1073/pnas.2503413122

I. Componentes humanísticos en la interacción a través de redes sociales en línea

  1. Valores y ética: las redes sociales permiten la rápida difusión de noticias y contenido, pero esto también genera preocupaciones sobre la desinformación, la privacidad y el discurso perjudicial en línea. Los usuarios deben lidiar con problemas éticos relacionados con la credibilidad, el consentimiento y la cortesía al publicar contenido visible para audiencias mucho mayores que las de su entorno inmediato. Proporciona nuevas oportunidades para la reflexión crítica sobre cómo utilizar la tecnología para el desarrollo humano, y no solo para el beneficio propio o de los grupos de poder (Holt et al., 2019; Vallor, 2016).

  2. Formación de identidad: las redes sociales sirven como un espacio para construir la identidad personal y grupal. Los perfiles, imágenes y discursos en las plataformas se convierten en parte de la imagen pública de una persona y un medio de autodescubrimiento. Sin embargo, esto también plantea desafíos para la autenticidad y las presiones sociales (Robards y Lincoln, 2017).

  3. Normas del discurso: la capacidad de conversar, debatir y entender diferentes perspectivas subyace en el progreso humano, pero las dinámicas en las plataformas sociales incentivan intercambios polarizados y reducidos. Mecanismos más reflexivos y una netiqueta que fomente el diálogo genuino y la empatía podrían mejorar el valor humanístico (Holt et al., 2019; Robards y Lincoln, 2017).

  4. Nuevas posibilidades: La interacción social mediada por ciertas tecnologías sociales puede amplificar rasgos y disposiciones humanas (la conexión, el compartir, coordinar esfuerzos para contrarrestar bulos y desinformación, mejorar la conciencia crítica) e involucrar a colectivos más amplios en objetivos e ideales compartidos (Fenwick y Molnar, 2022; Rich y Gureckis, 2019).

Referencias

  1. Vallor, Shannon. 2016. Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Londres, Inglaterra: Oxford University Press.
  2. Holt, Kristoffer, Tine Ustad Figenschou, y Lena Frischlich (2019). “Key Dimensions of Alternative News Media”. Digital Journalism 7 (7): 860–69. https://doi.org/10.1080/21670811.2019.1625715
  3. Robards, Brady, y Siân Lincoln (2017). “Uncovering Longitudinal Life Narratives: Scrolling Back on Facebook”. Qualitative Research: QR 17 (6): 715–30. https://doi.org/10.1177/1468794117700707
  4. Fenwick, A., y G. Molnar. 2022. “The Importance of Humanizing AI: Using a Behavioral Lens to Bridge the Gaps between Humans and Machines”. Discover Artificial Intelligence 2 (1). https://doi.org/10.1007/s44163-022-00030-8
  5. Rich, Alexander S., y Todd M. Gureckis. 2019. “Lessons for Artificial Intelligence from the Study of Natural Stupidity”. Nature Machine Intelligence 1 (4): 174–80. https://doi.org/10.1038/s42256-019-0038-z
  6. TUT (Aug 19, 2020). The Danger of Humanizing Algorithms. https://betterprogramming.pub/the-danger-of-humanizing-algorithms-a9a0e1a5c8e6
  7. Yang, Riyan, Lin Li, Wensheng Gan, Zefeng Chen, y Zhenlian Qi. 2023. “The Human-Centric Metaverse: A Survey”. En Companion Proceedings of the ACM Web Conference 2023. New York, NY, USA: ACM. https://doi.org/10.1145/3543873.3587593

II. Moderadores de Facebook enferman por el contenido que revisan

  1. Salud laboral y cultura corporativa: Meta subcontrata a otras empresas la moderación de contenidos en Facebook e Instagram. Sin formación previa, este grupo de trabajadores cursa bajas en una proporción anormalmente alta (20%) por traumas y secuelas derivadas del tipo de contenidos que deben filtrar, actuando como guardianes de las redes sociales.

  2. Riesgos psicosociales de la exposición a contenidos violentos: El “grupo de alta prioridad” se ocupa de filtrar el contenido más salvaje (“Asesinatos brutales, desmembramientos, torturas, violaciones, suicidios en directo, niños siendo abusados. Lo peor de los humanos”).

  3. Secuelas: En pocos años, algunos trabajadores requieren tratamiento psiquiátrico y dependen de psicofármacos para afrontar ataques de pánico y otros síntomas.

  4. Acción colectiva: En EE.UU. se ha presentado una demanda colectiva. En 2020 Facebook indemnizó con 52 millones de dólares a más de 11.000 moderadores. En Kenia y en otros países hay más subcontratas denunciadas.

  5. Tipo y volumen de contenido retirado: Meta informa cada trimestre del volumen de contenidos que retira. En el segundo del 2023, fueron 7,2 millones de contenidos por abuso sexual a niños, otros 6,4 millones por suicidio y autolesión de Facebook, 6,2 millones por violencia en Instagram, 17,5 millones por discurso de odio en Facebook.

Discusión

  • El efecto de la exposición a contenidos violentos en la salud de moderadores, con múltiples episodios de estrés postraumático, plantea el problema de cuáles deberían ser las condiciones adecuadas en puestos similares para evitar graves efectos neurológicos. La necesidad de medidas de prevención para trabajadores individuales da una idea del impacto potencial que tendría la exposición a contenidos de naturaleza similar en el conjunto de la población.

  • Se plantea el problema de la validez del consentimiento informado en este tipo de actividad, dado que una aceptación del carácter “perturbador” del contenido no atenúa sus efectos en la salud mental de los trabajadores.

  • Se puede abordar la utilidad (y limitaciones) de las herramientas de IA para contribuir a que este tipo de actividad se pueda desarrollar de forma más segura, así como el tipo de entrenamiento y capacitación requeridos, más la duración de los periodos de reposo o desconexión.

«Results indicate that while social media can create a sense of community for the user, excessive and increased use of social media, particularly among those who are vulnerable, is correlated with depression and other mental health disorders.» (Ulvi et al., 2022, p. 11)

Enlaces y referencias
1. Orovio, I., G. Saura (6/10/2023). “Moderadores de Facebook enferman por el contenido que revisan”. https://www.lavanguardia.com/vida/20231006/9279078/mi-cabeza-solo-hay-muerte.html
2. Reuters (SEP. 24, 2018). “Facebook not protecting content moderators from mental trauma: lawsuit”. https://www.reuters.com/article/us-facebook-lawsuit-idUSKCN1M423Q
3. Ulvi, Osman et al. (2022). “Social Media Use and Mental Health: A Global Analysis”. Epidemiologia (Basel, Switzerland) 3 (1): 11–25. https://doi.org/10.3390/epidemiologia3010002

III. Cómo YouTube y otras redes sociales amplifican las teorías QAnon de la conspiración

QAnon es una de las teorías de la conspiración más extendidas por y entre la extrema derecha estadounidense. Es una teoría conspirativa sobre actores ocultos que controlan la dinámica política y que lleva asociado un movimiento político, consolidado en una parte radical del espectro político estadounidense a partir de 2017. Entre los seguidores del ex-presidente Trump (y alentada en público por él) parece haberse integrado en la ortodoxia republicana, lo que da una idea del tipo de atmósfera ideológica en la que puede prosperar. Algunas fuentes para articular el caso:

  1. PRS (16/11/2020): 5 facts about the QAnon conspiracy theories: More than a dozen 2020 U.S. House and Senate candidates have engaged with the collection of conspiracy theories known as QAnon. At least two of those candidates won their races and will be heading to Congress in 2021. → https://www.pewresearch.org/short-reads/2020/11/16/5-facts-about-the-qanon-conspiracy-theories/
  2. PRS (2020, sept. 16). 3. Most Americans who have heard of QAnon conspiracy theories say they are bad for the country and that Trump seems to support people who promote them. Pew Research Center. https://www.pewresearch.org/journalism/2020/09/16/most-americans-who-have-heard-of-qanon-conspiracy-theories-say-they-are-bad-for-the-country-and-that-trump-seems-to-support-people-who-promote-them/

Sobre el papel de las redes sociales en la difusión de teorías de la conspiración, interesa ver cuánto tardan en reaccionar las plataformas para retirar contenidos o cerrar canales una vez que reciben la denuncia por contenidos nocivos o que incitan a la violencia. El retraso en reaccionar es preocupante, ya que las conspiraciones casi siempre refuerzan los comportamientos antisociales contra minorías y grupos denigrados por los conspiradores.

En 2020, Susan Wojcicki, entonces consejera delegada de YouTube, aportaba explicaciones poco convincentes sobre la dificultad para cerrar ciertos canales o impedir la difusión de contenidos que fácilmente superaban los 15 millones de visitas, con lo que esto supone en ingresos para la compañía:

«Desde 2018, YouTube ha tomado una serie de medidas coercitivas y cambios de políticas para reducir el contenido de QAnon utilizando las reglas existentes contra la incitación a la violencia o la revelación de información privada. Estas medidas llevaron a la eliminación de decenas de miles de videos de QAnon y al cierre de cientos de canales relacionados con Q». No obstante, reconocía que “muchos” vídeos de QAnon habían escapado a la moderación hasta ese momento porque se consideran “contenido límite”, al no haber violado ninguna política específica. “Creo que toda política debe definirse con mucha claridad. ¿Qué significa exactamente un grupo QAnon?”, dijo Wojcicki. “Es algo que tendríamos que incluir en las políticas y asegurarnos de que quede muy claro”.» (Zadrozny y Collins, 2020)

Fuentes:

  1. How QAnon is spreading unproven theories through the suburbs. (2020, 15 octubre). [Vídeo]. NBC News. https://www.nbcnews.com/tech/tech-news/youtube-bans-qanon-other-conspiracy-content-targets-individuals-n1243525
  2. PRS (16/11/2020): “5 facts about the QAnon conspiracy theories. Pew Research Center”. https://www.pewresearch.org/short-reads/2020/11/16/5-facts-about-the-qanon-conspiracy-theories
  3. NBC (2020, 6 octubre). “How to talk to family or friends that went down the QAnon rabbit hole”. [Vídeo]. NBC News. https://www.nbcnews.com/tech/tech-news/facebook-bans-qanon-across-its-platforms-n1242339
  4. NBC News (2020, 23 julio).”Twitter bans conspiracy theory followers, cites harassment and misinformation”. [Vídeo]. https://www.nbcnews.com/tech/tech-news/twitter-bans-7-000-qanon-accounts-limits-150-000-others-n1234541

IV. Diseño adictivo y respuesta regulatoria comparada

El problema. Durante quince años la discusión pública sobre las plataformas se centró en el contenido —qué se publica, qué se retira y quién decide—. Desde 2024 el centro de gravedad se ha desplazado hacia el diseño del servicio, es decir, hacia los mecanismos que determinan cuánto tiempo permanece conectado quien lo usa, mediante desplazamiento infinito, reproducción automática, notificaciones, recomendación personalizada y ausencia de puntos naturales de salida. La diferencia no es de matiz. Un régimen que examina contenidos entra en conflicto permanente con la libertad de expresión; un régimen que examina el diseño no discute acerca de lo dicho, sino cómo está construido el sitio donde se produce la interacción. Cuatro jurisdicciones han abordado ese problema por vías distintas, y se describen en función de su estado en hasta finales de agosto de 2026.

1. Estados Unidos: por litigio. El 25 de marzo de 2026, un jurado del Tribunal Superior del condado de Los Ángeles declaró a Meta y a Google responsables por negligencia y diseño defectuoso en Instagram y YouTube, y concluyó que ambos fueron factores sustanciales en la depresión, la ansiedad y la dismorfia corporal de la demandante, pese a la existencia de otros factores en su entorno familiar. Es el primer veredicto de un jurado en el mundo que atribuye responsabilidad por diseño adictivo. La indemnización fue modesta —seis millones de dólares, con un reparto de responsabilidad del 70 % a Meta y el 30 % a Google— pero la relevancia del caso no está en la cuantía. Cinco meses después, el 26 de agosto de 2026 y tras ocho días de un segundo juicio, Meta acordó con una coalición bipartidista de cincuenta y un fiscales generales una compensación de hasta diecisiete mil millones de dólares en diez años, sujeta a aprobación judicial, acompañada de obligaciones concretas de diseño para las cuentas de menores: límite diario por defecto de dos horas, bloqueo nocturno, bloqueo de notificaciones en horario escolar, prohibición de filtros de cirugía estética, ocultación de los contadores de «me gusta», opción de muro no personalizado y supervisión por un auditor independiente (Fiscalia General de California, 2026).

2. Unión Europea: por reglamento. La Comisión abrió procedimiento formal contra Facebook e Instagram en mayo de 2024 al amparo del Reglamento de Servicios Digitales. En abril de 2026 concluyó, con carácter preliminar, que Meta no identifica ni mitiga con diligencia el riesgo de que menores de trece años accedan a sus servicios: basta introducir una fecha de nacimiento falsa, los sistemas de detección son limitados y las herramientas de denuncia resultan de difícil acceso. La Comisión estima que entre el 10 % y el 12 % de los menores de trece años de la Unión usan estas plataformas (Comision Europea, 2026a). En julio del mismo año emitió una segunda tanda de conclusiones preliminares, esta vez sobre el diseño adictivo propiamente dicho (Comision Europea, 2026b). Ninguna de las dos ha dado lugar todavía a decisión firme, y conviene retener el dato: a septiembre de 2026 no existe multa alguna contra Meta bajo el Reglamento. La única decisión de incumplimiento adoptada hasta ahora fue contra X, en diciembre de 2025, por ciento veinte millones de euros.

3. Australia: por prohibición. La reforma de la ley de seguridad en línea aprobada en diciembre de 2024 prohíbe el acceso de los menores de dieciséis años a las plataformas designadas, con obligaciones exigibles desde diciembre de 2025 y multas de hasta 49,5 millones de dólares australianos para quien no adopte medidas razonables de verificación de edad. La ley no impone consecuencia alguna a los menores ni a sus familias: la carga recae íntegramente sobre la plataforma.

4. Francia: el límite constitucional. El Parlamento francés aprobó el 21 de julio de 2026 una ley que prohibía el acceso a las redes sociales a los menores de quince años. El 14 de agosto el Consejo Constitucional anuló el artículo que contenía la prohibición, por dos motivos: restringe de forma desproporcionada la libertad de acceder a los servicios de comunicación al público en línea, al no atender ni a las circunstancias individuales ni a los riesgos específicos de cada servicio; y las garantías de protección de datos previstas para la verificación de edad resultan insuficientes (Conseil constitutionnel, 2026). El resto de la ley se mantuvo en vigor.

Implicaciones del caso en un texto de epistemología. Las cuatro vías descansan sobre supuestos distintos acerca de qué se puede saber y qué hay que probar. El litigio estadounidense exige acreditar causalidad individual — por ejemplo, que este diseño dañó a esta persona, con un jurado decidiendo sobre evidencia científica en disputa. El reglamento europeo no exige probar daño, sino diligencia en la evaluación del riesgo, lo que traslada la carga desde el efecto hasta el procedimiento. La prohibición australiana renuncia a la prueba caso por caso y adopta un umbral de edad, es decir, una regla que sacrifica precisión a cambio de aplicabilidad. Y la censura francesa recuerda que ninguna de las tres opera en el vacío —su eficacia no basta para justificar una restricción de derechos—, y la verificación de edad genera a su vez un problema de datos personales que la solución debía resolver pero no quedó claro cómo.

Preguntas para la discusión.

  • ¿Qué habría que medir para afirmar que un diseño «causa» adicción? ¿Puede un jurado establecerlo con la evidencia disponible, y qué diferencia hay entre lo que necesita un tribunal y lo que exigiría una revista científica? Compárese con lo examinado sobre el exceso de objetividad en el capítulo 5.
  • El régimen europeo sanciona la falta de diligencia en la evaluación del riesgo, no el daño. ¿Es un avance epistémico —regular lo que sí se puede acreditar— o una manera de sortear la pregunta difícil?
  • Verificar la edad exige identificar al usuario. ¿Cómo se protege a los menores sin construir la infraestructura de identificación que el propio apartado señala como problema?
  • Si la evidencia sobre efectos de la exposición algorítmica en la polarización resultó más débil de lo esperado, ¿por qué habría de ser más firme la evidencia sobre efectos en la salud mental de los adolescentes? ¿Qué diferencias hay entre los dos cuerpos de investigación?

Material de partida: los dos comunicados de la Comisión Europea (abril y julio de 2026), la nota de prensa de la Fiscalía General de California de 26 de agosto de 2026 con el detalle de las obligaciones de diseño, y la decisión 2026-911 DC del Consejo Constitucional francés, cuyo razonamiento sobre proporcionalidad es el texto más breve y más denso del conjunto.

6.6 Dataísmo, Internet de las Cosas, algoritmos y machine learning

El dataísmo es una filosofía o ideología que considera que los datos son la fuente de todo conocimiento y valor, y que el flujo de información es el valor supremo y el mayor bien de todos. Su base es la creencia de que todo fenómeno puede ser cuantificado, medido y analizado mediante el uso de algoritmos, inteligencia artificial (IA) y machine learning (ML). El dataísmo se apoya en el desarrollo del Internet de las Cosas (IoT), que consiste en la interconexión de objetos cotidianos con sensores y dispositivos que generan y transmiten datos a través de internet (Broussard, 2018; Swan, 2012).

El dataísmo tiene un gran impacto socio-cultural, ya que plantea una nueva forma de entender y organizar la realidad, la sociedad y el ser humano. Algunas de las implicaciones del dataísmo son las siguientes:

  1. El desplazamiento del humanismo: El humanismo es una corriente cultural que defiende la dignidad, la libertad y la razón del ser humano, así como el reconocimiento de la diversidad, el pluralismo, el diálogo y la solidaridad entre los seres humanos. El dataísmo cuestiona el humanismo al afirmar que los datos son más importantes que las personas, y que los algoritmos pueden tomar mejores decisiones que los humanos. El dataísmo reduce al ser humano a un conjunto de datos, y lo somete a la autoridad y el control de las máquinas.

  2. La transformación de la ciencia: La ciencia es el conjunto de conocimientos obtenidos mediante la observación, la experimentación y el razonamiento. La ciencia se basa en el método científico, que consiste en formular hipótesis, contrastarlas con la realidad y elaborar teorías. El dataísmo modifica la ciencia al afirmar que los datos son suficientes para generar conocimiento, sin necesidad de hipótesis ni teorías. El dataísmo confía en el poder de los algoritmos, la IA y el ML para procesar grandes cantidades de datos (big data) y extraer patrones, correlaciones y predicciones. La formulación más conocida de esta idea es de 2008 y anunciaba directamente el fin de la teoría: con datos suficientes, los números hablarían por sí solos y la correlación bastaría (Anderson, 2008). La respuesta desde la epistemología de la ciencia fue temprana y sigue siendo pertinente. Ningún conjunto de datos es un registro neutral de la realidad: qué se mide, con qué instrumento, con qué granularidad y qué se descarta son decisiones cargadas de teoría que anteceden al análisis (Kitchin, 2014). El argumento se ha vuelto a plantear con el aprendizaje automático contemporáneo, cuyo ideal libre de teoría reproduce el mismo supuesto y tropieza con la misma objeción: sin hipótesis sobre qué clase de regularidad se busca, no hay manera de distinguir el patrón que importa del artefacto del muestreo (Andrews, 2026).

  3. La redefinición de la educación: La educación es el proceso de facilitar el aprendizaje y el desarrollo integral de las personas. La educación se basa en la transmisión de valores, conocimientos, habilidades y competencias. El dataísmo influye en la educación al afirmar que los datos son la principal fuente de aprendizaje, y que los algoritmos, la IA y el ML son los principales agentes educativos (Dijck, 2014; Lupton, 2019).

Como aspecto novedoso en sus implicaciones educativas, el dataísmo propone una educación personalizada, adaptativa y automatizada, basada en el análisis de los datos del estudiante y en el uso de plataformas digitales. En la educación superior, al menos, se ha consolidado la tendencia al uso de plataformas que sirven de soporte a los procesos de aprendizaje. Además de facilitar el acceso a la educación, aportan herramientas de seguimiento, visualización e interpretación de la actividad que cada estudiante realiza en la plataforma.

Ningún conjunto de datos habla por sí solo

La formulación fuerte del dataísmo anunciaba el fin de la teoría: con datos suficientes, los números hablarían solos y la correlación bastaría (Anderson, 2008). La objeción epistemológica concede la potencia del método y discute su punto de partida. Qué se mide, con qué instrumento, con qué granularidad y qué se descarta son decisiones cargadas de teoría que anteceden al análisis (Kitchin, 2014).

El argumento reaparece con el aprendizaje automático contemporáneo y tropieza con la misma dificultad: sin hipótesis sobre qué clase de regularidad se busca, falta criterio para separar el patrón que importa del artefacto del muestreo (Andrews, 2026). Un sistema capaz de encontrar estructura en cualquier conjunto de datos suficientemente grande necesita, para resultar útil, que alguien haya decidido antes qué contaría como hallazgo.

Es innegable que el desarrollo de la IoT ha ampliado nuestra interacción con la tecnología, permitiendo que los objetos cotidianos se conecten a la red y recojan, procesen y compartan datos. Esta hiperconexión novedosa ha transformado nuestra relación con la tecnología y ha desdibujado las fronteras entre lo físico y lo digital, con repercusiones importantes en los procesos educativos, en las relaciones y la vida laboral.

La omnipresencia de los datos ha promovido el desarrollo de algoritmos más sofisticados, y la IA y el Machine Learning se han convertido en elementos fundamentales para la interpretación y el análisis de los datos recopilados a partir de la actividad común de los usuarios en distintas plataformas. Combinadas, estas tecnologías han demostrado su capacidad para mejorar la eficiencia y la productividad, así como para generar nuevos conocimientos y oportunidades. Pero contribuyen también a un ambiente nada sutil de «hipervigilancia» como base de actividades muy lucrativas y políticamente poco transparentes, interponiendo con facilidad y sin garantías legales a múltiples actores con capacidad de acceder y recopilar datos personales, sin que resulte obvia su justificación ni su impacto en el deterioro del derecho a la privacidad. El planteamiento de Carissa Véliz añade a este punto una precisión que conviene retener: la privacidad no es solo un interés individual que cada cual pueda ceder a cambio de un servicio gratuito, porque los datos personales son también información sobre terceros con quienes se comparten rasgos, de modo que cederlos afecta a quien no ha consentido nada; y porque quien acumula datos sobre una población adquiere sobre ella una capacidad de predicción y de influencia que es, en sentido estricto, poder (Véliz, 2020, 2024).

La privacidad no se cede solo por cuenta propia

Entregar datos personales a cambio de un servicio se presenta como una transacción individual, y esa descripción falla por dos motivos. Los datos de una persona son también información sobre terceros con quienes comparte rasgos, de modo que la cesión afecta a quien no ha consentido nada. Además, quien acumula datos sobre una población adquiere sobre ella capacidad de predicción y de influencia, que es poder en sentido estricto (Véliz, 2020).

La consecuencia afecta al diseño de las garantías. Un régimen construido sobre el consentimiento individual protege mal un bien que es en parte colectivo, del mismo modo que un permiso individual no bastaría para autorizar un vertido. La discusión se desplaza entonces desde qué acepta cada usuario hacia qué está permitido acumular, y esa decisión no cabe delegarla en el clic de un formulario.

Esa capacidad de influencia plantea un problema conceptual anterior al jurídico: cuándo un sistema que orienta decisiones deja de persuadir y pasa a manipular. La distinción no depende de que el resultado sea bueno o malo para quien decide, sino de si la influencia se ejerce a través de sus razones o esquivándolas, y de si funciona porque permanece oculta (Klenk, 2022; Susser et al., 2019). Trasladada a la esfera política, la cuestión es si un espacio público mediado por sistemas de recomendación optimizados para retener la atención puede seguir sosteniendo las condiciones que la democracia presupone: acceso a información contrastable, tiempo para deliberar y autonomía para cambiar de opinión (Coeckelbergh, 2022, 2024).

En relación con la toma de decisiones, la IA y los algoritmos tienen un gran potencial para orientar el abordaje de problemas complejos, desde el cambio climático hasta la atención sanitaria, y de transformar la vida colectiva de manera positiva. Pero la dependencia de algoritmos e IA suscita inquietudes acerca de los mecanismos de transparencia y equidad, dado que los algoritmos reflejan los sesgos de sus creadores, el contexto de entrenamiento y los problemas de calidad de los datos de partida (lo que puede perpetuar o agravar dinámicas de discriminación y desigualdad social) (Floridi, 2014; Russell y Norvig, 2019).

La economía basada en los datos está creando nuevas formas de poder, si consideramos el tamaño e implantación global de las empresas que controlan y procesan grandes cantidades de datos en conexión con el ecosistema de servicios que prestan, muchas veces sin competidores ni supervisión estatal disuasoria de las malas prácticas.

En lo que afecta a las oportunidades de empleo, las tecnologías basadas en los datos y algoritmos de IA están facilitando la automatización de muchos puestos de trabajo en nichos tradicionales de ocupación masiva. El desajuste podría provocar desempleo generalizado y malestar social en ciertos sectores de actividad.

Desde 2024 este dominio ha dejado de estar regulado únicamente por el derecho general. El Reglamento europeo de inteligencia artificial, en vigor desde agosto de aquel año, ordena los sistemas por niveles de riesgo y prohíbe algunos de forma expresa (Unión Europea, 2024). Dos prohibiciones afectan de lleno a lo tratado en este apartado: la evaluación del riesgo de que una persona cometa un delito cuando se basa únicamente en la elaboración de perfiles o en rasgos de personalidad, y la categorización biométrica destinada a inferir raza, opiniones políticas, afiliación sindical, convicciones religiosas u orientación sexual. La delimitación tiene una consecuencia que merece discutirse en clase: la predicción de base territorial, la que señala zonas y no personas, queda fuera de la prohibición y solo entra en el régimen de alto riesgo, pese a que sus efectos sobre la distribución de la vigilancia policial son bien conocidos. La aplicación del reglamento, además, se ha ido aplazando: en julio de 2026 se pospuso hasta diciembre de 2027 la exigibilidad de las obligaciones para los sistemas de alto riesgo del anexo III.

Lo que la prohibición deja fuera

El Reglamento europeo de inteligencia artificial prohíbe evaluar el riesgo de que una persona cometa un delito cuando la evaluación se basa únicamente en la elaboración de perfiles o en rasgos de personalidad, y prohíbe la categorización biométrica destinada a inferir raza, opiniones políticas, afiliación sindical, convicciones religiosas u orientación sexual (Unión Europea, 2024). Ambas prohibiciones señalan a la persona como objeto de la predicción.

La predicción de base territorial queda fuera y solo entra en el régimen de alto riesgo, pese a que su efecto sobre la distribución de la vigilancia policial es conocido y recae sobre poblaciones concretas. El límite trazado resulta jurídicamente nítido y epistemológicamente frágil, porque una predicción sobre un barrio de composición social determinada produce en sus vecinos consecuencias que la norma reserva a las predicciones individuales.

  1. Broussard, Meredith (2018). Artificial unintelligence: How computers misunderstand the world. The MIT Press.

  2. Floridi, Luciano (2014). The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Londres, Inglaterra: Oxford University Press.

  3. Lupton, Deborah (2019). Data Selves: More-than-Human Perspectives. Oxford, Inglaterra: Polity.

  4. Russell, Stuart, y Peter Norvig (2019). Artificial Intelligence: A Modern Approach. Pearson Higher Education.

  5. Swan, Melanie (2012). “Sensor Mania! The Internet of Things, Wearable Computing, Objective Metrics, and the Quantified Self 2.0”. Journal of Sensor and Actuator Networks 1 (3): 217–53. https://doi.org/10.3390/jsan1030217.

  6. Van Dijck, Jose (2014). “Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology”. Surveillance & society 12 (2): 197–208. https://doi.org/10.24908/ss.v12i2.4776.

  7. Anderson, Chris (2008). “The End of Theory: The Data Deluge Makes the Scientific Method Obsolete”. Wired, 23 de junio. https://www.wired.com/2008/06/pb-theory/

  8. Andrews, Mel (2026). “The Immortal Science of ML: Machine Learning and the Theory-Free Ideal”. Erkenntnis 91 (6): 2685-2707. https://doi.org/10.1007/s10670-025-01010-x

  9. Alikhademi, Kiana, et al. (2022). “A Review of Predictive Policing from the Perspective of Fairness”. Artificial Intelligence and Law 30 (1): 1-17. https://doi.org/10.1007/s10506-021-09286-4

  10. Brayne, Sarah, y Angèle Christin (2021). “Technologies of Crime Prediction”. Social Problems 68 (3): 608-624. https://doi.org/10.1093/socpro/spaa004

  11. Coeckelbergh, Mark (2022). The Political Philosophy of AI: An Introduction. Cambridge: Polity Press.

  12. Coeckelbergh, Mark (2024). Why AI Undermines Democracy and What to Do about It. Cambridge: Polity Press.

  13. Kitchin, Rob (2014). “Big Data, New Epistemologies and Paradigm Shifts”. Big Data & Society 1 (1). https://doi.org/10.1177/2053951714528481

  14. Klenk, Michael (2022). “(Online) Manipulation: Sometimes Hidden, Always Careless”. Review of Social Economy 80 (1): 85-105. https://doi.org/10.1080/00346764.2021.1894350

  15. Meijer, Albert, y Martijn Wessels (2019). “Predictive Policing: Review of Benefits and Drawbacks”. International Journal of Public Administration 42 (12): 1031-1039. https://doi.org/10.1080/01900692.2019.1575664

  16. Oficina del Inspector General de Chicago (2020). Advisory Concerning the Chicago Police Department’s Predictive Risk Models. Enero. https://igchicago.org/wp-content/uploads/2020/01/OIG-Advisory-Concerning-CPDs-Predictive-Risk-Models-.pdf

  17. Saunders, Jessica, Priscillia Hunt y John S. Hollywood (2016). “Predictions Put into Practice: A Quasi-Experimental Evaluation of Chicago’s Predictive Policing Pilot”. Journal of Experimental Criminology 12 (3): 347-371. https://doi.org/10.1007/s11292-016-9272-0

  18. Susser, Daniel, Beate Roessler y Helen Nissenbaum (2019). “Technology, Autonomy, and Manipulation”. Internet Policy Review 8 (2). https://doi.org/10.14763/2019.2.1410

  19. Unión Europea (2024). Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial. https://eur-lex.europa.eu/eli/reg/2024/1689/oj

  20. Véliz, Carissa (2020). Privacy Is Power: Why and How You Should Take Back Control of Your Data. Londres: Bantam Press.

  21. Véliz, Carissa (2024). The Ethics of Privacy and Surveillance. Oxford: Oxford University Press.

Riesgos del dataísmo: Uso de macrodatos y algoritmos para predecir y prevenir el crimen

En ciudades como Chicago y otras, se han implementado sistemas de “vigilancia predictiva” que usan datos históricos de crímenes y algoritmos para identificar lugares y personas con mayor probabilidad de participar en actividades criminales (Meijer y Wessels, 2019).

Si bien esto promete eficiencia, ignora factores sociales complejos e incentiva discriminación contra minorías que ya sufren sesgos en el sistema penal, además de perpetuar ciclos de encarcelamiento sin abordar causas sistémicas del crimen (Alikhademi et al., 2022).

Una perspectiva más humanista integraría métodos cuantitativos con investigación cualitativa para entender motivaciones, entornos comunitarios y oportunidades que llevan al crimen. Así se evitarían soluciones simplistas basadas solo en correlaciones (Brayne y Christin, 2021).

El caso propuesto plantea los problemas asociados con el dataísmo y el riesgo de que, aplicado acríticamente al ámbito social, genere una falsa apariencia de objetividad, pero sin la riqueza contextual que aportan las ciencias sociales y las humanidades. El problema de los sesgos epistémicos derivados del uso de herramientas inadecuadas como soporte de la toma de decisiones adquiere dimensiones inquietantes en contexto forense y en eventuales programas de prevención del delito de las fuerzas de seguridad.

El desenlace del caso. El programa de Chicago no quedó en hipótesis: se aplicó, se evaluó y se cerró. La evaluación cuasiexperimental del piloto encontró que las personas incluidas en la lista no tenían mayor ni menor probabilidad de resultar víctimas de un tiroteo que el grupo de comparación, pero sí una probabilidad mayor de ser detenidas por un delito de esa clase, lo que sugiere que algunos agentes la utilizaron como directorio de sospechosos y no como instrumento de prevención (Saunders et al., 2016). En enero de 2020 la Oficina del Inspector General de la ciudad publicó una auditoría que documentaba que se habían asignado puntuaciones de riesgo a cerca de cuatrocientas mil personas detenidas entre 2012 y 2018, con independencia de que hubieran sido condenadas, con personal insuficientemente formado y sin controles de acceso ni evaluación rigurosa; para entonces el departamento había desmantelado el programa sin anunciarlo y sin retirar todas sus referencias internas (Office of Inspector General, City of Chicago, 2020).

Lo que hace instructivo el caso no es que el sistema fallara, sino la asimetría entre la rapidez con que se implantó y la lentitud con que se evaluó y se cerró. Cuatrocientas mil personas recibieron una puntuación antes de que existiera evidencia de que la puntuación sirviera para algo.

Referencias

  1. Fan, Jianqing, Yingying Fan, Jinchi Lv, y Fan Yang (2022). “SIMPLE-RC: Group network inference with non-sharp nulls and weak signals”. https://doi.org/10.48550/ARXIV.2211.00128

  2. NYPDStop, Question and Frisk Data. https://www.nyc.gov/site/nypd/stats/reports-analysis/stopfrisk.page

  3. Rosenfeld, Richard, y Robert Fornango (2017). “The Relationship between Crime and Stop, Question, and Frisk Rates in New York City Neighborhoods”. Justice Quarterly 34 (6): 931–51. https://doi.org/10.1080/07418825.2016.1275748

  4. Sun, C., Shrivastava, A., Singh, S., & Gupta, A. (2017, July 10). Revisiting unreasonable effectiveness of data in deep learning era. arXiv.org. https://arxiv.org/abs/1707.02968

  5. Khan, Salman, Muzammal Naseer, Munawar Hayat, Syed Waqas Zamir, Fahad Shahbaz Khan, y Mubarak Shah (2022). “Transformers in Vision: A Survey”. ACM Computing Surveys 54 (10s): 1–41. https://doi.org/10.1145/3505244.

6.7 La irrupción de ChatGPT y otros servicios de IA generativa. Implicaciones

La inteligencia artificial generativa (IAGen) es una aplicación de múltiples desarrollos en varias ramas de la computación para potenciar la capacidad de crear contenidos originales y coherentes (texto, imágenes, música, audio y vídeos) a partir del aprendizaje sobre instrucciones o datos existentes y generar contenido nuevo y único mediante el uso de algoritmos, redes neuronales y aprendizaje automático (ML). La IA generativa puede aplicarse para potenciar la creatividad en diversos ámbitos, como el arte, la música, el cine, la literatura, el periodismo o la educación.

Uno de los ejemplos más destacados de IA generativa es ChatGPT, implementado como aplicación web para generar textos en lenguaje natural sobre cualquier tema, con un alto grado de verosimilitud y calidad. La generación de texto incluye programación a demanda y depuración de código en una extensa variedad de lenguajes. Sin conocimientos muy avanzados, se puede lograr que los sistemas informáticos aprendan a partir de series específicas de datos sin ser programados explícitamente, utilizando los patrones aprendidos para generar contenido nuevo.

Mencionar un solo servicio, sin embargo, describe mal el panorama, y tiene implicaciones epistemológicas que merece la pena considerar. Este apartado se redactó cuando ChatGPT era prácticamente sinónimo de inteligencia artificial generativa; desde entonces el campo se ha ensanchado en cuatro direcciones que hoy parece inexcusable distinguir, porque cada una obliga a reformular el problema de otra manera. La primera es la concurrencia: varios laboratorios ofrecen sistemas de capacidad comparable, de modo que ninguna afirmación sobre «la IA» puede sostenerse ya examinando un único producto. La segunda es la aparición de modelos de pesos abiertos, descargables y ejecutables en equipos propios, que rompen el supuesto de que estas herramientas solo funcionan como servicio remoto y desplazan el problema de la gobernanza desde la plataforma hasta quien las despliega. La tercera es la multimodalidad: texto, imagen, audio y vídeo dejan de ser dominios separados. Y la cuarta, con mayor relevancia en este apartado, es el paso del chat al agente, del sistema que responde al sistema que ejecuta tareas encadenadas con herramientas externas, y que se trata en §6.8.

La consecuencia práctica es que fechar cualquier afirmación sobre capacidades resulta obligatorio. Un enunciado del tipo «estos sistemas no pueden hacer X» tiene una vida útil corta, y la manera adecuada de formularlo consiste en decir qué se midió, cuándo y con qué prueba. El panorama de implicaciones multidisciplinares que abrió la irrupción de estos servicios quedó recogido tempranamente en un trabajo colectivo de más de cuarenta autores que sigue siendo un buen mapa de las cuestiones abiertas (Dwivedi et al., 2023).

Toda afirmación sobre capacidades lleva fecha

Un enunciado del tipo «estos sistemas no pueden hacer X» tiene una vida útil corta y lo refuta cualquier versión posterior, sin que la refutación aclare gran cosa. La formulación defendible indica qué se midió, cuándo y con qué prueba. La exigencia no es un formalismo académico, porque separa una observación comprobable de una impresión sobre el estado de la técnica.

Para este apartado, la consecuencia es que sus afirmaciones deben leerse con la fecha de cierre de la edición y comprobarse antes de citarlas. Para el lector, la consecuencia es más general. En un campo donde la capacidad cambia por versiones, la operación útil ante cualquier titular consiste en localizar la prueba concreta que respalda la afirmación y examinar qué mide esa prueba, que rara vez coincide con lo que el titular promete.

Es previsible que la irrupción de ChatGPT y otros servicios de IA generativa tenga un gran impacto social, educativo y laboral, considerando su rápida adopción y las transformaciones que puede inducir incluso en los ámbitos de actividad profesional más cualificados. Su potencial plantea nuevos desafíos y oportunidades para los trabajadores, las organizaciones y la sociedad en general. La generalización del uso de servicios de IAGen puede tener implicaciones significativas prácticamente en cualquier ámbito de actividad profesional:

  1. Cambios en la comunicación y flujo de información: La IA generativa puede facilitar la comunicación y la información al ofrecer contenidos personalizados, adaptados y accesibles para diferentes públicos y contextos. Puede mejorar la eficiencia y la productividad al automatizar tareas repetitivas o complejas, como la redacción de informes, resúmenes o traducciones. Esa afirmación, que en 2023 era una expectativa, cuenta hoy con medición experimental. En tareas de escritura profesional, el acceso a un modelo de lenguaje redujo el tiempo empleado alrededor de un cuarenta por ciento y elevó la calidad evaluada, con un efecto que merece subrayarse: la mejora se concentró en quienes partían de un desempeño más bajo, de modo que la desigualdad entre trabajadores se comprimió en lugar de ampliarse (Noy y Zhang, 2023). El mismo patrón aparece en un servicio de atención al cliente con más de cinco mil agentes, donde la productividad media subió alrededor de un quince por ciento a costa casi exclusivamente de los empleados con menos experiencia (Brynjolfsson et al., 2025). Un experimento de campo con consultores encontró, en cambio, un límite decisivo: dentro del conjunto de tareas que el sistema resuelve bien las mejoras son notables, pero fuera de él el uso de la herramienta empeoró el desempeño, y la frontera entre ambas zonas no es visible desde dentro (DellAcqua et al., 2026). Y se puede utilizar para generar datos sintéticos, a partir de los cuales entrenar otros sistemas de aprendizaje automático. Pero la IA generativa también puede ser utilizada con fines de manipulación, desinformación, daño a la reputación o a la propia imagen, fraude en la investigación u obtención de resultados y para sortear barreras de ciberseguridad.

  2. Transformación de la educación y el aprendizaje: La IA generativa puede potenciar la educación y el aprendizaje al ofrecer recursos didácticos innovadores, interactivos y motivadores para los estudiantes y los docentes. Puede facilitar el aprendizaje personalizado, adaptativo y colaborativo, basado en el análisis de los datos del estudiante y sus ventajas o dificultades en el uso de plataformas digitales. No obstante, la IA generativa puede facilitar el fraude académico, la pérdida de habilidades o competencias y el deterioro de los estándares éticos o los valores sociales y corporativos.

  3. Redefinición del trabajo y las oportunidades de empleo: La IA generativa puede transformar nichos de empleo y crear nuevas oportunidades laborales, relacionadas con el diseño, el desarrollo, el mantenimiento o la evaluación de los servicios de IA generativa. Puede mejorar las condiciones laborales al reducir la carga de trabajo, aumentar la flexibilidad o facilitar la formación continua sobre un amplio rango de contenidos multidisciplinares que hasta hace poco requerían procesos muy costosos de formación especializada. En determinados contextos sociales y reguladores, las aplicaciones de IA generativa pueden ocasionar la sustitución o desplazamiento de puestos de trabajo, la precarización o desigualdad laboral y el desfase de amplios colectivos de trabajadores con respecto a las necesidades, habilidades o competencias requeridas para el entorno laboral.

En el contexto de la sociedad del conocimiento, los servicios de IA generativa pueden desempeñar un papel significativo —es decir, un salto cualitativo con respecto a las tecnologías y servicios previos— en la democratización del acceso a la información, en la interpretación y aplicación de datos e información disponible para la toma de decisiones, en la mejora de las competencias digitales y en las habilidades de traducción.

La frontera irregular no se ve desde dentro

El experimento de campo con consultores encontró mejoras notables dentro del conjunto de tareas que el sistema resuelve bien, y un empeoramiento del desempeño fuera de ese conjunto (DellAcqua et al., 2026). La cautela no la impone el segundo efecto, sino la forma del límite: la frontera entre ambas zonas no sigue la dificultad percibida por quien usa la herramienta ni se anuncia con señal alguna en la respuesta.

Un profesional competente detecta que un instrumento falla cuando el fallo resulta visible. Aquí el sistema responde con la misma fluidez a un lado y al otro, de modo que la señal habitual de sospecha, la torpeza del resultado, no está disponible. Trabajar con estos sistemas exige entonces un procedimiento de comprobación que no dependa de la impresión de calidad, y ese es el punto donde la formación disciplinar sigue siendo insustituible.

Los distintos modelos y servicios de IA generativa pueden ayudar a superar barreras de lenguaje y conocimiento, proporcionando a los usuarios información precisa y relevante de manera instantánea, como parte de procesos sofisticados de razonamiento, investigación y análisis. Su adecuada regulación, y el compromiso con estándares éticos exigentes, serán necesarios para evitar abusos, desinformación o acoso en línea.

En contexto educativo, la IA generativa tiene un potencial extraordinario para revolucionar los procesos de enseñanza y aprendizaje. Herramientas como ChatGPT pueden proporcionar tutorías personalizadas y apoyo en tiempo real para una extensa variedad de tareas, problemas y casos a trabajar por estudiantes en etapas e itinerarios educativos muy diversos, independientemente de su ubicación geográfica u horarios. El riesgo de disminuir el contacto humano y las habilidades esenciales para la interacción social puede compensarse con la diversidad, amplitud y mejora de procesos de aprendizaje con menos peso de tareas rutinarias y tediosas. La evidencia disponible obliga, con todo, a una cautela concreta sobre el diseño de esas herramientas. En un ensayo con estudiantes de secundaria, el acceso a un tutor conversacional sin restricciones mejoró el rendimiento mientras la herramienta estuvo disponible y lo empeoró al retirarla, mientras que una versión con salvaguardas pedagógicas —que exigía al alumno resolver antes de mostrar la solución— evitó ese daño (Bastani et al., 2025). La diferencia no está en la tecnología sino en cómo se configura, y decidirlo es una responsabilidad docente que no cabe delegar en el proveedor. En trabajadores del conocimiento se ha documentado además una correlación entre la confianza depositada en el sistema y la reducción del esfuerzo crítico declarado, aunque se trata de un estudio de autoinforme y no de un experimento, y conviene citarlo con esa reserva (Lee et al., 2025).

Configurar no es elegir proveedor

En el ensayo con estudiantes de secundaria, el acceso a un tutor conversacional sin restricciones mejoró el rendimiento mientras la herramienta estuvo disponible y lo empeoró al retirarla; la versión con salvaguardas pedagógicas, que exigía intentar la solución antes de mostrarla, evitó ese daño (Bastani et al., 2025). La diferencia entre ambos resultados no está en el modelo, que era el mismo, sino en cómo se configuró la interacción.

La implicación docente es concreta. Cuándo el sistema muestra una solución, cuánto espera, qué exige antes de responder y qué registra son decisiones pedagógicas, y llegan configuradas por defecto desde el proveedor. Adoptar una herramienta sin examinar esos parámetros equivale a adoptar el criterio pedagógico de quien la vende, que responde a otros incentivos.

Por otra parte, la IA generativa puede utilizarse para superar ciertas limitaciones de personal de apoyo especializado, si se aplica con buen criterio para generar materiales de aprendizaje personalizados. Con las indicaciones adecuadas, puede ayudar a que cada estudiante aprenda a su propio ritmo y de manera adaptada a sus necesidades, intereses y dificultades individuales. En cuanto a formatos y motivación, la IA generativa puede aplicarse para crear experiencias educativas interactivas, como simulaciones virtuales o juegos, facilitando nuevos formatos e incentivos para tareas exigentes y con alto nivel de fracaso o abandono asociado.

Referencias

  1. Arntz, Melanie, Terry Gregory y Ulrich Zierahn (2019). Digitalization and the Future of Work: Macroeconomic Consequences. IZA Discussion Paper 12428. Bonn: Institute of Labor Economics. https://docs.iza.org/dp12428.pdf

  2. Bender, E.M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610-623.

  3. Bostrom, Nick (2019). “The Vulnerable World Hypothesis”. Global Policy 10 (4): 455-476. https://doi.org/10.1111/1758-5899.12718

  4. Mateescu, Alexandra, y Madeleine Clare Elish (2019). AI in Context: The Labor of Integrating New Technologies. Nueva York: Data & Society Research Institute. https://datasociety.net/library/ai-in-context/

  5. Chui, Michael, Eric Hazan, Roger Roberts, Alex Singla, Kate Smaje et al. (2023). The Economic Potential of Generative AI: The Next Productivity Frontier. McKinsey Global Institute. https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier

  6. Johnson, K. (2023, March 8). How ChatGPT is changing the way we communicate. The Conversation.

  7. Dwivedi, Yogesh K., Nir Kshetri, Laurie Hughes, Emma L. Slade, Anand Jeyaraj et al. (2023). “Opinion Paper: «So what if ChatGPT wrote it?» Multidisciplinary Perspectives on Opportunities, Challenges and Implications of Generative Conversational AI for Research, Practice and Policy”. International Journal of Information Management 71: 102642. https://doi.org/10.1016/j.ijinfomgt.2023.102642

  8. NPR. (2023, June 2). How will generative Al — such as ChatGPT — affect the workplace?

  9. Brown, Tom B., Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared Kaplan et al. (2020). “Language Models are Few-Shot Learners”. arXiv. https://doi.org/10.48550/arXiv.2005.14165

  10. TietoEVRY. (2023, June 21). ChatGPT and beyond: What is the impact of generative Al on information work? https://www.tietoevry.com/en/blog/2023/06/chatgpt-and-beyond-what-is-the-impact-of-generative-ai-on-information-work/

  11. Du Boulay, Benedict, Antonija Mitrovic y Kalina Yacef (eds., 2023). Handbook of Artificial Intelligence in Education. Cheltenham: Edward Elgar.

  12. Bastani, Hamsa, et al. (2025). “Generative AI without Guardrails Can Harm Learning: Evidence from High School Mathematics”. PNAS 122: e2422633122. https://doi.org/10.1073/pnas.2422633122

  13. Brynjolfsson, Erik, Danielle Li y Lindsey Raymond (2025). “Generative AI at Work”. The Quarterly Journal of Economics 140 (2): 889-942. https://doi.org/10.1093/qje/qjae044

  14. De Freitas, Julian, et al. (2026). “AI Companions Reduce Loneliness”. Journal of Consumer Research 52 (6): 1126-1148. https://doi.org/10.1093/jcr/ucaf040

  15. Dell’Acqua, Fabrizio, et al. (2026). “Navigating the Jagged Technological Frontier”. Organization Science 37 (2): 403-423. https://doi.org/10.1287/orsc.2025.21838

  16. Garante per la protezione dei dati personali (2025). Provvedimento del 10 aprile 2025 nei confronti di Luka Inc. (Replika), doc. web n. 10130115. https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/10130115

  17. Kim, Minjin, et al. (2025). “Therapeutic Potential of Social Chatbots in Alleviating Loneliness and Social Anxiety”. Journal of Medical Internet Research 27: e65589. https://doi.org/10.2196/65589

  18. Lee, Hao-Ping, et al. (2025). “The Impact of Generative AI on Critical Thinking”. Proceedings of the 2025 CHI Conference: 1-22. https://doi.org/10.1145/3706598.3713778

  19. Noy, Shakked, y Whitney Zhang (2023). “Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence”. Science 381 (6654): 187-192. https://doi.org/10.1126/science.adh2586 Enlaces

  20. Glen Gow (10 ABRIL 2023): Estos son los cinco principales peligros en la era de la IA y ChatGPT. https://forbes.es/tecnologia/260702/estos-son-los-cinco-principales-peligros-en-la-era-de-la-ia-y-chatgpt/

  21. Pérez Colomé, J. (22 feb 2023): Así es la irrupción inexorable de la nueva IA a las aulas. https://elpais.com/tecnologia/2023-02-22/obligo-a-usar-chatgpt-en-mis-clases-asi-es-la-irrupcion-inexorable-de-la-nueva-ia-a-las-aulas.html

  22. Trias, X. (27 febrero 2023): El impacto de ChatGPT: ¿cómo afectará la irrupción y evolución de la inteligencia artificial en los próximos años? https://www.ey.com/es_es/digital/el-impacto-chatgpt-como-afectara-irrupcion-evolucion-inteligencia-artificial

  23. Meneses, N. (30 MAR 2023): ChatGPT y educación: ¿un nuevo enemigo o aliado de los profesores? https://elpais.com/economia/formacion/2023-03-30/chatgpt-y-educacion-un-nuevo-enemigo-o-aliado-de-los-profesores.html

Caso 1: Replika y los usos de grandes modelos de lenguaje para fines no previstos en su diseño

ChatGPT ofrece algunas posibilidades interesantes en su aplicación en la terapia mental y el apoyo emocional. Si bien estos modelos no fueron creados con el propósito de reemplazar a los terapeutas humanos, varias iniciativas han explorado cómo pueden actuar como una herramienta complementaria para brindar apoyo inmediato o en situaciones en las que las personas no tienen acceso a servicios profesionales.

Replika, por ejemplo, es una aplicación basada en chatbot que utiliza tecnologías similares a GPT para permitir a los usuarios tener conversaciones de texto o voz. Aunque comenzó como una herramienta para crear un “amigo” digital, muchos usuarios encontraron en Replika un espacio para hablar sobre sus problemas emocionales, ansiedades y preocupaciones.

Qué pasó después, y por qué el caso mejora al cerrarlo. En febrero de 2023 la autoridad italiana de protección de datos ordenó la limitación provisional del tratamiento de datos de los usuarios italianos de Replika, por ausencia de verificación de edad, contenidos inapropiados servidos a menores y falta de base jurídica identificable. En abril de 2025 impuso a la empresa una sanción de cinco millones de euros y abrió a la vez una segunda instrucción sobre el ciclo completo del sistema: qué datos se usaron para entrenarlo y con qué medidas de anonimización (Garante per la protezione dei dati personali, 2025).

El caso interesa aquí porque tiene dos caras que rara vez se examinan juntas. La investigación disponible indica que estos acompañantes reducen efectivamente la sensación de soledad, en magnitud comparable a conversar con otra persona, y que el mecanismo responsable es sentirse escuchado y no la mera distracción (De Freitas et al., 2026; Kim et al., 2025). La otra cara es el expediente administrativo: el mismo producto operaba sin base jurídica para tratar los datos de esas conversaciones y sin comprobar la edad de quien las mantenía. La pregunta para el aula no es si estos sistemas ayudan —parece que a corto plazo sí—, sino qué se está midiendo cuando se dice que ayudan, durante cuánto tiempo se ha medido y quién obtiene el registro de lo que se confía a la máquina.

Caso 2: Chatbots más persuasivos que los humanos

Documentación inicial:

  1. González, F. (2024, 21 febrero). La propaganda creada con IA ya es tan persuasiva como la que hacen los humanos. WIRED. https://es.wired.com/articulos/la-propaganda-creada-con-ia-ya-es-tan-persuasiva-como-la-que-hacen-los-humanos
  2. La amenaza de la IA persuasiva (3/01/2024). Josh Entsminger, Mark Esposito, Terence Tse Project Syndicate. https://www.almendron.com/tribuna/la-amenaza-de-la-ia-persuasiva/
  3. La IA se ha vuelto más persuasiva que los humanos (1 de abril de 2024). Revisado por Gary Drevitch. https://www.psychologytoday.com/es/blog/la-ia-se-ha-vuelto-mas-persuasiva-que-los-humanos
  4. «Le pire outil de manipulation» : cette étude démontre que ChatGPT est deux fois plus convaincant que votre ex lorsque vous débattez avec elle (08/04/2024). https://www.jeuxvideo.com/news/1872865/le-pire-outil-de-manipulation-cette-etude-demontre-que-chatgpt-est-deux-fois-plus-convaincant-que-votre-ex-lorsque-vous-debattez-avec-elle.htm.

Diseño experimental: - Análisis del experimento detallado en González (2024) - Valora la actitud de los participantes en relación con las fuentes

Discusión: - Implicaciones del estudio - Valorar posibles resultados con modelos más avanzados que GPT-3

Análisis prospectivo: - Escenarios verosímiles de ingeniería social a gran escala - Incentivos y antecedentes

«La IA ha democratizado efectivamente la creación de desinformación. Cualquiera con acceso a un chatbot ahora involucra el modelo en un tema concreto, ya sea la inmigración, el control de armas, el cambio climático o las cuestiones LGBTQI+, y crea docenas de fake news muy convincentes en cuestión de minutos. De hecho, ya están apareciendo cientos de sitios web de noticias generadas por IA, propagando historias y videos falsos.»

— Van Der Linden, S. (2024, 23 enero). “Las fake news generadas por IA te acecharán en las próximas elecciones”. WIRED. https://es.wired.com/articulos/fake-news-generadas-por-ia-te-acecharan-en-proximas-elecciones.

6.8 El desarrollo de agentes de IA con desempeño equivalente al de expertos humanos con nivel de doctorado

En marzo de 2025 se filtró a la prensa especializada información sobre el futuro lanzamiento, por parte de OpenAI, de «agentes» de IA altamente especializados, cuyo rendimiento en bancos de pruebas exigentes superaba a los modelos previos para situarse en un nivel equivalente al de especialistas humanos con nivel de formación doctoral. Los servicios de este tipo de agentes podrían contratarse mediante una suscripción de entre 2.000 y 20.000 dólares mensuales, en función del nivel de capacidades requerido.

  1. Edwards, B., & Edwards, B. (2025, 7 marzo). What does “PhD-level” AI mean? OpenAI’s rumored $20,000 agent plan explained. Ars Technica. https://arstechnica.com/ai/2025/03/what-does-phd-level-ai-mean-openais-rumored-20000-agent-plan-explained/
  2. Johnson, Derrick (2025). “OpenAI’s PhD-Level AI Agent for $20,000 Per Month Sparkes Debate”. Medium, 6 de marzo. https://medium.com/@derrickjswork/openais-phd-level-ai-agent-for-20-000-per-month-sparkes-debate-2cb26be7cb69
  3. Business Today Desk. (2025, 6 marzo). OpenAI planning ‘PhD-level’ AI agents at $20,000 per month, Redditors compare it to ‘worker who never takes a day off’ Business Today. https://www.businesstoday.in/technology/news/story/openai-planning-phd-level-ai-agents-at-20000-per-month-redditors-compare-it-to-worker-who-never-takes-a-day-off-466962-2025-03-06
  4. Pastor, J. (2025, 6 marzo). OpenAI ya planea agentes hiperavanzados con las capacidades de un doctorado humano. Saldrán baratitos. Xataka. https://www.xataka.com/robotica-e-ia/openai-prepara-agentes-ia-capaces-sustituir-a-empleados-valiosos-planea-cobrar-20-000-dolares-al-mes-ellos

De manera sucinta —más como estudio de caso en un curso de epistemología aplicada que como análisis detallado— merece la pena explorar las implicaciones epistemológicas, sociales y culturales que conlleva la irrupción de estos sistemas. Este tipo de desarrollos forma parte de una categoría de sistemas altamente especializados, cuya dinámica de evolución y especialización se inició hace más de una década. Los resultados han sido sorprendentes en lo que respecta a DeepMind, creadora de AlphaFold y pionera en aplicar inteligencia artificial a problemas científicos complejos, como los que en el campo de la biología estructural han supuesto un desafío inabordable durante casi medio siglo para el intelecto humano. La importancia de la IA en la investigación científica de vanguardia se reconoció con el Premio Nobel de Química de 2024, concedido a Demis Hassabis y John Jumper por AlphaFold, de Google DeepMind, y a David Baker por el diseño computacional de proteínas con RoseTTAFold.

Tabla 6.3: Cinco modelos de IA empleados como soporte de la investigación científica, con el dominio para el que fueron diseñados y la fuente de referencia de cada uno.
Modelo Descripción y uso para el que fue diseñado Ref./Fuentes
Modelos LLM altamente especializados (como AlphaFold) Especializados en dominios muy concretos; AlphaFold se centra en la predicción de la estructura tridimensional de proteínas a partir de sus secuencias. Aunque su arquitectura comparte ciertos fundamentos con los transformadores, su aplicación es distinta a la de un LLM tradicional para procesamiento de texto. AlphaFold
GPT-4 (y sus versiones especializadas) • Basado en la arquitectura de transformadores.
• Entrenado con grandes volúmenes de textos científicos y técnicos.
• Ayuda a estructurar ideas, resumir literatura científica, generar hipótesis y proponer conexiones entre conceptos de diferentes áreas del conocimiento.		 OpenAI
SciBERT • Es una adaptación del modelo BERT, entrenado con literatura científica.
• Permite comprender y procesar el lenguaje altamente técnico de publicaciones académicas.
• Muy útil en la extracción de información, clasificación de artículos y generación de resúmenes en contextos científicos altamente especializados.		 SciBERT
BioBERT • Diseñado para el procesamiento de textos biomédicos.
• Entrenado con grandes corpus de literatura médica y biológica.
• Permite extraer información crítica e identificar relaciones y conceptos en textos científicos complejos, siendo de gran valor para la investigación en biomedicina y farmacología.		 BioBERT
IBM Watson • Aplicado en campos como oncología, atención médica y análisis de grandes volúmenes de datos científicos.
• Destaca en la interpretación de datos complejos y generación de insights, asistiendo en decisiones clínicas y de investigación.		 IBM Watson


Cada uno de estos modelos puede ser adaptado (“afinado”) para contextos específicos, ofreciendo herramientas que complementan el análisis de datos y la generación de hipótesis en la investigación científica, si bien en la fase de entrenamiento y en su uso rutinario es fundamental contar con validación y juicio experto de investigadores humanos en el proceso. Los sistemas mencionados en la tabla son tan solo una pequeña muestra (puede verse un desarrollo más completo aquí ) de la evolución reciente de la inteligencia artificial aplicada en procesos y tareas complejas, y han demostrado su capacidad para transformar la investigación científica, el mercado laboral de alta cualificación y los sistemas de producción de conocimiento (Annepaka y Pakray, 2025).

Las filtraciones en marzo de 2025 sobre el proyecto de OpenAI de poner en el mercado una serie de agentes de IA con distintos niveles de especialización incluía cierta segmentación de la oferta:

  1. Agente para trabajadores del conocimiento de altos ingresos (High-Income Knowledge Worker Agent, por 2.000 dólares mensuales): orientado a profesionales para organizar y clasificar los clientes potenciales, optimizar flujos de trabajo y mejorar toma de decisiones.

  2. Agente para desarrolladores de software (Software Developer Agent, 10.000 dólares mensuales): diseñado para asistir a ingenieros de software con codificación, depuración y automatización de tareas repetitivas.

  3. Agente de investigación de nivel doctoral (20.000 dólares mensuales): el sistema más avanzado, capaz de conducir investigaciones académicas profundas, analizar conjuntos masivos de datos y generar hipótesis innovadoras.

Conviene detenerse en el estatuto de esa información, porque el apartado se escribió sobre una filtración y hoy puede comprobarse qué fue de ella. Ninguno de los tres niveles de precio llegó a comercializarse. Lo que sí se lanzó siguió otra vía: un agente de investigación multipaso incorporado a la suscripción existente de doscientos dólares mensuales a comienzos de 2025; un agente unificado con acceso a herramientas en julio de aquel año, tarificado por cuota de mensajes dentro de los planes ya vigentes (OpenAI, 2025); y, en febrero de 2026, una plataforma empresarial para construir y gestionar agentes como colaboradores permanentes, cuyo precio la compañía no ha hecho público (OpenAI, 2026).

La arquitectura anticipada por la filtración se materializó, por tanto, mientras que las cifras no. El episodio ilustra un mecanismo que este libro examina en otros contextos, por el cual una cantidad filtrada, nunca confirmada ni desmentida, se convierte en dato de referencia por repetición, y a partir de ahí se razona sobre ella como si fuera un precio de mercado. Las cifras que siguen deben leerse con esa advertencia, y son útiles precisamente porque permiten discutir qué se estaba publicitando cuando se anunciaba un «investigador de nivel doctoral» y por qué esa etiqueta resultaba más un artefacto de mercadotecnia que una descripción literal de prestaciones avanzadas.

Una cifra filtrada que nunca se confirmó

Los tres niveles de precio de la filtración de marzo de 2025 —dos mil, diez mil y veinte mil dólares mensuales— no llegaron a comercializarse. La arquitectura anticipada sí se materializó, por otras vías y con otra tarificación (OpenAI, 2025). La cifra, en cambio, circuló durante meses en prensa, análisis y debate académico como si fuera un precio de mercado.

El mecanismo merece atención porque no requiere mala fe. Una cantidad que nunca se confirma ni se desmiente se cita primero con la cautela de la filtración, después sin ella, y termina sirviendo de base para cálculos comparativos que heredan una precisión que el dato nunca tuvo. Los razonamientos construidos sobre ella pueden seguir siendo útiles como ejercicio, siempre que se declare que el número es hipotético.

OpenAI asegura que estos agentes utilizan lo que denomina “cadena de pensamiento privada” (una técnica de razonamiento simulado donde el modelo ejecuta un diálogo interno y resuelve problemas iterativamente antes de presentar una respuesta final), capaz de emular el proceso humano de reflexión profunda. La propuesta de valor central es que, a diferencia de un investigador humano, estos agentes operarían ininterrumpidamente las 24 horas, sin necesidad de descanso o vacaciones. Como evidencia, para dar verosimilitud al proyecto y reforzar la confianza de inversores potenciales, la compañía considera que los resultados en pruebas de referencia de los modelos avanzados de OpenAI (series o3) son destacables: 87,5% en el punto de referencia de razonamiento visual ARC-AGI (en la práctica, comparable al umbral de desempeño humano, estimado en el 85%), 96,7% en el examen de matemáticas American Invitational de 2024, y 87,7% en GPQA Diamond, que contiene preguntas de biología, física y química de nivel de posgrado (Johnson, 2025).

«Nivel doctoral» describe una prueba, no una capacidad

Los resultados que sostienen la etiqueta son puntuaciones en pruebas concretas, y cada una mide la respuesta a preguntas cerradas, con solución conocida, formuladas por otros y evaluadas de forma automática.

Un doctorado no certifica esa habilidad. Certifica haber formulado una pregunta que nadie había respondido, haber elegido un método para abordarla, haber reconocido cuándo el método fallaba y haber sostenido el resultado ante un tribunal con capacidad de rechazarlo. La etiqueta transfiere el prestigio de lo segundo a la medición de lo primero, y esa transferencia es la operación comercial que el apartado examina. Discutir si estos sistemas alcanzan el nivel doctoral sin separar ambas cosas reduce el debate a una disputa sobre puntuaciones.

De materializarse en resultados palpables inmediatos, la iniciativa muestra la trayectoria de los desarrollos hacia modelos con capacidades AGI (Inteligencia Artificial General, por sus siglas en inglés) y con un ritmo más acelerado de lo previsto hasta hace pocos años. Se trataría de un paso crucial hacia sistemas de inteligencia artificial que pueden entender, aprender y aplicar conocimientos de manera similar a como lo hace un ser humano en una amplia variedad de tareas y dominios, pero —a diferencia de las inteligencias artificiales especializadas o de propósito específico, enfocadas a tareas concretas como el reconocimiento de imágenes, la traducción de idiomas o el análisis de datos—, los modelos AGI están diseñados para tener flexibilidad cognitiva y adaptabilidad en situaciones diversas (Moreno Muñoz, 2024).

Los sistemas de IA multiagente están revolucionando la forma en que se realiza la investigación científica. Proyectos como SciAgents integran agentes inteligentes capaces de generar hipótesis, revisar literatura, simular experimentos y organizar el material conforme a diversos formatos para su difusión pública. La clave está en una arquitectura modular que permite una colaboración distribuida entre agentes especializados para acelerar el descubrimiento científico.

Este tipo de sistemas han incrementado sus capacidades —para coordinar enjambres de agentes especializados, por ejemplo— y se han consolidado como herramientas que permiten avanzar de forma autónoma en la comprensión científica, sea para explorar dominios novedosos de problemas, para identificar patrones complejos o para descubrir conexiones inéditas entre vastos dominios de datos científicos. Uno de los proyectos avanzados, SciAgents, opera combinando: (1) el uso de gráficos de conocimiento ontológico a gran escala para organizar e interconectar diversos conceptos científicos; (2) un conjunto de grandes modelos de lenguaje (LLM) y herramientas de recuperación de datos; y (3) sistemas multiagente con capacidades de aprendizaje in situ.

Los proyectos que siguen se describen tal como estaban documentados en el momento de cerrar esta edición, en septiembre de 2026. Quien use este bloque como referencia del estado de la técnica debería comprobar antes qué ha cambiado: en este dominio la vida útil de una descripción se mide en meses.

Aplicado a materiales de inspiración biológica, SciAgents ha sugerido relaciones interdisciplinares sorprendentes, a una escala y precisión que supera los métodos tradicionales de investigación mediante coordinación de personal humano experto. El sistema ha demostrado una capacidad notable para generar y refinar hipótesis de forma autónoma, dilucidando los mecanismos subyacentes, los principios de diseño y las propiedades inesperadas de los materiales. Además de acelerar el descubrimiento de nuevos materiales, agiliza la fase de revisión de literatura identificando y contrastando las hipótesis existentes, recuperando datos actualizados y evaluando las fortalezas y limitaciones de los resultados de investigación publicados.

El alcance disruptivo de estos sistemas radica en su capacidad para replicar procesos cognitivos altamente especializados, identificar patrones interdisciplinares ocultos y generar conocimiento nuevo a una velocidad y escala que supera la de los métodos tradicionales. Su aplicación en áreas como la ciencia de materiales, la biología computacional y el diseño de fármacos anticipa una nueva era de investigación asistida por inteligencia artificial, donde el papel del investigador humano se redefine como supervisor, curador y estratega epistémico (Gottweis y Natarajan, 2025; NxCode, 2026).

Esquema general del sistema multiagente AI co-scientist: un agente supervisor reparte el trabajo entre agentes especializados de generación, reflexión, clasificación, evolución, proximidad y metarrevisión, que iteran sobre una memoria de contexto compartida. Fuente: Google Research.

Esquema general del sistema multiagente AI co-scientist: un agente supervisor reparte el trabajo entre agentes especializados de generación, reflexión, clasificación, evolución, proximidad y metarrevisión, que iteran sobre una memoria de contexto compartida. Fuente: Google Research.

Más información:
1. Gottweis, J., & Natarajan, V. (2025, 19 de febrero). Accelerating scientific breakthroughs with an AI co‑scientist. Google Research Blog. https://research.google/blog/accelerating-scientific-breakthroughs-with-an-ai-co-scientist/. Un sistema multiagente basado en Gemini 2.0 actúa como colaborador científico virtual, capaz de generar hipótesis, diseñar protocolos experimentales y participar en procesos de revisión y mejora científica.
2. SciAgents: Automating Scientific Discovery (arXiv)
3. SciAgentsDiscovery (MIT GitHub)
4. Presentación oficial del proyecto en YouTube

Los asistentes cognitivos avanzados suponen un paso notable hacia modelos con capacidades AGI porque exhiben versatilidad (no se limitan a una única tarea o dominio, sino que pueden adquirir y aplicar conocimientos en diferentes contextos, para resolver problemas nuevos sin necesidad de reentrenamiento extensivo), autonomía en procesos de aprendizaje (a través de la experiencia, adaptándose a entornos cambiantes y desarrollando nuevas habilidades a lo largo del tiempo) y capacidad de razonamiento y comprensión equivalente a nivel de operador humano especializado. Esto les permite emular la capacidad humana para razonar, comprender contextos complejos y realizar inferencias lógicas sobre una extensa base de conocimiento interdisciplinar, por lo que resultan de gran utilidad en la toma de decisiones de forma flexible y contextualizada. Su potencial en procesos complejos de generación y transferencia de conocimiento resulta evidente (Moreno Muñoz, 2026b: Parte II).

El debate sobre su impacto en la naturaleza y producción del conocimiento científico está garantizado. Por mencionar algunos aspectos:

1. Dimensión epistemológica

  • Razonamiento vs. correlación estadística: ¿Estos sistemas son realmente capaces de “razonar”, o simplemente aplican correlaciones estadísticas sofisticadas? La “cadena de pensamiento privada” sugiere un proceso interno que imita el razonamiento humano, pero su naturaleza sigue siendo fundamentalmente probabilística.

  • Validación y verificabilidad: Los sistemas de nivel doctoral podrían generar hipótesis plausibles pero incorrectas (confabulaciones). En investigación de alto riesgo, esto plantea problemas serios sobre la fiabilidad y verificabilidad del conocimiento producido.

  • Creatividad e intuición científica: Si bien estos sistemas pueden analizar vastos corpus de literatura científica, surge la pregunta sobre su capacidad para el pensamiento verdaderamente original, las intuiciones disruptivas o los saltos conceptuales que caracterizan los avances científicos revolucionarios (Liu et al., 2024).

2. Dimensión sociocultural

  • Democratización vs. elitización del conocimiento: Con un precio de 20.000 dólares mensuales, estos sistemas estarían disponibles exclusivamente para corporaciones e instituciones de élite, potencialmente exacerbando desigualdades existentes en el acceso al conocimiento avanzado.

  • Transformación de instituciones académicas: Las universidades y centros de investigación podrían restructurarse radicalmente. ¿Qué valor tendría un doctorado humano en comparación con un agente de IA que opera continuamente y tiene acceso a toda la literatura científica digitalizada?

  • Autoría, propiedad intelectual y reconocimiento: Surgen cuestiones complejas sobre quién debería recibir crédito por descubrimientos generados por estos agentes: ¿la empresa que desarrolló el modelo, la institución que paga la suscripción, los investigadores que formularon las preguntas iniciales? (Roldán-Monés, 2024)

3. Dimensión laboral

  • Desplazamiento vs. mejora y optimización (augmentación): Parece haber cierta tensión entre las visiones de Sam Altman (aumentar capacidades humanas) y las implicaciones prácticas de estos sistemas (potencial reemplazo de trabajadores altamente calificados). El contexto puede resultar decisivo para prescindir de operadores humanos.

  • Economía de la investigación: un agente de 20.000 dólares mensuales —240.000 anuales— sería comparable al coste de varios contratos posdoctorales o de dos investigadores sénior bien remunerados, y la disponibilidad continua podría hacer atractiva la inversión. El ejercicio conserva su valor como cálculo comparativo aunque ese precio no llegara a existir: la pregunta que plantea es con qué se compara el coste de un investigador cuando aparece un sustituto parcial que no descansa.

  • Transformación de competencias valoradas: Las habilidades más valoradas podrían desplazarse desde la capacidad de análisis profundo hacia la habilidad para formular preguntas precisas, dirigir investigaciones realizadas por IA y validar sus resultados (Eloundou et al., 2023, 2024).

4. Dimensión ética

  • Reproducibilidad y transparencia: ¿Cómo garantizar la reproducibilidad de resultados cuando el razonamiento ocurre en una “cadena de pensamiento privada” que podría no ser transparente para los usuarios? La trazabilidad de datos, ideas y opiniones involucradas en unos resultados se vuelve problemática.

  • Responsabilidad por errores: ¿Quién asume la responsabilidad cuando un agente de IA de nivel doctoral comete errores en campos sensibles como la investigación médica o la seguridad pública? ¿La revisión por pares implica mantener a sujetos humanos con alta especialización en el bucle de revisiones?

  • Potencial monopolístico: Los altos costos de desarrollo e implementación de estos sistemas podrían concentrar poder en pocas empresas tecnológicas, creando monopolios de conocimiento sin precedentes.

  • Riesgo potencial en tratamientos médicos y psicológicos: ¿Qué efectos o sesgos pueden inducir estos sistemas en los modos de validar tratamientos médicos y protocolos de atención psicológica? (Kjell et al., 2024)

En cuanto a las perspectivas de aproximación teórica al debate, cabe suponer la confrontación entre visiones optimistas del problema (aceptando que los agentes de IA de nivel doctoral podrían democratizar eventualmente el acceso a conocimiento especializado, acelerar dramáticamente el ritmo de descubrimientos científicos, y liberar tiempo humano para concentrarse en aspectos más creativos y conceptuales de la investigación) y visiones escépticas (estos desarrollos y la etiqueta “nivel doctoral” son más que nada una estrategia de marketing, pues su desempeño en ciertas métricas no implica que posean realmente las capacidades fundamentales para la investigación genuinamente innovadora: curiosidad intrínseca, intuición cultivada por experiencia directa, y pensamiento verdaderamente original, entre otras). El análisis desde un encuadre de epistemología del riesgo constituye otro enfoque legítimo, centrado en nuevos riesgos de ciberseguridad y desinformación potenciados por capacidades avanzadas para el diseño de malware, nuevos vectores de intrusión, estrategias sofisticadas de ingeniería social y ataques adversariales a sistemas protegidos por IA (Moreno Muñoz, 2026b, párr. 9.1–9.4).

Pero incluso desde un enfoque más neutral parece inevitable admitir que estos sistemas pueden suponer una amenaza para la organización tradicional del trabajo académico, con el riesgo asociado de contribuir a devaluar significativamente las credenciales académicas y a reforzar la concentración de mayor poder económico y capacidades cognitivas o talento especializado en corporaciones tecnológicas que ya dominan sectores muy amplios de la economía y los servicios digitales a escala global (Eloundou et al., 2024; Moreno Muñoz, 2026a; Roldán-Monés, 2024).

  1. Annepaka, Yadagiri, y Partha Pakray (2025). “Large Language Models: A Survey of Their Development, Capabilities, and Applications”. Knowledge and Information Systems 67 (3): 2967-3022. https://doi.org/10.1007/s10115-024-02310-4

  2. Johnson, D. (2025, 6 marzo). OpenAI’s PhD-Level AI Agent for $20,000 Per Month Sparkes Debate. Medium. https://medium.com/@derrickjswork/openais-phd-level-ai-agent-for-20-000-per-month-sparkes-debate-2cb26be7cb69

  3. Moreno Muñoz, M. (2024): “Gradualismo versus singularidad en la interpretación de riesgos asociados con la inteligencia artificial general”. Revista de la Sociedad de Lógica, Metodología y Filosofía de la Ciencia, Núm. 68: 37-47. https://solofici.org/wp-content/uploads/2024/04/Revista-de-la-Sociedad-de-Logica-Metodologia-y-Filosofia-de-la-Ciencia-en-Espana-num.-68-febrero-2024.pdf

  4. Liu, J., Li, Q., & Du, W. (2024). Beyond Benchmarking: A New Paradigm for Evaluation and Assessment of Large Language Models. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2407.07531

  5. Roldán-Monés, T. (2024, August 26). When GenAI increases inequality: Evidence from a university debating competition. EsadeEcPol. https://www.esade.edu/ecpol/wp-content/uploads/2019/09/2409-ChatGPTRoldan_ecpol.pdf

  6. Eloundou, T., Manning, S., Mishkin, P., & Rock, D. (2023). GPTs are GPTs: An early look at the labor market impact potential of large language models. arXiv. https://ar5iv.labs.arxiv.org/html/2303.10130

  7. Eloundou, T., Manning, S., Mishkin, P., & Rock, D. (2024). GPTs are GPTs: Labor market impact potential of LLMs. Science, 384(6702), 1306-1308. https://doi.org/10.1126/science.adj0998

  8. Kjell, Oscar N. E., Katarina Kjell y H. Andrew Schwartz (2024). “Beyond Rating Scales: With Targeted Evaluation, Language Models Are Poised for Psychological Assessment”. Psychiatry Research 333: 115667. https://doi.org/10.1016/j.psychres.2023.115667

  9. OpenAI (2025). Introducing ChatGPT Agent. 17 de julio. https://openai.com/index/introducing-chatgpt-agent/

  10. OpenAI (2026). Frontier: plataforma empresarial para construir y gestionar agentes de IA. Anunciada el 5 de febrero. https://openai.com/index/introducing-frontier/

Impacto potencial de la IA en la fuerza laboral de EE. UU.

Texto de partida:

«…[A]lrededor del 80% de la fuerza laboral de EE. UU. podría tener al menos el 10% de sus tareas laborales afectadas por la introducción de LLM, mientras que aproximadamente el 19% de los trabajadores pueden ver afectadas al menos el 50% de sus tareas. No hacemos predicciones sobre el cronograma de desarrollo o adopción de dichos LLM. Los efectos proyectados abarcan todos los niveles salariales, y los empleos de mayores ingresos podrían enfrentar una mayor exposición a las capacidades de LLM y al software impulsado por LLM. Cabe destacar que estos impactos no se limitan a las industrias con un mayor crecimiento reciente de la productividad. Nuestro análisis sugiere que, con acceso a un LLM, alrededor del 15% de todas las tareas de los trabajadores en los EE. UU. podrían completarse significativamente más rápido con el mismo nivel de calidad. Al incorporar software y herramientas construidos sobre LLM, esta proporción aumenta a entre el 47 y el 56% de todas las tareas. Este hallazgo implica que el software impulsado por LLM tendrá un efecto sustancial en la escala de los impactos económicos de los modelos subyacentes. Concluimos que los LLM como los GPT exhiben rasgos de tecnologías de propósito general, lo que indica que podrían tener implicaciones económicas, sociales y políticas considerables.» (Abstract, trad. autom.)

T. Eloundou, Manning, S., Mishkin, P., & Rock, D. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2303.10130 | https://openai.com/index/gpts-are-gpts/

Preguntas para la discusión:

  1. ¿Puede un agente de IA realmente emular las capacidades cognitivas y creativas de un investigador con doctorado? ¿Qué aspectos del trabajo de investigación doctoral serían más difíciles de automatizar?
  2. Considerando el precio de 20.000 dólares mensuales, ¿qué implicaciones tendría esto para la equidad en el acceso a herramientas avanzadas de investigación entre instituciones con diferentes niveles de recursos?
  3. Si estos agentes demuestran rendimiento superior a investigadores humanos en ciertas áreas, ¿cómo debería adaptarse el sistema educativo y la formación doctoral?
  4. ¿Qué políticas públicas serían necesarias para garantizar que estos agentes beneficien ampliamente a la sociedad en lugar de exacerbar desigualdades existentes?
  5. ¿Cómo deberían abordarse las cuestiones de autoría y propiedad intelectual cuando las innovaciones son generadas o co-generadas por agentes de IA?

1. Dataísmo

El colonialismo de datos es considerado una amenaza a la autonomía humana. La vigilancia fácilmente colisiona con la libertad humana, incluso si la información recopilada no llegara a usarse contra ciertos grupos diana. La profusión de sistemas para monitorizar la vida cotidiana ha espoleado reacciones justificadas contra la cuantificación de lo subjetivo. Un texto recomendable sobre el asunto:

📖 Couldry, N., & Mejias, U. A. (2019). The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. Culture and Economic Life. https://www.sup.org/books/sociology/costs-connection/excerpt/table-contents

2. ¿El uso de la IA en el sistema educacivo como problema público?

Las opiniones que hacen un balance negativo del uso de la inteligencia artificial difieren en escala y gravedad del riesgo percibido. Pero en sectores como el educativo hay quienes la consideran un problema público de primer orden, pese a la falta de estudios longitudinales sobre el impacto del recurso a la IA generativa y muchas de sus aplicaciones en las diversas etapas del sistema educativo:

«Estos 21 argumentos contra la IA en la educación demuestran que no se puede considerar que la IA sea inevitable, beneficiosa o transformadora de ninguna manera directa. Ni siquiera es necesario adoptar una perspectiva fuertemente normativa en uno u otro sentido para ver que la IA en la educación es muy controvertida y debatida. En otras palabras, es un problema público que requiere deliberación pública y supervisión constante para que se puedan obtener los posibles beneficios y se aborden sus riesgos sustanciales. Tal vez estos 21 puntos críticos puedan servir como base para parte de la deliberación pública en curso que se requiere como contraste con las narrativas de inevitabilidad de la IA y las visiones tecnológicamente deterministas de la transformación educativa.»

— Williamson, B. (Feb. 22, 2024): “AI in education is a public problem”. https://codeactsineducation.wordpress.com/2024/02/22/ai-in-education-is-a-public-problem
→ Informe de referencia: Ben Williamson, Alex Molnar, and Faith Boninger (March 5, 2024). Time for a Pause: Without Effective Public Oversight, AI in Schools Will Do More Harm Than Good. National Education Policy Center. https://nepc.colorado.edu/sites/default/files/publications/PB%20Williamson.pdf

3. Para revisar algunos conceptos e ideas básicas de este bloque

✅ [Asistente de estudio sobre Sociedad del conocimiento(https://www.ugr.es/~mm3/fcon/24/as6.html)