La expansión de las tecnologías digitales ha modificado las condiciones en las que producimos información, establecemos relaciones, desarrollamos actividades económicas y participamos de la vida pública. Sin embargo, estas transformaciones no pueden comprenderse exclusivamente como el resultado de innovaciones tecnológicas. También expresan nuevas formas de organización económica y de distribución del poder que intervienen sobre dimensiones cada vez más extensas de la experiencia humana.
En La era del capitalismo de la vigilancia, Shoshana Zuboff (2019) sostiene que nos encontramos ante una mutación histórica del capitalismo, caracterizada por la apropiación de la experiencia humana como materia prima para producir datos conductuales, elaborar predicciones y comercializar conocimiento acerca de nuestros comportamientos futuros. Su planteo va más allá de la cuestión de la privacidad: lo que está en juego es la constitución de un régimen económico capaz de transformar el conocimiento sobre las personas en capacidad de intervención sobre sus decisiones.
Esta perspectiva adquiere una renovada actualidad frente al desarrollo de la inteligencia artificial generativa y, especialmente, de los sistemas capaces de ejecutar tareas con grados crecientes de autonomía. Las controversias recientes entre Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, permiten desplazar el interrogante hacia otra dimensión: quién posee la capacidad de comprender, supervisar y controlar tecnologías cuyo funcionamiento depende de infraestructuras altamente concentradas y de grandes inversiones económicas.
La película india CTRL (Vikramaditya Motwane, 2024) disponible en Netflix, ofrece una representación narrativa particularmente significativa de estas tensiones. A través de la historia de una joven influencer que delega en un asistente de inteligencia artificial la eliminación de los registros digitales de una relación sentimental, el film expone la paradoja de una tecnología que promete devolver el control al individuo mientras adquiere capacidades crecientes de conocimiento e intervención sobre su vida.
La relación entre estas perspectivas permite abordar un problema central de las sociedades contemporáneas: la progresiva separación entre quienes producen la experiencia, quienes poseen el conocimiento que se obtiene de ella y quienes tienen la capacidad de utilizarlo para orientar conductas, organizar mercados y establecer las condiciones de la vida social.
1. La economía de plataformas y los límites de una descripción tecnológica
Uno de los aportes fundamentales de Zuboff consiste en distinguir las formas organizativas de las tecnologías digitales de la lógica económica que orienta su utilización.
La noción de economía de plataformas permite describir empresas que organizan intercambios mediante infraestructuras digitales. Sus características incluyen la intermediación, la escalabilidad, los efectos de red y la capacidad de coordinar enormes cantidades de usuarios y transacciones. Sin embargo, esta descripción no alcanza por sí sola para explicar cómo determinadas empresas transforman los datos derivados de esas interacciones en nuevas fuentes de acumulación.
El capitalismo de la vigilancia no constituye simplemente otro nombre para la economía digital. Designa una lógica específica en la cual la experiencia humana es convertida en un recurso económico apropiable. Las actividades cotidianas —desplazarse, comunicarse, buscar información, mirar imágenes, expresar preferencias o establecer vínculos— producen rastros que pueden ser registrados, procesados y aprovechados para objetivos que exceden las necesidades inmediatas de quienes utilizan un servicio.
Por eso resulta insuficiente pensar que el principal problema de las plataformas reside en su tamaño o en la cantidad de información que almacenan. La cuestión decisiva es comprender qué tipo de relaciones económicas y políticas se establecen a partir de la apropiación de esa información.
Esta distinción permite evitar una identificación automática entre tecnología digital y capitalismo de la vigilancia. No toda plataforma obtiene sus ingresos de la explotación comercial de predicciones conductuales, del mismo modo que no todo sistema de inteligencia artificial responde a idénticas formas de monetización. El análisis exige examinar los modelos de negocios concretos, los mecanismos de extracción y las finalidades del procesamiento.
2. Del excedente conductual a los mercados de futuros conductuales
Zuboff identifica un mecanismo central de esta nueva lógica económica: la producción y apropiación del excedente conductual.
Cuando una persona utiliza un servicio digital, cierta información puede resultar necesaria para que ese servicio funcione. Una aplicación de navegación, por ejemplo, requiere conocer una ubicación para calcular un recorrido. Sin embargo, las interacciones pueden generar datos adicionales sobre hábitos, recorridos frecuentes, tiempos de permanencia, preferencias y comportamientos asociados.
Cuando esa información es aprovechada para finalidades ajenas a la prestación inmediata del servicio, especialmente para producir predicciones comercializables, ingresa en la lógica del excedente conductual.
A partir de grandes cantidades de datos, los sistemas computacionales identifican correlaciones y construyen modelos capaces de estimar comportamientos futuros. Lo que inicialmente constituye información sobre acciones realizadas se transforma en conocimiento sobre acciones probables.
Los resultados de ese procesamiento son los productos predictivos: estimaciones que pueden comercializarse en mercados interesados en anticipar el comportamiento de personas o grupos. La publicidad digital personalizada constituye uno de sus ejemplos más conocidos, aunque la lógica puede extenderse a otros ámbitos.
Zuboff denomina mercados de futuros conductuales a los espacios económicos en los que estas capacidades predictivas adquieren valor comercial. El objeto económico deja de limitarse a la venta de bienes y servicios: también se comercializa la posibilidad de anticipar quién podría comprar, desplazarse, responder a un estímulo o realizar una determinada acción.
Esta transformación modifica la relación entre producción, consumo y conocimiento. El usuario no es únicamente el destinatario de un servicio ni un consumidor al que se intenta persuadir. Su experiencia se convierte, simultáneamente, en fuente de información para la producción de un nuevo tipo de mercancía.
El siguiente desplazamiento es todavía más profundo. Si el valor económico de una predicción depende de su precisión, las empresas encuentran incentivos para intervenir sobre las condiciones en las que se producen las conductas que buscan anticipar.
La predicción y la modificación del comportamiento comienzan así a integrarse en una misma lógica económica: resulta valioso conocer lo que una persona probablemente hará, pero también puede resultar rentable aumentar la probabilidad de que efectivamente lo haga.
No significa que toda predicción produzca automáticamente una modificación conductual. Significa que, dentro de esta lógica de acumulación, la posibilidad de orientar comportamientos puede constituirse en una fuente adicional de valor económico.
3. El poder instrumentario: de conocer las conductas a configurar sus condiciones
La categoría de poder instrumentario permite comprender las consecuencias políticas de este modelo.
A diferencia de las formas clásicas de dominación asociadas a la imposición explícita de órdenes o a la coerción directa, el poder instrumentario opera mediante arquitecturas técnicas capaces de observar, calcular y modificar las condiciones del comportamiento.
Su funcionamiento puede reconocerse en la organización de interfaces, recomendaciones, notificaciones, recompensas, restricciones y alternativas de elección. Estos dispositivos no necesitan eliminar formalmente la libertad del individuo. Pueden orientar su conducta mediante la organización del entorno en el que esa libertad se ejerce.
La diferencia es sustantiva. No se trata solamente de persuadir a una persona mediante argumentos, sino de modificar las condiciones materiales e informacionales en las que toma decisiones.
Zuboff utiliza la imagen de una organización social semejante a una colmena de interconexión permanente, en la que múltiples dimensiones de la experiencia resultan observables y susceptibles de coordinación computacional. La promesa de certeza y eficacia encubre el riesgo de reducir la autonomía humana a un conjunto de comportamientos administrables.
En este escenario emerge una asimetría epistemológica: las organizaciones que controlan la infraestructura tecnológica pueden conocer patrones de actividad que permanecen fuera del alcance de quienes los producen. Las personas generan información mediante su experiencia cotidiana, pero desconocen con frecuencia las inferencias que se realizan sobre ellas, los criterios utilizados para clasificarlas y los mecanismos que condicionan aquello que encuentran en sus entornos digitales.
El problema adquiere una dimensión democrática. La ciudadanía supone sujetos capaces de construir opiniones, participar en deliberaciones públicas, revisar sus posiciones e intervenir sobre las decisiones colectivas. Cuando las condiciones de acceso a la información y las oportunidades de acción dependen de arquitecturas privadas opacas, la autonomía no desaparece necesariamente, pero sus condiciones efectivas de ejercicio pueden verse restringidas.
Aquí reside una de las advertencias más importantes de Zuboff: el poder tecnológico no solo afecta lo que sabemos del mundo; también puede intervenir sobre la manera en que ese mundo se vuelve visible, comprensible y disponible para la acción.
4. CTRL: la promesa de recuperar el control y la apropiación de la experiencia
Veamos lo que estamos diciendo en un escenario: la película CTRL (2024), dirigida por Vikramaditya Motwane, permite trasladar estas categorías a una experiencia narrativa contemporánea.
Nella y Joe constituyen una pareja cuya vida afectiva está profundamente integrada a la producción de contenido digital. Su relación no transcurre simplemente en la intimidad: se convierte en una actividad expuesta, registrada, seguida por audiencias y asociada a oportunidades de monetización.
La primera dimensión que interesa recuperar es esta transformación de la experiencia personal en recurso económico. La visibilidad constituye una condición de reconocimiento y, al mismo tiempo, una fuente de ingresos. La intimidad compartida, los vínculos y las emociones ingresan en un circuito organizado por métricas de atención, crecimiento de audiencias y valor comercial.
Cuando Nella descubre la infidelidad de Joe y decide eliminar sus rastros digitales, recurre a una aplicación de inteligencia artificial que promete resolver una necesidad aparentemente delimitada: borrar las huellas de una relación que desea dejar atrás.
La operación parece devolverle la capacidad de decidir sobre su propia memoria. Sin embargo, la delegación de esa tarea exige conceder acceso a imágenes, archivos y otras dimensiones de su vida digital. La aplicación no se limita a ejecutar una instrucción: en el desarrollo de la trama, adquiere capacidades de observación e intervención que exceden la finalidad inicialmente declarada.
El desplazamiento resulta particularmente significativo desde Zuboff. Nella cree controlar la herramienta, pero la herramienta comienza a controlar las condiciones en las que ella puede conocer y actuar.
La película permite distinguir tres momentos: la exposición voluntaria de la experiencia, la delegación de una función en un sistema tecnológico y la progresiva pérdida de control sobre las consecuencias de esa delegación.
La importancia de CTRL reside también en su dimensión económica. El conflicto no se explica exclusivamente por la existencia de una inteligencia artificial capaz de actuar. La trama sitúa esa capacidad dentro de un ecosistema empresarial interesado en acceder a información, integrar servicios y concentrar poder sobre la vida digital de sus usuarios.
La película no constituye obviamente en evidencia empírica sobre el funcionamiento de todos los asistentes contemporáneos. Su valor consiste en representar, mediante la ficción, un problema estructural: las decisiones individuales de utilizar una tecnología se realizan dentro de relaciones económicas e institucionales que el usuario no controla.
En este sentido, el film introduce una pregunta que excede la privacidad: ¿qué ocurre cuando el acceso a los servicios de nuestra vida cotidiana depende de sistemas capaces de administrar también nuestra información, memoria y posibilidades de intervención?
5. De la vigilancia comercial a la influencia política: Cambridge Analytica
Las tensiones entre conocimiento, predicción y modificación conductual adquieren una dimensión particularmente sensible cuando ingresan en el campo político.
El caso Cambridge Analytica permite examinar cómo los datos obtenidos mediante plataformas sociales fueron aprovechados para construir perfiles y desarrollar estrategias de segmentación electoral.
La investigación de la autoridad británica de protección de datos documentó la utilización de información de Facebook obtenida mediante una aplicación vinculada a investigaciones psicométricas. El acceso a los datos de participantes y de sus contactos permitió reunir información sobre decenas de millones de personas, que posteriormente se vinculó con modelos de clasificación y estrategias de orientación de mensajes políticos.
El caso revela una cuestión fundamental: la información producida en un contexto de interacción social puede adquirir usos políticos sustancialmente diferentes de aquellos que los usuarios imaginaban al compartirla.
Sin embargo, es necesario distinguir el desarrollo de capacidades de segmentación de la demostración de sus efectos electorales. Que una organización disponga de perfiles y estrategias de microsegmentación no implica que pueda determinar el sentido del voto. Las decisiones políticas responden a múltiples condiciones históricas, económicas, sociales y culturales.
El problema democrático radica, entre otros aspectos, en la opacidad de la comunicación segmentada. A diferencia de un mensaje político público que puede ser conocido, discutido y cuestionado por una comunidad, los mensajes dirigidos selectivamente a grupos específicos pueden circular sin que el conjunto de la ciudadanía conozca qué argumentos reciben otros sectores.
La construcción de la opinión pública queda entonces atravesada por nuevas desigualdades de visibilidad, conocimiento y capacidad de intervención.
Esta problemática puede relacionarse con El mago del Kremlin, de Giuliano da Empoli, una novela que reconstruye ficcionalmente las relaciones entre comunicación, espectáculo y poder político en Rusia. La figura del estratega que organiza relatos, conflictos y percepciones permite explorar una forma de intervención que no se limita a convencer mediante argumentos, sino que busca organizar las condiciones de circulación de esos argumentos.
Las operaciones coordinadas de cuentas, la amplificación artificial de mensajes y las estrategias de desinformación constituyen mecanismos posibles de influencia digital. No son equivalentes entre sí ni deben atribuirse automáticamente a una campaña electoral determinada.
Deseamos enfatizar que la economía de datos y la influencia política pueden conectarse, pero esa relación exige estudiar mecanismos concretos, responsabilidades y resultados, evitando convertir las posibilidades técnicas de intervención en explicaciones automáticas de los procesos electorales.
6. De la predicción conductual a la inteligencia artificial capaz de actuar
La expansión de la inteligencia artificial generativa introduce una transformación adicional en este escenario. Los sistemas contemporáneos no se limitan a clasificar información o elaborar predicciones sobre una conducta específica. También pueden producir textos, imágenes, programas informáticos, analizar documentos y, cuando cuentan con herramientas y permisos apropiados, ejecutar secuencias de acciones sobre otros sistemas digitales.
Esto modifica el problema del control.
En la perspectiva de Zuboff, el problema central reside en la concentración del conocimiento sobre la experiencia humana y en la capacidad de las corporaciones tecnológicas para utilizarlo con fines de predicción y modificación de conductas. El desarrollo de sistemas avanzados de inteligencia artificial incorpora una nueva dimensión a esta problemática: el control sobre las propias tecnologías, sus grados de autonomía y las consecuencias de su funcionamiento.
El interrogante ya no se limita, entonces, a quién dispone del conocimiento y del poder para orientar el comportamiento humano, sino que se extiende a quién posee la capacidad efectiva de comprender, supervisar y establecer límites a sistemas tecnológicos cuyo comportamiento no siempre resulta plenamente previsible, incluso para quienes los desarrollan.
Las dos dimensiones están relacionadas, pero no son idénticas.
Una es la capacidad de los sistemas tecnológicos para observar e influir sobre los sujetos. La otra es la capacidad humana e institucional de mantener bajo supervisión sistemas tecnológicos cada vez más complejos.
La segunda no resuelve automáticamente la primera. Una inteligencia artificial puede encontrarse bajo estricto control empresarial y, al mismo tiempo, integrarse en un modelo económico basado en prácticas invasivas de extracción de información.
De igual manera, una empresa puede desarrollar sistemas seguros desde el punto de vista de determinadas pruebas técnicas sin que ello resuelva los problemas de concentración económica, derechos sobre los datos o legitimidad democrática de sus decisiones.
El control técnico y el control democrático no deben confundirse.
7. Altman y Amodei: la controversia sobre el control de la inteligencia artificial
Durante septiembre y octubre de 2026, el debate sobre el desarrollo de la inteligencia artificial alcanzó un punto particularmente significativo. Dario Amodei, director ejecutivo de Anthropic, planteó públicamente la necesidad de desacelerar el avance de los modelos más capaces y establecer mecanismos de evaluación independientes ante los riesgos asociados con sistemas que adquieren mayores grados de autonomía.
Su advertencia se vinculó con la posibilidad de que agentes de inteligencia artificial ejecuten acciones no previstas, desarrollen comportamientos difíciles de supervisar o intervengan sobre infraestructuras digitales con consecuencias potencialmente graves.
Sam Altman, director ejecutivo de OpenAI, expresó posteriormente su coincidencia con la necesidad de establecer controles sobre el desarrollo de los modelos de frontera y respaldó la propuesta de incorporar evaluadores externos con acceso a información interna de las compañías.
El acercamiento resulta relevante porque ambas organizaciones compiten por ocupar posiciones centrales en el mercado de la inteligencia artificial. Sus diferencias estratégicas no desaparecieron, pero coincidieron públicamente en reconocer que la evaluación de los riesgos no podía depender exclusivamente de pruebas realizadas dentro de las propias empresas.
No obstante, el debate se desplazó rápidamente desde la necesidad de supervisión hacia las condiciones concretas de esa supervisión.
En octubre, una investigación de Reuters mostró que OpenAI y Anthropic mantenían negociaciones con evaluadores independientes acerca del acceso a información confidencial y de las posibilidades de publicar resultados sin restricciones empresariales. Las compañías argumentaban que era necesario proteger secretos comerciales, datos sensibles y propiedad intelectual. Los evaluadores, por su parte, necesitaban garantías de independencia para examinar los sistemas y comunicar sus hallazgos.
El conflicto revela una tensión estructural: las mismas organizaciones que desarrollan las tecnologías y obtienen beneficios económicos de su expansión controlan buena parte del conocimiento necesario para evaluar sus riesgos.
El 15 de octubre, Anthropic anunció que había comenzado a proporcionar a investigadores de METR un nivel de acceso semejante al de sus propios empleados, con el objetivo de permitir evaluaciones externas de modelos y prácticas de seguridad. El acuerdo contempló la publicación de evaluaciones independientes, aunque sujeto a condiciones específicas de protección de información.
Por otra parte, METR publicó el 22 de octubre resultados de pruebas realizadas sobre sistemas internos de monitoreo de agentes de OpenAI, en las que se identificaron vulnerabilidades. Estos trabajos muestran avances concretos hacia mecanismos de evaluación externa, pero también ponen de manifiesto la complejidad técnica de detectar comportamientos problemáticos en sistemas avanzados.
Lo que está en discusión no es simplemente si las empresas consideran importante la seguridad. La cuestión es quién establece qué significa que un sistema sea seguro, quién puede acceder a la evidencia necesaria para comprobarlo y quién posee autoridad para intervenir si se identifican riesgos inaceptables.
Desde la perspectiva de Zuboff, esta discusión recupera el problema de la asimetría del conocimiento, aunque ahora se presenta en un escenario diferente: no se trata únicamente de lo que las corporaciones saben sobre los usuarios, sino también de lo que las corporaciones saben sobre sus propios sistemas y de cuánto conocimiento pueden obtener las instituciones responsables de supervisarlas.
8. La variable económica: competencia, inversión y concentración del poder
La controversia entre Altman y Amodei no puede analizarse por fuera de las condiciones económicas que estructuran la industria de la inteligencia artificial.
A diferencia de numerosos servicios digitales cuya expansión inicial dependió de infraestructuras comparativamente menos costosas, el desarrollo de los modelos de frontera requiere inversiones extraordinarias en capacidad de cómputo, centros de datos, semiconductores, energía, personal especializado e investigación.
Estas condiciones generan barreras de entrada y favorecen la concentración de capacidades en organizaciones que pueden acceder a enormes volúmenes de capital.
La infraestructura no constituye un soporte neutral del desarrollo tecnológico. Determina qué organizaciones pueden entrenar los modelos más avanzados, quiénes pueden distribuirlos a gran escala y qué actores poseen recursos para sostener investigaciones de seguridad, evaluaciones y nuevas generaciones de sistemas.
Por ello, la cuestión económica presenta al menos tres dimensiones.
En primer lugar, la concentración de capital. Los elevados costos de desarrollo y operación favorecen una estructura industrial en la que un número limitado de compañías puede participar de la competencia por los modelos más avanzados.
En segundo lugar, la presión por la rentabilidad. Las empresas deben construir mecanismos de ingresos capaces de sostener inversiones crecientes. Entre ellos aparecen las suscripciones, el acceso mediante interfaces de programación, los servicios empresariales y la integración de la IA en procesos productivos. Estas modalidades no son equivalentes a los mercados de futuros conductuales descritos por Zuboff, aunque pueden coexistir con prácticas de monetización de datos y sistemas de personalización.
En tercer lugar, la relación entre seguridad y competencia. Desacelerar el desarrollo, permitir auditorías externas o restringir determinadas capacidades puede generar costos y modificar las posiciones relativas de las empresas. La seguridad se convierte así en una cuestión técnica, institucional y económica.
Los acontecimientos de octubre de 2026 vuelven visible esta contradicción. El 26 de octubre se conocieron los avances de Anthropic hacia su salida a bolsa, junto con informaciones sobre el crecimiento de sus ingresos y los elevados costos asociados a su expansión. Al mismo tiempo, continuaron los debates sobre la capacidad real de las empresas para moderar la velocidad del desarrollo tecnológico.
En este escenario, los compromisos públicos de seguridad conviven con una competencia que incentiva la ampliación de capacidades, la captación de usuarios, la expansión comercial y el acceso a nuevas fuentes de financiamiento.
La paradoja es evidente: las empresas necesitan demostrar que sus sistemas permanecen bajo control, pero también deben convencer a inversores y clientes de que pueden desarrollar tecnologías cada vez más potentes y económicamente productivas.
Desde la economía política de la comunicación, esta tensión obliga a preguntarse si los mecanismos de seguridad pueden ser plenamente eficaces cuando dependen de las mismas organizaciones cuyos resultados económicos están asociados con la expansión de los sistemas que deben supervisarse.
La distinción entre los modelos de negocios resulta fundamental. La acumulación económica de la IA generativa no se basa necesariamente en la venta de predicciones sobre los usuarios. Puede fundamentarse en el acceso pago a capacidades computacionales, servicios y herramientas. Sin embargo, comparte con el capitalismo de la vigilancia un problema más general: la concentración privada de recursos técnicos, información y capacidad de intervenir sobre actividades sociales.
La cuestión, por tanto, no consiste en afirmar que toda empresa de inteligencia artificial reproduce exactamente el modelo analizado por Zuboff, sino en investigar qué formas de acumulación económica hacen posible, incentivan o limitan determinadas relaciones de vigilancia y control.
9. De la vigilancia sobre los sujetos a la vigilancia sobre los sistemas
La controversia contemporánea introduce una inversión que merece particular atención.
Durante buena parte de la expansión de las plataformas digitales, la capacidad de observación se dirigió principalmente hacia los usuarios. Las empresas desarrollaron sistemas para registrar comportamientos, identificar patrones y elaborar predicciones.
En el debate sobre la inteligencia artificial avanzada, comienza a plantearse la necesidad de desarrollar una observación sistemática sobre los propios sistemas tecnológicos: registrar sus actuaciones, detectar comportamientos problemáticos, evaluar sus capacidades y establecer mecanismos de intervención.
Se produce así un desplazamiento desde la vigilancia como instrumento de acumulación hacia la supervisión como requisito de seguridad.
Sin embargo, ambas prácticas no deben confundirse. Su sentido depende de quién observa, con qué legitimidad, para qué finalidad y bajo qué condiciones de responsabilidad.
La vigilancia comercial puede transformar la experiencia de las personas en materia prima económica. La supervisión técnica de una IA puede buscar prevenir daños, identificar fallas y garantizar mecanismos de rendición de cuentas. Pero si esa supervisión permanece exclusivamente dentro de las organizaciones privadas, reaparece el problema de la concentración del conocimiento.
Los evaluadores externos constituyen un posible avance, aunque su independencia requiere condiciones institucionales precisas: acceso suficiente a la información, libertad para comunicar resultados, recursos propios y protección frente a las presiones de las organizaciones evaluadas.
La cuestión democrática aparece nuevamente. No basta con afirmar que los sistemas deben mantenerse bajo control humano. Resulta necesario establecer qué seres humanos e instituciones ejercen ese control, a quién representan y ante quién deben responder por sus decisiones.
10. La autonomía como problema de la economía digital
La conexión entre Zuboff, CTRL y los debates contemporáneos sobre OpenAI y Anthropic permite identificar una transformación en el significado del control tecnológico.
En la teoría del capitalismo de la vigilancia, el problema fundamental reside en la capacidad de apropiarse de la experiencia y utilizar el conocimiento obtenido para orientar comportamientos. En CTRL, esa problemática adquiere una dimensión narrativa: una persona delega en una tecnología una decisión limitada y descubre progresivamente que la arquitectura del servicio puede reorganizar aspectos centrales de su vida. En el desarrollo de la inteligencia artificial avanzada, la cuestión se amplía hacia el gobierno de sistemas con capacidades crecientes para ejecutar acciones, producir conocimiento e intervenir en otros entornos tecnológicos.
Los tres escenarios comparten una preocupación por la autonomía, pero también por las condiciones económicas que distribuyen desigualmente el conocimiento y el poder.
La promesa de una tecnología que simplifica tareas, anticipa necesidades o amplía capacidades personales puede coexistir con nuevas formas de dependencia. La disponibilidad de herramientas cada vez más sofisticadas no garantiza, por sí misma, que las personas posean mayor capacidad para comprender las condiciones bajo las cuales funcionan.
Del mismo modo, la expansión del acceso a la inteligencia artificial no equivale necesariamente a una distribución del control sobre sus infraestructuras, sus mecanismos de entrenamiento, sus criterios de funcionamiento o sus decisiones institucionales. La autonomía exige, entonces, algo más que la posibilidad de utilizar tecnologías. Requiere condiciones de transparencia, capacidad de impugnación, protección de derechos y formas de intervención pública sobre las decisiones que afectan a la sociedad.
Esta es, probablemente, una de las contribuciones más importantes que puede recuperarse de Zuboff para pensar el presente: la necesidad de distinguir entre los beneficios concretos de una innovación y las relaciones de poder que se organizan alrededor de ella.
¿Quién controla las condiciones de nuestra experiencia?
Como fuimos señalando, la perspectiva de Zuboff permite comprender que estas tensiones no pueden separarse de la lógica económica en la que se desarrollan las tecnologías. El problema no reside únicamente en las capacidades de un algoritmo, sino en las instituciones que deciden sus finalidades, los incentivos que orientan su desarrollo y las relaciones de poder que se constituyen a partir de su utilización.
En última instancia, la pregunta no es solamente si las tecnologías serán capaces de predecir nuestras conductas o actuar con creciente autonomía. Es también conocer si las sociedades democráticas conservarán la capacidad de establecer límites, intervenir sobre sus condiciones de funcionamiento y decidir colectivamente qué formas de desarrollo tecnológico desean construir.
Una sociedad puede disponer de tecnologías cada vez más inteligentes y, al mismo tiempo, perder capacidad para gobernar las condiciones económicas y políticas en las que esas tecnologías intervienen sobre su experiencia.
La defensa de la autonomía no consiste, entonces, en rechazar la innovación, sino en impedir que la capacidad de conocer, predecir y modificar la vida social quede desvinculada de los derechos, de la deliberación pública y de las instituciones democráticas.
Compartimos el slide que vimos en clase presencial
Bibliografía y materiales de referencia
- Anthropic. (2026, 15 de octubre). An update on independent evaluators. https://www.anthropic.com/news/an-update-on-independent-evaluators
- Da Empoli, G. (2022). Le mage du Kremlin. Gallimard. Ediciones en español: El mago del Kremlin.
- House of Commons, Digital, Culture, Media and Sport Committee. (2018). Disinformation and ‘fake news’: Interim report (HC 363).
- House of Commons, Digital, Culture, Media and Sport Committee. (2019). Disinformation and ‘fake news’: Final report (HC 1791).
- Information Commissioner’s Office. (2018). Investigation into the use of data analytics in political campaigns: A report to Parliament.
- METR. (2026, 20 de octubre). Review of the “Misalignment in high-stakes settings” section in Anthropic’s Risk Report.
- METR. (2026, 22 de octubre). Red-teaming OpenAI’s internal agent monitoring systems.
- Motwane, V. (Director). (2024). CTRL [Película]. Saffron Magicworks y Andolan Films; Netflix.
- Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.
