La era del capitalismo de vigilancia

Aquel día de julio de 2016 fue particularmente agotador para David. había pasado largas horas entrevistando a testigos en litigios de seguros en un tribunal polvoriento de New jersey. El día anterior, un corte de luz había dejado al edificio sin aire acondicionado. Finalmente, al llegar a su casa se sumergió en el aire fresco como si se zambullera en el océano. Por primera vez en el día, respiró profundamente, se sirvió un aperitivo y subió para darse cuenta una larga ducha. El timbre sonó en el preciso momento en el que el agua comenzaba a gotear sobre sus músculos doloridos. Interrumpió su ducha, se puso una polera y un short, y bajó rápidamente las escaleras. Al abrir la puerta, se encontró frente a frente con dos adolescentes que agitaban sus teléfonos celulares ante su mirada atónita.

-"Eh, tiene un pokemón en su patio. ¡Es nuestro! ¿Podemos pasar a atraparlo?"

-"Un qué?" 

Aquella noche, otros cuatro desconocidos impacientes por acceder a su jardín y furiosos por la respuesta negativa volvieron a molestar a David. Con sus teléfonos en mano, daban gritos y examinaban su casa para buscar a las famosas criaturas de "realidad aumentada". A través de sus pantallas, esa porción del mundo dejaba aparecer al pokemón, pero a expensas de todo el resto. El juego se había apropiado de la casa y del mundo que la rodeaba. Se trataba de una nueva pretensión comercial: una declaración de expropiación con fines lucrativos que transforma la realidad en una extensión de espacios vacíos listos para ser explotados en beneficio de otros. ¿Cuánto tiempo iba a durar esto? ¿Con qué derecho? ¿A quién tengo que llamar para que esto se termine?, se pregunta David. Ni él, ni los jugadores que se ensañaban con su timbre sospechaban que habían sido reunidos aquella noche por el capitalismo de vigilancia, una lógica audaz y sin precedentes...

Estalla la burbuja

En 1999, a pesar del éxito del nuevo mundo de Google, con sus páginas web que pueden consultarse sólo con un clic, sus capacidades informáticas en aumento y sus inversores glamorosos, la multinacional no disponía de ninguna estrategia para hacer que el dinero de los inversores diera frutos.

Los usuarios aportaban la materia prima en forma de datos comportamentales que eran recolectados para mejorar la velocidad, la precisión y la pertinencia de los resultados para concebir productos anexos como la traducción. Debido a este equilibrio de poderes, hubiese sido arriesgado, y hasta contraproducente, desde el punto de vista financiero hacer que el motor de búsqueda se volviera de pago para usuarios. La venta de los resultados de búsqueda también hubiera sentado un precedente peligroso para la multinacional, al asignarle un precio a informaciones de las que el robot indexador de Google ya se había apropiado sin retribución. De no ser por los aparatos como el iPod de Apple con sus canciones en formato digital, no habría plusvalía, ni productos que vender, ni margen y, por lo tanto, tampoco habría ganancia.

En aquella época, Google relegaba la publicidad a un segundo plano: el equipo de AdWords, su departamento de publicidad tenía sólo siete integrantes que en su mayoría compartían la antipatía de los fundadores por los anuncios. Pero en abril de 2000, la famosa "nueva economía" en traba brutalmente en recesión y un terremoto financiero sacudía al jardín del Edén de Silicon Valley. La respuesta de Google iba a provocar una mutación crucial que transformaría a AdWords, Google, Internet y la naturaleza misma del capitalismo de la información en un proyecto de vigilancia formidablemente lucrativo.

Publicidad dirigida

La lógica de acumulación que iba a asegurar el éxito de Google aparecía claramente en una patente registrada en 2003 por tres de los mejores informáticos de la empresa, bajo el título: "Generar informaciones-usuario para crear publicidad dirigida". Esta invención, explican, apunta a "establecer las informaciones de los perfiles de los usuarios y utilizarlos para la difusión de anuncios publicitarios"(1). En otros términos, Google ya no se contentaba con extraer datos comportamentales para mejorar sus servicios, sino que ahora leía la mente de los usuarios para que las publicidades correspondieran a sus intereses. Éstos, serán de deducidos a partir de las huellas colaterales de su comportamiento en línea. La colecta de nuevos juegos de datos llamados "Perfil de usuario" (del inglés user profile information), iba a mejorar considerablemente la precisión de las predicciones.

¿De dónde provienen estas informaciones? Para retomar las palabras de sus inventores, "podrán ser deducidas". Las nuevas herramientas permiten crear perfiles a partir de la integración y análisis de los hábitos de búsqueda de un internauta, de los documentos que solicita, de los documentos que solicita y de una miríada de otros signos de comportamiento en línea, incluso cuando los usuarios no brinden directamente estas informaciones personales. El perfil de usuario, advierten los inventores, "puede ser creado (o actualizado o ampliado) incluso cuando no se le dé ninguna información explícita al sistema". De este modo, manifiestan su voluntad y su capacidad de superar las eventuales fricciones ligadas a los derechos de decisión de los usuarios. Los datos comportamentales, cuyo valor había sido "agotado" dese el punto de vista de la precisión de las búsquedas, se convertiría a partir de entonces en la materia prima esencial -y exclusivamente detentada por Google- para la construcción de un mercado de publicidad en línea más dinámico. Estas informaciones recolectadas para otros usos, además de mejorar los servicios, constituían una plusvalía. Y es sobre la base de esta plusvalía comportamental que la joven empresa accedería a los perfiles sostenidos y exponenciales necesarios para sobrevivir.

La invención de Google generó nuevas posibilidades de deducir los pensamientos, los sentimientos, las intenciones y los intereses de los individuos y de los grupos por medio de una arquitectura de extracción automatizada que funciona como un espejo de dos caras, haciendo caso omiso de la consciencia y el consentimiento de los implicados. Este imperativo de extracción permitió realizar economías de escala que procurarían una ventaja competitiva única en el mundo en un mercado en el que los pronósticos sobre los comportamientos individuales representan un valor que se compra y se vende. Pero, sobre todo, el espejo de dos caras simboliza las relaciones sociales de vigilancia particulares fundadas sobre una formidable asimetría de saber y poder.

Tan repentino como rotundo, el éxito de AdWords condujo a una expansión significativa de la lógica de vigilancia comercial. En respuesta al pedido creciente de clics por parte de los publicitarios, Google empezó por extender el modelo más allá de su motor de búsqueda para transformar Internet en un vasto soporte de anuncios dirigidos de Google. Según palabras de Hal Varian, economista en Jefe de Google, para el gigante californiano se trataba de aplicar sus nuevas competencias en materia de "extracción y de análisis" a los contenidos de todas las páginas de Internet, a los más mínimos gestos de los usuarios recurriendo a la técnicas de análisis semántico y de inteligencia artificial susceptibles de extraer sentido. Desde ese momento, Google podía evaluar el contenido de una página y la manera en la que los usuarios interactuaban con ella. Esta "publicidad dirigida a partir de los centros de interés" basada sobre los métodos patentados por Google sería finalmente bautizada AdSense. En 2004 la filial generaba un volumen de facturación cotidiano de un millón de dólares, cifra que se multiplicó por más de 25 en 2010.

Vigilancia en línea

Todos los ingredientes para un proyecto lucrativo estaban reunidos: plusvalía comportamental, ciencias de los datos, infraestructura material, potencia de cálculo, sistemas algorítmicos y plataformas automatizadas. Todos convergían para engendrar una "pertinencia" sin precedentes y millones de ofertas publicitarias. Las tasas de clics aumentaron de manera exponencial. Trabajar en AdWords y AdSense era a partir de entonces, tan importante como trabajar en el motor de búsqueda. Desde el momento en que la pertinencia se mide en tasas de clic, la plusvalía comportamental se convirtió en la piedra angular de una nueva forma de comercio que depende de la vigilancia en línea a gran escala. La introducción en la bolsa de Google en 2004 reveló al mundo el éxito financiero de este nuevo mercado. Sheryl Sanderberg, ex directiva de Google que luego pasó a Facebook, presidiría la transformación de la red social en un gigante de la publicidad. El capitalismo de vigilancia se impuso rápidamente como el modelo por defecto del capitalismo de información en la red, y atrajo poco a poco a competidores de todos los sectores. 

La economía de la vigilancia reposa sobre un principio de subordinación y de jerarquía. La antigua reciprocidad entre las empresas y los usuarios se borra detrás de un proyecto que consiste en extraer una plusvalía de nuestro comportamiento, con fines concebidos por otros -vender publicidad-. Tampoco somos ya, como se ha afirmado, el "producto" que vende Google. Somos los objetos de los que se extrae la materia, que es expropiada para luego ser inyectada en las fábricas de inteligencia artificial de Google que elaboran los productos predictivos que serán vendidos a los clientes reales –las empresas que pagan para jugar con los nuevos mercados comportamentales–.

Douglas Edwards, primer responsable de la marca Google, cuenta que en una reunión que se realizó en 2001 con los fundadores en torno a la pregunta "¿Qué es Google?", Larry page reflexionaba: "Si tuviéramos una categoría, serían las informaciones personales (...) Los lugares que vimos. nuestras comunicaciones (...). Los receptores no cuestan nada. Las personas van a generar enormes cantidades de datos (...). Todo lo que escucharon, vieron o sintieron podrá ser consultado. Sus vidas enteras podrán ser consultadas" (2).

Extracciones intrusivas

Su visión brinda un fiel reflejo de la historia del capitalismo, que consiste en captar cosas externas a la esfera comercial para convertirlas en mercancías. En su ensayo La gran Transformación, publicado en 1944, el historiador Karl Polanyi describe el advenimiento de una economía de mercado autorregulada a través de la invención de tres "mercancías ficticias". En primer lugar, la vida humana subordinada a las dinámicas de mercado y que reina bajo la forma de un "trabajo" vendido y comprado. En segundo lugar, la tierra, que debe someterse a las leyes del mercado y renace como "propiedad inmueble". En tercer lugar, el intercambio se vuelve mercantil y resucita como "dinero". los detentores actuales del capital de vigilancia crearon una cuarta mercancía ficticia, fruto de la expropiación de las experiencias humanas reales, cuyos cuerpos, pensamientos y sentimientos seguían manteniéndose tan intactos e inocentes como las praderas y los bosques que abundaban en la naturaleza antes de ser absorbidos por el mercado. Según esta lógica, la experiencia humana se encuentra mercantilizada por el capitalismo de vigilancia para renacer bajo la forma de "comportamientos". Traducidos en datos, estos últimos ganan terreno en la interminable fila que alimenta a las máquinas concebidas para hacer predicciones que se compran y se venden.

Esta nueva forma de mercado parte del principio de que servir a las necesidades reales de los individuos es menos lucrativo, y entonces menos importante, que vender predicciones de su comportamiento. Google descubrió que tenemos menos valor que los pronósticos que otros hacen sobre nuestros comportamientos. Eso lo cambió todo.

La primera ola de productos predictivos fue incentivada por la plusvalía extraída a gran escala de Internet para producir anuncios "pertenecientes" en línea. en la etapa siguiente, se trabajó sobre la calidad de las predicciones. En la carrera por la certeza máxima, se hizo evidente que las mejores predicciones debían acercarse lo más posible a la observación. Al imperativo de extracción se agregó una segunda exigencia económica: el imperativo de predicción. Este último se manifiesta en primer lugar en las economías de gama.

La plusvalía comportamental no sólo debe ser abundante, sino también variada. Obtener esa variedad implicaba extender las operaciones de extracción del mundo virtual al mundo real, allí donde tiene lugar nuestra verdadera vida. Los capitalistas de vigilancia comprendían que su riqueza futura pasaba por el desarrollo de nuevas cadenas de abastecimiento en las rutas, en los árboles, a través de las ciudades. Intentarían acceder a nuestro sistema sanguíneo, nuestras camas, nuestras conversaciones matinales, nuestros trayectos, nuestro footing, nuestras heladeras, nuestros lugares de estacionamiento, nuestros livings.

Una segunda dimensión, todavía más audaz que la variedad, caracterizaría a partir de entonces la recolección de datos: la profundización. Para obtener predicciones comportamentales bien precisas y, por lo tanto, muy lucrativas, hay que sondear nuestras particularidades más íntimas. Estas operaciones de abastecimiento apuntan a nuestra personalidad, nuestro humor, nuestras emociones, nuestras mentiras y fragilidades. Todos los niveles de la vida personal serán captados automáticamente y comprimidos en un flujo de datos para ser enviados a cadenas de montaje que producen certeza. Aunque se realizan bajo la excusa de la "personalización", una buena parte de este trabajo consiste en extracciones intrusivas sobre los aspectos más íntimos de nuestra cotidianidad. 

       De la botella de vodka "inteligente" al termómetro rectal conectado, los productos destinados a interpretar, seguir, grabar, comunicar datos comportamentales proliferan. Sleep Number, que ofrece "camas inteligentes dotadas de una tecnología de seguimiento del sueño", también recolecta "datos biométricos y datos relativos a la manera en que las personas, sus hijos o cualquiera utiliza la cama, principalmente los movimientos del que duerme, sus posiciones, respiraciones y su frecuencia cardíaca durante el sueño". También graba todos los sonidos emitidos en la habitación... Nuestras casas se encuentran en el punto de mira del capitalismo de vigilancia. Una prueba de ello es que varias empresas competían por un mercado de 14.700 millones de dólares para electrodomésticos conectados en 2017, contra 6.800 el año anterior. A ese ritmo, el monto alcanzaría los 101.000 millones de dólares en 2021. Los objetos absurdos, que se comercializan desde hace ya algunos años, se mantienen al acecho de nuestros interiores: un cepillo de dientes inteligente, una taza de café inteligente, horno inteligente, extractor de jugo inteligente, sin olvidar los cubiertos inteligentes que mejoran la digestión. Otros parecen aun más inquietantes: una cámara de vigilancia a domicilio con reconocimiento facial, un sistema de alarma que vigila las vibraciones inhabituales que preceden a un robo, GPS de interior; detectores que se adaptan a todos los objetos para analizar el movimiento y la temperatura; sin olvidar a las cucarachas robot que detectan los sonidos. Incluso la habitación de los bebés ha sido repensada para convertirse en una fuente de plusvalía comportamental.

Mientras que la carrera por los beneficios generados por la vigilancia se exacerba, los capitalistas perciben que las economías de gama no bastan. Es cierto que la plusvalía comportamental debe ser abundante y variada, pero el medio más seguro para predecir el comportamiento sigue siendo la intervención de la fuente: modelándola. llamo "economías de la acción" a los procesos inventados para este fin: programas configurados para intervenir en situaciones reales, con personas y cosas reales. Estas intervenciones apuntan a aumentar la certeza influyendo sobre ciertos comportamientos: ajustan, adaptan, manipulan, reclutan por efecto de grupo, dan una mano. Modifican nuestro comportamiento hacia direcciones particulares, por ejemplo, insertando una frase precisa en nuestro perfil, programando en el momento oportuno la aparición de un botón "compra" en nuestro teléfono, apagando el motor del auto si se ha postergado demasiado el pago del seguro, u orientándonos a través del GPS para buscar Pokemones. "Nosotros aprendemos a escribir música. Luego, dejamos que la música los haga bailar. podemos ajustar el contexto que rodea a un comportamiento particular para imponer un cambio... podemos decirle a la heladera, "ciérrate porque no debería comer" u ordenarle a la televisión que se apague para que uno se acueste más temprano", explica un programador. 

Una nueva era

Desde que el imperativo de predicción desplazó a las operaciones de abastecimiento en el mundo real, a los proveedores de bienes o de servicios pertenecientes a sectores bien establecidos, lejos de Silicon Valley, se les cae la baba ante la idea de las ganancias producto de la vigilancia. en particular, las aseguradoras de autos, impaciente spor poner en marcha la telemática -los sistemas de navegación y control de los vehículos-. Saben desde hace mucho tiempo que los riesgos de accidentes están estrechamente relacionados con el comportamiento y la personalidad del conductor. un informe de los servicios financieros de la consultoría Deloitte recomienda la "minimización del riesgo" (un eufemismo que, para una aseguradora, designa la necesidad de garantizar las ganancias) a través del seguimiento del asegurado en tiempo real -un enfoque bautizado "seguro de comportamiento"-. Según el informe de Deloitte "la aseguradora puede seguir el comportamiento del asegurado en directo, registrando las horas, los lugares y las condiciones de circulación durante sus trayectos, observando si aceleran rápidamente o si conducen a velocidades elevadas y hasta excesivas, si frenan o giran de manera brusca, si ponen el guiño" (3).

       A medida que la certeza se sustituye a la incertidumbre, las primas de las aseguradoras que reflejaban los inevitables imprevistos de la vida cotidiana pueden aumentar o caer de un segundo al otro, a través de la información y el conocimiento preciso de la velocidad a la que conducimos hacia nuestros lugares de trabajo tras una mañana particularmente tensa porque tuvimos que ocuparnos de un hijo enfermo, o de una sesión de frenadas bruscas en el estacionamiento de un supermercado.

        Pero las herramientas telemáticas no apuntan sólo a saber sino también a actuar. De este modo, los seguros del comportamiento prometen reducir los riesgos a través de mecanismos concebidos para modificar las conductas y aumentar las ganancias. Esto pasa por sanciones, como el aumento de las tasas de interés en tiempo real, penalizaciones, bloqueos de motor, o recompensa como reducciones, bonificaciones o puntos para reutilizar en prestaciones futuras. Spireon, que se describe como "la empresa más grande de temática" en su ámbito, sigue y vigila vehículos y a sus conductores para las agencias de alquiler, las aseguradoras y los propietarios del parque automotor. Su "sistema de gestión de daños colaterales ligados al alquiler" dispara alertas cuando los conductores se retrasan en el pago, bloquea el vehículo a distancia cuando el problema se prolonga demasiado, y lo localiza para su recuperación.

  La telemática inaugura una nueva era, la del control comportamental. Las aseguradoras deben fijar los parámetros de conducta: cinturón de seguridad, velocidad, tiempos de pausa, aceleración o frenadas bruscas, duración de conducta excesiva, conducción fuera de la zona válida del permiso, ingreso en una zona de acceso restringido. Los algoritmos, que están repletos de este tipo de información, vigilan evalúan y clasifican a los conductores y ajustan las primas en tiempo real. Como nada se pierde, los "rasgos de carácter" establecidos por el sistema también se traducen en productos predictivos que serán vendidos a los publicistas que, a su vez, apuntarán a los asegurados a través de publicidades enviadas directamente a sus teléfonos celulares.

Un juego dentro del juego

Cuando abrió la puerta aquel día, David ignoraba que los cazadores de Pokemones y hasta él mismo participaban de una experiencia mayor de economías de la acción. Eran conejillos de Indias, y el técnico de laboratorio con ambos blancos se llamaba John Hanke.

Hasta entonces vicepresidente de Google Maps y responsable de Street View, John Hanke creó en 2010 su propia plataforma de lanzamiento de Google: Niantic Labs, la empresa que dio origen a Pokemón Go. Hanke acariciaba la ambición de tomar posesión del mundo cartografiándolo. Ya había fundado Keyhole, una start-up de cartografía virtual a partir de imágenes satelitales financiada por la CIA que luego fue comprada por Google y rebautizada Google Earth. Con Niantic, se dedicó a concebir juegos de realidad virtual en los que hay que perseguir y atrapar personas en los territorios que Street View ya había capturado con audacia sobre esos mapas.

        Este juego se basa en el principio de la "realidad aumentada" y funciona como una búsqueda del tesoro. Una vez que descarga la aplicación en Niantic, se utiliza el GPS y la cámara de fotos del teléfono para encontrar criaturas virtuales llamadas Pokemones. Aparecen en la pantalla como si se encontraran delante de uno: en el jardín de un hombre que no sospecha nada, en una ciudad, en una pizzería, en un parque, en una farmacia, etc. Se trata de alentar de alentar a los jugadores a "salir" y a "buscar aventuras a pie", en los espacios a cielo abierto de las ciudades, pueblos y alrededores. Pokemón Go, que fue lanzado en Estados Unidos, Australia y Nueva Zelanda el 6 de julio de 2016, se convirtió en la aplicación más descargada y más lucrativa en Estados Unidos al cabo de una semana, alcanzando rápidamente la misma cantidad de usuarios activos en Android que Twitter.

        Sólo seis días después del lanzamiento del juego, Joseph Bernstein, reportero para el sitio de información en línea BuzzFeed aconsejaba a los usuarios de Pokemón que se fijaran en la cantidad de datos que la aplicación recolectaba desde sus teléfonos. TechCrunch, un sitio de información especializado en start-ups y nuevas tecnologías, expresaba inquietudes similares en cuanto a "la larga lista de autorizaciones requeridas por la aplicación". 

    El 13 de julio de 2016, la lógica de la "caza de datos" que se esconde detrás del juego se hizo más explícita. Además de los pagos para opciones suplementarias, "el modelo económico de Niantic contiene un segundo componente, a saber, el concepto de lugares patrocinados", reconoció Hanke en una entrevista para Financial Times. Este nuevo flujo de ingresos estaba previsto desde el comienzo: las empresas "le pagarán a Niantic para figurar entre los lugares del terreno del juego virtual, teniendo en cuenta el hecho de que esta presencia favorece la frecuentación". La facturación, explicaba, se realiza sobre la base de "un costo por visita", parecido al "costo por clic" utilizado por los anuncios publicitarios del motor de búsqueda de Google.

    La idea sorprende por su simplicidad: los ingresos en el mundo real deberían aumentar según la capacidad de Niantic para llevar a las personas hacia ciertos lugares precisos, del mismo modo en que Google aprendió a crear plusvalía apuntando a publicidades en línea para determinadas personas. los componentes y dinámicas del juego, asociados a la tecnología de punta de la realidad aumentada, incitan a las personas a juntarse en lugares del mundo real para gastar su dinero bien real en comercios del mundo real que pertenecen a los mercados de la predicción comportamental de Niantic.

     El apogeo de Pokemón GO en el verano boreal de 2016 significaba la realización del sueño del capitalismo de vigilancia: un laboratorio que vive de la modificación comportamental que conjugaba con facilidad escala, gama y acción. La astucia de Pokemón Go consistía en transformar un simple juego en una partida de orden muy diferente, el del capitalismo de vigilancia: un juego dentro del juego. Paseando en los parques y pizzerías, los jugadores que tomaron la ciudad como terreno lúdico servían inconscientemente como peones sobre ese segundo tablero mucho más consecuente. Los entusiastas de ese otro juego bien "real" no forman parte del grupo de desconocidos que agitaban sus celulares en el jardín de David. Son los verdaderos clientes de Niantic: las entidades que pagan para jugar en el mundo real, seducidas por la promesa de ingresos garantizados. En este segundo juego permanente, los jugadores se disputan el dinero que deja cada miembro sonriente de la tropa. "La capacidad del juego para servir de vaca lechera a los negocios y otros adeptos de la frecuentación, suscitó fuertes especulaciones", afirmó Financial Times.

     Pero no puede haber ganancias aseguradas si no se tienen los medios. Las nuevas herramientas internacionales de modificación comportamental representan una nueva era reaccionaria en la que el capital es autónomo y los individuos heterónomos; la posibilidad misma de un desarrollo democrático y humano exigiría lo contrario. Esta paradoja siniestra está en el corazón del capitalismo de vigilancia: una economía de nuevo género que nos reinventa al prisma de su propio poder y a través de sus medios de modificación comportamental. Debemos preguntarnos cuál es ese nuevo poder y cómo transforma la naturaleza humana en nombre de esas certezas lucrativas.

1. Para las referencias, remitirse a la obra de Shoshana Zuboff.

2. Douglas Edwards, I'm Feeling Lucky, Houghton Mifflin Harcourt, Boston, 2011.

3. "Overcoming Speed Bumps on the Road to Telematics", Deloitte University Press, 21-4-14.

LE MONDE diplomatique | enero-febrero 2019 |p. 26-27

Traducción: María Julia Zaparart

Shoshana Zuboff es profesora emérita de Harvard Business School. Autora de The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontie of Power, Public Affair, 2019.