De 1984 a Black Mirror: la guerra silenciosa por nuestra mente
Hubo un tiempo en que el poder necesitaba convencer. Después aprendió a vigilar. Ahora puede intentar algo mucho más sofisticado: conocernos lo suficiente como para anticipar qué vamos a pensar, qué nos va a indignar y qué nos hará reaccionar. La guerra cognitiva algorítmica ya no pertenece solamente a la literatura distópica. El campo de batalla puede estar en la palma de nuestra mano.
George Orwell imaginó un mundo en el que el Gran Hermano observaba a sus ciudadanos permanentemente. En 1984, la vigilancia era visible, intimidante, casi física. Una pantalla podía observarte mientras tú sabías que estabas siendo observado.
Aldous Huxley imaginó algo diferente en Un mundo feliz. Allí no hacía falta prohibir demasiado: las personas eran educadas para desear aquello que el sistema necesitaba que desearan.
Y décadas después, Black Mirror llevó esas pesadillas al territorio de los teléfonos inteligentes, las redes sociales y los algoritmos.
Hoy las tres imágenes parecen encontrarse.
Pero existe una diferencia fundamental.
La tecnología contemporánea no necesita necesariamente obligarnos, ni siquiera convencernos.
Puede aprender de nosotros.
Puede observar qué buscamos, qué leemos, qué compartimos, cuánto tiempo permanecemos frente a una publicación, qué imágenes nos detienen y cuáles ignoramos. Puede registrar qué temas nos entusiasman y cuáles nos enfurecen.
Y, sobre todo, puede aprender qué botón emocional debe tocar para conseguir nuestra atención.
El abogado Ricardo Gallego, especializado en estrategia geopolítica e inteligencia, denomina a este fenómeno guerra cognitiva algorítmica.
La expresión puede parecer salida de una novela de ciencia ficción.
Pero basta traducirla a un lenguaje cotidiano para descubrir su verdadero alcance.
Se trata, en términos generales, del uso de programas informáticos y sistemas de inteligencia artificial para recopilar información sobre las personas, procesarla y utilizarla con el objetivo de influir sobre aquello que piensan, sienten y hacen.
No es simplemente propaganda.
Es propaganda con capacidad de aprendizaje.
El Gran Hermano tenía un problema: no sabía todo
El Gran Hermano de Orwell era omnipresente, pero tenía una limitación que hoy parece casi ingenua: necesitaba observar.
El algoritmo, en cambio, puede inferir.
No hace falta que digamos explícitamente que estamos preocupados por la inseguridad.
Puede deducirlo a partir de las noticias que buscamos, los videos que miramos, las conversaciones que mantenemos y las publicaciones que compartimos.
No hace falta que confesemos que estamos enojados.
Puede observar cómo escribimos.
No hace falta que expliquemos qué nos interesa.
Puede aprenderlo de nuestros hábitos.
La diferencia es enorme.
El vigilante de Orwell sabía lo que hacías.
El algoritmo intenta descubrir por qué lo haces.
Y ahí empieza la verdadera batalla.
La tubería invisible
Para comprender cómo funciona esta maquinaria, Gallego propone pensarla como una cadena de producción.
Primero hay que conseguir la materia prima.
Después procesarla.
Finalmente, encontrar la forma de utilizarla.
En el mundo digital, una de las primeras herramientas es el scraping: sistemas automatizados que recorren páginas web, redes sociales y otros espacios digitales para recolectar información.
Imaginemos un pequeño almacén.
Alguien entra todos los días y copia en una libreta absolutamente todo lo que dicen los clientes.
Quién se queja por el precio de la leche.
Quién habla de política.
Quién está preocupado por la inseguridad.
Quién odia determinado equipo de fútbol.
Quién está buscando trabajo.
Quién acaba de separarse.
Quién tiene miedo.
Quién está furioso.
Ahora imaginemos que esa libreta no tiene diez páginas, sino millones.
Y que se actualiza permanentemente.
Eso se parece mucho más al mundo digital.
Después aparece la tokenización.
Las máquinas necesitan transformar el lenguaje humano en unidades que puedan procesar. Las palabras y fragmentos de palabras se convierten en representaciones numéricas.
La conversación humana empieza a transformarse en datos.
Después llega la vectorización.
Las palabras, conceptos e informaciones son ubicados en espacios matemáticos en los que pueden establecerse relaciones entre ellos.
Lo que para nosotros es una conversación puede convertirse para una máquina en un mapa.
Y ese mapa puede revelar algo extraordinariamente valioso:
dónde están nuestros puntos sensibles.
La calesita que nunca se detiene
Pero el mecanismo más poderoso aparece después.
El sistema observa.
Procesa.
Decide qué mostrar.
Observa nuestra reacción.
Vuelve a procesar.
Y vuelve a decidir.
Es un circuito cerrado.
Una calesita digital que nunca deja de girar.
Si una publicación nos provoca indignación y hacemos clic, el sistema aprende.
Si otra nos genera miedo y la compartimos, aprende.
Si un video nos mantiene mirando durante varios minutos, aprende.
Al día siguiente, puede mostrarnos algo todavía más parecido.
No necesariamente porque alguien haya decidido personalmente que debemos verlo.
Sino porque el sistema aprendió que funciona con nosotros.
Y aquí aparece una de las preguntas más incómodas de nuestra época:
¿Elegimos lo que vemos o cada vez vemos más aquello que un sistema aprendió que queremos ver?
La diferencia parece pequeña.
No lo es.
Huxley tenía razón en algo
En Un mundo feliz, Huxley imaginó una sociedad en la que el control no dependía exclusivamente de la prohibición.
La gente era condicionada para amar aquello que debía amar.
La dominación perfecta, en cierto sentido, sería aquella que consigue que el individuo confunda obediencia con deseo.
Los algoritmos no son el Estado de Huxley, por supuesto.
Pero la comparación resulta útil para pensar un fenómeno contemporáneo: la personalización extrema puede convertir la influencia en algo invisible.
Ya no recibimos necesariamente el mismo mensaje que recibe nuestro vecino.
Cada uno puede vivir dentro de una pequeña burbuja informativa diseñada a partir de su comportamiento.
Dos personas pueden mirar exactamente la misma plataforma y terminar viviendo realidades completamente diferentes.
Uno recibe indignación.
Otro recibe miedo.
Otro recibe entretenimiento.
Otro recibe conspiraciones.
Otro recibe indignación política.
Todos creen estar mirando “la realidad”.
Pero cada uno está mirando una versión diferente de ella.
La colonización de nuestra propia mirada
Aquí aparece una dimensión cultural todavía más profunda.
Gallego habla de colonización epistémica: la posibilidad de que una sociedad termine interpretando su propia realidad mediante categorías construidas fuera de ella.
No es difícil imaginarlo.
Argentina produce enormes cantidades de información todos los días.
Conversaciones.
Noticias.
Memes.
Quejas.
Historias.
Experiencias.
Debates.
La vida cotidiana convertida en datos.
Pero buena parte de la infraestructura tecnológica capaz de procesar esos datos se encuentra en manos de grandes empresas globales.
Entonces aparece una pregunta incómoda:
¿Qué ocurre cuando una sociedad entrega su experiencia cotidiana a sistemas que no controla?
El riesgo no es solamente económico.
También es cultural.
Porque quien procesa los datos puede ayudar a determinar cómo se organizan, qué relaciones se establecen entre ellos y qué conceptos resultan relevantes.
Una discusión sobre el precio del pan podría convertirse en una batalla ideológica global.
Una preocupación vecinal podría transformarse en contenido diseñado para generar indignación.
Un conflicto local podría terminar interpretándose mediante categorías importadas.
La tecnología puede terminar haciendo algo extraño:
tomar nuestra realidad y devolvérnosla traducida.
La grieta como modelo de negocio
Hay otro fenómeno todavía más preocupante: la polarización.
Imaginemos una comunidad pequeña.
Vecinos que se conocen desde hace décadas.
El mismo almacén.
La misma plaza.
La misma escuela.
Las mismas calles.
Hasta que las redes empiezan a alimentar las diferencias.
Uno recibe contenido que confirma que el otro es ignorante.
El otro recibe contenido que confirma que el primero es peligroso.
Cada uno recibe argumentos diferentes, seleccionados para reforzar su propia posición.
La discusión deja de ser sobre el problema.
Se transforma en una pelea sobre la identidad del adversario.
El algoritmo no necesita decirles directamente que se odien.
Puede bastar con mostrarles aquello que más los enfurece.
Y ahí aparece una paradoja terrible:
La plataforma puede ganar mientras la comunidad pierde.
Porque la indignación genera atención.
La atención genera permanencia.
La permanencia genera datos.
Y los datos permiten mejorar el sistema.
Una máquina alimentándose de nuestras propias discusiones.
Cuando la mentira ya no necesita ser creída
La inteligencia artificial introduce otra dificultad.
Durante mucho tiempo, la propaganda necesitó que creyéramos una mentira.
Ahora puede bastar con producir tantas versiones contradictorias de la realidad que terminemos convencidos de que no existe ninguna verdad confiable.
Una fotografía puede ser falsa.
Un video puede ser generado artificialmente.
Una voz puede ser clonada.
Una declaración puede ser inventada.
Y entonces aparece el escenario perfecto para la confusión:
“Todo puede ser falso”.
El problema deja de ser solamente la desinformación.
Es la destrucción de la confianza.
Porque una democracia necesita ciudadanos capaces de discutir sobre hechos compartidos.
Si cada uno puede elegir su propia realidad, la conversación pública se vuelve prácticamente imposible.
Orwell imaginó un poder que controlaba la verdad.
La nueva pesadilla puede ser diferente:
un mundo en el que nadie sabe dónde encontrarla.
¿Y nosotros qué hacemos?
La respuesta no puede ser volver al mundo analógico.
El teléfono ya forma parte de nuestra vida.
La inteligencia artificial seguirá desarrollándose.
Los algoritmos serán cada vez más sofisticados.
La cuestión no es escapar de la tecnología.
Es aprender a vivir con ella sin entregar completamente nuestra capacidad de decidir.
La primera defensa es comprender cómo funciona.
Saber que aquello que aparece en nuestra pantalla no necesariamente representa “lo que está pasando”, sino aquello que un sistema considera conveniente mostrarnos.
La segunda es recuperar una vieja costumbre que las redes sociales parecen haber convertido en un acto revolucionario:
esperar.
No compartir inmediatamente.
No responder en caliente.
No creer porque algo coincide con lo que ya pensamos.
No rechazar automáticamente aquello que contradice nuestras ideas.
Buscar otras fuentes.
Preguntar.
Dudar.
Verificar.
La tercera defensa es colectiva.
Las sociedades necesitan discutir qué ocurre con sus datos.
Qué información puede recolectarse.
Quién puede almacenarla.
Quién puede procesarla.
Qué modelos de inteligencia artificial se desarrollan.
Con qué datos fueron entrenados.
Qué intereses existen detrás.
Porque si la materia prima somos nosotros, la discusión sobre quién controla esa materia prima es también una discusión sobre soberanía.
La última pantalla
Quizás la mayor ironía de nuestra época sea que llevamos voluntariamente en el bolsillo el dispositivo que podría convertirse en una de las herramientas más poderosas de influencia jamás construidas.
Lo usamos para despertarnos.
Para trabajar.
Para enamorarnos.
Para informarnos.
Para discutir.
Para comprar.
Para entretenernos.
Y mientras hacemos todo eso, dejamos pequeñas huellas.
Cada búsqueda.
Cada clic.
Cada pausa.
Cada reacción.
Cada “me gusta”.
Cada segundo frente a una pantalla.
La máquina aprende.
Nosotros seguimos viviendo.
Y en algún lugar invisible entre ambas cosas se libra una batalla.
No necesariamente por conquistar nuestro territorio.
No necesariamente por controlar nuestras fronteras.
Sino por algo mucho más íntimo:
nuestra atención, nuestras emociones y nuestra capacidad de decidir qué pensar.
Quizás Orwell se equivocó en un detalle.
El Gran Hermano no necesariamente necesita estar mirándonos desde una pantalla.
Puede bastar con que nosotros sigamos mirando la pantalla.
Y quizás Huxley también tenía razón en algo que hoy adquiere una dimensión inesperada: el poder más eficiente no siempre es aquel que nos obliga a hacer algo.
A veces es aquel que consigue que hagamos exactamente lo que quiere el sistema mientras creemos que estamos eligiendo libremente.
La guerra cognitiva algorítmica no necesita tanques.
No necesita soldados.
No necesita fronteras.
Tiene otra infraestructura.
Datos para conocernos. Algoritmos para clasificarnos. Inteligencia artificial para aprender de nosotros. Y una pantalla para devolvernos aquello que puede hacernos reaccionar.
La batalla, finalmente, no está afuera.
Está entre el estímulo y nuestra reacción.
Y quizás nuestra primera forma de resistencia consista en algo extraordinariamente sencillo:
aprender a no hacer clic.
