Por Marcelo Rinesi
«El mercader de droga,» escribió William S. Burroughs, «no vende su producto al consumidor, vende el consumidor a su producto. No mejora y simplifica su mercadería. Degrada y simplifica al cliente.» Bien podría haber estado describiendo nuestra internet comercial, mediada por algoritmos, y orientada alrededor de las redes sociales.
Los efectos emocionales y políticamente tóxicos de plataformas como Facebook y Twitter, junto con las organizaciones que las explotan, pueden no haber estado entre sus objetivos, pero no son accidentales. Si uno configura un sistema basado en datos para descubrir la mejor manera de inducir a los usuarios a que se queden en la plataforma e interactúen con ella y con sus anunciantes, simplemente hará eso. Sucede que el usuario ideal de un juego o una red social, compulsivo, constante, comprometido, el que cada algoritmo está constantemente tratando de entrenar a través de lo que le ofrece y cómo reacciona a sus acciones, no es el más emocionalmente sano.
_Maximizar engagement_ (un término que vacía el concepto de «compromiso» y lo reduce a la interacción mecánica independiente de sus objetivos; importa el que usen la plataforma, no el para qué ni sus efectos ni en el usuario ni en terceros) es el objetivo explícito de los negocios en línea contemporáneos, quienes redescubrieron e implementaron, rápida y eficientemente, las tradicionales herramientas de la apuesta compulsiva y la manipulación psicológica constante. No son herramientas que hagan al usuario más sano emocionalmente, todo lo contrario, pero nadie programó a estos algoritmos para medir, mucho menos evitar, estos efectos secundarios.
Y, por sofisticadas que parezcan estas plataformas en la actualidad, el impacto que han tenido hasta ahora ha sido mediante tecnologías que ya están conceptualmente obsoletas. Imagine al mejor jugador de ajedrez de la historia, re-entrenado usando el conocimiento de las experiencias y acciones diarias de billiones de personas para ser el terapeuta conductual más efectivo y menos ético del mundo, alimentado en tiempo real con cada pieza de información disponible sobre usted, interactuando constantemente con cada dispositivo digital, servicio, y fuente de información con el que está en contacto directo o indirecto, capaz de elegir lo que ve y lo que se le sugiere que vea —incluso de inventar cualquier texto, audio, o video que necesite— y dedicado exclusivamente a modificar sus emociones y forma de ver el mundo, sin ningún cuidado por su bienestar, de acuerdo a las preferencias de la persona o programa que le esté pagando más en ese momento o que explote mejor sus propias vulnerabilidades tecnológicas.
Expresado en forma alegórica, esto podría ser una versión puesta al día de una pesadilla gnóstica de Philip K. Dick. Un video diseñado por una superhumanamente capaz inteligencia artificial para explotar cada uno de tus puntos débiles emocionales — una víctima de asesinato con un rostro que te recuerda a un ser querido, la voz de un político ligeramente remodulada para hacerla subliminalmente repugnante, un texto que casualmente inserta una referencia indirecta a una tragedia personal en el momento exacto del día en el que estás más cansado y tus defensas están más bajas — no estaría fuera de lugar en una de sus historias, pero también está a solo unos años de ser tecnológicamente posible, y está explícitamente en las hojas de ruta de Investigación+Desarrollo de la industria. Cambie el vocabulario, sin cambiar nada de lo que se describe, y es una propuesta que los inversores en Silicon Valley escuchan una docena de veces al mes.
Sería absurdo pretender que nuestras sociedades siempre fueron cuerdas y bien informadas. Cada medio trae oportunidades para información tanto como para manipulación, para sociedades más inteligentes y para locura colectiva. Pero evitar o reducir los efectos negativos es siempre un desafío. Este es el nuestro, y puede que sea uno de los más difíciles que hayamos enfrentado. La cantidad de información y puro poder cognitivo dedicado a manipular a cada uno de nosotros, individualmente, en cada minuto de cada día, está creciendo exponencialmente, y nuestra habilidad individual y colectiva para lidiar con esto ciertamente no lo hace. Cómo nos ajustemos a esto será un factor sutil pero poderoso en el desarrollo de nuestras sociedades en las próximas décadas.