¿Ley de hormigón?

“Las innovaciones tecnológicas se asemejan a los decretos legislativos o las fundamentaciones políticas que establecen un marco para el orden público que se perpetuará a través de las generaciones”

La cita es de ¿tienen política los artefactos? de Langdon Winner. La comparación entre las obras de la técnica y los decretos es muy interesante: una vez que están conforman determinados tipos de relaciones sociales (actividades, jerarquías, etc.)

El ejemplo paradigmático que utiliza Winner es el de los puentes del arquitecto Moses en Long Beach que se anteponen al acceso a Jones Beach, diseñados intencionalmente para que su altura no permita el ingreso del transporte público en el que en aquel momento viajaban los sectores más pobres, pero con la altura apta para que puedan circular los automóviles que tenían los sectores más ricos. Este ejemplo se convirtió en un “caballo de batalla” argumental para explicar el contenido político de las obras técnicas. Este contenido político se relaciona con el momento en que existió la posibilidad de decidir un diseño diferente. En ese momento ese puente (y cualquier obra técnica) podría haber sido diferente, por lo tanto existía flexibilidad en darle forma. Una vez que se realiza esta flexibilidad desaparece, y esto es lo que lleva a la analogía con un decreto legislativo.

Winner agrega una segunda forma en la que la técnica tiene contenido político: las tecnologías inherentemente políticas. Se refiere a que hay tecnologías que requieren indefectiblemente un modo de organización social determinado para que funcionen. Tal es el caso de una central nuclear o la bomba atómica. Cuando el tipo de organización en torno a ciertas tecnologías no puede ser de otra manera, son inherentemente políticas.

Una central nuclear o un puente, a su vez, se desarrollan sobre un territorio que es jurisdiccional. Siguiendo con el razonamiento, estas tecnologías influyen tanto como el sistema jurídico que controla dicha jurisdicción. Pero los tratamos de forma diferente. Cuando visitamos otros países estamos sujetos a las leyes de ese país, y ante una infracción o no cumplimiento de alguna norma no es posible aducir el no conocimiento de la ley. Sin embargo, no conozco a nadie que estudie las leyes de un país antes de su viaje. Por supuesto, tampoco estudiamos el modo en el que las tecnologías definen nuestros modos de relación social.

¿Ley de algoritmos?

Hay nuevas jurisdicciones. Desde que inventamos decenas de modelos para explicar el ciberespacio describimos entornos virtuales, plataformas, redes sociales, entre muchos otros “espacios” (no físicos) en los que realizamos algunas acciones, y en los que nos relacionamos de alguna forma con otros.

Hay nuevas jurisdicciones, y hay “capas” de jurisdicciones. Sin Internet, no es implementable la World Wide Web, y sin ella no es posible implementar muchas de las típicas apps que utilizamos. Cada una de estas capas propone “jurisdicciones” que para Internet o la Web tienen una gestión que no depende directamente de gobiernos, y donde la sociedad civil es clave (al menos por ahora, lamentablemente esto está en riesgo permanente)

Estas apps funcionan a través de algoritmos. Según el diseño de estos algoritmos será posible que hagamos unas u otras cosas, y la app responderá según su diseño también. Pero una vez que están, funcionan como los puentes. Definen el modo en el que nos involucramos con la app y entre nosotros. Se trata de otra ley, de otro decreto. Y también es flexible en su diseño, y no flexible una vez que existe.

Pongamos el caso de Facebook. Si queremos entrar en su “jurisdicción” debemos aceptar las condiciones de uso. Estas condiciones de uso se nos presentan en una falsa instancia de “acuerdo” en el que no podemos hacer ninguna otra cosa que “aceptar” o “rechazar”. Si bien esto puede tener algún peso legal, que no conozco en detalle, también muestra una relación que no parece ser honesta. Ese “acuerdo” es lo menos parecido a un “acuerdo”. Se supone que “ponerse de acuerdo” puede involucrar alguna instancia de negociación sobre términos, condiciones, etc. y eso no ocurre de ninguna manera.

El argumento clásico que suele ser respuesta a cuando planteamos esto es “puedes rechazarlo y no utilizarlo”. Y es cierto: operativamente todos sabemos que podemos hacer un click en un botón. Como argumento es trivial. El problema no es saber que no podemos hacer un click, sino las relaciones que se producen en la “jurisdicción” de Facebook. Si esas relaciones pueden ser valiosas (por ocio, trabajo, o simplemente porque nuestros grupos de interés se encuentra allí, incluso evocando las “necesidades superfluas” de Ortega), ya no es tan sencillo rechazar el “acuerdo”, y aceptamos algo que no acordamos.

Así como no estudiamos las leyes de nuestros países de destino, tampoco estudiamos las leyes que propone Facebook. Una vez dentro del dominio de su “jurisdicción” no solo estamos sujetos a ese “acuerdo”, sino también al “decreto legislativo” que hace que Facebook funcione como lo hace. Estamos sujetos a ambas normas.

Los pobres y los desinformados

Así como los puentes de Moses “filtraban” pobres, los algoritmos suelen “filtrar” ideas. Este uno de los argumentos fuertes de Pariser cuando plantea el Filtro Burbuja, que se trata de que la mayoría del contenido que vemos está personalizado de forma tal que refuerce nuestras creencias; y en consecuencia, que perdamos de vista la complejidad y la crítica que se proponen desde otros sistemas de ideas.

Encontrarnos sujetos a leyes parece lo lógico en las sociedades organizadas (no es el momento de discutirlo). Pero buena parte de esas leyes en países donde existen parlamentos y congresos se encuentran legitimadas por los que llamamos representantes del pueblo, o de la ciudadanía. Existen mecanismos que hacen que esas leyes sean legítimas, desde el punto de vista burocrático, y también “moral”.

Pero el condicionamiento que generan las leyes de hormigón, o las leyes de algoritmos, no suelen estar legitimadas. No hay representantes de la ciudadanía, ni mecanismos para ello. Si bien se ha avanzado en algo cuando se trata de espacios públicos (subrayo: se ha avanzado poco), cuando pensamos en la “jurisdicción” de Facebook todo parece llevar a que no podemos hacer nada. ¿Puede Facebook tener jurisdicción absoluta sobre las actividades que realizan sus usuarios desde “sus” cuentas? (el posesivo es para un buen análisis…)…

Evidentemente puede. Pero la pregunta es la que hago obsesivamente en el libro Dar sentido a la técnica: ¿es deseable que sea así?

Si consideramos que no es deseable, entonces nos encontramos con un “decreto de algoritmos” que no pudimos legitimar, salvo por el falso “acuerdo” que nos permite ingresar a la “jurisdicción” Facebook.