El artículo que posiblemente leas y veas comentado hoy si tus listas de suscripciones están mínimamente completas es este de James Bridle titulado  “Something is wrong on the internet“, un texto largo y detallado en el que el autor se preocupa por la proliferación de determinados vídeos en YouTube Kids, un producto diseñado por la compañía para proporcionar vídeos adecuados a los niños y que muchos padres tienden a emplear como auténtico “dispositivo apaganiños”, con contenidos completamente inadecuados desde múltiples puntos de vista, y apoyándose en los algoritmos de recomendación de la plataforma para encabezar las listas de popularidad y obtener ingresos publicitarios.

La presencia de este tipo de vídeos inapropiados ha sido puesta de manifiesto en otras ocasiones: contenidos que aprovechan personajes muy conocidos por los niños y los hacen protagonizar escenas violentas o de otros tipos, habitualmente con grafismos extremadamente simples, confeccionados con muy poco esfuerzo. El análisis de Bridle incide no solo en los vídeos como tales, sino más bien en el mecanismo de una plataforma que no solo posibilita este tipo de comportamientos, sino que los recompensa mediante sus algoritmos y el sistema económico de premiar la atención al que da lugar. Un análisis interesante, que pone el peso en la plataforma, en una YouTube que no parece hacer mucho de cara a la eliminación de este tipo de contenidos más allá de ofrecer sistemas que permiten que sean denunciados o marcados como inapropiados, y que no ha tenido ningún éxito por el momento de cara a su erradicación.

Sin embargo, el verdadero análisis, para mí, es todavía más desasosegante: indudablemente, internet tiene un problema. La combinación de factores como el desarrollo sin límites de la economía de la atención, los algoritmos que premian el sensacionalismo o el contenido más impactante, las posibilidades de anonimato o de trazabilidad compleja y otra serie de características de la red han dado lugar a un sistema en el que constantemente nos sorprendemos encontrando cosas que, si hacemos caso a la gran mayoría de observadores, no deberían estar ahí. Pero en realidad, el verdadero problema no está en internet: está en la naturaleza humana.

Me explico: todo sistema es susceptible de ser utilizado de diversas maneras. La ausencia de regulación para evitar comportamientos definidos o considerados nocivos, o los sistemas de regulación ineficientes, generan abusos de numerosos tipos. Podemos constatarlos en todas partes: a la popularización del correo electrónico sigue la proliferación del spam. ¿Es el spam un problema de diseño, algo de lo que debamos hacer responsables a los inventores del protocolo del correo electrónico o a los que comercializan herramientas para que los consumidores lo usen? No, es un problema de que una serie de actores descubren que pueden utilizar los protocolos del correo electrónico para enviar con un coste bajísimo mensajes comerciales a una gran cantidad de usuarios incautos, inexpertos o directamente idiotas, y aprovechar para separarlos de su dinero. Ese comportamiento es constante: cada servicio que surge cuenta con su caterva de aprovechados dispuestos a utilizarlo para engañar, robar, manipular o retorcer su propósito original. Las redes sociales son plataformas para compartir contenidos, pero convenientemente retorcidas, se convierten en herramientas para manipular un proceso electoral. YouTube sirve para ver vídeos, pero si la retorcemos adecuadamente, podemos conseguir que sirva para engañar a niños con contenidos inadecuados y ganar dinero a costa de exponerlos a contenidos a los que no deberían ser expuestos. Da igual el ejemplo que propongas: todos cuentan con usos inadecuados, inmorales o directamente delictivos que algunos pretenden utilizar para su beneficio. ¿Surgen los ICOs? Rápidamente proliferan personajes nocivos dispuestos a confundir a potenciales inversores y robarles su dinero.

¿Estamos hablando de un problema de internet? No, hablamos de un problema de la naturaleza humana. En ausencia de una regulación efectiva debido a la velocidad con la que se desarrollan y popularizan las nuevas herramientas, los delincuentes evolucionan y se convierten en los primeros colonizadores de cada nuevo nicho ecológico que surge en el planeta red. Para cuando se defina como delito subir vídeos a YouTube y aprovechar sus algoritmos para incrementar su popularidad, los delincuentes estarán haciendo otras cosas completamente diferentes. Probablemente un buen abogado encuentre siempre suficiente indefinición en esos comportamientos como para conseguir que salgan absueltos, y el simple principio de “no sé como definirlo pero lo reconozco cuando lo veo”, el “I know it when I see it“ que podría contribuir con algo tan inherentemente humano como el sentido común a aliviar el problema, no se utiliza lo suficiente. No parecen existir tribunales ni jueces suficientes como para solventar los problemas que detectamos en internet todos los días, y si existiesen, se verían confrontados con una realidad compleja de fueros y sistemas judiciales nacionales tratando de mala manera de operar en un entorno global y sin fronteras. Lo que un estado intenta definir como un comportamiento execrable y encuadrar en un tipo penal evidente que sin duda ya existía, en otro estado está completamente sin legislar, o se sitúa en un limbo en el que las leyes resultan de imposible aplicación. Los mecanismos sociales de control, elementos como la reputación o la censura social que a otra escala y en otros períodos históricos se han convertido en elementos que ponían relativo coto a determinados comportamientos, tampoco funcionan, porque no se desarrollan con la necesaria velocidad. Cuando un individuo malintencionado encuentra una manera de aprovecharse de una plataforma determinada, la mayor parte de la sociedad ni siquiera es capaz aún de entender qué es lo que está haciendo.

Hemos construido una herramienta que no sabemos controlar, y que muchos consiguen retorcer para su beneficio incurriendo en comportamientos que cualquiera con un mínimo sentido común encontraría castigables, pero que en rarísimas ocasiones son castigados. Y de nuevo: el problema no está en la red, sino en la naturaleza humana, en las más profundas miserias de nuestra condición. ¿Cómo definir a un tipo que convierte en medio de vida el exponer a niños a contenidos completamente inadecuados y censurables? ¿Qué castigo debería encontrar si la justicia funcionase? ¿Cómo plantearse desincentivar un comportamiento semejante? ¿Cómo adaptar la legislación y los sistemas que tratan de poner bajo control lo peor de la naturaleza humana en un marco que evoluciona tan rápidamente?