Molly vs. the Machines la verdad que la ciudad no quería oír

¿Hemos fracasado en nuestro deber de custodia sobre los menores? Durante siglos, esa custodia se ejerció mediante formas concretas de presencia y límite: horarios, normas, vigilancia, autoridad adulta, barrios donde aún existía cierta supervisión comunitaria. La infancia rara vez transcurría en soledad absoluta. Siempre había una mirada cerca. Hoy, una parte creciente de la experiencia infantil y adolescente se desarrolla a solas frente a una pantalla, dentro de entornos digitales diseñados por corporaciones cuyo objetivo principal no es educar ni cuidar.

Hubo un tiempo en que hablar en público era jugarse el pellejo. En Atenas, el ciudadano que subía al bema lo hacía sabiendo que dejaba la ciudad entera a su espalda: el estrado estaba construido para que el orador no pudiera olvidarlo, para que sintiera, literalmente, el peso de la polis sobre los hombros. No hablaba en su nombre. Hablaba en nombre de todos, y por eso debía decir no lo que la ciudad quería oír, sino lo que necesitaba. Los griegos llamaron parresía a esta forma de coraje ciudadano.

Molly vs. the Machines, el documental de Marc Silver, es una pieza parresíaca. Interpela a la ciudad: «Nunca permitiríamos que una empresa entrara físicamente en la habitación de un adolescente vulnerable para mostrarle, una y otra vez, contenidos que alimentan su tristeza, su ansiedad o su desesperación. Y, sin embargo, eso es exactamente lo que hacen algunos algoritmos, y lo hacen con nuestro consentimiento. ¿Cómo hemos llegado a normalizar esta situación?». La historia de Molly Russell —esa adolescente de catorce años que se quitó la vida tras ser bombardeada con miles de imágenes sobre autolesión y suicidio en apenas seis meses— es una pregunta incómoda que llevamos demasiado tiempo esquivando, y que habrá que mirar de frente si la ciudad no quiere que se le caiga la cara de vergüenza.

El pasado 13 de mayo se proyectó en Barcelona, en la Fundación Joan Miró, dentro del Encuentro Internacional por los Derechos Digitales. En el patio de butacas, el ministro para la Transformación Digital, Óscar López, y la secretaria de Estado de Digitalización e Inteligencia Artificial, María González Veracruz. Quienes tienen la competencia de regular esas plataformas quedaron expuestos, a oscuras, a esta pregunta. El 9 de julio la pregunta llegará a la Laboral de Gijón.

Conviene desconfiar del alivio que ofrece la metáfora bélica del título. Hablar de máquinas enfrentadas a una niña tiene el riesgo de exculpar a quienes diseñan, calibran y monetizan esas máquinas. Detrás de cada algoritmo hay ingenieros, directivos, métricas de retención, una junta de inversores. La cuestión de la responsabilidad no tiene respuesta única, y el documental se cuida de no clausurarla con una sentencia en firme. Eso también es parresía: no fingir una certeza que no se tiene.

El documental acierta al resistirse a convertir el problema en un juicio moral demasiado cómodo. No señala a un chivo expiatorio capaz de tranquilizar nuestra conciencia colectiva. Más bien deja abierta la incomodidad. Sugiere. Interroga. Obliga al espectador a permanecer dentro del problema. Se niega a ofrecer certezas tranquilizadoras cuando la realidad exige pensar.

¿Hemos fracasado en nuestro deber de custodia sobre los menores? Durante siglos, esa custodia se ejerció mediante formas concretas de presencia y límite: horarios, normas, vigilancia, autoridad adulta, barrios donde aún existía cierta supervisión comunitaria. La infancia rara vez transcurría en soledad absoluta. Siempre había una mirada cerca. Hoy, una parte creciente de la experiencia infantil y adolescente se desarrolla a solas frente a una pantalla, dentro de entornos digitales diseñados por corporaciones cuyo objetivo principal no es educar ni cuidar.

Con frecuencia el debate público sobre las redes sociales se centra en los contenidos: qué vídeos consumen los jóvenes, qué influencers siguen, qué discursos escuchan o qué tendencias imitan. Pero el problema de fondo no es el contenido, sino el modelo de negocio. Si una plataforma gana dinero cuanto más tiempo logra retener a nuestros hijos, ¿no acaba siendo inevitable que priorice aquello que genera adicción, polarización o dependencia?

La defensa que ofrece Silicon Valley es «nosotros no obligamos a nadie». Pero esa apelación a la libertad individual se sostiene sobre una idea de consentimiento difícil de defender. El consentimiento solo puede considerarse verdaderamente libre cuando existe una comprensión real de aquello que se acepta, y hoy casi nadie entiende cómo funcionan los algoritmos que organizan su experiencia digital. No sabemos por qué vemos unas publicaciones y no otras, qué variables determinan una recomendación, qué datos se utilizan para perfilar nuestras emociones o qué mecanismos deciden cuánto tiempo permanece un contenido frente a nuestros ojos.

La opacidad no es un fallo accidental del sistema: forma parte de su propia arquitectura. Los algoritmos que modelan la atención de millones de personas operan como cajas negras inaccesibles. Carecemos de transparencia y la trazabilidad. Y cuando ya no somos capaces de seguir el rastro de los procesos que condicionan nuestra conducta, la idea misma de consentimiento empieza a vaciarse de sentido.

La libertad no se pierde únicamente cuando alguien nos prohíbe algo. También puede erosionarse cuando una tecnología conoce con tanta precisión nuestros deseos, nuestros miedos y nuestras costumbres que aprende a orientarlos sin que apenas lo percibamos. Tras la extracción de nuestros datos, perfiles conductuales y aprendizaje algorítmico, ciertas plataformas pueden llegar a conocernos mejor que nosotros mismos después de una década de psicoanálisis. Es ahí donde la frontera entre persuasión y poder comienza a desdibujarse.

Toda tecnología lleva implícita una determinada concepción del ser humano. Solo dos industrias han llamado «usuario» a la persona: el narcotráfico y las grandes plataformas digitales. Ambos fenómenos comparten un mismo modelo de negocio: generar hábito, dependencia y consumo repetido como condición de la rentabilidad.

El documental saca a la luz otra analogía que debería escocernos. En la primera revolución industrial, quienes pagaron el precio del progreso fueron, sobre todo, los más vulnerables: niños trabajando en fábricas y minas antes de que la sociedad entendiera, con dolorosa lentitud, el coste humano de aquel modelo productivo. La revolución tecnológica actual repite el patrón: de nuevo la infancia como materia prima, de nuevo la urgencia regulatoria llegando después del duelo. El cine puede hacer algo que la ley no sabe: pensar la tragedia antes de que ocurra. Esa es, quizá, su manera de ejercer la parresía cívica.

La película no habla realmente de máquinas. Habla de adultos. Habla de padres, educadores, legisladores y ciudadanos que durante demasiado tiempo confundieron comodidad tecnológica con progreso moral. Habla de una sociedad que entregó espacios fundamentales de formación emocional y simbólica de los menores a infraestructuras privadas gobernadas por intereses comerciales.

Durante mucho tiempo asumimos que las redes sociales eran simples empresas privadas ofreciendo un servicio entre otros. Hoy concentran un poder sobre la atención, la opinión pública y la salud mental que empieza a parecer comparable al de muchos Estados, y que sin embargo no responde ante nadie. Tal vez ha llegado el momento de pensar ciertos espacios digitales como auténticos bienes públicos, sujetos a control democrático y orientados al bien común. No es una idea cómoda. Tampoco lo es subirse al bema. Pero de eso trata la parresía: del coraje de hablar cuando el silencio resulta, con mucho, la opción más rentable.