La demanda de la ciudad de Nueva York producirá cambios respecto a la asunción de responsabilidad de las compañías por el daño que pueden provocar, especialmente en menores. Especialmente en relación con los algoritmos desarrollados para la utilización de sus redes sociales

Texto: Manuel Richard González / IPS

Ilustración Rawpixel / Shutterstock

ESPAÑA. -La noticia de que la ciudad de Nueva York interponía una demanda contra la compañías propietarias de varias redes sociales entre las que se hallan TikTok, Instagram, Facebook, Snapchat y Youtube apareció y desapareció pronto de los medios de comunicación. De inicio puede parecer una reclamación destinada al fracaso. Sin embargo, no es así.

Contenido y Fundamento de la demanda

En la demanda se reclaman daños compensatorios y punitivos en una cantidad a fijar en un procedimiento que se pide que sea ante un Jurado.

Se trata de un escrito extenso y riguroso en el que se incluye una descripción precisa de los hechos en los que se basa la reclamación. Así, nada menos que casi 300 páginas de la demanda se dedican a la descripción de los hechos dañosos.

En una primera parte, se exponen los hechos de carácter general aplicables a todos los demandados. A continuación, en partes consecutivas, se describen los hechos de los que serían responsables cada una de las demandadas acusadas de utilizar algoritmos adictivos para los menores de edad.

¿De qué se acusa a estas empresas?

Conforme con la demanda, las empresas demandadas habrían diseñado y desarrollado algoritmos para atraer y obtener, como resultado, jóvenes adictos a sus productos. Todo ello con la ayuda de las aplicaciones implementadas para dificultar el control parental.

Estos hechos generales se concretan respecto de cada una de las compañías atendiendo a las especificidades técnicas y empresariales de cada una de ellas.

En la demanda, además, se destaca la ocultación por parte de Meta de los efectos perjudiciales de sus plataformas al público, a la administración de la ciudad de Nueva York y a la Comisión del Senado de los Estados Unidos en la audiencia celebrada en Washington el 31 de enero de 2024.

¿Cómo lo hacían?

Respecto a la operativa seguida, se puede resumir del siguiente modo:

1. En primer lugar, se habría producido una continúa actualización de los algoritmos para maximizar su capacidad adictiva e impedir el abandono de los usuarios.
2. El diseño de los algoritmos estaría enfocado a desarrollar un uso compulsivo de las aplicaciones. Por ejemplo, respecto a TikTok se señala que los algoritmos estarían diseñados para maximizar el uso con una provisión infinita de contenidos y, al mismo tiempo, con contenidos de oferta limitada o efímera. Todo ello con recompensas virtuales como el número de suscriptores o de «likes» de aceptación de los contenidos ofrecidos.
3. La modificación de los algoritmos se habría producido deliberada y progresivamente en orden a mantener los ingresos de las compañías.
4. Las plataformas no habrían creado efectivos controles de verificación de la edad de los usuarios, permitiendo el acceso a menores de edad.
5. Tampoco habrían desarrollado controles efectivos de control parental.

Efecto en niños y jóvenes

En la demanda se alega daño mental a los jóvenes acreditado por los servicios de salud mental de Nueva York. Entre los efectos específicos se destaca la promoción de imágenes negativas del cuerpo de los niños. Por ejemplo, mediante el uso de herramientas como lentes y filtros de modificación de la apariencia física que promoverían estándares físicos irreales cuya comparación dañosa con la realidad afectaría a la autoestima y salud mental de los usuarios menores de edad.

Todo ello, añaden, habría conducido a una crisis de salud mental juvenil.

¿Qué se solicita en la demanda?

La demanda contienen tres reclamaciones:

1. Por alteración del orden público (public nuisance) se solicitan millones de dólares que deberán fijarse en el juicio.
2. Por negligencia (negligence), dado que las compañías conocían –o deberían haber conocido– los efectos de sus productos en la salud mental de los usuarios menores de edad. En este punto, en la demanda se solicita una condena que incluya la provisión de recursos suficientes por las demandadas para proveer de servicios de salud mental a los afectados (en escuelas, hospitales públicos y programas de la ciudad de Nueva York). Pero también habla de dos tipos de daños: compensatorios y punitivos
3. Por negligencia grave (gross negligence), fundamentada en todo lo expresado anteriormente, pero calificando la conducta de los demandados como imprudente e indiferente a los derechos de los usuarios y el público en general.

¿Cómo acabará esta acción judicial?

Aunque es difícil adivinar el futuro, cabe señalar que se solicita un juicio de Jurado en el que las demandadas estarían en una posición probablemente no favorable. Ahora bien, probablemente este juicio nunca llegue a celebrarse por diversas razones.

Para empezar, la disparidad de los intereses de los demandados no les ayuda. Además, la celebración de un juicio afectaría la reputación de las empresas y les obligaría a desvelar secretos empresariales relacionados con la arquitectura de sus algoritmos. Algo que, sin duda, tratarán de evitar.

Por ello, es probable que esta demanda concluya con un acuerdo acordando unas compensaciones millonarias que no representarán demasiado para las empresas demandadas. Esta es una solución que se suele adoptar en esta clase de procedimientos.

Eso sí, es previsible que la demanda de la ciudad de Nueva York produzca cambios respecto a la asunción de responsabilidad de las compañías por el daño que pueden provocar, especialmente en menores. Especialmente en relación con los algoritmos desarrollados para la utilización de sus redes sociales.

Este trabajo fue publicado inicialmente en IPS. Aquí puedes consultar la versión original.