Tecnología y sociedad. Las redes sociales deben rendir cuentas y cambiar, pero el cómo y el porqué son importantes

Los recientes fallos contra Meta y Google marcan un cambio de era: las plataformas podrían empezar a ser juzgadas por su arquitectura adictiva y no sólo por lo que los usuarios publican en ellas.

Las principales plataformas digitales del mundo sufrieron derrotas judiciales en las últimas semanas que abren un debate interesante sobre regulaciones y el uso cotidiano de los usuarios.

En Nuevo México, se declaró responsable a Meta de violar una ley estatal de protección a los consumidores por no proteger debidamente a sus usuarios (el foco se puso en los menores) de las acciones de depredadores sexuales.

En California, por su parte, un jurado determinó que tanto Meta como Google deberán pagar una compensación económica a la familia de una niña que, según señala el fallo, vio afectada su salud mental por un uso intensivo de Instagram y YouTube.

En ambos casos hay algo particular y que podría cambiar las reglas del juego: se responsabiliza a las empresas por el diseño de las plataformas y no por el contenido que en ellas circula.

Hace ya varios años que se habla de la moderación de contenidos en las redes sociales y de las políticas y programas que las principales compañías han llevado adelante (muy ligadas a los gobiernos de turno, por cierto).

En esta oportunidad, los fallos judiciales mencionados no refieren a esto (al menos estrictamente) sino al diseño de las plataformas configurado por las empresas para maximizar la permanencia de los usuarios y sus ingresos económicos. El famoso engagement que les genera a estas compañías billones y billones de dólares desde hace ya varios años.

La ya popular Sección 230 de la Ley de Decencia en las Comunicaciones ha quitado responsabilidad a las plataformas sobre lo que en ellas circula y carga en los usuarios cualquier culpabilidad posible.

Hablamos de una legislación sancionada por el Congreso estadounidense en 1996 con una internet completamente diferente. Pese a eso, ha servido para proteger a internet y sus espacios públicos de sanciones que hubiesen hecho imposible su funcionamiento.

Pero aunque las plataformas no sean responsables por los contenidos publicados, sí lo son por las reglas y funciones que imponen a sus usuarios dentro de ellas (o al menos eso plantearon estos recientes fallos judiciales).

Cuando hablamos del diseño que afecta la experiencia de los usuarios hablamos de cosas como el autoplay de los videos en las redes sociales, el scroll infinito, las notificaciones compulsivas, etcétera. Muchas de estas no están completamente a la vista de los usuarios, pero hacen que estos permanezcan más y más tiempo en las plataformas.

Más allá de que suena bien que las redes sociales tengan que empezar a responder por la configuración que hacen de nuestras vidas diarias y de la vida pública en general, es importante entender cada paso que se dará a continuación. La política y los medios ya están aventurando regulaciones que pueden implicar retrocesos en términos de libertades individuales, privacidad y más.

Hay un paso muy corto entre lo señalado por estos fallos judiciales y empezar a hablar del uso de redes sociales como una adicción o empezar a pensar en prohibiciones.

Javier Pallero es analista de políticas públicas para internet, opina sobre esto: “Es un avance positivo. Responsabilizar a las plataformas por sus decisiones de diseño y operación es una forma de regulación significativa y necesaria. Pero la distinción que trazaron los jurados es precisa y ya se está perdiendo".

Pallero señala que "en la cobertura mediática y el discurso político estos veredictos están siendo absorbidos por una narrativa más amplia: que las redes sociales son inherentemente dañinas, adictivas como una sustancia, y deben ser restringidas en consecuencia".

"La relación entre redes sociales y salud mental adolescente –explica– es una pregunta científica genuinamente abierta: hay correlaciones documentadas, pero establecer causalidad directa es otro asunto, y buena parte de la investigación que circula como evidencia definitiva tiene problemas metodológicos serios".

De todos modos, aclara: "Nada de eso cambia el hecho de que Meta ocultó documentación interna y YouTube optimizó el autoplay para maximizar engagement sin importar la edad del usuario. Son bases legítimas de responsabilidad. Pero hay una distancia enorme entre eso y un marco regulatorio que trate a las plataformas como tratamos al tabaco. Si el encuadre pasa de diseño negligente a adicción inherente, las respuestas de política pública que sigan van a ser toscas, expansivas y muy difíciles de contener”.

Durante el juicio en Nuevo México se señaló el hecho de que la comunicación en Instagram y Facebook está cifrada de extremo a extremo y esto dificulta el acceso policial y judicial a material ligado a explotación sexual o abuso de menores. Pero aquí, para variar, entra en tensión un derecho con otro.

Que los chats en estas redes sociales dejen de estar protegidos con esta tecnología significa que las mismas empresas podrían acceder a su contenido y también gobiernos de países autoritarios o simplemente poco respetuosos de la privacidad de sus ciudadanos.

Por otra parte, es inevitable hablar de lo que ocurrió en Australia y se discute en otros países: la prohibición de las redes sociales para menores de edad. En nombre de la protección de los niños y niñas, distintos países avanzaron o están discutiendo sobre esta posibilidad. Para esto, las empresas deberían validar la identidad de los usuarios a la hora de darles acceso.

Uno de los problemas centrales para algo así tiene que ver con la pérdida de anonimato que esto implicaría, poner en riesgo una de las columnas vertebrales de internet a la hora de pensar en la libertad de expresión. Ni hablar del poder que se le daría a las empresas que manejarían esta información y, de nuevo, a los Estados que decidan avanzar sobre ella.

Sobre el tema, opina Pallero: “Las prohibiciones para menores implican que se deba recolectar información privada para determinar quién es mayor y quién no. Y eso se hace sobre todo el universo de usuarios. Para eso, no alcanza con lo que las redes ya saben de nosotros, sino que las leyes incentivan a recopilar aún más información de modo directo o a través de intermediarios, pidiendo subir documentos o fotos para extraer datos biométricos. Las empresas que lo hacen prometen que sólo usarán la información para verificar la edad y luego la borrarán, pero ya ha sucedido que esa información se filtra o se usa para otros fines”.

Por otro lado, la prohibición del acceso a redes sociales a menores se suele mirar desde la protección a este grupo etario. Pero poco se habla de los beneficios que estas plataformas han brindado a un montón de adolescentes que solo en estos espacios han podido conectar con otras personas o desarrollarse en comunidad. Muchas veces hablamos de minorías o personas a las que les cuesta integrarse en la sociedad.

La periodista Taylor Lorenz, especializada en temas ligados a internet, habla de un pánico moral que ha llevado a la sociedad a exagerar los efectos de las redes sociales y los smartphones en nuestras vidas. Haciendo eso, dice, se minimizan un montón de otros factores que impactan en fenómenos como la soledad, la depresión, los índices de suicidio y más.

Puede que algo de eso ocurra con estos recientes fallos judiciales y devengan en regulaciones basadas en el miedo y no en la evidencia. Ni hablar de que se postergan debates importantes de otros temas cargando toda la culpa en la tecnología.

“Billones de personas miran sus celulares y observan todo el mundo. Pero algunos teóricos miran todo el mundo y solo ven celulares”. Esta frase del analista Derek Thompson da cuenta un poco de la impulsividad con la que, a veces, culpamos a los celulares de todo.