Algoritmos. Filtros. Desplazamiento hueco e interminable.
Eso es lo que examinó un jurado de California cuando les dio la mala noticia a Meta y Google. Los expertos legales dicen que el veredicto no se refería sólo a las aplicaciones; se trataba de negligencia. Específicamente, la negligencia en la construcción de trampas digitales para preadolescentes y adolescentes que ahora pasan aproximadamente una quinta parte de cada día mirando una pantalla.
Joseph McNally conoce el terreno. Solía ser fiscal federal. Ahora lidera litigios por daños emergentes en California. Le dice a EdSurge que los miembros del jurado aceptaron un argumento novedoso: estas empresas no se limitaban a construir plataformas. Construyeron peligros. Instagram. YouTube. El diseño contribuyó al colapso de la salud mental. Snapchat y TikTok pagaron y se fueron a casa antes de que cayera el mazo. Querían salir.
Esto cambia las cosas. Miles de demandas similares están esperando entre bastidores. La batalla legal sobre quién tiene la culpa del deterioro de la salud mental de los jóvenes está lejos de terminar. Con los gigantes prometiendo contraatacar, esto podría subir la escalera directamente a la Corte Suprema de Estados Unidos.
El olor de los correos electrónicos
La evidencia lo es todo. McNally señala los correos electrónicos internos como el punto de inflexión. No eran preocupaciones vagas. Fueron alarmas lanzadas por empleados dentro del propio Meta. Advertencia de que los filtros de belleza perjudican a las adolescentes. Advirtiendo que los usuarios muy por debajo del límite de edad obligatorio mayor de 13 años ya estaban dentro del ecosistema.
Miraron para otro lado.
¿Por qué?
“Tuvieron un beneficio a largo plazo”, dice McNally, explicando la línea de ataque de los demandantes. “El valor a largo plazo de enganchar a esos usuarios”.
Los correos electrónicos mostraban a una empresa que ignoraba las quejas de su propio personal sobre los riesgos de los productos. Los demandantes utilizaron eso. Le demostraron al jurado que la dirección sabía exactamente lo que estaban haciendo.
“Los correos electrónicos mostraban una imagen de una empresa… y el demandante utilizó efectivamente esos correos electrónicos para demostrar que conocía los riesgos”.
Adictivo por diseño
Si Meta hubiera llegado a un acuerdo, los tribunales habrían eludido una complicada cuestión legal: ¿Se puede demandar a un sitio por cómo está construido, no sólo por lo que la gente publica? Durante décadas, la Sección 23 de la Ley de Decencia en las Comunicaciones mantuvo la tecnología segura. Protegió a las plataformas de la responsabilidad sobre el contenido del usuario. Esa era la armadura.
La princesa Uchekwe, abogada corporativa de Nueva York, observa el cambio. Apenas unos días antes del veredicto de California, un nuevo jurado multó a Meta con 375 millones de dólares por no proteger a los niños. El paisaje se está resquebrajando
“Los abogados argumentaban que no se trata del contenido”, explica Uchekwe. “Son las características las que hacen que sea imposible irse”.
Voluta. Voluta. Pozo sin fondo. Nada te dice que pares
El juego de la apelación
$6 millones. Un error de redondeo para Meta y Google.
Sin embargo, probablemente apelarán. McNally dice que es un movimiento estratégico. Hay miles de demandas. Los distritos escolares también están demandando. Si un tribunal de apelaciones decide que las antiguas protecciones aún deben aplicarse, las compuertas podrían cerrarse
La Sección 23 ha desestimado cientos de demandas anteriormente. Mantiene Internet libre y abierto, técnicamente hablando. McNally señala lo que está en juego: una apelación federal podría llegar a la Corte Suprema. Si el tribunal superior dictamina que la Sección 23 se aplica aquí, prohibiría por completo las reclamaciones sobre daños al diseño.
¿Pero fallar? Eso duele. Uchekwe advierte que podría ser “casi devastador”. El coste de repensar los algoritmos. Matando pergamino infinito. Notificaciones moribundas. Si el veredicto se mantiene, todas las empresas de tecnología con usuarios jóvenes tendrán que reescribir su código. No sólo las redes sociales. Todos.
“Nunca pensé que sus ganancias deberían venir a expensas de una generación de personas”.
Libertad de expresión versus espacio seguro
Hay otra carta que jugar. La Primera Enmienda.
Algunas mentes jurídicas, incluido el profesor Erwin Chemerinky de la Universidad de California en Berkeley, sostienen que esos algoritmos “adictivos” son libertad de expresión. Expresión protegida. Si gana una apelación en este frente, los casos de responsabilidad por productos defectuosos se congelan. Muerto en el agua.
McNally no está seguro de que funcione, pero las probabilidades mejoran si interviene la Corte Suprema. ¿Anulada? El juicio termina. Despedido. fácil
La onda expansiva
El jurado calificó estas características como “irrazonablemente inseguras”. Eso duele. Obliga a los acusados en casos pendientes a demostrar un vínculo directo entre su aplicación y el daño reclamado. No todos los demandantes tienen esa prueba.
“Los casos se acercarán más a su resolución”, predice McNally. Pero los acusados examinarán la causalidad. Algunas pruebas son más débiles. Algunos casos no llegarán a la meta
Uchekwe ve un futuro en el que se rediseñarán las aplicaciones. Menos tiempo en la plataforma. Menos ingresos por publicidad. Menos recolección de datos.
Podría reducir las ganancias. Tal vez no lo suficientemente profundo como para acabar con los modelos de negocio, admite. Pero la elección permanece. ¿Construyen salvaguardias para los niños? ¿O sigues persiguiendo la métrica de participación?
El dinero está ahí. La generación no está esperando
