Algoritmos. Filtros. Rolagem infinita e oca.
Foi isso que um júri da Califórnia considerou quando deu as más notícias à Meta e ao Google. Especialistas jurídicos dizem que o veredicto não se trata apenas de aplicativos; foi por negligência. Especificamente, a negligência na construção de armadilhas digitais para pré-adolescentes e adolescentes que agora passam cerca de um quinto de cada dia olhando para uma tela.
Joseph McNally conhece o terreno. Ele era procurador federal. Agora ele lidera litígios emergentes de responsabilidade civil na Califórnia. Ele disse ao EdSurge que os jurados acreditaram em um argumento novo: essas empresas não construíram apenas plataformas. Eles construíram perigos. Instagram. YouTube. O design contribuiu para o colapso da saúde mental. Snapchat e TikTok pagaram e foram para casa antes que o martelo caísse. Eles queriam sair.
Isso muda as coisas. Milhares de ações judiciais semelhantes estão aguardando nos bastidores. A batalha legal sobre onde reside a culpa pela deterioração da saúde mental dos jovens está longe de terminar. Com os gigantes prometendo revidar, isso poderia subir a escada direto para a Suprema Corte dos EUA
O cheiro dos e-mails
Evidência é tudo. McNally aponta os e-mails internos como o ponto de viragem. Estas não eram preocupações vagas. Foram alarmes disparados por funcionários dentro da própria Meta. Alertando que os filtros de beleza prejudicam as adolescentes. Alertando que usuários muito abaixo do limite obrigatório de idade acima de 13 anos já estavam dentro do ecossistema.
Eles olharam para o outro lado.
Por que?
“Eles tiveram um benefício a longo prazo”, diz McNally, explicando a linha de ataque dos demandantes. “Valor a longo prazo de fisgar esses usuários.”
Os e-mails mostravam uma empresa ignorando as reclamações de seus próprios funcionários sobre os riscos dos produtos. Os demandantes usaram isso. Eles mostraram ao júri que a administração sabia exatamente o que estava fazendo
“Os e-mails retratavam uma empresa… e o reclamante efetivamente usou esses e-mails para mostrar que sabia sobre o risco.”
Viciante por design
Se o Meta tivesse resolvido, os tribunais teriam evitado uma questão jurídica complicada: você pode processar um site por como ele é construído, e não apenas pelo que as pessoas postam? Durante décadas, a Seção 23 da Lei de Decência nas Comunicações manteve a tecnologia segura. Ele protegeu as plataformas da responsabilidade pelo conteúdo do usuário. Essa era a armadura.
Princesa Uchekwe, advogada corporativa em Nova York, observa a mudança. Poucos dias antes do veredicto da Califórnia, um novo júri multou Meta em US$ 375 milhões por não proteger as crianças. A paisagem está rachando
“Os advogados argumentavam que não era o conteúdo”, explica Uchekwe. “São as características que tornam impossível sair.”
Role. Role. Poço sem fundo. Nada diz para você parar
O Jogo de Apelação
US$ 6 milhões. Um erro de arredondamento para Meta e Google.
No entanto, eles provavelmente irão apelar. McNally diz que é um movimento estratégico. Existem milhares de ações judiciais. Os distritos escolares também estão processando. Se um tribunal de recurso decidir que as proteções antigas ainda devem ser aplicadas, as comportas poderão fechar-se
A Seção 23 rejeitou centenas de ações judiciais anteriormente. Mantém a Internet gratuita e aberta, tecnicamente falando. McNally aponta o que está em jogo: um recurso federal poderia chegar à Suprema Corte. Se o tribunal superior decidir que a Seção 23 se aplica aqui, isso impediria totalmente as reclamações sobre danos de design
Mas falhando? Isso dói. Uchekwe alerta que pode ser “quase devastador”. O custo de repensar algoritmos. Matando pergaminho infinito. Notificações de morte. Se o veredicto for válido, toda empresa de tecnologia com usuários jovens terá que reescrever seu código. Não apenas nas redes sociais. Todos.
“Nunca pensei que o seu lucro deva vir às custas de uma geração de pessoas.”
Liberdade de expressão versus espaço seguro
Há outra carta para jogar. A Primeira Emenda.
Algumas mentes jurídicas, incluindo Erwin Chemerinky, professor da UC Berkeley, argumentam que esses algoritmos “viciantes” são liberdade de expressão. Expressão protegida. Se um recurso vencer nesta frente, os casos de responsabilidade pelo produto serão congelados. Morto na água.
McNally não tem certeza se isso funcionará, mas as chances aumentam se a Suprema Corte intervir. O julgamento termina. Dispensado. Fácil
A ondulação
O júri chamou esses recursos de “excessivamente inseguros”. Isso dói. Obriga os réus em casos pendentes a provar uma ligação direta entre seu aplicativo e o dano alegado. Nem todo reclamante tem essa prova.
“Os casos chegarão mais perto de um acordo”, prevê McNally. Mas os réus examinarão a causalidade. Algumas evidências são mais fracas. Alguns casos não chegarão à linha de chegada
Uchekwe vê um futuro onde os aplicativos serão redesenhados. Menos tempo na plataforma. Menos receita publicitária. Menos coleta de dados.
Isso pode reduzir os lucros. Talvez não o suficiente para destruir os modelos de negócio, admite ela. Mas a escolha permanece. Você cria salvaguardas para as crianças? Ou você continua perseguindo a métrica de engajamento?
O dinheiro está aí. A geração não está esperando
