Algorithmes. Filtres. Défilement creux et sans fin.
C’est ce qu’un jury californien a examiné lorsqu’il a annoncé la mauvaise nouvelle à Meta et Google. Les experts juridiques affirment que le verdict ne concernait pas uniquement les applications ; il s’agissait de négligence. Plus précisément, la négligence dans la construction de pièges numériques pour les préadolescents et les adolescents qui passent désormais environ un cinquième de leur journée à regarder un écran.
Joseph McNally connaît le terrain. Il était procureur fédéral. Il dirige désormais les nouveaux litiges délictuels en Californie. Il raconte à EdSurge que les jurés ont adopté un nouvel argument : ces entreprises n’ont pas seulement construit des plateformes. Ils ont construit des dangers. Instagram. YouTube. La conception a contribué à l’effondrement de la santé mentale. Snapchat et TikTok ont payé et sont rentrés chez eux avant que le marteau ne tombe. Ils voulaient sortir.
Cela change les choses. Des milliers de poursuites similaires attendent dans les coulisses. La bataille juridique pour déterminer à qui incombe la responsabilité de l’effondrement de la santé mentale des jeunes est loin d’être terminée. Alors que les géants promettent de riposter, cela pourrait gravir les échelons directement jusqu’à la Cour suprême des États-Unis.
L’odeur des e-mails
Les preuves sont tout. McNally considère les e-mails internes comme un tournant. Ce n’étaient pas de vagues inquiétudes. Il s’agissait d’alarmes déclenchées par des employés de Meta même. Attention, les filtres de beauté nuisent aux adolescentes. Avertissement que des utilisateurs bien en dessous de la limite d’âge obligatoire de 13 ans et plus étaient déjà à l’intérieur de l’écosystème.
Ils ont regardé ailleurs.
Pourquoi?
«Ils ont eu un avantage à long terme», dit McNally, expliquant la ligne d’attaque des plaignants. “Valeur à long terme d’accrocher ces utilisateurs.”
Les courriels dépeignaient une entreprise ignorant les cris de son propre personnel concernant les risques liés aux produits. Les plaignants l’ont utilisé. Ils ont montré au jury que la direction savait exactement ce qu’elle faisait
« Les courriels dressaient le portrait d’une entreprise… et le plaignant a effectivement utilisé ces courriels pour montrer qu’il connaissait les risques. »
Addictif par conception
Si Meta avait été réglé, les tribunaux auraient éludé une question juridique compliquée : pouvez-vous poursuivre un site en justice pour comment il est construit, et pas seulement pour ce que les gens publient ? Pendant des décennies, l’article 23 de la loi sur la décence en matière de communications a assuré la sécurité de la technologie. Il protège les plateformes de toute responsabilité concernant le contenu des utilisateurs. C’était l’armure.
La princesse Uchekwe, avocate d’entreprise à New York, note ce changement. Quelques jours seulement avant le verdict californien, un nouveau jury a infligé à Meta une amende de 375 millions de dollars pour ne pas avoir protégé les enfants. Le paysage se fissure
« Les avocats affirmaient que ce n’était pas le contenu », explique Uchekwe. “Ce sont les caractéristiques qui rendent impossible de partir.”
Rouleau. Rouleau. Un gouffre sans fond. Rien ne te dit d’arrêter
Le jeu d’appel
6 millions de dollars. Une erreur d’arrondi pour Meta et Google.
Pourtant, ils feront probablement appel. McNally dit qu’il s’agit d’une décision stratégique. Il y a des milliers de procès. Les districts scolaires portent également plainte. Si une cour d’appel décide que les anciennes protections doivent toujours s’appliquer, les vannes pourraient se fermer
L’article 23 a déjà rejeté des centaines de poursuites. Il maintient Internet libre et ouvert, techniquement parlant. McNally souligne les enjeux : un appel fédéral pourrait aboutir devant la Cour suprême. Si la Haute Cour décide que l’article 23 s’applique ici, cela empêcherait complètement les réclamations concernant un préjudice à la conception.
Mais un échec ? Ça fait mal. Uchekwe prévient que cela pourrait être « presque dévastateur ». Le coût de repenser les algorithmes. Tuer le parchemin infini. Notifications mourantes. Si le verdict est confirmé, chaque entreprise technologique comptant de jeunes utilisateurs devra réécrire son code. Pas seulement les réseaux sociaux. Tout le monde.
« Je ne pense jamais que votre profit doive se faire au détriment d’une génération de personnes. »
Liberté d’expression contre espace sûr
Il y a une autre carte à jouer. Le premier amendement.
Certains juristes, dont Erwin Chemerinky, professeur à l’Université de Berkeley, affirment que ces algorithmes « addictifs » constituent une liberté d’expression. Expression protégée. Si un appel gagne sur ce front, les affaires de responsabilité du fait des produits se bloquent. Mort dans l’eau.
McNally n’est pas sûr que cela fonctionnera, mais les chances s’améliorent si la Cour suprême intervient. Annulé ? Le procès se termine. Rejeté. Facile
L’ondulation
Le jury a qualifié ces éléments de « déraisonnablement dangereux ». Ça pique. Elle oblige les accusés dans les affaires pendantes à prouver un lien direct entre leur application et le préjudice allégué. Tous les plaignants n’ont pas cette preuve.
« Les affaires se rapprocheront d’un règlement », prédit McNally. Mais les accusés examineront le lien de causalité. Certaines preuves sont plus faibles. Certains cas ne franchiront pas la ligne d’arrivée
Uchekwe voit un avenir où les applications seront repensées. Moins de temps sur la plateforme. Moins de revenus publicitaires. Moins de collecte de données.
Cela pourrait réduire les bénéfices. Peut-être pas assez profondément pour tuer les modèles économiques, concède-t-elle. Mais le choix demeure. Construisez-vous des garanties pour les enfants ? Ou continuez-vous à rechercher la mesure de l’engagement ?
L’argent est là. La génération n’attend pas
