Algoritmen. Filters. Eindeloos, hol scrollen.
Dat is waar een jury uit Californië naar keek toen ze Meta en Google het slechte nieuws overhandigden. Juridische experts zeggen dat het vonnis niet alleen over apps ging; het ging over nalatigheid. In het bijzonder de nalatigheid bij het bouwen van digitale valstrikken voor tieners en tieners die nu ongeveer een vijfde van elke dag naar een scherm staren.
Joseph McNally kent het terrein. Hij was federaal aanklager. Nu leidt hij nieuwe rechtszaken wegens onrechtmatige daad in Californië. Hij vertelt EdSurge dat juryleden een nieuw argument geloofden: deze bedrijven bouwden niet alleen platforms. Ze bouwden gevaren. Instagram. YouTube. Het ontwerp heeft bijgedragen aan de ineenstorting van de geestelijke gezondheidszorg. Snapchat en TikTok betaalden en gingen naar huis voordat de voorzittershamer viel. Ze wilden eruit.
Dit verandert de zaken. Duizenden soortgelijke rechtszaken wachten in de coulissen. De juridische strijd over waar de schuld ligt voor de afbrokkelende geestelijke gezondheidszorg van jongeren is nog lang niet gestreden. Nu reuzen beloven terug te vechten, zou dit rechtstreeks de ladder naar het Amerikaanse Hooggerechtshof kunnen beklimmen
De geur van e-mails
Bewijs is alles. McNally wijst op interne e-mails als het keerpunt. Dit waren geen vage zorgen. Het waren alarmsignalen van medewerkers binnen Meta zelf. Waarschuwing dat schoonheidsfilters tienermeisjes pijn doen. Waarschuwing dat gebruikers ver onder de verplichte leeftijdsgrens van 13 jaar en ouder zich al in het ecosysteem bevonden.
Ze keken de andere kant op.
Waarom?
“Ze hadden op de lange termijn een voordeel”, zegt McNally, waarin hij de aanvalslijn van de aanklagers uitlegt. “De langetermijnwaarde van het binden van die gebruikers.”
In de e-mails werd een bedrijf afgebeeld dat de kreten van zijn eigen personeel over productrisico’s negeerde. Daar hebben de eisers gebruik van gemaakt. Ze lieten de jury zien dat het management precies wist waar ze mee bezig waren
“De e-mails schetsten een beeld van een bedrijf… en de eiser gebruikte die e-mails effectief om aan te tonen dat hij op de hoogte was van de risico’s.”
Verslavend door ontwerp
Als Meta een schikking had getroffen, zouden de rechtbanken een rommelige juridische vraag hebben omzeild: kun je een site aanklagen vanwege hoe deze is gebouwd, en niet alleen vanwege wat mensen posten? Decennia lang zorgde Sectie 23 van de Communications Decency Act ervoor dat technologie veilig bleef. Het beschermde platforms tegen aansprakelijkheid voor gebruikersinhoud. Dat was het pantser.
Prinses Uchekwe, een bedrijfsadvocaat in New York, merkt de verschuiving op. Slechts enkele dagen voor het vonnis in Californië legde een nieuwe jury Meta een boete van $ 375 miljoen op omdat ze er niet in slaagde kinderen te beschermen. Het landschap barst
“Advocaten voerden aan dat het niet om de inhoud gaat”, legt Uchekwe uit. “Het zijn de kenmerken die het onmogelijk maken om te vertrekken.”
Rol. Rol. Bodemloze put. Niets zegt dat je moet stoppen
Het beroepspel
$ 6 miljoen. Een afrondingsfout voor Meta en Google.
Toch zullen ze waarschijnlijk in beroep gaan. McNally zegt dat het een strategische zet is. Er zijn duizenden rechtszaken. Schooldistricten klagen ook aan. Als een hof van beroep besluit dat oude beschermingsmaatregelen nog steeds van toepassing moeten zijn, kunnen de sluizen dichtgaan
Sectie 23 heeft eerder honderden rechtszaken afgewezen. Het houdt het internet technisch gezien vrij en open. McNally wijst op de inzet: een federaal beroep zou bij het Hooggerechtshof terecht kunnen komen. Als het Hooggerechtshof bepaalt dat artikel 23 hier van toepassing is, zou dit claims over ontwerpschade volledig uitsluiten
Maar falen? Dat doet pijn. Uchekwe waarschuwt dat het “bijna verwoestend” kan zijn. De kosten van het heroverwegen van algoritmen. Oneindige scroll doden. Stervende meldingen. Als het vonnis standhoudt, moet elk technologiebedrijf met jonge gebruikers hun code herschrijven. Niet alleen sociale media. Iedereen.
“Ik denk nooit dat jouw winst ten koste mag gaan van een generatie mensen.”
Vrije meningsuiting versus veilige ruimte
Er is nog een kaart om te spelen. Het eerste amendement.
Sommige juridische geesten, waaronder UC Berkeley-professor Erwin Chemerinky, beweren dat deze ‘verslavende’ algoritmen vrijheid van meningsuiting zijn. Beschermde expressie. Als een hoger beroep op dit front wint, bevriezen zaken op het gebied van productaansprakelijkheid. Dood in het water.
McNally weet niet zeker of het zal werken, maar de kansen worden groter als het Hooggerechtshof tussenbeide komt. Vernietigd? Het proces eindigt. Afgewezen. Gemakkelijk
De rimpel
De jury noemde deze voorzieningen ‘onredelijk onveilig’. Dat prikt. Het dwingt gedaagden in lopende zaken om een direct verband aan te tonen tussen hun app en de gestelde schade. Niet iedere eiser beschikt over dat bewijs.
“De zaken zullen dichter bij een schikking komen”, voorspelt McNally. Maar gedaagden zullen het oorzakelijk verband onderzoeken. Sommige bewijzen zijn zwakker. Sommige gevallen zullen de finish niet halen
Uchekwe ziet een toekomst waarin apps opnieuw worden ontworpen. Minder tijd op het platform. Minder advertentie-inkomsten. Minder gegevensverzameling.
Het zou in de winst kunnen snijden. Misschien niet diep genoeg om de bedrijfsmodellen te vernietigen, geeft ze toe. Maar de keuze blijft. Bouwt u bescherming voor kinderen? Of blijf je de engagementstatistiek najagen?
Het geld is er. De generatie wacht niet
