Algoritmi. Filtri. Scorrimento infinito e vuoto.
Questo è ciò che una giuria californiana ha esaminato quando ha consegnato a Meta e Google la brutta notizia. Gli esperti legali affermano che il verdetto non riguardava solo le app; si trattava di negligenza. Nello specifico, la negligenza nel costruire trappole digitali per preadolescenti e adolescenti che ora trascorrono circa un quinto della giornata fissando uno schermo.
Joseph McNally conosce il terreno. Era un procuratore federale. Ora guida il contenzioso emergente per responsabilità civile in California. Dice a EdSurge che i giurati hanno acquisito una nuova argomentazione: queste aziende non si limitavano a costruire piattaforme. Hanno costruito pericoli. Instagram. YouTube. Il design ha contribuito al collasso della salute mentale. Snapchat e TikTok hanno pagato e sono tornati a casa prima che il martelletto cadesse. Volevano uscire.
Questo cambia le cose. Migliaia di cause legali simili sono in attesa dietro le quinte. La battaglia legale su chi sia la colpa del deterioramento della salute mentale dei giovani è lungi dall’essere finita. Con i giganti che promettono di reagire, questo potrebbe salire direttamente alla Corte Suprema degli Stati Uniti
L’odore delle e-mail
Le prove sono tutto. McNally indica le e-mail interne come il punto di svolta. Non si trattava di preoccupazioni vaghe. Erano gli allarmi lanciati dai dipendenti interni alla stessa Meta. Avvertimento che i filtri di bellezza danneggiano le ragazze adolescenti. Avvertimento che gli utenti molto al di sotto del limite di età obbligatorio di oltre 13 anni erano già all’interno dell’ecosistema.
Guardavano dall’altra parte.
Perché?
“Hanno avuto un vantaggio a lungo termine”, dice McNally, spiegando la linea di attacco dei querelanti. “Il valore a lungo termine dell’aggancio di questi utenti.”
Le e-mail hanno dipinto un’azienda che ignora le grida del proprio personale sui rischi del prodotto. I querelanti lo hanno utilizzato. Hanno dimostrato alla giuria che la direzione sapeva esattamente cosa stavano facendo
“Le e-mail dipingevano l’immagine di un’azienda… e il querelante ha utilizzato effettivamente tali e-mail per dimostrare di essere a conoscenza del rischio.”
Crea dipendenza grazie alla progettazione
Se Meta avesse risolto il problema, i tribunali avrebbero eluso una complicata questione legale: si può citare in giudizio un sito per come è costruito, non solo per ciò che le persone pubblicano? Per decenni, la Sezione 23 del Communications Decency Act ha mantenuto la tecnologia al sicuro. Ha protetto le piattaforme dalla responsabilità sui contenuti degli utenti. Quella era l’armatura.
La principessa Uchekwe, avvocato aziendale di New York, nota il cambiamento. Pochi giorni prima del verdetto della California, una nuova giuria ha multato Meta 375 milioni di dollari per non aver protetto i bambini. Il paesaggio si sta incrinando
“Gli avvocati sostenevano che non fosse il contenuto”, spiega Uchekwe. “Sono le caratteristiche che rendono impossibile andarsene.”
Scorri. Scorri. Pozzo senza fondo. Niente ti dice di fermarti
Il gioco dell’appello
$ 6 milioni. Un errore di arrotondamento per Meta e Google.
Eppure probabilmente faranno appello. McNally dice che è una mossa strategica. Ci sono migliaia di cause legali. Anche i distretti scolastici stanno facendo causa. Se una corte d’appello decidesse che le vecchie protezioni dovrebbero ancora essere applicate, le dighe potrebbero chiudersi
La Sezione 23 ha respinto centinaia di cause legali in precedenza. Mantiene Internet libera e aperta, tecnicamente parlando. McNally sottolinea la posta in gioco: un appello federale potrebbe approdare alla Corte Suprema. Se in questo caso si applicasse la Sezione 23 delle norme dell’Alta Corte, ciò impedirebbe del tutto le rivendicazioni relative ai danni alla progettazione
Ma fallire? Fa male. Uchekwe avverte che potrebbe essere “quasi devastante”. Il costo di ripensare gli algoritmi. Uccisione dello scorrimento infinito. Notifiche di morte. Se il verdetto dovesse reggere, ogni azienda tecnologica con utenti giovani dovrà riscrivere il proprio codice. Non solo social. Tutti.
“Non penso mai che il tuo profitto debba andare a scapito di una generazione di persone.”
Libertà di parola contro spazio sicuro
C’è un’altra carta da giocare. Il Primo Emendamento.
Alcune menti legali, tra cui il professore della UC Berkeley Erwin Chemerinky, sostengono che quegli algoritmi “che creano dipendenza” siano la libertà di parola. Espressione protetta. Se il ricorso vince su questo fronte, i casi di responsabilità da prodotto si congelano. Morto nell’acqua.
McNally non è sicuro che funzionerà, ma le probabilità miglioreranno se interverrà la Corte Suprema. Ribaltata? Il processo finisce. Licenziato. Facile
L’ondulazione
La giuria ha definito queste funzionalità “irragionevolmente pericolose”. Questo brucia. Obbliga gli imputati nei casi pendenti a dimostrare un collegamento diretto tra la loro app e il danno lamentato. Non tutti i querelanti hanno questa prova.
“I casi si avvicineranno alla soluzione”, prevede McNally. Ma gli imputati esamineranno attentamente il nesso di causalità. Alcune prove sono più deboli. Alcuni casi non arriveranno al traguardo
Uchekwe vede un futuro in cui le app verranno riprogettate. Meno tempo sulla piattaforma. Meno entrate pubblicitarie. Meno raccolta di dati.
Potrebbe tagliare i profitti. Forse non abbastanza in profondità da uccidere i modelli di business, ammette. Ma la scelta resta. Costruite tutele per i bambini? Oppure continui a inseguire la metrica del coinvolgimento?
I soldi ci sono. La generazione non sta aspettando
