Algoritma. Filter. Pengguliran tanpa akhir dan berongga.
Itulah yang dilihat oleh juri California ketika mereka menyampaikan kabar buruk kepada Meta dan Google. Pakar hukum mengatakan keputusan tersebut bukan hanya mengenai aplikasi; itu tentang kelalaian. Secara khusus, kelalaian dalam membangun jebakan digital bagi remaja yang kini menghabiskan sekitar seperlima dari setiap hari menatap layar.
Joseph McNally mengetahui medannya. Dia pernah menjadi jaksa federal. Sekarang dia memimpin litigasi gugatan hukum yang muncul di California. Dia memberi tahu EdSurge bahwa para juri menerima argumen baru: perusahaan-perusahaan ini tidak hanya membangun platform. Mereka membangun bahaya. Instagram. YouTube. Desainnya berkontribusi pada keruntuhan kesehatan mental. Snapchat dan TikTok membayar dan pulang sebelum palu dijatuhkan. Mereka ingin keluar.
Ini mengubah banyak hal. Ribuan tuntutan hukum serupa menunggu di depan mata. Pertarungan hukum mengenai penyebab buruknya kesehatan mental remaja masih jauh dari selesai. Ketika para raksasa bersumpah untuk melawan, hal ini dapat membawa dampak langsung ke Mahkamah Agung AS
Bau Email
Bukti adalah segalanya. McNally menunjuk email internal sebagai titik balik. Ini bukanlah kekhawatiran yang samar-samar. Itu adalah peringatan yang dilontarkan oleh karyawan di dalam Meta itu sendiri. Peringatan bahwa filter kecantikan merugikan gadis remaja. Peringatan bahwa pengguna yang berada jauh di bawah batas usia wajib 13 tahun ke atas sudah berada di dalam ekosistem.
Mereka melihat ke arah lain.
Mengapa?
“Mereka mendapatkan keuntungan jangka panjang,” kata McNally, menjelaskan jalur serangan penggugat. “Nilai jangka panjang untuk menggaet para pengguna tersebut.”
Email tersebut menggambarkan sebuah perusahaan yang mengabaikan keluhan stafnya tentang risiko produk. Penggugat menggunakannya. Mereka menunjukkan kepada juri bahwa manajemen tahu persis apa yang mereka lakukan
“Email tersebut menggambarkan sebuah perusahaan… dan penggugat secara efektif menggunakan email tersebut untuk menunjukkan bahwa mereka mengetahui tentang risiko.”
Adiktif Berdasarkan Desain
Seandainya Meta diselesaikan, pengadilan akan menghindari pertanyaan hukum yang berantakan: Bisakah Anda menuntut situs karena bagaimana situs itu dibuat, bukan hanya karena apa yang diposkan orang? Selama beberapa dekade, Pasal 23 Undang-Undang Kepatutan Komunikasi menjaga teknologi tetap aman. Ini melindungi platform dari tanggung jawab atas konten pengguna. Itu adalah baju besinya.
Putri Uchekwe, seorang pengacara perusahaan di New York, mencatat perubahan tersebut. Hanya beberapa hari sebelum putusan California, juri baru mendenda Meta $375 juta karena gagal melindungi anak-anak. Pemandangannya retak
“Pengacara berargumentasi bahwa itu bukanlah isinya,” jelas Uchekwe. “Fitur itulah yang membuat mustahil untuk pergi.”
Menggulir. Menggulir. Lubang tanpa dasar. Tidak ada yang menyuruhmu berhenti
Permainan Banding
$6 juta. Kesalahan pembulatan untuk Meta dan Google.
Namun kemungkinan besar mereka akan mengajukan banding. McNally mengatakan ini adalah langkah strategis. Ada ribuan tuntutan hukum. Distrik sekolah juga menggugat. Jika pengadilan banding memutuskan bahwa perlindungan lama masih berlaku, pintu air mungkin akan tertutup
Pasal 23 telah menolak ratusan tuntutan hukum sebelumnya. Itu membuat internet tetap bebas dan terbuka, secara teknis. McNally menunjukkan risikonya: banding federal bisa diajukan ke Mahkamah Agung. Jika pengadilan tinggi menetapkan Pasal 23 berlaku di sini, maka klaim mengenai kerusakan desain akan sepenuhnya dilarang
Tapi gagal? Itu menyakitkan. Uchekwe memperingatkan bahwa hal ini bisa “hampir menghancurkan.” Biaya memikirkan kembali algoritma. Membunuh gulir yang tak terbatas. Notifikasi sekarat. Jika keputusan tersebut berlaku, setiap perusahaan teknologi dengan pengguna muda harus menulis ulang kode mereka. Bukan hanya media sosial. Setiap orang.
“Saya tidak pernah berpikir bahwa keuntungan Anda harus mengorbankan banyak generasi.”
Pidato Bebas vs. Ruang Aman
Ada kartu lain untuk dimainkan. Amandemen Pertama.
Beberapa pakar hukum, termasuk profesor UC Berkeley Erwin Chemerinky, berpendapat bahwa algoritma yang “membuat ketagihan” adalah kebebasan berpendapat. Ekspresi yang dilindungi. Jika banding menang dalam hal ini, kasus tanggung jawab produk akan dibekukan. Mati di dalam air.
McNally tidak yakin cara ini akan berhasil, namun kemungkinannya akan lebih baik jika Mahkamah Agung turun tangan. Dibatalkan? Sidang berakhir. Diberhentikan. Mudah
Riak
Juri menyebut fitur-fitur ini “sangat tidak aman”. Itu menyakitkan. Hal ini memaksa terdakwa dalam kasus yang tertunda untuk membuktikan hubungan langsung antara aplikasi mereka dan kerugian yang diklaim. Tidak semua penggugat mempunyai bukti tersebut.
“Kasus akan semakin mendekati penyelesaian,” prediksi McNally. Namun terdakwa akan meneliti sebab akibat. Beberapa bukti lebih lemah. Beberapa kasus tidak mencapai garis finis
Uchekwe melihat masa depan di mana aplikasi didesain ulang. Lebih sedikit waktu di platform. Pendapatan iklan lebih sedikit. Lebih sedikit pengumpulan data.
Ini mungkin mengurangi keuntungan. Mungkin tidak cukup dalam untuk mematikan model bisnis, akunya. Tapi pilihan tetap ada. Apakah Anda membangun perlindungan untuk anak-anak? Atau apakah Anda terus mengejar metrik keterlibatan?
Uangnya ada di sana. Generasi ini tidak menunggu
