Seorang ibu rumah tangga, Geraldine, mengaku menemukan satu fakta mencengangkan pasca-kematian anak perempuan berusia 18 tahun yang meninggal karena bunuh diri tahun lalu, dia menemukan video-video tindakan menyakiti diri sendiri yang telah dipublikasikan dan ditonton putrinya di TikTok.
"TikTok tidak membunuh putri kecil kami, karena dia memang sedang tidak sehat," ujar Geraldine, 52 tahun, yang menolak nama belakangnya disebutkan.
BACA JUGA:Jelang Laga Persebaya Surabaya vs Persib Bandung, Eduardo: Saya Tidak Peduli Dengan Statistik
Hanya saja, Geraldine menuduh TikTok kurang cermat dalam moderasi daring, sehingga menjerumuskan putrinya semakin dalam ke lingkaran pengguna yang buruk.
TikTok Gunakan Peran AI
Para pemimpin TikTok mengatakan kepada anggota Parlemen bahwa aplikasi tersebut menggunakan moderasi yang ditingkatkan dengan teknologi AI.
TikTok mengklaim tahun lalu, 2024, telah memblokir 98 persen konten yang melanggar persyaratan layanannya di Prancis.
AI telah berkembang begitu penting untuk moderasi media sosial karena operator berupaya menghemat uang untuk mengidentifikasi manusia terhadap konten seperti pornografi, misinformasi, dan ujaran kebencian.
TikTok mengatakan bulan lalu bahwa peningkatan teknologi akan memungkinkannya untuk mengurangi pekerjaan dan lokasi moderasi di seluruh dunia, mungkin termasuk beberapa ratus pekerjaan di Inggris.
Namun anggota Parlemen Prancis menemukan aturan TikTok "sangat mudah dielakkan", misalnya dengan menggunakan eufisme untuk kata kunci yang difilter seperti kata kunci bunuh diri.
Komite menyarankan agar larangan terhadap anak-anak di bawah 15 tahun menggunakan media sosial dapat diperluas ke semua orang di bawah usia 18 tahun, jika dalam tiga tahun ke depan, platform tersebut tidak menghormati hukum Eropa.