Discord sedang menghadapi sorotan tajam setelah mengakui adanya bug serius pada sistem moderasi berbasis AI yang membuat lebih dari 8.000 akun diblokir permanen tanpa alasan yang valid. Kasus ini mengejutkan karena pemicunya justru gambar sederhana seperti tangkapan layar Minecraft, papan catur, atau ilustrasi geometris.
Masalah ini berlangsung antara Mei 2026 hingga pertengahan Juli 2026 dan baru ramai setelah pengguna X bernama tallcowyt mengungkap celah sistem yang salah membaca pola kotak-kotak sebagai konten berbahaya. Alih-alih hanya menahan unggahan untuk ditinjau manusia, sistem justru menjatuhkan sanksi permanen ke pemilik akun.
Gambar Aman yang Disalahartikan Sistem
Menurut temuan yang dibagikan tallcowyt, sistem Discord mencocokkan gambar berpola grid dengan hash dari materi eksplisit yang sudah dikenal. Teknik ini seharusnya dipakai untuk membantu mendeteksi konten ilegal, termasuk CSAM, tetapi bug membuat gambar yang tidak berbahaya ikut terdeteksi sebagai kecocokan.
Akibatnya, pengguna yang hanya mengunggah visual seperti Minecraft atau pixel art ikut terkena pemblokiran. Banyak akun dilaporkan langsung terkunci tanpa peringatan, tanpa penjelasan yang jelas, dan tanpa proses banding yang mudah dipahami.
Pengakuan Discord dan Data Akun Terdampak
Dalam pernyataan resminya di X, Discord mengatakan sistem mereka memang menandai konten dengan mencocokkannya terhadap materi berbahaya yang diketahui. Perusahaan juga menegaskan bahwa pencocokan kesamaan dapat menghasilkan positif palsu dan konten yang ditandai seharusnya ditinjau anggota tim sebelum tindakan diambil.
Namun, Discord mengakui ada bug yang membuat pemblokiran justru dijatuhkan dan bug yang sama juga mencegah pencabutan blokir berjalan otomatis. Perusahaan menyebut sekitar 8.200 akun terdampak sejak Mei 2026, ditambah 200 akun lainnya pada akhir pekan lalu.
| Periode | Jumlah Akun | Status | Keterangan |
|---|---|---|---|
| Mei 2026 hingga pertengahan Juli 2026 | 8.000+ akun | Diblokir permanen | Terdampak bug moderasi AI |
| Akhir pekan lalu | 200 akun | Diblokir permanen | Masuk dalam insiden yang sama |
Discord menyatakan seluruh akun yang terdampak bug tersebut telah dipulihkan dan akses pengguna dikembalikan. Tetapi klaim itu belum sepenuhnya dipercaya komunitas karena masih ada pengguna yang melaporkan akun mereka belum bisa diakses kembali.
Masih Ada Pertanyaan Soal Pemulihan Akun
Di X, sejumlah pengguna mengatakan akun mereka tetap bermasalah meski perusahaan sudah mengumumkan perbaikan. Salah satu Community Note di unggahan resmi Discord menyebut klaim bahwa semua akun telah dipulihkan belum diverifikasi secara independen.
Catatan itu juga menyatakan banyak pengguna masih menunggu respons dari tim dukungan. Situasi ini memperlihatkan jarak antara pernyataan perusahaan dan pengalaman pengguna yang masih terdampak.
Bagaimana Sistem Moderasi Itu Seharusnya Bekerja
Discord menggunakan sistem seperti PhotoDNA atau teknologi serupa untuk membandingkan unggahan gambar dengan database hash dari konten ilegal yang sudah diverifikasi oleh lembaga seperti NCMEC. Alurnya semestinya sederhana dan berlapis agar tidak salah sasaran.
Gambar diunggah, sistem memindai hash, lalu unggahan dengan kecocokan parsial ditahan sementara untuk diperiksa tim manusia. Jika terbukti melanggar, barulah akun diberi sanksi, sehingga keputusan akhir tidak sepenuhnya ditentukan mesin.
Pada insiden ini, bug membuat proses itu melompat terlalu jauh. Konten yang seharusnya hanya ditahan untuk peninjauan malah berujung pada pemblokiran permanen, sementara mekanisme otomatis untuk mencabut sanksi juga gagal bekerja.
Langkah Jika Akun Terblokir Tanpa Alasan
Bagi pengguna yang merasa akunnya diblokir tanpa alasan, Discord menyediakan jalur banding melalui support.discord.com. Opsi yang dipilih adalah “My account was disabled” lalu isi formulir dengan detail lengkap tentang konten yang diunggah.
Pengguna juga disarankan melampirkan bukti bahwa konten tersebut tidak melanggar kebijakan, misalnya screenshot Minecraft yang asli. Meski prosesnya bisa lambat, dokumentasi yang jelas disebut dapat membantu memperbesar peluang pemulihan akun.
Insiden ini menjadi pengingat bahwa sistem moderasi AI tetap membutuhkan pengawasan manusia yang kuat agar tidak menghukum pengguna yang sebenarnya tidak bersalah. Tanpa transparansi dan akuntabilitas yang memadai, teknologi yang dirancang untuk melindungi justru bisa berubah menjadi sumber masalah baru bagi komunitas digital.