Aturan Baru Wajibkan Pengawasan Manusia dan Label AI untuk Produk dengan Dampak Besar

South Korea telah menjadi negara pertama yang meluncurkan regulasi resmi terkait kecerdasan buatan (AI). Undang-undang ini dikenal sebagai AI Basic Act dan menetapkan aturan ketat untuk penggunaan AI di sektor-sektor penting. Regulasi ini disusun sebelum blok lain seperti Uni Eropa yang rencananya akan menjalankan regulasi AI secara bertahap mulai tahun depan.

Dalam AI Basic Act, perusahaan diwajibkan memastikan adanya pengawasan manusia pada AI yang berdampak besar. Area-area yang termasuk dalam kategori ini meliputi keselamatan nuklir, air minum, transportasi, layanan kesehatan, serta aplikasi keuangan seperti penilaian kredit dan penyaringan pinjaman. Regulasi ini bertujuan mengurangi risiko yang mungkin timbul dari keputusan AI yang salah tanpa campur tangan manusia.

Kewajiban Transparansi dan Labeling AI

Perusahaan harus memberitahukan kepada pengguna jika produk atau layanan yang digunakan melibatkan AI generatif atau AI dengan dampak besar. Selain itu, hasil keluaran AI yang sulit dibedakan dari hasil manusia harus diberi label khusus. Ketentuan ini dimaksudkan untuk menjaga transparansi dan memberikan informasi yang jelas kepada konsumen mengenai asal data atau keputusan yang mereka terima.

Penting untuk dicatat bahwa pelanggaran tidak akan langsung dikenai sanksi. Pemerintah memberikan masa tenggang minimal satu tahun sebelum penerapan denda mulai diberlakukan. Namun, denda yang dapat dikenakan cukup besar, yaitu mencapai KRW 30 juta atau sekitar $20.480, untuk pelanggaran seperti kegagalan memberi label pada output AI generatif.

Respons dari Startup dan Dukungan Pemerintah

Beberapa startup lokal menyatakan kekhawatiran terkait ketidakjelasan ketentuan dalam undang-undang ini. Mereka merasa bahwa aturan yang masih samar dapat memicu pendekatan yang terlalu aman, yang pada akhirnya bisa menghambat inovasi di bidang AI. Kekhawatiran ini mencerminkan tantangan dalam menyeimbangkan antara regulasi ketat dan ruang bagi pengembangan teknologi.

Untuk mengatasi hal tersebut, Kementerian Ilmu Pengetahuan dan Teknologi serta Informasi dan Komunikasi Korea telah menyiapkan platform panduan dan pusat dukungan khusus. Fasilitas ini akan aktif selama masa tenggang dan bertujuan membantu pelaku industri memahami serta mematuhi aturan dengan lebih baik.

AI Basic Act sebagai Pionir Regulasi AI Global

Langkah Korea Selatan ini merupakan terobosan di tingkat global karena negara tersebut menjadi yang pertama mengesahkan aturan hukum terkait AI secara menyeluruh. Hal ini terjadi di saat negara-negara lain dan blok ekonomi besar seperti Uni Eropa masih dalam proses persiapan regulasi mereka. Regulasi Korea Selatan bisa menjadi model yang dipelajari negara lain dalam membentuk kebijakan AI di masa depan.

Berikut beberapa poin utama dalam AI Basic Act Korea Selatan:

1. Penetapan pengawasan manusia untuk AI dengan dampak besar di sektor penting.
2. Kewajiban pemberitahuan kepada pengguna mengenai penggunaan AI generatif dan dampaknya.
3. Wajib labeling untuk output yang diciptakan oleh AI agar mudah dikenali.
4. Pemberian waktu tenggang minimal satu tahun sebelum denda berlaku.
5. Potensi denda hingga KRW 30 juta atau sekitar $20.480.
6. Dukungan pemerintah melalui platform panduan dan pusat bantuan bagi pelaku industri.

Regulasi ini menandai awal era baru pengaturan teknologi AI yang semakin kompleks dan berpengaruh. Penerapan aturan ini akan menarik perhatian global terkait bagaimana cara terbaik memantau dan mengendalikan teknologi AI sambil tetap mendorong perkembangan inovatif. Indonesia dan negara lain juga dapat memantau perkembangan ini sebagai referensi dalam membangun kebijakan AI ke depan.