California mengambil langkah baru untuk memperketat cara perusahaan kecerdasan buatan atau AI bekerja dengan pemerintah negara bagian. Gubernur Gavin Newsom menandatangani perintah eksekutif yang mengarahkan lembaga negara bagian menyusun rekomendasi dalam 120 hari untuk menilai perusahaan AI dan membuat kebijakan yang memprioritaskan keselamatan publik.
Kebijakan ini muncul di tengah perdebatan nasional soal sejauh mana negara bagian boleh mengatur AI. Di satu sisi, pemerintah federal mendorong ruang inovasi yang lebih longgar, tetapi di sisi lain California memilih memperkuat pengawasan terhadap risiko penyalahgunaan teknologi, bias model, dan potensi pelanggaran kebebasan sipil.
Isi utama perintah eksekutif
Perintah Newsom memiliki tiga pilar utama yang langsung memengaruhi perusahaan AI yang ingin berbisnis dengan California. Pemerintah negara bagian akan meninjau proses seleksi vendor, menjaga kebijakan tetap independen dari standar kontrak federal, dan menetapkan standar watermarking baru untuk konten AI yang dibuat oleh pejabat negara bagian.
Perusahaan yang ingin memperoleh kontrak harus menjelaskan perlindungan yang mereka miliki. Mereka juga harus memaparkan kebijakan untuk mencegah penyalahgunaan teknologi, termasuk penyebaran konten ilegal, penggunaan model dengan bias berbahaya, dan pelanggaran hak-hak sipil.
Fokus pada keselamatan publik dan akuntabilitas
California ingin memastikan bahwa AI tidak hanya cepat dan efisien, tetapi juga aman dipakai dalam layanan publik. Karena itu, lembaga negara bagian diminta menilai apakah perusahaan benar-benar memiliki kontrol internal yang memadai untuk mencegah risiko yang muncul dari sistem AI mereka.
Langkah ini penting karena pemerintah daerah dan negara bagian makin sering memakai alat AI untuk administrasi, analisis data, dan layanan publik. Jika proses pengadaan tidak ketat, kesalahan model, manipulasi data, atau penyalahgunaan konten bisa berdampak langsung pada warga.
Tabel ringkas kebijakan yang disorot
| Elemen kebijakan | Isi utama |
|---|---|
| Penilaian vendor | Perusahaan AI harus menjelaskan perlindungan dan prosedur keselamatan |
| Independensi standar | California tidak ingin sepenuhnya mengikuti standar kontrak federal |
| Watermarking | Konten AI buatan pejabat negara bagian harus memiliki penandaan yang lebih jelas |
| Tinjauan independen | Ada proses khusus bila pemerintah federal memberi label risiko rantai pasok |
Respons atas langkah federal
Perintah ini juga terlihat sebagai respons terhadap sikap pemerintah federal yang menolak regulasi AI tingkat negara bagian. Dalam perintah eksekutif yang dikeluarkan Gedung Putih pada Desember, pemerintah federal memerintahkan peninjauan terhadap aturan AI di negara bagian dengan alasan kebijakan tersebut menghambat industri.
Gedung Putih menyebut bahwa perusahaan AI Amerika harus bebas berinovasi tanpa regulasi yang memberatkan. Pernyataan itu berbunyi, “To win, United States AI companies must be free to innovate without cumbersome regulation,” lalu menambahkan, “But excessive State regulation thwarts this imperative.”
California memilih arah berlawanan dengan menekankan pengawasan. Sikap ini menunjukkan bahwa negara bagian tersebut ingin tetap menjadi pusat teknologi, tetapi tidak ingin mengorbankan keselamatan publik demi kecepatan inovasi.
Kasus Anthropic ikut memengaruhi arah kebijakan
Salah satu bagian paling menarik dari perintah ini adalah rencana membuat proses tinjauan independen jika pemerintah federal menandai sebuah perusahaan sebagai risiko rantai pasok. Negara bagian akan menilai apakah penandaan itu tidak tepat, lalu bisa tetap melanjutkan kerja sama bila dianggap aman.
Ketentuan ini tampak berkaitan langsung dengan langkah Pentagon terhadap Anthropic, setelah muncul perselisihan tentang bagaimana AI perusahaan itu bisa dipakai dalam perang dan pengawasan. Seorang hakim federal bahkan sempat memblokir sementara penetapan tersebut dan menyebut tidak ada dasar hukum yang mendukung gagasan bahwa perusahaan Amerika bisa dilabeli sebagai calon musuh hanya karena tidak sejalan dengan pemerintah.
Mengapa kebijakan ini penting bagi industri AI
Kebijakan California bisa memberi sinyal kuat kepada pasar bahwa kepatuhan, transparansi, dan keselamatan akan menjadi syarat utama untuk masuk ke kontrak pemerintah. Perusahaan AI yang ingin menjual layanan ke sektor publik kemungkinan harus menyiapkan dokumentasi lebih detail, pengawasan internal yang lebih kuat, dan sistem penandaan konten yang lebih jelas.
Bagi industri, aturan ini bisa menjadi standar baru yang mungkin ditiru wilayah lain. Bagi pemerintah, langkah ini menunjukkan bahwa adopsi AI tidak bisa dilepas begitu saja tanpa mekanisme kontrol yang jelas, terutama saat teknologi tersebut mulai memengaruhi layanan yang menyentuh kepentingan publik secara langsung.
