Anthropic menolak gagasan yang memberi perusahaan AI semacam “kartu bebas tanggung jawab” ketika model mereka dipakai untuk menimbulkan kerugian besar pada manusia atau properti. Sikap itu muncul dalam perdebatan atas RUU keselamatan AI di Illinois, Amerika Serikat, yang justru mendapat dukungan dari OpenAI.
Inti perdebatan ada pada batas tanggung jawab pengembang AI jika teknologinya disalahgunakan oleh pihak jahat. Bagi Anthropic, aturan yang baik harus tetap menjaga akuntabilitas perusahaan, bukan hanya mengandalkan dokumen keselamatan buatan perusahaan itu sendiri.
RUU yang Diperdebatkan di Illinois
RUU tersebut bernama Artificial Intelligence Safety Act atau SB 3444. Menurut laporan Wired yang dikutip dalam artikel referensi, beleid ini membatasi tanggung jawab hukum laboratorium AI dalam kasus “critical harms” atau dampak kritis.
Kategori dampak kritis dalam rancangan itu mencakup insiden berat seperti penggunaan AI untuk membuat senjata berbahaya atau kerusakan properti bernilai lebih dari $1 billion. Dalam skenario tertentu, perusahaan seperti Anthropic atau OpenAI bisa memperoleh perlindungan tanggung jawab yang lebih terbatas jika mereka telah menyusun kerangka keselamatan sendiri dan mempublikasikannya di situs resmi.
Contoh yang disorot dalam pembahasan publik adalah jika alat AI dipakai aktor jahat untuk membantu pengembangan senjata biologis yang menewaskan banyak orang. Dalam rancangan tersebut, tanggung jawab perusahaan bisa dipersempit selama syarat administratif itu telah dipenuhi.
Mengapa Anthropic Menolak
Anthropic disebut aktif melobi legislator Illinois agar isi RUU itu diubah besar-besaran atau dihentikan dalam bentuknya saat ini. Posisi ini berseberangan langsung dengan OpenAI, yang mendukung rancangan tersebut beberapa hari sebelumnya.
Cesar Fernandez, kepala hubungan pemerintah negara bagian dan lokal AS di Anthropic, menyampaikan kritik yang sangat tegas. Kepada Wired, ia mengatakan regulasi transparansi yang baik harus menjamin keselamatan publik dan akuntabilitas perusahaan yang membangun teknologi kuat ini, “not provide a get-out-of-jail-free card against all liability.”
Pernyataan itu menunjukkan garis sikap Anthropic. Perusahaan tidak ingin pengembang AI mendapat perlindungan hukum yang terlalu longgar ketika teknologi mereka berkontribusi pada kerusakan besar terhadap nyawa manusia atau aset.
Secara substansi, keberatan Anthropic bukan ditujukan pada ide keselamatan AI secara umum. Perusahaan justru mendukung pendekatan lain yang mewajibkan rencana keselamatan dan perlindungan anak yang bisa diuji pihak independen.
Alternatif yang Didukung Anthropic
Anthropic mendukung RUU Illinois lain, yaitu SB 3261. Rancangan ini mengharuskan pengembang AI menyiapkan rencana keselamatan publik dan perlindungan anak yang kemudian dinilai auditor pihak ketiga.
Model seperti ini dianggap lebih kuat karena tidak hanya bergantung pada klaim internal perusahaan. Pengujian dari auditor independen memberi lapisan verifikasi yang lebih nyata atas efektivitas langkah pengamanan.
Berikut perbedaan garis besar dua pendekatan yang muncul dalam perdebatan itu:
SB 3444
- Membatasi tanggung jawab AI lab dalam dampak kritis.
- Perlindungan dapat berlaku jika perusahaan punya kerangka keselamatan sendiri dan mempublikasikannya.
- SB 3261
- Mewajibkan rencana keselamatan publik dan perlindungan anak.
- Efektivitas rencana diuji oleh auditor independen.
Mengapa OpenAI Mendukung
OpenAI mengambil posisi berbeda dengan alasan akses dan mitigasi risiko. Juru bicara OpenAI, Jamie Radice, mengatakan dukungan itu bertujuan mengurangi risiko bahaya serius dari sistem AI paling canggih sambil tetap memungkinkan teknologi ini menjangkau masyarakat dan pelaku usaha.
Posisi OpenAI juga sejalan dengan pandangannya yang lebih luas soal perlunya pendekatan regulasi federal yang seragam di Amerika Serikat. Hingga kini, kerangka nasional yang benar-benar menyatukan aturan AI memang belum terbentuk, sehingga negara bagian bergerak dengan inisiatif masing-masing.
Perbedaan itu memperlihatkan dua filosofi regulasi yang sedang bertarung. Satu kubu menekankan pengendalian risiko tanpa terlalu membebani inovasi, sementara kubu lain menilai pembatasan tanggung jawab yang terlalu cepat justru mengurangi insentif perusahaan untuk membangun sistem yang benar-benar aman.
Latar Belakang Ketegangan yang Lebih Luas
Perselisihan ini tidak berdiri sendiri. Artikel referensi juga menyoroti bahwa Anthropic dan OpenAI sebelumnya berbeda pandangan soal penggunaan AI untuk kepentingan militer.
OpenAI kini bekerja sama dengan Departemen Pertahanan AS untuk penggunaan alat AI di lingkungan militer. Anthropic memilih mundur dari kesepakatan serupa karena khawatir teknologinya dapat dipakai untuk pengembangan senjata otonom atau pengawasan domestik massal, meski OpenAI menyatakan modelnya tidak boleh digunakan untuk tujuan tersebut.
Di tengah meningkatnya pemakaian AI pada sektor strategis, perdebatan soal tanggung jawab hukum menjadi semakin penting. Jika negara bagian seperti Illinois memberi batas perlindungan hukum terlalu longgar, kritik seperti yang disampaikan Anthropic berpotensi makin mendapat perhatian dari publik, regulator, dan pelaku industri yang menuntut agar keselamatan manusia tetap menjadi ukuran utama dalam pengembangan AI canggih.
