Keputusan CEO Anthropic, Dario Amodei, untuk tidak memenuhi permintaan Pentagon terkait penggunaan sistem AI buatan perusahaannya memicu perdebatan sengit di sektor teknologi dan pertahanan Amerika Serikat. Pernyataan tegas Amodei menuai polemik besar karena melibatkan dua isu utama: pengawasan domestik massal serta pengembangan senjata otonom berbasis kecerdasan buatan.
Menurut pernyataannya, Amodei menolak keras permintaan Departemen Pertahanan Amerika Serikat (DoD) agar sistem AI Anthropic digunakan tanpa batasan untuk kedua keperluan tersebut. Ia menilai langkah itu dapat "melemahkan, bukan melindungi, nilai-nilai demokrasi," apalagi jika diterapkan pada skala nasional di negara demokratis seperti Amerika Serikat.
Polemik antara CEO Anthropic dan Pentagon
Penolakan dari Anthropic langsung mendapat respons tajam. Wakil Menteri Pertahanan, Emil Michael, menuduh Dario Amodei sebagai "pembohong" dan menudingnya punya keinginan mengendalikan kebijakan militer Amerika Serikat secara pribadi. Melalui media sosial, Emil Michael menegaskan bahwa meski Departemen Pertahanan akan selalu tunduk pada hukum yang berlaku, mereka menolak untuk diatur oleh perusahaan teknologi swasta.
Kontroversi ini terus berkembang karena Anthropic merupakan satu-satunya perusahaan yang AI-nya digunakan pada jaringan rahasia pemerintah Amerika Serikat. Beberapa perusahaan besar lain, seperti Google dan xAI, sebelumnya sudah menandatangani perjanjian dengan pemerintah yang memungkinkan penggunaan AI mereka secara bebas dengan batasan hukum yang berlaku.
Permintaan Pentagon yang Ditolak Anthropic
Ada dua poin utama yang menjadi pusat perselisihan ini. Berikut penjelasannya:
-
Pengawasan Domestik Massal
- Pentagon menginginkan akses luas pada AI Anthropic untuk keperluan pengawasan dalam negeri secara besar-besaran.
- Amodei menyatakan, penggunaan seperti ini tidak sejalan dengan nilai-nilai demokrasi karena memungkinkan pengumpulan data personal secara masif.
- Menurutnya, AI bisa secara otomatis menghimpun data-data yang sebelumnya terpisah menjadi satu gambaran lengkap tentang kehidupan individu, yang berpotensi melanggar kebebasan privasi warga negara.
- Pengembangan Senjata Otonom
- DoD juga meminta agar AI Anthropic dipakai dalam rancangan dan pengendalian senjata otonom secara penuh.
- Amodei berpendapat, teknologi AI saat ini belum cukup andal dan aman untuk diaplikasikan pada senjata yang dapat beroperasi tanpa intervensi manusia.
- Ia khawatir hal ini justru membahayakan keselamatan warga dan stabilitas nasional, karena sistem otonom yang tidak diawasi langsung berisiko tinggi melakukan kesalahan fatal.
Risiko dan Konsistensi Anthropic dalam Menjaga Prinsip
Amodei menegaskan, meski AI bisa dipakai untuk misi intelijen asing dan kontra-intelijen secara hukum, batasan terhadap domestik tetap harus ada. Ia mengingatkan pentingnya penetapan pedoman penjamin keselamatan (guardrails) sebelum teknologi seperti ini digunakan di bidang pertahanan, terutama untuk aplikasi yang berkaitan dengan nyawa manusia dan hak rakyat sipil.
Jika tidak memenuhi batas waktu yang ditentukan Pentagon, Anthropic berpotensi masuk daftar “supply chain risk”. Jika ini terjadi, perusahaan AI tersebut tidak akan diizinkan terlibat lebih lanjut dengan Departemen Pertahanan atau kontraktor pertahanannya. Terkait risiko tersebut, Amodei sudah menyatakan kesiapan Anthropic untuk memfasilitasi transisi ke penyedia AI lain dan memastikan penggunaan jaringan tetap berjalan lancar.
Bagaimana Posisi Pelaku Industri AI Lain?
Perlu dicatat, beberapa perusahaan seperti Boeing dan Lockheed Martin tengah dievaluasi ketergantungannya terhadap teknologi milik Anthropic oleh Pentagon. Sementara itu, perusahan sekelas xAI dan Google disebutkan telah memberi restu penggunaan AI untuk semua “tujuan yang sah menurut hukum”, menempatkan Anthropic sebagai pihak yang berbeda sikap dengan sebagian besar pelaku industri AI di Amerika Serikat.
Perdebatan terkait etika, keamanan, dan batasan penerapan Artificial Intelligence dalam pertahanan masih akan terus berlanjut. Kontroversi antara Anthropic dan Pentagon ini menyoroti semakin pentingnya diskusi prinsip dan kebijakan di tengah kian cepatnya perkembangan teknologi AI dalam ranah militer dan kebijakan negara.
