Presiden AS Donald Trump menyatakan kecerdasan buatan atau AI seharusnya memiliki “kill switch” untuk membatasi risiko dari perkembangan teknologi yang sangat cepat. Pernyataan itu menyoroti kekhawatiran bahwa AI bukan hanya membawa manfaat, tetapi juga bisa berkembang menjadi ancaman eksistensial bagi manusia.
Komentar tersebut muncul dalam wawancara yang disiarkan Fox Business Network. Dalam pembahasan itu, Trump menilai AI dapat memperkuat sistem perbankan, tetapi pada saat yang sama tetap menyimpan potensi bahaya yang besar.
Trump dorong pengaman untuk AI
Saat ditanya tentang kemungkinan AI memengaruhi stabilitas sistem perbankan, Trump mengakui ada risiko nyata. Namun, ia juga mengatakan teknologi itu bisa membuat sektor perbankan menjadi “lebih baik, lebih aman, dan lebih terjamin.”
Di titik itulah Trump menekankan perlunya pengaman dari pemerintah. Ia menyebut salah satu bentuk pengaman itu bisa berupa “kill switch”, meski tidak ada rincian lebih lanjut tentang bagaimana mekanisme tersebut akan diterapkan.
Wawancara itu direkam untuk program “Mornings with Maria”. Sampai saat ini, belum ada penjelasan tambahan mengenai kapan atau dalam kondisi apa tombol penghenti semacam itu dapat digunakan.
Kekhawatiran muncul di tengah lonjakan AI siber
Pernyataan Trump datang setelah muncul peringatan dari para ahli keamanan siber soal model AI baru milik Anthropic, Claude Mythos. Model itu disebut berpotensi meningkatkan kemampuan serangan siber yang kompleks dan memunculkan tantangan besar bagi industri perbankan.
Kekhawatiran tersebut dinilai relevan karena sektor perbankan masih banyak bergantung pada sistem teknologi lama. Dalam kondisi seperti itu, kemampuan AI untuk menemukan celah perangkat lunak bisa menjadi alat pertahanan, tetapi juga berisiko dimanfaatkan untuk menyerang.
Anthropic menolak berkomentar langsung atas peringatan para ahli itu. Namun perusahaan tersebut mengatakan Claude Mythos Preview tidak akan tersedia secara luas untuk publik.
Model canggih, akses dibatasi
Menurut informasi yang dibagikan Anthropic, Mythos dirancang untuk mengidentifikasi kelemahan perangkat lunak yang dapat dimanfaatkan dalam serangan siber. Perusahaan itu telah bekerja sama dengan lebih dari 40 perusahaan yang diberi akses ke model tersebut.
Fungsi utama penggunaan Mythos disebut untuk mencari cacat dalam perangkat lunak. Pendekatan ini menunjukkan bahwa AI dengan kemampuan tinggi kini diposisikan sebagai alat audit keamanan, bukan sekadar chatbot umum.
Meski begitu, sorotan terhadap Anthropic tidak berhenti pada kemampuan teknologinya. Perusahaan itu juga sedang menghadapi status sebagai “supply chain risk” menurut pemerintah AS, yang membuat lembaga federal dilarang memakai alat dan layanannya.
Anthropic, yang dipimpin Dario Amodei, mantan salah satu pendiri OpenAI, menggugat arahan tersebut di pengadilan. Sengketa itu menambah lapisan baru dalam debat soal siapa yang layak mengembangkan dan mengendalikan AI berisiko tinggi.
Kemampuan Mythos picu perdebatan baru
Data dari Anthropic sendiri menunjukkan bahwa Mythos memiliki kemampuan yang sangat besar bahkan dalam tahap pratinjau. Salah satu contoh yang dikutip adalah kemampuannya menemukan bug berusia 27 tahun di OpenBSD.
Model itu juga dilaporkan mampu mendeteksi ribuan kerentanan zero-day dalam perangkat lunak open source dan closed source. Klaim semacam ini memperkuat alasan mengapa sebagian pihak ingin ada pembatasan dan kontrol yang lebih ketat terhadap AI canggih.
Di internet, berkembang pula anggapan bahwa Mythos punya kapasitas untuk membobol hampir semua perangkat lunak. Klaim itu belum dijabarkan lebih jauh dalam bentuk penjelasan teknis, tetapi cukup untuk memicu kekhawatiran soal dampaknya terhadap keamanan digital.
Persaingan industri ikut memanaskan isu
Dorongan kompetisi antarpengembang AI juga ikut memperbesar perhatian terhadap risiko ini. OpenAI disebut tengah menyiapkan GPT 5.4-Cyber, versi yang difokuskan untuk menemukan celah perangkat lunak, sebagai pesaing dari Mythos.
Seperti Mythos, model dari OpenAI itu juga baru tersedia untuk pengguna tertentu. Bedanya, Anthropic sudah memiliki dukungan perusahaan besar seperti Apple dan Amazon yang disebut menggunakan Mythos.
Situasi ini menempatkan pengembangan AI pada dua sisi yang berjalan bersamaan. Di satu sisi, perusahaan teknologi berlomba membuat sistem yang semakin kuat untuk memperbaiki keamanan digital.
Di sisi lain, kemampuan yang sama juga dapat membuka peluang penyalahgunaan dalam skala yang lebih luas. Karena itu, usulan Trump soal “kill switch” dibaca sebagai bagian dari dorongan agar pemerintah tidak tertinggal dalam menyiapkan pagar pengaman bagi AI yang terus bergerak lebih cepat dari regulasinya.
