Seruan kehati-hatian terhadap kecerdasan buatan kembali datang dari dalam industri itu sendiri. Salah satu pendiri Anthropic, Jack Clark, meminta adanya “pedal rem” untuk AI karena laju pengembangannya dinilai terus melesat tanpa mekanisme penghentian yang memadai.
Pesan itu menarik perhatian karena Anthropic bukan pengamat dari luar, melainkan perusahaan yang membangun model AI canggih seperti Claude. Di saat persaingan melawan ChatGPT milik OpenAI dan Gemini milik Google makin ketat, perusahaan ini justru menekankan pentingnya kemampuan untuk memperlambat pengembangan bila diperlukan.
Dalam wawancara dengan BBC Newsnight, Clark mengatakan industri AI saat ini sudah punya “pedal gas”, tetapi belum punya “pedal rem”. Menurut dia, dunia perlu memiliki opsi untuk mengurangi kecepatan pengembangan ketika risiko mulai melampaui kesiapan pengawasan.
Kekhawatiran utama Anthropic
Pusat kekhawatiran Anthropic adalah skenario ketika sistem AI kelak mampu membantu merancang, membangun, dan melatih penerusnya sendiri. Jika itu terjadi, keterlibatan manusia dalam proses pengembangan AI bisa berkurang drastis.
Perusahaan itu menilai Claude sudah semakin sering membantu tugas riset dan pengembangan AI. Dari titik itulah muncul kekhawatiran bahwa sistem di masa depan bisa bergerak lebih jauh, yakni menciptakan model baru dengan sedikit atau bahkan tanpa campur tangan manusia.
Anthropic menegaskan tahap tersebut belum terjadi saat ini. Perusahaan juga mengakui skenario itu belum tentu benar-benar terwujud penuh, tetapi menurutnya pemerintah dan regulator perlu bersiap sebelum teknologi sampai ke titik tersebut.
Dalam pernyataan terbarunya, Anthropic menyebut perbaikan diri rekursif atau recursive self-improvement bukan sesuatu yang tak terelakkan. Namun, perusahaan itu menilai perkembangan semacam itu bisa datang lebih cepat daripada kesiapan banyak institusi.
Mengapa “AI membuat AI” dianggap berisiko
Bagi pengguna umum, gagasan AI yang ikut menciptakan AI lain mungkin terdengar seperti fiksi ilmiah. Namun, logika dasarnya sederhana: bila sistem saat ini membantu membangun sistem yang lebih baik, maka percepatan kemajuan teknologi bisa meningkat tajam.
Clark menilai situasi seperti itu menuntut kontrol manusia yang lebih tegas. Ia mendorong hadirnya pengawasan pemerintah dan regulasi yang jelas agar masyarakat bisa yakin terhadap sistem yang sedang dibangun.
Ia membandingkan ledakan AI saat ini dengan kebangkitan industri minyak lebih dari satu abad lalu. Menurutnya, pemerintah pada akhirnya membuat aturan agar masyarakat bisa memanfaatkan minyak sambil mengelola risikonya, dan AI kemungkinan membutuhkan pendekatan serupa.
Dampak ke pekerjaan mulai dibahas terbuka
Selain isu keselamatan, Clark juga menyinggung risiko gangguan terhadap ekonomi. Ia menyoroti kemajuan “agent”, yakni bot AI yang dapat menjalankan tugas rutin dengan tingkat otonomi tertentu, sebagai teknologi yang berpotensi mengambil alih sebagian pekerjaan.
Kekhawatiran itu muncul ketika banyak perusahaan teknologi melakukan pemutusan hubungan kerja massal dalam setahun terakhir. Sejumlah perusahaan juga mengaitkan efisiensi tersebut dengan kemampuan alat AI yang kini dapat menangani pekerjaan yang sebelumnya dikerjakan ratusan hingga ribuan insinyur perangkat lunak.
Meski begitu, Clark tidak melihat masa depan manusia semata-mata suram. Ia justru menilai keunggulan penting manusia masih berada pada kreativitas dan kemampuan menghasilkan ide yang lebih baik.
Menurut dia, masih ada pertanyaan terbuka apakah sistem AI benar-benar bisa kreatif. Ia mengatakan belum ada bukti yang benar-benar menunjukkan hal itu, sementara di Anthropic hambatan yang lebih besar justru bukan rekayasa teknis, melainkan kemampuan melahirkan gagasan yang bagus.
Nasihat untuk anak muda: perluas minat, jangan hanya soal teknologi
Di tengah kecemasan bahwa ekonomi berbasis AI bisa menyisihkan generasi muda, Clark memberi saran yang tidak biasa. Ia mendorong anak muda untuk mengembangkan hobi dan menempuh pendidikan liberal arts.
Bagi Clark, orang yang kreatif, berpikir luas, banyak membaca, dan memiliki beragam minat justru bisa paling diuntungkan oleh era AI. Ia menilai rasa ingin tahu akan memberi nilai tambah dalam cara seseorang memanfaatkan teknologi ini.
Komentarnya soal hobi sempat memicu perdebatan di X. Menanggapi salah satu pengguna yang menganggap nasihat itu mengejutkan, Clark menjelaskan bahwa ucapannya telah ditafsirkan keliru.
Ia menegaskan sarannya bukan lahir dari ketakutan bahwa AI akan sepenuhnya menggantikan manusia. Menurut dia, pekerja teknologi memang sebaiknya memiliki minat di luar komputer agar tidak terjebak dalam cara pandang yang sempit.
Clark bahkan mengatakan ia rutin mendorong karyawan baru di Anthropic untuk memiliki hobi yang tidak berkaitan dengan teknologi. Ia juga menyarankan mereka sesekali “touch grass”, atau keluar sejenak dari dunia teknologi, alih-alih terus-menerus tenggelam dalam komputer dan AI.
Pernyataan itu memperlihatkan dua pesan yang berjalan bersamaan dari salah satu tokoh penting di industri AI. Di satu sisi, ia meminta regulasi yang memungkinkan dunia menekan rem ketika pengembangan AI bergerak terlalu cepat, dan di sisi lain ia menilai manusia tetap punya ruang lewat kreativitas, keluasan berpikir, serta minat yang melampaui teknologi itu sendiri.
Source: www.indiatoday.in-
-
-
-
