Sam Altman menyerukan agar negara-negara memiliki wewenang untuk meminta perlambatan pengembangan kecerdasan buatan atau AI ketika risikonya dinilai terlalu besar. CEO OpenAI itu menilai langkah tersebut penting untuk mencegah ancaman katastrofik yang dapat membahayakan manusia.
Dalam unggahan di blog resminya, Altman juga mengusulkan pembentukan organisasi internasional khusus yang bisa memantau kemajuan AI dan merespons ancaman dari teknologi itu. Ia menulis bahwa lembaga tersebut harus memungkinkan dunia mengambil tindakan terkoordinasi, termasuk memperlambat pengembangan frontier AI bila diperlukan, agar ketahanan masyarakat, keamanan, dan alignment tetap terjaga.
Dorongan Global untuk Pengawasan AI
Usulan Altman sejalan dengan pandangan Anthropic, pesaing utama OpenAI, yang sebelumnya juga menyerukan pembekuan global pada riset AI tingkat lanjut. Pimpinan Anthropic menilai dunia perlu punya opsi untuk menghentikan sementara pengembangan agar teknologi keamanan dan masyarakat punya waktu beradaptasi.
Peringatan soal AI terus menguat di kalangan pemimpin industri teknologi. Mereka berkali-kali menyampaikan bahwa sistem AI berpotensi mengganggu tatanan ekonomi dan menghilangkan ratusan juta pekerjaan, meski pada saat yang sama perusahaan-perusahaan AI tetap menghimpun dana besar untuk membangun sistem yang lebih kuat.
Kekhawatiran soal Konsentrasi Kekuasaan
Altman juga menegaskan penolakannya terhadap skenario ketika kekuasaan terpusat pada segelintir perusahaan, pemerintah, atau individu. Ia menilai arah tersebut berisiko dan tidak sesuai dengan masa depan yang ingin dibangun oleh pengembang AI.
Laporan yang sama menyebut Altman telah berbicara dengan pejabat senior Gedung Putih mengenai kemungkinan peran pemerintah AS dalam laboratorium AI. Pembicaraan semacam itu memperlihatkan bahwa isu tata kelola AI tidak lagi hanya menjadi urusan perusahaan teknologi, tetapi juga masuk ke ranah kebijakan publik.
AI, Otomatisasi, dan Batas yang Diinginkan
Di tengah peluncuran agen AI yang dirancang sebagai rekan kerja digital, Altman menekankan bahwa tujuan OpenAI bukan mengganti seluruh pekerjaan manusia dengan bot. Ia mengatakan, “Mengotomatisasi segalanya secara total bukanlah masa depan yang kita inginkan. Itu akan menjadi hal yang tidak memuaskan dan berbahaya.”
Pernyataan itu menempatkan otomatisasi penuh sebagai batas yang perlu diwaspadai. Altman tampak ingin menekankan bahwa pengembangan AI tetap harus diarahkan untuk membantu manusia, bukan mengambil alih seluruh peran manusia di dunia kerja.
Tekanan Keamanan di Tengah Persaingan Bisnis
Fokus pada keamanan AI juga menguat seiring munculnya sistem baru dari perusahaan lain, termasuk bot Mythos dari Anthropic yang disebut terlalu berbahaya untuk dirilis secara bebas karena kemampuan peretasannya. Gedung Putih bahkan dilaporkan ikut memantau peluncurannya untuk mencegah penyalahgunaan oleh peretas.
Di saat yang sama, OpenAI dan Anthropic sama-sama disebut tengah menargetkan penawaran umum perdana atau IPO tahun ini. Valuasi masing-masing perusahaan diperkirakan bisa melampaui US$1 triliun, sementara OpenAI juga mengajukan dokumen secara rahasia kepada regulator AS untuk melantai di bursa saham.
Perdebatan soal perlambatan AI, tata kelola internasional, dan batas aman pengembangan kini bergerak beriringan dengan ekspansi bisnis para pemain terbesar di industri ini. Di tengah pertumbuhan cepat ChatGPT yang telah digunakan lebih dari 900 juta orang di seluruh dunia, pertanyaan tentang siapa yang berhak mengatur laju AI makin menjadi bagian penting dari masa depan teknologi tersebut.
