PBB membentuk panel independen internasional yang bertugas memastikan kendali manusia atas kecerdasan buatan (AI) menjadi kenyataan teknis. Panel ini diharapkan menjadi lembaga ilmiah seperti Intergovernmental Panel on Climate Change (IPCC) yang menangani perubahan iklim, dengan tujuan mengawal pengembangan AI agar lebih aman dan adil.
Antonio Guterres, Sekretaris Jenderal PBB, menyatakan bahwa dunia tengah menghadapi ketidakpastian besar terkait AI. Ia mengingatkan pentingnya mengedepankan fakta dan bukti, bukan sekadar hype atau ketakutan berlebihan, dalam menghadapi risiko seperti gangguan lapangan pekerjaan, penyalahgunaan online, dan konsumsi listrik tinggi dari pusat data.
Tujuan dan Fungsi Panel PBB
Panel yang beranggotakan 40 ahli ini dibentuk untuk memberi panduan berbasis sains terhadap teknologi AI. Guterres menegaskan bahwa tata kelola berdasarkan sains bukan penghambat kemajuan, melainkan langkah untuk memastikan teknologi berkembang lebih etis dan dapat dinikmati secara merata. Dengan pemahaman kapasitas dan keterbatasan AI, regulasi yang lebih cerdas dan berbasis risiko bisa dirumuskan.
Diskusi Global di KTT AI New Delhi
KTT AI di New Delhi yang berlangsung selama lima hari menjadi platform pertemuan para pemimpin dunia, menteri, dan pelaku industri. Pertemuan ini merupakan yang pertama diselenggarakan di negara berkembang dan diharapkan menghasilkan sikap bersama mengenai tantangan dan peluang AI. Pertemuan serupa berikutnya akan diadakan di Jenewa.
India memanfaatkan momentum ini untuk mempercepat ambisinya menjadi kekuatan AI global, dengan diperkirakan investasi lebih dari 200 miliar dolar AS dalam dua tahun mendatang. Beberapa raksasa teknologi AS juga mengumumkan proyek kerjasama dan pengembangan infrastruktur AI di negara tersebut.
Pendapat Para Pemimpin Teknologi
Sam Altman, CEO OpenAI, menyuarakan pentingnya pengawasan AI namun memperingatkan regulasi yang terlalu ketat dapat menghambat daya saing Amerika Serikat. Altman juga mengingatkan bahaya jika teknologi AI terpusat hanya pada satu perusahaan atau negara, yang berpotensi membawa risiko besar bagi dunia.
Tantangan dan Harapan dalam Tata Kelola AI
Meski langkah konkret terkadang samar dalam forum internasional, para ahli menilai pembentukan bahasa dan standar bersama mengenai risiko dan batasan AI menjadi fondasi penting. Niki Iliadis dari The Future Society menekankan bahwa perusahaan AI memang berpengaruh, tetapi tidak berdaulat. Hal ini membuka peluang bagi negara dan komunitas global untuk menetapkan aturan.
Konten Diskusi KTT AI
Topik diskusi mencakup perlindungan anak, akses yang lebih merata ke teknologi AI di seluruh dunia, dan kerjasama antara manusia dan sistem AI dalam mengembangkan kemajuan bersama. Perdana Menteri India Narendra Modi menegaskan tekad penggunaan AI untuk kemanfaatan global, sementara India juga bergabung dengan inisiatif "Pax Silica" yang dipimpin AS guna memastikan rantai pasokan AI tidak terhambat oleh konflik geopolitik.
Dengan dinamika global dan teknologi yang cepat berkembang, upaya bersama untuk mengatur dan mengarahkan AI tetap krusial agar manfaatnya dapat dirasakan lebih luas sekaligus memitigasi risiko yang mungkin timbul. Panel PBB diharapkan menjadi landasan penting bagi tata kelola AI masa depan.
