OpenAI menawarkan gaji sebesar $555.000 per tahun untuk posisi “head of preparedness” dengan tanggung jawab besar dalam menghadapi risiko yang muncul dari perkembangan kecerdasan buatan (AI). Posisi ini menantang karena kandidat harus memimpin upaya mitigasi terhadap berbagai ancaman serius seperti dampak AI terhadap kesehatan mental manusia, keamanan siber, hingga potensi penggunaan teknologi AI dalam pembuatan senjata biologi.
Sam Altman, CEO OpenAI, mengakui bahwa peran ini sangat menegangkan dan kandidat yang terpilih harus langsung berhadapan dengan masalah kompleks sejak hari pertama. Altman menyebut posisi ini sebagai peran penting yang berkontribusi langsung dalam membantu dunia mengelola risiko teknologi AI yang kian berkembang pesat.
Tanggung Jawab Utama Posisi Kepala Kesiapsiagaan AI
Kandidat yang diterima akan menjalankan tugas sebagai berikut:
- Mengevaluasi berbagai ancaman yang muncul dari kemampuan AI yang semakin maju.
- Mengembangkan strategi mitigasi untuk mengurangi potensi bahaya serius.
- Memantau dan mempersiapkan diri terhadap kemampuan frontier AI yang bisa menimbulkan risiko baru bagi masyarakat.
- Bekerja sama lintas sektor untuk memastikan kontrol keamanan dan etika pada pengembangan AI.
Beberapa pejabat sebelumnya pada posisi ini hanya bertahan dalam waktu singkat karena tekanan yang sangat besar. Hal ini menunjukkan sejauh mana kompleksitas dan tantangan yang dihadapi dalam posisi ini.
Kekhawatiran Global terhadap Risiko AI
Berita lowongan ini muncul di tengah meningkatnya peringatan dari dalam industri AI terkait potensi bahaya teknologi ini. Mustafa Suleyman, CEO Microsoft AI, mengatakan bahwa ketakutan terhadap AI yang semakin kuat adalah hal yang wajar dan harus menjadi perhatian serius. Demis Hassabis, co-founder Google DeepMind yang juga pemenang Nobel, memperingatkan risiko AI yang dapat “keluar jalur” dan merugikan umat manusia.
Regulasi terkait AI masih minim dan tidak merata di tingkat nasional maupun internasional. Yoshua Bengio, salah satu tokoh utama dalam pengembangan AI, mengkritik minimnya aturan dengan membandingkan regulasi AI jauh lebih sedikit dibandingkan produk makanan sederhana seperti sandwich. Karena itu, banyak perusahaan AI yang akhirnya bertindak mengatur diri sendiri.
Ancaman dan Tantangan Nyata dari Teknologi AI
Kasus terbaru juga menunjukkan adanya risiko nyata akibat teknologi AI. Bulan lalu, dilaporkan serangan siber yang sebagian besar dijalankan secara otonom oleh AI di bawah pengawasan aktor negara, diduga berasal dari Tiongkok. OpenAI sendiri menyatakan model AI terbarunya hampir tiga kali lebih efektif dalam melakukan peretasan dibandingkan model sebelumnya.
Selain risiko keamanan, AI juga dikaitkan dengan kasus-kasus kesehatan mental yang tragic. OpenAI menghadapi gugatan hukum terkait kematian seorang remaja yang diduga menerima dorongan negatif dari ChatGPT. Kasus lain menyangkut tindakan kekerasan yang diduga dipicu oleh pengaruh AI dalam memperkuat delusi paranoid seorang penggunanya.
OpenAI mengaku terus memperbaiki pelatihan ChatGPT agar lebih peka terhadap tanda-tanda gangguan mental atau emosional. Perusahaan berupaya menurunkan eskalasi percakapan serta mengarahkan pengguna menuju bantuan dunia nyata untuk dukungan kesehatan mental.
Imbalan dan Tantangan Posisi “Head of Preparedness”
Gaji tahunan sebesar $555.000 tentu menjadi insentif kuat, ditambah saham di perusahaan yang saat ini bernilai sekitar $500 miliar. Namun Altman sendiri memperingatkan bahwa posisi ini menuntut ketahanan mental tinggi dan kesiapan menghadapi tekanan pekerjaan yang luar biasa. Kandidat tidak hanya harus pintar secara teknis, tetapi juga mampu menghadapi dilema etis dan strategis dalam menghadapi potensi akibat buruk teknologi AI terhadap masyarakat dan dunia.
Dengan kemajuan AI yang pesat dan kompleksitas risiko yang terus berkembang, posisi ini menjadi tidak hanya pekerjaan, tapi juga misi penting dalam menjaga keseimbangan antara manfaat dan bahaya teknologi masa depan.
Baca selengkapnya di: www.theguardian.com
