Pernyataan Presiden Signal, Meredith Whittaker, menegaskan bahwa pertarungan pengaruh antara pemerintah dan perusahaan AI belum mencapai titik akhir. Dalam forum India Today Conclave, ia menyebut tarik-menarik kekuasaan di era kecerdasan buatan masih terbuka, terutama karena menyangkut privasi, kontrol data, dan ketergantungan negara pada teknologi swasta.
Isu itu menjadi penting karena pengembangan AI modern sangat bergantung pada data dalam skala sangat besar. Menurut Whittaker, justru di titik inilah perusahaan teknologi memiliki keunggulan yang sulit disaingi pemerintah, termasuk pemerintah Amerika Serikat, karena batas hukum membatasi negara dalam mengumpulkan data pengguna seperti yang dapat dilakukan perusahaan swasta.
Pemerintah dan perusahaan AI belum selesai berebut pengaruh
Whittaker mengatakan penggunaan model AI milik perusahaan di sistem pemerintah akan menciptakan ketergantungan baru. Ketika infrastruktur negara mulai bergantung pada model buatan perusahaan swasta, hubungan itu tidak lagi sekadar kontrak teknologi, tetapi juga menyangkut kendali atas sistem penting dan aliran data.
Ia menilai pemerintah sadar akan risiko tersebut. Namun, menurutnya, negara tidak bisa begitu saja membangun tandingan yang setara karena hukum di Amerika Serikat tidak memberi pemerintah federal ruang untuk mengumpulkan data dalam jumlah besar seperti sektor swasta.
Dalam forum itu, Whittaker menyatakan bahwa teknologi seperti ini bukan sesuatu yang bisa diciptakan negara hanya dengan menambah anggaran. Ia menegaskan bahwa persoalannya bukan semata uang atau kapasitas komputasi, melainkan legalitas pengumpulan data yang menjadi bahan bakar utama model AI.
Pernyataan itu juga dikaitkan dengan ketegangan yang melibatkan Pentagon dan Anthropic. Whittaker menilai benturan kepentingan semacam itu belum benar-benar selesai, dan hasil akhirnya mengenai siapa yang lebih dominan, pemerintah atau perusahaan AI, masih belum ditentukan.
Mengapa data menjadi sumber kuasa baru
Ledakan AI generatif membuat data bernilai semakin tinggi. Semakin banyak layanan AI dipakai publik dan institusi, semakin besar pula akumulasi data yang terkonsentrasi pada sedikit perusahaan.
Dalam konteks itu, kekhawatiran Whittaker sejalan dengan perdebatan global soal tata kelola AI. Banyak regulator di berbagai negara kini menyoroti dua isu utama, yaitu konsentrasi data dan dominasi infrastruktur AI oleh segelintir pemain besar.
Secara ringkas, sumber kekuatan perusahaan AI saat ini bertumpu pada beberapa hal berikut:
- Akses ke data pengguna dalam skala besar.
- Kapasitas komputasi dan chip bernilai tinggi.
- Model AI yang ditanamkan ke layanan publik dan bisnis.
- Ekosistem produk yang mengunci pengguna dan institusi.
Jika tren itu berlanjut, pemerintah bisa menghadapi dilema. Di satu sisi, mereka membutuhkan AI untuk efisiensi layanan dan keamanan nasional, tetapi di sisi lain mereka berisiko menyerahkan terlalu banyak kendali kepada vendor swasta.
Posisi Signal soal privasi dan pengumpulan data
Whittaker juga menekankan perbedaan pendekatan Signal dibanding banyak platform digital lain. Ia mengatakan Signal tidak mengumpulkan data pengguna, sebuah pesan yang konsisten dengan identitas aplikasi tersebut sebagai layanan komunikasi yang menonjolkan privasi.
Pernyataan ini relevan karena meningkatnya penggunaan AI sering diikuti oleh perluasan pengumpulan data. Semakin banyak data yang tersimpan di satu ekosistem, semakin besar pula nilai komersial dan strategisnya bagi pengembang AI.
Di saat yang sama, Signal mengakui ancaman terhadap privasi tidak hanya datang dari platform, tetapi juga dari perangkat yang sudah disusupi. Saat ditanya soal kemungkinan data Signal terekspos lewat spyware seperti Pegasus, Whittaker mengatakan Signal Foundation bekerja sama dengan organisasi seperti Citizen Lab untuk melawan ancaman spyware tertarget.
Kerja sama itu penting karena enkripsi aplikasi tidak selalu cukup jika perangkat pengguna telah diretas. Dalam skenario seperti itu, ancaman bergeser dari keamanan jaringan ke keamanan perangkat akhir.
Pandangan tentang WhatsApp, Telegram, dan Signal
Whittaker juga menyinggung peta persaingan aplikasi pesan dari sudut privasi. Ia menyebut WhatsApp lebih baik daripada Telegram, tetapi tetap mengingatkan bahwa WhatsApp dimiliki Meta.
Ia lalu menegaskan bahwa pengguna yang serius soal privasi memilih Signal. Pernyataan itu tentu mencerminkan posisi Signal sebagai pihak yang berkepentingan, namun tetap menjadi sinyal bahwa debat soal privasi aplikasi pesan masih jauh dari selesai, terutama ketika platform komunikasi makin terhubung dengan ekosistem data dan AI.
Tabel sederhana berikut merangkum posisi yang disampaikan Whittaker:
| Platform | Penilaian yang disampaikan | Catatan utama |
|---|---|---|
| Signal | Pilihan utama untuk privasi | Diklaim tidak mengumpulkan data pengguna |
| Lebih baik dari Telegram | Dimiliki Meta | |
| Telegram | Di bawah WhatsApp dalam konteks yang dibahas | Tidak dijelaskan lebih lanjut dalam forum |
AI agent dinilai bisa memperbesar risiko keamanan siber
Whittaker juga menyoroti tren AI agent yang kini mulai banyak dibahas industri teknologi. Menurutnya, agen AI bisa menjadi mimpi buruk bagi pakar keamanan siber karena sistem semacam itu membutuhkan akses luas ke data pengguna di banyak aplikasi, termasuk email dan kalender.
Semakin luas akses itu, semakin besar risiko kebocoran, penyalahgunaan, atau konsentrasi data pada sedikit perusahaan. Kekhawatiran ini muncul ketika industri mendorong agen AI sebagai alat bantu yang dapat bertindak atas nama pengguna, padahal model seperti itu menuntut izin yang jauh lebih sensitif dibanding chatbot biasa.
Peringatan dari Presiden Signal menunjukkan bahwa perdebatan AI tidak lagi hanya soal inovasi dan percepatan produk. Di balik kemudahan yang ditawarkan, ada pertanyaan mendasar tentang siapa yang menguasai data, siapa yang menentukan aturan, dan seberapa jauh pemerintah mampu menjaga kepentingan publik ketika infrastruktur AI justru dibangun di atas kekuatan perusahaan swasta.
