Blogger Signal – Di tengah euforia global terhadap Kecerdasan Buatan (AI) yang kerap dijuluki ‘Revolusi Industri Keempat’, muncul suara kritis yang menyerukan kehati-hatian, terutama dari sudut pandang privasi dan hak asasi manusia. Suara paling lantang dan berpengaruh datang dari Meredith Whittaker, Presiden Signal Foundation dan CEO dari aplikasi pesan terenkripsi terkemuka, Signal.
Dalam sebuah konferensi teknologi dan privasi baru-baru ini, Whittaker tidak menahan diri. Ia tidak hanya mengupas tuntas apa yang ia sebut sebagai “Hype AI“ yang digerakkan oleh korporasi besar, tetapi juga memperingatkan dunia tentang bahaya mendasar yang ditimbulkan oleh teknologi ini terhadap masa depan privasi individu di era pengawasan digital yang semakin canggih.
Membongkar ‘Hype’ dan Realitas AI
Menurut Whittaker, narasi publik tentang AI seringkali dibingkai sebagai teknologi yang netral, otomatis, dan nyaris magis yang akan menyelesaikan semua masalah manusia. Ia membantah narasi tersebut, menegaskan bahwa AI, khususnya model Large Language Models (LLMs) dan sistem pengawasan, pada dasarnya adalah sistem ekstraksi dan pemrosesan data masif yang dikendalikan oleh segelintir perusahaan teknologi raksasa (Big Tech).
“Ketika kita bicara AI, kita harus berhenti membayangkan robot cerdas. Kita harus membayangkan gudang data raksasa, energi yang boros, dan, yang paling penting, pengawasan yang tersemat,” ujar Whittaker dalam pidato utamanya.
Whittaker menyoroti bahwa ‘kecerdasan’ AI didasarkan pada data yang sangat banyak, dan data tersebut sebagian besar berasal dari interaksi, komunikasi, dan perilaku kita sehari-hari yang berarti, AI dibangun di atas fondasi pengawasan skala besar. Hype ini, menurutnya, berfungsi untuk melegitimasi dan menormalisasi praktik pengumpulan data yang invasif.
“Para pendukung AI ingin kita percaya bahwa kita harus mengorbankan privasi demi inovasi. Itu adalah pilihan palsu. Inovasi seharusnya melayani kita, bukan sebaliknya,” tegasnya.
Ancaman Pengawasan Digital yang Lebih Dalam
Fokus utama kritik Whittaker adalah bagaimana AI memperkuat dan menyempurnakan mekanisme pengawasan digital yang sudah ada. Ia berpendapat bahwa alat pengawasan yang dulunya manual dan terbatas, kini menjadi otomatis, omnipresent (hadir di mana-mana), dan nyaris tak terlihat berkat AI.
1. Otomatisasi Penargetan: AI memungkinkan pemerintah dan korporasi untuk secara otomatis mengidentifikasi, mengelompokkan, dan menargetkan individu atau kelompok berdasarkan pola perilaku yang diekstrak dari miliaran titik data. Ini membuat upaya pengawasan menjadi jauh lebih efisien dan tersembunsi. 2. Penghapusan Anonimitas: Meskipun data dianonimkan, teknik AI modern seperti de-anonymization mampu mengaitkan kembali data terpisah kepada individu dengan tingkat akurasi yang mengkhawatirkan. Menurut Whittaker, AI secara efektif menghapus anonimitas di ruang digital. 3. Infrastructure Lock-in: Karena infrastruktur AI didominasi oleh segelintir penyedia cloud, perusahaan dan organisasi, termasuk pemerintah, secara efektif mengunci diri mereka ke dalam sistem pengawasan yang sama, menciptakan risiko terpusat yang besar.
Signal sebagai Kontranarasi Privasi
Sebagai CEO Signal, sebuah aplikasi yang dibangun di atas janji privasi tanpa kompromi melalui enkripsi end-to-end, Whittaker menawarkan solusi yang berlawanan dengan model bisnis Big Tech yang berbasis ekstraksi data.
“Signal adalah bentuk penolakan terhadap narasi bahwa segalanya harus diawasi untuk berfungsi,” katanya. Ia menjelaskan bahwa pengembangan fitur-fitur baru di Signal selalu berpegangan pada prinsip zero-knowledge, di mana perusahaan bahkan tidak mengetahui data yang mereka proses prinsip yang secara inheren tidak kompatibel dengan sebagian besar model AI saat ini yang membutuhkan akses tak terbatas ke data.
Whittaker mendesak para pengembang dan pengguna untuk mendukung teknologi yang didesentralisasi, sumber terbuka (open-source), dan berorientasi privasi, karena itu adalah satu-satunya cara untuk menciptakan masa depan digital yang bebas dari kontrol pengawasan korporasi.
Panggilan untuk Aksi: Regulasi dan Literasi
Dalam menutup pidatonya, Meredith Whittaker mengajukan tiga panggilan aksi mendesak:
- Regulasi Kuat: Harus ada regulasi yang memaksa transparansi tentang bagaimana AI dilatih dan digunakan, terutama dalam konteks pengambilan keputusan yang memengaruhi hak-hak sipil.
- Literasi Teknologi: Pengguna harus dididik untuk memahami bahwa layanan “gratis” yang didukung AI selalu memiliki harga, yaitu data dan privasi mereka.
- Dukungan untuk Teknologi Beretika: Masyarakat harus secara aktif mendukung dan mendanai teknologi yang secara eksplisit dirancang untuk melindungi hak dan privasi, bukan yang dirancang untuk pengawasan.
Kritik tajam dari Meredith Whittaker ini berfungsi sebagai pengingat penting bahwa di balik setiap kemajuan teknologi yang memukau, tersembunyi dilema etika mendalam mengenai kendali, kekuasaan, dan kebebasan individu. Dengan memegang kendali atas Signal, ia memimpin barisan terdepan yang menuntut agar inovasi AI harus berjalan seiring dengan perlindungan fundamental terhadap privasi manusia.