Calon Gubernur DKI Jakarta nomor urut 2 Dharma Pongrekun menyebut bahwa teknologi kecerdasan buatan atau artificial intelligence (AI) merupakan alat mata-mata. Benarkah demikian?

Hal tersebut diungkap Dharma saat debat perdana Pilgub DKI Jakarta 2024, Minggu (6/10). Dharma menyebut AI sebagai alat mata-mata saat membahas soal kemandirian internet untuk bangsa.

Menurut dia selama ini internet Indonesia tak mandiri, dibuktikan dengan berbagai kebocoran data yang terjadi.

ADVERTISEMENT

SCROLL TO CONTINUE WITH CONTENT

Dia berpendapat globalisasi adalah dunia yang tak terbatas, tetapi penggunaan internet harus dibatasi. Lalu ia membahas penggunaan AI.

"Makanya dibilang artificial intelligence, artinya apa? Alat intelijen, alat mematai-matai tanpa kita sadari, dosa kita ada semua di gadget," ucap Dharma.

Mantan Wakil Kepala BSSN itu tak menjelaskan lebih lanjut yang ia maksud dengan pembatasan internet. Dia pun tak menjelaskan lagi soal kemandirian internet yang ia gagas.

Apa itu AI?

Pernyataan Dharma memantik diskusi publik karena tergolong kontroversi. 

Ismail Fahmi, pendiri lembaga Drone Emprit, ikut mengomentari pernyataan kontroversi Dharma. Ia pun mengungkap definisi AI sesungguhnya.

Menurut Ismail AI secara umum tidak dirancang secara inheren untuk menjadi alat mata-mata. AI adalah teknologi yang diciptakan untuk menyelesaikan berbagai tugas berdasarkan data dan algoritma, seperti pengenalan pola, pengambilan keputusan otomatis, atau pemrosesan bahasa alami.

"Penerapannya sangat bergantung pada bagaimana ia digunakan-misalnya, AI dapat membantu di bidang kesehatan, transportasi, dan analisis data, tetapi juga dapat disalahgunakan untuk pengawasan jika diterapkan tanpa pertimbangan etis dan hukum," kata Ismail dalam cuitannya, Minggu (6/10).

[Gambas:Twitter]

"Intinya, AI memiliki potensi besar, baik positif maupun negatif, tergantung bagaimana teknologi ini dimanfaatkan dan diatur. Perspektif yang menyebut AI sebagai "mata-mata buatan" mungkin lebih menyoroti sisi negatif potensialnya, tetapi tidak mencakup keseluruhan kapasitas dan manfaat AI," lanjut Ismail.

AI secara umum didefinisikan sebagai teknologi yang memungkinkan komputer dan mesin untuk mensimulasikan kecerdasan manusia dan kemampuannya untuk memecahkan masalah.

Melansir IBM, dengan sendirinya atau dikomibinasikan dengan teknologi lain, AI dapat mengerjakan tugas-tugas yang biasanya membutuhkan kecerdasan atau intervensi manusia. Contoh-contoh AI di era saat ini adalah ChatGPT, sebuah AI generatif yang diciptakan oleh OpenAI.

AI untuk 'pengawasan'

Meski disebut dapat membantu pekerjaan manusia, di sisi lain para pakar juga telah memperingatkan dampak buruk AI. Salah satunya, teknologi ini bisa digunakan untuk memata-matai, sebagaimana yang disampaikan oleh Dharma.

Meredith Whittaker, presiden aplikasi perpesanan Signal, sempat mengungkap bahwa AI dapat menjadi sebagai 'teknologi pengawasan'. Menurut dia teknologi ini dapat mengawasi setiap individu melalui "kumpulan data besar-besaran" yang dikumpulkan dari manusia, yang pada akhirnya menjadi "terkumpul di tangan" perusahaan-perusahaan AI.

Kumpulan data tersebut diambil dari miliaran halaman web, yang secara virtual mengumpulkan data tentang siapa saja yang pernah menggunakan internet tanpa izin.

"Data tersebut menjadi data tentang saya. Data itu tidak perlu benar. Tidak perlu mencerminkan siapa saya atau di mana saya berada. Tapi data itu memiliki kekuatan atas hidup saya yang signifikan, dan kekuatan itu berada di tangan perusahaan-perusahaan ini," jelas Whittaker, mengutip Tech Crunch.

Data yang dikumpulkan dari aplikasi dan situs web dapat membantu mengoptimalkan iklan dan social feed. Data yang sama juga dapat mengungkap kehidupan pribadi dan kecenderungan politik seseorang kepada pihak berwenang.

Tren ini diprediksi akan semakin berkembang berkat ponsel pintar, kamera pintar, dan AI yang lebih canggih.

AI untuk mata-mata China dan AS di halaman berikutnya...

Sebuah algoritma yang dikembangkan di Stanford pada tahun 2017 diklaim dapat mengetahui dari sebuah foto apakah seseorang itu gay. Akurat atau tidak, alat semacam itu menciptakan peluang baru untuk persekusi.

"Ambil jenis teknologi ini, masukkan ke dalam sistem pengawasan CCTV di seluruh kota, dan pergilah ke tempat seperti Arab Saudi di mana menjadi gay dianggap sebagai kejahatan," kata Lisa Talia Moretti, seorang sosiolog digital, mengutip Wired.

"Tiba-tiba Anda menarik orang-orang dari jalan dan menangkap mereka karena Anda gay, karena komputer mengatakan demikian," lanjut dia.

Salah satu negara yang sangat memanfaatkan teknologi pengenalan wajah (face recognition) dan pengawasan AI adalah China. Industri AI di negeri Tirai Bambu itu telah berkembang pesat berkat persaingan yang ketat dan akses yang tak tertandingi ke data pribadi.

Kebangkitan AI di China juga memungkinkan kontrol pemerintah yang lebih ketat terhadap informasi, ucapan, dan kebebasan.

Beberapa kota di China sudah menggunakan teknologi face recognition untuk menangkap penjahat dalam rekaman pengawasan, dan untuk mempermalukan mereka yang melakukan pelanggaran ringan di depan umum. Salah satu yang paling mengkhawatirkan, China menggunakan AI di Xinjiang untuk menganiaya etnis muslim Uighur.

Badan intelijen AS pakai AI dari Microsoft

Bloomberg, pada Mei lalu, melaporkan bahwa salah satu badan intelijen Amerika Serikat (AS) akan segera menggunakan AI generatif rahasia dari Microsoft. Teknologi ini disebut memungkinkan mata-mata AS menggunakan model AI dengan aman dala proses menganalisis data sensitif.

Model AI generatif Microsoft untuk badan intelijen bertujuan untuk mengatasi masalah keamanan yang berasal dari koneksi model bahasa besar (LLM) ke internet, yang biasanya digunakan sebagai sumber daya untuk melatih model-model tersebut.

Menurut laporan Bloombergalat AI ini merupakan LLM pertama yang sepenuhnya terpisah dari internet.

William Chappell, CTO Microsoft untuk misi strategis dan teknologi, mengatakan alat AI tersebut digunakan pada lingkungan cloud "air-gapped" yang terisolasi dari internet dan memiliki model berdasarkan GPT-4 beserta alat pendukungnya. Perusahaan ini mengumumkan produk baru tersebut di AI Expo untuk Daya Saing Nasional minggu ini.

"Ini adalah pertama kalinya kami memiliki versi yang terisolasi - ketika terisolasi berarti tidak terhubung ke internet - dan berada di jaringan khusus yang hanya dapat diakses oleh pemerintah AS," kata Chappell.

Kemampuan AI generatif untuk menganalisis data dalam jumlah besar dan mengenali pola untuk memberikan wawasan yang dapat ditindaklanjuti kepada pengguna telah membuat alat ini sangat dicari oleh badan-badan intelijen seperti CIA dan badan-badan lain yang membentuk komunitas intelijen.