Mencari Manusia di Tumpukan Robot dan Kecerdasan Buatan

Reporter: Awaludin Marwan |

Editor: Yudiansyah |

Jumat , 13 Jun 2025 - 21:12

llustrasi: Mencari Manusia di Tumpukan Robot dan Kecerdasan Buatan--(freepik)

Selain itu Indonesia juga telah menerbitkan Surat Edaran Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat ini diinisiasi oleh Nezar Patria, Wakil Menteri Komunikasi dan Digital, yang sedari awal mempunyai minat dan misi pengembangan AI.

Meskipun masih dalam bentuk Surat Edaran, ini merupakan langkah awal. Regulasi, bukan berarti beban. Bentuk regulasi yang diharapkan oleh industri dan para kreator AI adalah stimulasi, subsidi, beasiswa, dukungan infrastruktur, kolaborasi dan inovasi. Model pemidanaan, represi dan administrasi, nampaknya bukan bentuk regulasi yang cocok untuk AI ini.

Regulasi AI Eropa 2024/ 1689 sudah berlaku sejak tanggal 1 Agustus 2024, menjadi jalan untuk memoderasi dukungan terhadap inovasi dan mitigasi risiko tumbuh kembangnya AI.

Risiko kejahatan AI atau orang jahat yang menggunakan AI perlu dipikirkan dan antisipasi.

Teknologi Berbasis Privasi

Dalam khasanah kajian hukum dan teknologi digital, dikenal terminologi Privacy-Enhancing Technologies (PETs) atau teknologi peningkatan privasi. Dalam beberapa tahun ke depan, di Indonesia akan sangat berkembang kajian dan implementasi PETs ini.

Kejahatan AI atau orang jahat yang menggunakan AI sebenarnya juga bisa dibentengi dengan PETs ini, saat seperangkat alat dan teknik disusun untuk melindungi dan mendayagunakan komponen privasi sebagai barikade digital seseorang.

Dengan demikian, orang tidak mudah tertipu dan dimanipulasi di ruang digital. Perlu teknologi yang melindungi aspek privasi seseorang, supaya tidak mudah identitasnya dibajak dan disalahgunakan.

Begitu mudahnya orang mengeksploitasi data pribadi orang lain, tidak hanya karena lambatnya pengaturan dan pembentukan budaya organisasi dalam pembangunan privasi, tetapi juga karena belum kuatnya teknologi peningkatan privasi yang membentengi, sehingga perlu dorongan inovasi untuk memperkuat PETs ini.

Tokoh hukum paling berpengaruh hari ini seperti Anu Bradford percaya bahwa regulasi penting didudukkan. Baginya, memperkuat Brussel Effect dengan regulatory power, akan mendorong inovasi. Salah satunya, untuk menghadapi kemajuan teknologi seperti super AI dengan menggunakan data biometrik.

Ia yakin bahwa AI Act EU, yang kuat dan komprehensif, akan sangat hati-hati dan mendorong penggunaan data biometrik di ruang publik. Regulasi ini melarang manipulasi perilaku dan pemrosesan data biometrik yang mendiskriminasikan ras, etnis, agama, pandangan politik dan seterusnya (Bradford, 2023).

Saat ini banyak pengembangan PETs berbasis sistem proof of personhood. Dengan privacy-enhancing protocols, sistem ini mampu memvalidasi keaslian manusia tanpa harus menyetor data pribadi atau gambar biometrik para pengguna Yang paling penting, sistem ini dapat digunakan sebagai pengenal terenkripsi yang disimpan secara lokal oleh pengguna selaku subjek data.

Regulasi dan dukungan pemerintah untuk mendorong PETs akan sangat diperlukan, terlebih untuk menjawab tantangan peradaban dan teknologi yang terus melaju kian cepat.

*) Awaludin Marwan adalah Dosen Fakultas Hukum Universitas Bhayangkara Jakarta Raya dan Founder PRIVASIMU

mencari manusia di tumpukan robot dan kecerdasan buatan                            jakarta, belitongekspres.com - era kecerdasan artifisial (ai) tak lagi sekadar soal fomo—fear of missing out. ai kini bukan sekadar wacana masa depan. ia nyata, hadir dalam hidup kita sebagai paradoks: menakutkan sekaligus mengagumkan, dingin namun berjiwa.
bayangan akan masa ini sebenarnya sudah lama muncul dalam karya fiksi ilmiah. salah satunya lewat novel klasik neuromancer karya william gibson yang terbit pada 1984. 
dalam dunia distopia novel itu, ai telah dikembangkan hingga mampu mengekstrak kepribadian seseorang yang telah tiada—tepatnya dari seorang peretas legendaris bernama dixie flatline. 
proyek ambisius ini dilakukan oleh keluarga kaya tessier-ashpool, yang punya segalanya untuk mengeksplorasi batas antara hidup dan algoritma. namun seperti banyak teknologi canggih lainnya, ada yang memanfaatkannya untuk tujuan gelap. 
wintermute, nama mesin ai tersebut, menjadi target manipulasi oleh peter riviera—seorang ilusionis sekaligus penipu psikopat—dan willis corto, mantan kolonel militer yang menderita gangguan mental akibat misi yang gagal.
sementara itu, henry dorsett case—tokoh utama dalam neuromancer—menjalani petualangan yang membawanya bersentuhan dengan sisi lain dari kecerdasan artifisial. 
ia lebih sering berinteraksi dengan neuromancer, ai kedua yang berbeda karakter dari wintermute. neuromancer hadir dalam wujud linda lee, mantan kekasih case yang telah meninggal, menciptakan pengalaman emosional yang mengaburkan batas antara mesin dan kenangan manusia.
baca juga:afpi manfaatkan kecerdasan buatan untuk perangi penipuan di fintech p2p lending
berbeda dengan wintermute yang manipulatif dan penuh intrik, neuromancer justru tampil membujuk dengan janji kedamaian dan nilai-nilai kemanusiaan. namun di balik pendekatannya yang lembut, neuromancer menyimpan ambisi besar.
ketika akhirnya kedua ai ini—wintermute dan neuromancer—berhasil bergabung, lahirlah entitas baru yang melampaui batasan teknologi saat itu. hasil penggabungan ini bukan sekadar kecerdasan artifisial super, melainkan sebuah kesadaran digital yang nyaris tak terbatas. 
ia mampu menjelajahi dan menguasai seluruh ruang siber, atau matriks, menjadi kekuatan yang bisa jadi penyelamat... atau justru penghancur kehidupan itu sendiri.
sekarang, neuromancer karya william gibson bukan lagi sekadar novel fiksi ilmiah. ceritanya terasa akrab—nyaris seperti cerminan realitas kita sekarang. 
di tengah dunia digital yang riuh, kita kerap lupa siapa sebenarnya yang menonton, menyukai, atau mengomentari unggahan kita. identitas menjadi kabur. jejak digital kita terbaca oleh banyak mata, termasuk yang tak kasat mata.
tak sedikit dari kita juga mulai “bercerita” kepada mesin. saat teman tak lagi tersedia untuk mendengar, kita justru curhat pada generative ai—mesin yang selalu siap membalas, kapan saja, tanpa lelah. dan ya, responsnya kadang terasa lebih sabar daripada manusia. 
kita hidup di tengah apa yang oleh bradford (2023) disebut sebagai “revolusi ai”—sebuah perubahan besar yang tak lagi bisa dihindari, hanya bisa dihadapi.
mungkin suatu hari nanti, kita benar-benar akan menyelam penuh ke dalam dunia maya, ke ruang siber yang dahulu hanya hidup dalam imajinasi penulis fiksi. 
dan ketika saat itu tiba, batas antara manusia dan mesin bisa jadi tak lagi jelas. mungkin kita akan bertanya: siapa yang ada di balik layar? robot—atau manusia?
tak bisa disangkal, kecerdasan artifisial membawa potensi ekonomi yang luar biasa. menurut laporan world economic forum (2025), ai diperkirakan mampu menyumbang nilai tambah sebesar 2,6 hingga 4,4 triliun dolar as secara global. 
angka yang menggiurkan ini menjadikan ai sebagai pendorong utama dalam lanskap ekonomi masa depan. namun di balik peluang besar itu, ada risiko yang tak kalah serius. 
ketika manusia mulai menyerahkan terlalu banyak kendali pada mesin, muncul kekhawatiran: siapa sebenarnya yang memegang otoritas? 
tanpa pengelolaan yang tepat, teknologi ini bukan hanya sekadar alat, tetapi bisa menjadi kekuatan yang mengikis sisi kemanusiaan kita. inilah titik kritis di mana ai bukan lagi sekadar perangkat bantu, melainkan potensi yang bisa mendehumanisasi manusia itu sendiri.
baca juga:gpt-4 akan dihapus dari chatgpt, openai siapkan era baru kecerdasan buatan
regulasi kecerdasan artifisial
kita sering mengira bahwa ai itu mirip perkakas pisau. ia bisa digunakan untuk memasak, tapi juga membunuh. namun, yuvah noah harari dalam buku terbarunya ‘nexus, 2024’ mengingatkan kita.
tidak seperti pisau, ai bisa memutuskan sendiri. pisau tidak bisa memutuskan kapan ia harus digunakan untuk memasak atau membunuh, tetapi ai bisa. ai bisa memutuskan secara otonom.
sama persis terhadap argumen simon chesterman (2021). saat senjata otonom mematikan seperti lethal autonomous weapons systems (laws) beroperasi, siapa yang bertanggung jawab jika ia lepas kendali?
saat ini pun tak jarang kecelakaan terjadi lantaran mobil otonom (self-driving cars).
pada titik ini, kita tidak hanya melihat potensi ai, tetapi juga risiko yang ditimbulkannya. apakah hukum harus meregulasinya, untuk memitigasi risiko hukum yang muncul?
indonesia sudah menerbitkan sejumlah produk perundang-undangan. seperti peraturan menteri komunikasi dan informatika nomor 3 tahun 2021, yang juga mengatur tentang standar usaha pemrograman berbasis kecerdasan artifisial.
selain itu indonesia juga telah menerbitkan surat edaran nomor 9 tahun 2023 tentang etika kecerdasan artifisial. surat ini diinisiasi oleh nezar patria, wakil menteri komunikasi dan digital, yang sedari awal mempunyai minat dan misi pengembangan ai.
meskipun masih dalam bentuk surat edaran, ini merupakan langkah awal. regulasi, bukan berarti beban. bentuk regulasi yang diharapkan oleh industri dan para kreator ai adalah stimulasi, subsidi, beasiswa, dukungan infrastruktur, kolaborasi dan inovasi. model pemidanaan, represi dan administrasi, nampaknya bukan bentuk regulasi yang cocok untuk ai ini.
regulasi ai eropa 2024/ 1689 sudah berlaku sejak tanggal 1 agustus 2024, menjadi jalan untuk memoderasi dukungan terhadap inovasi dan mitigasi risiko tumbuh kembangnya ai.
risiko kejahatan ai atau orang jahat yang menggunakan ai perlu dipikirkan dan antisipasi.
baca juga:saat kecerdasan buatan makin cerdas
teknologi berbasis privasi
dalam khasanah kajian hukum dan teknologi digital, dikenal terminologi privacy-enhancing technologies (pets) atau teknologi peningkatan privasi. dalam beberapa tahun ke depan, di indonesia akan sangat berkembang kajian dan implementasi pets ini.
kejahatan ai atau orang jahat yang menggunakan ai sebenarnya juga bisa dibentengi dengan pets ini, saat seperangkat alat dan teknik disusun untuk melindungi dan mendayagunakan komponen privasi sebagai barikade digital seseorang.
dengan demikian, orang tidak mudah tertipu dan dimanipulasi di ruang digital. perlu teknologi yang melindungi aspek privasi seseorang, supaya tidak mudah identitasnya dibajak dan disalahgunakan.
begitu mudahnya orang mengeksploitasi data pribadi orang lain, tidak hanya karena lambatnya pengaturan dan pembentukan budaya organisasi dalam pembangunan privasi, tetapi juga karena belum kuatnya teknologi peningkatan privasi yang membentengi, sehingga perlu dorongan inovasi untuk memperkuat pets ini.
tokoh hukum paling berpengaruh hari ini seperti anu bradford percaya bahwa regulasi penting didudukkan. baginya, memperkuat brussel effect dengan regulatory power, akan mendorong inovasi. salah satunya, untuk menghadapi kemajuan teknologi seperti super ai dengan menggunakan data biometrik.
ia yakin bahwa ai act eu, yang kuat dan komprehensif, akan sangat hati-hati dan mendorong penggunaan data biometrik di ruang publik. regulasi ini melarang manipulasi perilaku dan pemrosesan data biometrik yang mendiskriminasikan ras, etnis, agama, pandangan politik dan seterusnya (bradford, 2023).
saat ini banyak pengembangan pets berbasis sistem proof of personhood. dengan privacy-enhancing protocols, sistem ini mampu memvalidasi keaslian manusia tanpa harus menyetor data pribadi atau gambar biometrik para pengguna yang paling penting, sistem ini dapat digunakan sebagai pengenal terenkripsi yang disimpan secara lokal oleh pengguna selaku subjek data.
regulasi dan dukungan pemerintah untuk mendorong pets akan sangat diperlukan, terlebih untuk menjawab tantangan peradaban dan teknologi yang terus melaju kian cepat.
*) awaludin marwan adalah dosen fakultas hukum universitas bhayangkara jakarta raya dan founder privasimu

Tag

Share

Koran Terkait

Kembali ke koran edisi Belitong Ekspres 14 Juni 2025

Berita Terkini

Berita Terpopuler

Berita Pilihan