Kewajiban Negara dalam Penggunaan AI Berdasarkan Rekomendasi UNESCO 2021

Perkembangan Artificial Intelligence (AI) telah mengubah tata kelola pemerintahan, pelayanan publik, sektor. Ekonomi, hingga sistem keamanan nasional. Penggunaan AI oleh negara dapat meningkatkan efisiensi, akurasi pengambilan keputusan serta optimanilisasi pelayanan publik. Namun disisi lain, penggunaan AI juga berpotensi menimbulkan pelanggaran Hak Asasi Manusia, diskriminasi algoritmik, pelanggaran privasi hingga penggawasan massal (mass surveillance).

Sebagai respon terhadap perkembangan tersebut, komunitas internasional melalui UNESCO mengadopsi UNESCO Recommendation on the Ethnics of Artificial Intellligence pada tahun 2021. Rekomendasi ini menjadi instrument global pertama yang menetapkan standar etika penggunaan AI yang berlandaskan hak asasi manusia, martabat manusia dan berkelanjutan. Rekomendasi ini merupakan instrumen soft law, artinya tidak mengikat secara langsung seperti traktat internasional, namun memiliki kekuatan moral dan politik yang dignifican. Instrumen ini menjadi pedoman global dalam pembentukan regulasi nasional mengenai AI. Indonesia sebagai negara anggota UNESCO, memiliki tanggung jawab moral dan politik untuk menyesuaikan kebijakan nasionalnya dengan prinsip-prinsip yang disepakati.

Dalam hukum HAM Internasional, kewajiban negara terdiri dari:

To Respect yaitu tidak melanggar HAM

To Protect yaitu melindungi dari pelanggaran pihak lain

To Fulfill yaitu memenuhi hak warga negara

Konsep HAM Internasional tersebut sudah diadopsi di dalam Pasal 28I ayat (4) Perubahan UUD 1945 yang berbunyi: “Perlindungan, penegakan dan pemenuhan hak asasi manusia adalah tanggung jawab negara, terutama pemerintah.”

Berdasarkan UNESCO Recommendation on the Ethics of Artificial Intelligence, kewajiban negara dan pemerintah dapat diklasifikasikan sebagai berikut:

Negara wajib memastikan bahwa penggunaan AI oleh lembaga negara:

Tidak melanggar hak atas privasi

Tidak membatasi kebebasan berekspresi secara sewenang-wenang

Tidak melakukan diskriminasi algoritmik

Negara tidak boleh menggunakan AI untuk tujuan pengawasan massal yang melanggar hak asasi manusia atau menerapkan sistem social scoring terhadap warga negara.

Negara wajib melindungi masyarakat dari penyalahgunaan AI oleh sektor swasta.

Kewajiban ini mencakup:

Membentuk regulasi perlindungan data pribadi

Mengatur tanggung jawab perusahaan teknologi

Mengawasi praktik AI yang berisiko tinggi

Mencegah diskriminasi berbasis algoritma

Negara harus memastikan perusahaan AI melakukan due diligence hak asasi manusia.

Kewajiban Memenuhi (Obligation to Fulfill)

Negara wajib menciptakan sistem tata kelola AI yang beretika dan berkelanjutan.

Kewajiban ini meliputi:

Membentuk Regulasi Nasional AI

Negara harus menyusun undang-undang dan kebijakan yang mengatur:

Penggunaan AI oleh pemerintah

Standar keamanan dan keselamatan

Mekanisme pengawasan

Melakukan Ethical Impact Assessment

Negara diwajibkan melakukan penilaian dampak etis sebelum menerapkan

Penilaian sistem AI, terutama dalam sektor:

Peradilan

Kepolisian

Pelayanan publik

Kesehatan

Hal ini bertujuan untuk mengidentifikasi risiko terhadap hak asasi manusia.

Menjamin Transparansi dan Akuntabilitas

Negara harus memastikan bahwa sistem AI:

Dapat diaudit

Dapat dijelaskan (explainable AI)

Memiliki mekanisme pengaduan bagi masyarakat

Menjamin Pengawasan Manusia (Human Oversight)

Keputusan yang berdampak besar terhadap individu tidak boleh sepenuhnya diserahkan kepada AI tanpa intervensi manusia.

Manusia tetap menjadi pengambil keputusan akhir dan pihak yang bertanggung jawab.

Menjamin Keamanan dan Keselamatan

Negara harus memastikan bahwa sistem AI:

Aman digunakan

Tidak membahayakan keselamatan publik

Melalui pengujian dan evaluasi sebelum diterapkan

Menjamin Keberlanjutan Lingkungan

Negara harus mempertimbangkan dampak lingkungan dari penggunaan AI, termasuk:

Konsumsi energi pusat data

Jejak karbon teknologi digital

Berdasarkan UNESCO Recommendation on the Ethics of Artificial Intelligence di atas, maka negara dan pemerintah memiliki kewajiban untuk:

Menghormati hak asasi manusia dalam penggunaan AI

Melindungi masyarakat dari penyalahgunaan AI oleh sektor swasta

Membentuk regulasi nasional yang mengatur tata kelola AI

Menjamin transparansi, akuntabilitas, dan pengawasan manusia

Memastikan keamanan serta keberlanjutan lingkungan

Meskipun bersifat soft law, rekomendasi ini menjadi standar global penting dalam membangun sistem AI yang etis dan bertanggung jawab. Di Indonesia sendiri belum ada pengaturan khusus terkait dengan AI, Stranas KA 2020-2045 adalah dkoumen strategis yang memposisikan AI sebagai pengungkit menuju Indonesia Emas dengan lima klaster prioritas yaitu kesehatan, reformasi birokrasi, Pendidikan/riset, ketahanan pangan serta mobilitas dan smart cities. Saat ini Pemerintah menempatkan dua Peraturan Presiden Peta Jalan Kecerdasan Artificial Nasional 2026-2030 dan Etika/Kemanan AI sebagai prioritas tahun 2026. Semoga tata kelola AI yang sedang dikembangkan oleh Pemerintah berdasarkan pada penghormatan hak asasi manusia dan dapat memberikan kepastian hukum bagi pelaku usaha serta perlindungan bagi masyarakat. (***)