Di ranah AI, masyarakat juga mempunyai peran penting untuk membentuk tata kelola AI yang mengedepankan kualitas hidup.

Oleh Zar Motik Adisuryo

Tahun lalu merupakan tahun penting bagi etika dan tata kelola keselamatan AI secara global, termasuk di Indonesia. Indonesia, khususnya, menghadapi tantangan tata kelola AI. Tantangan tersebut meliputi peningkatan pesat adopsi alat AI tanpa pertumbuhan proporsional dalam pemahaman publik tentang teknologi AI sendiri. Selain itu, ada pula risiko yang ditimbulkan oleh teknologi ini, kebutuhan peningkatan kapabilitas kapasitas kelembagaan yang besar, dan kesadaran keselamatan mendasar.

Memang betul AI membawa harapan yang tinggi untuk perkembangan ekonomi di Indonesia. Namun, negara ini berisiko mengalami kemerosotan lebih lanjut dalam ekosistem informasinya, yang berpotensi menimbulkan kerugian besar di sektor sosial, keuangan, budaya, dan pendidikan, yang berdampak pada jutaan warga Indonesia. Yang terpenting, jika kita ingin melindungi kesehatan, keselamatan, dan kemandirian kaum muda–banyak di antaranya menjadi pengguna AI melalui eksperimen atau paparan–kita harus memastikan teknologi berkembang yang digunakan dalam pendidikan dan pembelajaran dikembangkan dan diterapkan dengan aman.

Pada Juni 2025, Kementerian Komunikasi dan Digital Indonesia (Komdigi) mengumumkan pembentukan Peta Jalan AI Nasional untuk memosisikan Indonesia sebagai pemimpin regional dalam pengembangan AI sekaligus meningkatkan kedaulatan AI negara melalui pembuatan kebijakan yang efektif. Peta Jalan AI Nasional itu menyatukan hampir 40 kementerian dan lembaga pemerintah untuk membangun ekosistem AI yang inklusif dan bertanggung jawab bagi negara.

Di Eropa, Undang-Undang AI Uni Eropa memasuki fase penegakannya. Komisi Eropa telah memberi sinyal penegakan kebijakan di ruang digital dengan mendenda X (sebelumnya Twitter) sebesar 120 juta euro karena melanggar Undang-Undang Layanan Digital (Digital Services Act).

X didenda karena gagal memenuhi kewajiban transparansi, termasuk desain yang menipu pada tanda centang biru untuk akun yang disebut terverifikasi. Di samping itu, karena kegagalan untuk memberikan pelaporan transparansi yang memadai tentang model periklanan mereka yang mengakibatkan kerugian bagi masyarakat (seperti penipuan) dan ketidakpatuhan untuk memberikan akses kepada peneliti ke kumpulan data mereka.

Jika sebuah perusahaan big tech dengan mudah membayar denda yang begitu besar dan tetap beroperasi di Eropa, kita dapat memperkirakan bahwa peraturan dengan penegakan tidak akan memaksa perusahaan-perusahaan tersebut untuk meninggalkan Indonesia.

Di sisi lain, Amerika Serikat menghadirkan jalur tata kelola AI yang berbeda. Di bawah masa jabatan kedua Presiden Trump yang dimulai pada Januari, Gedung Putih mencabut Perintah Eksekutif Administrasi Biden tentang AI yang Aman, Terjamin, dan Terpercaya. Kemudian menggantinya dengan perintah yang lebih nasionalis, berjudul Memenangkan Perlombaan AI: Rencana Aksi AI Amerika, yang menekankan tujuan Amerika untuk ”mendominasi” ruang kecerdasan buatan secara global.

Meskipun pendekatan tersebut bertujuan untuk meningkatkan keamanan nasional mereka, administrasi tersebut telah mengusulkan pemotongan anggaran yang signifikan untuk penelitian sains dan teknologi yang berisiko menghasilkan efek kontraproduktif. Pemotongan ini memperburuk dinamika tata kelola yang tidak seimbang, termasuk privatisasi tata kelola dan monopolisasi riset serta pengembangan teknologi AI dari pihak swasta yang kurang mementingkan kemakmuran rakyat biasa. Alih-alih meningkatkan keamanan, risiko ini dapat melipatgandakan konsekuensi kegagalan regulasi kepada warga negara.

Pendekatan China terhadap regulasi AI memprioritaskan keamanan nasional sejalan dengan nilai-nilai dan ideologi komunisme negara tersebut. Namun, para pengamat berpendapat bahwa model tata kelola mereka saat ini sebenarnya menangani beberapa isu tata kelola dan etika yang kritis. Kerangka kebijakan China terdiri dari Undang-Undang Keamanan Data, Undang-Undang Keamanan Siber, dan Undang-Undang Perlindungan Informasi Pribadi yang mengatur bagaimana data diproses, bagaimana data harus diamankan, dan bagaimana melindungi operator infrastruktur kritis mereka guna menjaga kedaulatan negara.

Administrasi Ruang Siber China (CAC) juga mengumumkan Langkah-langkah Pelaporan Insiden, termasuk langkah-langkah untuk memperketat aturan yang mengatur layanan AI yang dirancang untuk mensimulasikan perilaku manusia guna mengurangi dampak buruk dari chatbot AI ”antropomorfik”.

Berikut adalah poin-poin penting yang perlu dipertimbangkan oleh para stakeholder di Indonesia, termasuk pembuat kebijakan, pengembang teknologi AI, dan masyarakat sipil mengenai tata kelola AI tahun 2026 ini serta di masa mendatang.

Mitos regulasi hambat inovasi

Penelitian berbasis bukti dan independen serta transparan, bersama dengan partisipasi publik yang bermakna, menciptakan perlindungan demokratis yang kita butuhkan seputar teknologi garda depan yang memiliki banyak risiko dan berpotensi menimbulkan bahaya yang berkelanjutan untuk masyarakat. Di ranah AI, masyarakat juga mempunyai peran penting untuk membentuk tata kelola AI yang mengedepankan kualitas hidup.

Dengan atensi masyarakat terhadap hal ini, kebijakan berfungsi sebagai kompas bagi mereka yang mengembangkan, menerapkan, dan menggunakan teknologi ini. Selanjutnya, juga untuk membentuk lingkungan seputar teknologi yang baik, seharusnya bisa memastikan bahwa ”inovasi” mereka akan mengutamakan manusia dan akan melayani masyarakat, komunitas, dan warga negara untuk berkembang, bukan merusak.

Mengembangkan ekosistem

Tata kelola teknologi membutuhkan masukan penelitian dan pengetahuan dari berbagai pemeran kepentingan di ranah teknologi, termasuk terutama dari masyarakat sipil Indonesia, akademisi, dan komunitas penelitian. Dikombinasikan dengan umpan balik publik yang kuat, jalur penelitian untuk meningkatkan dampak kebijakan negara membentuk tulang punggung ekosistem pengetahuan yang berdaulat yang memastikan wawasan, pengalaman hidup, dan keahlian Indonesia mendorong pembuatan kebijakan di Indonesia.

Dengan cara itu, Indonesia dapat menjalankan perannya sendiri dalam menentukan prioritas isu, kerugian, dan risiko yang paling penting bagi masyarakat Indonesia.

Generasi muda

Tata kelola AI bukan hanya masalah ekonomi, melainkan juga masalah sosial. Generasi baru di dunia nyata sedang dibentuk dan dibina saat ini melalui digitalisasi dan penggunaan teknologi baru seperti AI. Tujuan regulasi di ruang digital melampaui pembangunan ekonomi, tetapi juga untuk melindungi pembangunan sosial dan budaya penduduk. Jika dibiarkan tanpa penanganan dan hanya berfokus pada insentif pasar, teknologi ini berisiko merusak isyarat sosial dan kemampuan berpikir kritis kaum muda kita di dunia modern yang seharusnya dibangun di atas nilai-nilai kita sebagai warga negara Indonesia.

Memperkuat keterlibatan

Kerugian terkait AI semakin meluas melintasi perbatasan negara. Penipuan, memburuknya integritas informasi, dan penyalahgunaan data yang memengaruhi pengguna Indonesia mungkin berasal dari tempat lain di kawasan ini. Kita semua terhubung. Tata kelola AI yang efektif membutuhkan komitmen yang lebih dalam terhadap kerja sama regional dan multilateral.

Peta Jalan AI Nasional oleh Pemerintah Indonesia menandakan momentum bagi semua rakyat Indonesia pengguna teknologi AI untuk memikirkan keputusan jalur mana yang ingin ditempuh negara ini. Jalur yang lebih menjanjikan akan membutuhkan persiapan yang lebih matang dalam pengambilan keputusan bagi para pembuat kebijakan di Indonesia. Juga keterlibatan yang lebih proaktif antara para stakeholder, seperti pemerintah dengan masyarakat sipil dan komunitas riset serta riset berbasis bukti yang lebih komprehensif untuk para pembuat kebijakan, yang idealnya mengedepankan kepentingan rakyat Indonesia.

Zar Motik Adisuryo, Global Policy Lead selaku Representatif Nasional Indonesia untuk AI Safety Asia (AISA)