Regulasi AI Indonesia Makin Ketat, Perusahaan Dituntut Siapkan Bukti Kepatuhan Digital

QueenNews.id – Perkembangan kecerdasan buatan (Artificial Intelligence/AI) di Indonesia kini memasuki babak baru. Setelah sebelumnya berfokus pada penyusunan pedoman, pemerintah mulai mengarah pada tahap pengawasan dan penegakan aturan untuk memastikan penggunaan AI berjalan aman, transparan, dan bertanggung jawab.

Berakhirnya masa transisi Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) pada Oktober 2024 menjadi momentum penting bagi perusahaan yang mengelola data pribadi di Indonesia. Regulator mulai meningkatkan aktivitas pengawasan, sementara organisasi yang tidak memenuhi kewajiban dapat menghadapi konsekuensi berupa denda hingga 2 persen dari pendapatan tahunan serta ancaman pidana maksimal enam tahun penjara.

Tekanan kepatuhan semakin besar bagi industri jasa keuangan. Selain tunduk pada UU PDP, sektor ini menghadapi pengawasan tambahan dari berbagai lembaga seperti Otoritas Jasa Keuangan (OJK), Bank Indonesia, Kementerian Komunikasi dan Digital (Komdigi), serta Badan Siber dan Sandi Negara (BSSN).

Pada April 2025, OJK menerbitkan AI Governance Handbook untuk sektor perbankan yang mengatur enam tahapan siklus hidup AI dengan tiga prinsip utama, yakni akuntabilitas, pengawasan manusia, dan keandalan sistem. Selain itu, Peraturan OJK Nomor 1 Tahun 2026 mengenai tata kelola teknologi informasi bank umum juga mulai berlaku sebagai bagian dari penguatan pengawasan digital.

Di sisi lain, rancangan Peraturan Presiden tentang Etika dan Keamanan AI yang akan berlaku lintas sektor diproyeksikan membawa kewajiban baru, termasuk registrasi model AI nasional dan penilaian risiko untuk sistem AI berisiko tinggi.

Situasi tersebut muncul ketika penggunaan AI di dunia bisnis terus berkembang pesat. Data BSSN menunjukkan terdapat 3,64 miliar serangan siber serta lebih dari 56 juta data terekspos yang berdampak terhadap 461 organisasi. Secara global, sebanyak 68 persen perusahaan mengakui adanya fenomena Shadow AI, yaitu penggunaan teknologi AI oleh karyawan tanpa pengawasan resmi dari tim teknologi informasi.

Kondisi ini menciptakan tantangan besar bagi perusahaan. Banyak organisasi belum memiliki kemampuan untuk mengetahui seluruh sistem AI yang berjalan di lingkungan internal maupun menyediakan bukti kepatuhan yang dapat diverifikasi ketika diminta regulator.

Menjawab kebutuhan tersebut, Veranthios menghadirkan platform tata kelola AI yang dirancang khusus untuk perusahaan di sektor teregulasi. Platform ini mampu mengidentifikasi penggunaan AI, termasuk sistem yang tidak terdaftar secara resmi, sekaligus memberikan pengawasan terhadap perkembangan AI agentik yang semakin banyak digunakan perusahaan.

Berbeda dengan pendekatan tradisional yang hanya berfokus pada identitas pengguna, Veranthios bekerja pada lapisan protokol seperti Model Context Protocol (MCP) dan Agent-to-Agent (A2A). Teknologi ini memungkinkan perusahaan memahami aktivitas setiap agen AI, koneksi yang digunakan, serta hubungan antaragen dalam ekosistem multiagen.

Setiap bukti kepatuhan yang dihasilkan menggunakan penanda kriptografis sehingga dapat menunjukkan validitas data dan mendeteksi upaya perubahan atau manipulasi. Bukti tersebut kemudian dapat dipetakan terhadap berbagai standar regulasi, termasuk AI Governance Handbook OJK, UU PDP Indonesia, MAS FEAT dan IMDA AI Verify Singapura, BNM RMiT Malaysia, panduan METI/FSA Jepang, ISO/IEC 42001, hingga EU AI Act.

Selain mendukung proses audit, Veranthios juga menyediakan pemantauan berkelanjutan terhadap sistem AI yang berjalan. Kemampuan tersebut mencakup deteksi perubahan perilaku sistem, observabilitas saat operasional, serta penerapan guardrail otomatis untuk mengidentifikasi risiko secara real-time.

Apabila terjadi perubahan akses data, perilaku agen, atau koneksi sistem yang melewati batas persetujuan, platform akan memberikan peringatan sekaligus mendokumentasikan kejadian tersebut. Dengan demikian, perusahaan dapat menyiapkan bukti kepatuhan jauh sebelum menghadapi kebutuhan pelaporan insiden.

Untuk memperluas layanan di Indonesia, Veranthios menjalin kemitraan dengan PT Digivla Indonesia yang berbasis di Jakarta Selatan. Kolaborasi ini menggabungkan teknologi tata kelola AI Veranthios dengan pengalaman Digivla dalam implementasi teknologi, regulasi, dan kebutuhan transformasi digital perusahaan Indonesia.

Direktur Utama PT Digivla Indonesia, Reza Maulana, mengatakan bahwa tantangan utama perusahaan saat ini bukan hanya memahami aturan AI yang berlaku, tetapi memastikan seluruh penggunaan AI dapat dibuktikan kepatuhannya secara konsisten.

“Perusahaan membutuhkan kemampuan untuk melihat bagaimana AI digunakan di seluruh lingkungan bisnis, terutama ketika teknologi AI agentik mulai berkembang. Melalui kerja sama dengan Veranthios, kami membantu organisasi membangun tata kelola AI yang memiliki bukti terukur, memperkuat keamanan operasional, dan mendukung penerapan AI secara bertanggung jawab,” ujar Reza.

Dengan hadirnya solusi ini, Veranthios kini tersedia bagi perusahaan Indonesia melalui PT Digivla Indonesia sebagai mitra penyalur eksklusif. Kehadiran tersebut diharapkan membantu organisasi menghadapi era baru regulasi AI yang semakin ketat sekaligus membuka peluang pemanfaatan AI secara aman dan berkelanjutan.