Penggunaan kecerdasan artifisial (AI) untuk mengambil keputusan di sektor keuangan dan kesehatan menyimpan risiko langsung bagi masyarakat.
Kesalahan sistem AI yang diberi kewenangan menjalankan transaksi dapat memicu kerugian finansial, sementara kesalahan diagnosis berpotensi memengaruhi keselamatan pasien.
Pemerintah menilai mitigasi risiko harus menjadi bagian dari pengembangan AI di sektor-sektor tersebut.
Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan pemanfaatan AI tidak cukup hanya berorientasi pada inovasi dan efisiensi, tetapi juga harus memperhitungkan risiko yang muncul ketika teknologi tersebut mulai mengambil peran dalam proses pengambilan keputusan.
Menurut Wamen Nezar, sektor jasa keuangan menjadi salah satu bidang yang membutuhkan perhatian khusus, terutama ketika perusahaan menggunakan agentic AI yang diberikan kewenangan untuk menjalankan tindakan dan mengambil keputusan secara mandiri.
“Di sektor layanan keuangan, misalnya perbankan, penggunaan AI, apalagi agentic AI, ketika kita memberikan otoritas kepadanya untuk melakukan tindakan dan pengambilan keputusan, apabila terjadi kesalahan, maka akan menjadi fatal. Uang bisa hilang atau bahkan menimbulkan kekacauan yang bersifat sistemik akibat kesalahan eksekusi,” ujar Wamen Nezar dalam wawancara dengan CNBC Indonesia di Kantor Kementerian Komdigi, Jakarta Pusat, Selasa (27/10/2026).
Risiko serupa juga perlu diantisipasi dalam pemanfaatan AI di sektor kesehatan.
Teknologi ini mulai digunakan untuk membantu proses diagnosis penyakit maupun mendukung keputusan dalam pemberian layanan medis.
Namun, kesalahan sistem dalam memberikan rekomendasi atau menghasilkan diagnosis dapat membawa konsekuensi serius karena berkaitan langsung dengan keselamatan manusia.
“Di sektor kesehatan, misalnya penggunaan AI untuk mendiagnosis penyakit dan membantu pengambilan keputusan, baik oleh dokter maupun oleh agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia,” tegasnya.
Wamen Nezar menambahkan risiko penggunaan AI di sektor kesehatan juga berkaitan erat dengan pelindungan data pribadi pasien.
Data menjadi elemen utama dalam pengembangan dan pengoperasian AI sehingga pengelolaannya harus dilakukan secara hati-hati agar informasi sensitif masyarakat tidak disalahgunakan atau mengalami kebocoran.
Menurutnya, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi menjadi salah satu instrumen penting untuk menjaga keamanan ekosistem AI nasional.
Penggunaan data dalam pengembangan teknologi harus tetap memperhatikan hak masyarakat atas informasi pribadinya, termasuk data kesehatan yang memiliki tingkat sensitivitas tinggi.
“Kita sudah punya seperangkat regulasi yang menjaga ekosistem AI meski tidak berhubungan langsung dengannya, seperti Undang-Undang ITE dan Undang-Undang Perlindungan Data Pribadi. Ini penting sekali karena kalau bicara soal AI kan makanannya data,” tuturnya.
Selain itu, pemerintah menyiapkan Peta Jalan Nasional AI dan Etika AI yang diharapkan menjadi Peraturan Presiden.
Kerangka tersebut disiapkan untuk memberikan arah pengembangan teknologi sekaligus memastikan pemanfaatan AI berlangsung dengan memperhatikan prinsip etika dan pelindungan masyarakat.
Wamen Nezar menyatakan pemerintah perlu mencermati perkembangan teknologi secara menyeluruh sebelum menentukan pendekatan regulasi.
Pengaturan yang disiapkan harus mampu mengantisipasi risiko tanpa menghambat ruang inovasi yang sedang berkembang.
“Kita harus memetakan dulu perkembangan secara menyeluruh supaya tidak terlalu berat dalam regulasi. Yang kita butuhkan sekarang adalah mendorong inovasi, tetapi pada saat yang sama risiko-risiko yang muncul dari adopsi teknologi AI di setiap sektor juga harus diperhatikan,” jelasnya.
Kemkomdigi terus mendorong pengembangan ekosistem AI nasional melalui penguatan infrastruktur, talenta digital, dan riset serta pengembangan.
Upaya tersebut diharapkan berjalan beriringan dengan penerapan tata kelola dan mitigasi risiko agar pemanfaatan AI tidak hanya menghasilkan kemajuan teknologi, tetapi juga memberikan manfaat nyata dengan tetap melindungi masyarakat.
Siaran Pers No. 245/HM-KKD/10/2026
Jumat, 30 Oktober 2026