Wamenkomdigi Tekankan Perlunya Pengawasan Ketat AI di Sektor Kesehatan

Nezar Patria Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) mengatakan perlu adanya perhatian khusus dalam pemanfaatan teknologi kecerdasan artifisial (AI) di sektor kesehatan dalam proses pengembangan dan pengawasan melalui pendekatan sandboxing.

“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” kata Nezar Patria melalui keterangan resminya di Jakarta, Sabtu (3/5/2025) dilansir Antara.

Dia melanjutkan bahwa memang sudah sejatinya sebuah sistem AI diimplementasikan secara luas dan pentingnya untuk melewati tahapan pengujian dalam lingkungan terbatas dan terkontrol sebelum terintegrasi ke sistem yang lebih besar.

Menurut dia, para pemangku kepentingan ikut hadir dan terlibat dalam proses sandoxing agar dapat menilai berbagai aspek teknis dan etis serta kesiapan operasional dan potensi dampak bagi masyarakat itu sendiri.

Hal tersebut sudah dilaksanakan terlebih dahulu di China, yang menjadi contoh positif sehingga sudah bisa mengungguli negara-negara maju lain karena melakukan sandboxing terlebih dahulu di level domestik.

“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxingnya sudah berlangsung di negara mereka lebih dulu,” ucap dia.

Meski begitu, terdapat beberapa tantangan yang juga harus diatasi dalam penerapan model Agentic AI, yang diyakini mampu membuat keputusannya sendiri. Menurutnya, risiko adalah hal yang tidak bisa dihindari dalam pengembangan teknologi mutakhir.

Khususnya dalam konteks kesehatan, risiko AI bukan hanya teknis, tetapi juga sosial dan etis.

“AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” jelas dia.

Dengan pendekatan melalui basis pada data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri. Indonesia diyakini dapat membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila.(ant/kak/bil/faz)