JAKARTA – Pemanfaatan teknologi kecerdasan buatan (AI) di sektor kesehatan saat ini sedang naik daun.
Namun, Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengingatkan bahwa kehadiran AI bukan berarti bisa langsung diterapkan tanpa proses validasi yang ketat.
Dalam keterangan resmi yang diterima Minggu (4/5/2025), Nezar menegaskan, setiap teknologi baru, apalagi yang menyentuh sektor vital seperti kesehatan, harus melewati tahap-tahap uji coba yang sistematis dan terstruktur.
“AI itu harus lolos dulu dari proses ini. Kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, apakah cocok dengan use case diajukan, dengan trial yang dibuat,” tegas Nezar.
Pernyataan tersebut mencerminkan sikap kehati-hatian pemerintah terhadap gelombang adopsi teknologi canggih yang bisa berdampak langsung pada keselamatan pasien.
Dalam pandangannya, penerapan AI di layanan kesehatan bukan sekadar soal kecanggihan algoritma, tapi juga menyangkut persoalan akurasi, bias data, serta etika penggunaan.
Keputusan yang diambil oleh sistem AI harus dapat dipertanggungjawabkan, dan ini memerlukan evaluasi menyeluruh, baik secara teknis maupun secara sosial.
Risiko dan Tantangan AI di Medis
Seiring kemajuan AI yang kini mampu menghasilkan keputusan secara mandiri, Nezar menilai sektor medis menjadi salah satu bidang paling menantang dalam penerapannya.
Sistem yang terlalu mengandalkan otomatisasi bisa menimbulkan risiko, apalagi jika data pelatihan yang digunakan tidak merepresentasikan realitas secara adil dan berimbang.
“AI di sektor kesehatan tantangannya besar sekali, disinformasi misalnya, belum lagi ada bias dengan kepentingan komersial.”
“Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” ujarnya.
Pernyataan itu menyoroti ancaman nyata dari penggunaan AI yang tidak dikontrol—dari misinformasi diagnosis hingga promosi layanan medis yang belum terbukti efektivitasnya.
Nezar juga menggarisbawahi bahwa persoalan sosial dan etis seperti privasi pasien, akuntabilitas, serta potensi penyalahgunaan teknologi oleh pihak tertentu menjadi isu yang tidak bisa diabaikan.
Oleh karena itu, kolaborasi antara sistem AI dan pengawasan manusia mutlak diperlukan demi menjamin keselamatan dan kepercayaan publik.
AI dan Peran Manusia Tetap Harus Beriringan
Penerapan AI dalam layanan kesehatan idealnya tidak menggantikan peran manusia, melainkan menjadi alat bantu yang memperkuat sistem pengambilan keputusan klinis.
Menurut Nezar, intervensi manusia tetap diperlukan untuk memastikan bahwa keputusan yang dihasilkan sistem sejalan dengan nilai-nilai kemanusiaan dan standar medis.
Dalam konteks inilah, pemerintah dan pengembang teknologi dituntut untuk memperkuat kerangka regulasi, memperhatikan aspek keamanan data, serta memastikan sistem AI diuji dalam skenario riil sebelum diterapkan secara luas di rumah sakit atau layanan kesehatan digital.***
