TechnologyIndonesia.id – Perkembangan teknologi kecerdasan artifisial atau artificial intelligence (AI) tidak hanya menghadirkan berbagai peluang inovasi, tetapi juga memunculkan ancaman baru di ruang digital. Salah satu yang menjadi perhatian serius adalah meningkatnya praktik penipuan digital atau scam yang memanfaatkan teknologi AI untuk menciptakan konten palsu yang sangat mirip dengan kenyataan.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan bahwa penyalahgunaan AI melalui teknologi deepfake telah menjadi salah satu tantangan etis dan keamanan digital yang perlu diantisipasi secara serius.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026).
Menurut Wamen Nezar Patria, kemajuan AI saat ini berlangsung sangat cepat, bahkan telah melampaui fase generative AI menuju pengembangan agentic AI dan berbagai teknologi baru lainnya.
Meski memberikan manfaat besar bagi berbagai sektor, kemajuan tersebut juga membuka peluang baru bagi pelaku kejahatan siber untuk melakukan manipulasi informasi dan penipuan digital.
Dalam aspek keamanan siber, Wamen Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan (scam) dengan memanfaatkan teknologi deepfake.
Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, sehingga masyarakat awam semakin sulit membedakan antara konten asli dan konten hasil rekayasa.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Wamen Nezar juga mengingatkan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI yang memiliki kemampuan melakukan penalaran dan pengambilan keputusan secara mandiri.
Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap berada dalam pengawasan manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Wamen Nezar menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Karena itu, Wamen Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
Menurutnya, forum Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.
“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.
