AI Bisa Tiru Suara dan Wajah Manusia, Ancaman Scam Makin Mengkhawatirkan

Ayopangkep.id — Perkembangan kecerdasan artifisial (AI) dinilai semakin memperumit ancaman penipuan digital. Teknologi ini kini mampu menghasilkan konten palsu yang sangat meyakinkan sehingga sulit dibedakan dari kenyataan.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa penyalahgunaan AI melalui teknologi deepfake telah menjadi tantangan besar dalam aspek etika dan keamanan digital.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, bahkan ditampilkan dalam bentuk video deepfake yang dihasilkan AI dengan sangat mulus,” ujar Nezar dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026).

Menurutnya, perkembangan AI berlangsung sangat cepat. Teknologi ini bahkan telah bergerak melampaui generative AI menuju era agentic AI yang memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan.

Meski membawa manfaat besar bagi berbagai sektor, kemajuan tersebut juga menghadirkan risiko baru yang perlu diantisipasi. Salah satunya adalah pemanfaatan AI oleh pelaku kejahatan siber untuk melakukan berbagai modus penipuan berbasis deepfake.

Nezar menjelaskan bahwa manipulasi berbasis AI kini berkembang menjadi apa yang dikenal sebagai synthetic reality atau realitas sintetik. Kondisi ini membuat masyarakat semakin sulit membedakan konten asli dengan konten hasil rekayasa.

“Kurangnya pemahaman masyarakat terhadap perkembangan AI membuat banyak orang mudah terkecoh. Karena itu, kasus penipuan saat ini meningkat luar biasa,” tegasnya.

Ia juga menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Dengan pendekatan tersebut, manusia tetap memiliki kendali dan pengawasan terhadap keputusan-keputusan penting yang dihasilkan sistem AI.

“Banyak pakar mengusulkan penerapan protokol yang lebih ketat, termasuk memastikan adanya prinsip human in the loop dalam proses pengambilan keputusan,” katanya.

Lebih lanjut, Nezar menilai penerapan etika AI tidak lagi cukup dilakukan secara sukarela. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian yang terintegrasi sejak tahap perancangan teknologi melalui pendekatan ethics by design.

“Transparansi, akuntabilitas, dan keamanan harus hadir dalam implementasi maupun pengembangan produk AI,” ujarnya.

Karena itu, ia mendorong pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak awal. Menurutnya, Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.

“Semoga forum ini dapat menghasilkan gagasan dan rekomendasi yang menjadi pertimbangan dalam penyusunan kebijakan AI yang etis di Indonesia,” pungkasnya.