Di Indonesia, kasus penipuan yang menggunakan deepfake meningkat drastis—lonjakan kasus sebesar 1550% antara 2022 dan 2023.
Pelaku bisa menggunakan gambar atau suara palsu untuk menipu masyarakat, merusak reputasi pemerintah atau individu.
7. Kesenjangan Regulasi dan Keterbatasan Penegakan Hukum
Regulasi di Indonesia yang membahas deepfake dan penggunaan AI untuk penyebaran konten manipulatif masih belum spesifik.
Banyak hukum yang ada belum mengatur secara tegas risiko ini, sehingga kesulitan teknis dan regulasi membuat siapa pun rentan terdampak.
Sebuah laporan menyebut bahwa 84% bisnis di Indonesia pernah menghadapi penipuan identitas digital.
Pemerintah dan lembaga terkait sudah mengeluarkan peringatan agar masyarakat lebih waspada terhadap konten manipulative seperti deepfake.
Teknologi deteksi deepfake seperti HONOR AI Deepfake Detection dan standar internasional seperti C2PA sedang dikembangkan sebagai bagian dari solusi.
Tren edit foto AI seperti membuat miniatur diri sendiri atau terlihat seolah dipeluk idol K-Pop memang menarik dan kreatif. Namun, bahaya edit foto AI dari sisi privasi, keamanan, identitas, hingga penipuan digital tak bisa dianggap enteng.
Pastikan Anda memahami syarat penggunaan platform, menjaga data asli, serta selalu mempertimbangkan risiko sebelum ikut tren ini.
