Baca 10 detik
- Pengacara California didenda Rp166 juta akibat kutipan palsu ChatGPT.
- Denda terbesar melibatkan AI hukum, 21 kutipan fiktif terungkap.
- Kasus ini peringatan serius penggunaan ChatGPT tanpa verifikasi hukum.
5. Risiko Halusinasi AI
Menurut Damien Charlotin, AI seperti ChatGPT lebih cenderung menciptakan kutipan palsu ketika digunakan untuk mendukung argumen hukum yang kompleks, karena model mencoba “memuaskan” permintaan teks tanpa dasar nyata.
Tren penyalahgunaan ChatGPT dalam dokumen hukum memang semakin mendapat perhatian publik dan institusi peradilan.
Komisi Kehakiman California bahkan telah mengeluarkan pedoman agar hakim dan staf pengadilan memutuskan apakah akan melarang generatif AI atau menerapkan kebijakan penggunaannya paling lambat Desember 2025.
