5 Fakta Pengacara Didenda Ratusan Juta Buntut Pakai ChatGPT, Kutipan Kasus Fiktif dari AI

Baca 10 detik

Pengacara California didenda Rp166 juta akibat kutipan palsu ChatGPT.
Denda terbesar melibatkan AI hukum, 21 kutipan fiktif terungkap.
Kasus ini peringatan serius penggunaan ChatGPT tanpa verifikasi hukum.

5. Risiko Halusinasi AI

Menurut Damien Charlotin, AI seperti ChatGPT lebih cenderung menciptakan kutipan palsu ketika digunakan untuk mendukung argumen hukum yang kompleks, karena model mencoba “memuaskan” permintaan teks tanpa dasar nyata.

Tren penyalahgunaan ChatGPT dalam dokumen hukum memang semakin mendapat perhatian publik dan institusi peradilan.

Komisi Kehakiman California bahkan telah mengeluarkan pedoman agar hakim dan staf pengadilan memutuskan apakah akan melarang generatif AI atau menerapkan kebijakan penggunaannya paling lambat Desember 2025.