5 Fakta Pengacara Didenda Ratusan Juta Buntut Pakai ChatGPT, Kutipan Kasus Fiktif dari AI

SuaraSumbar.id - Seorang pengacara di California, Amir Mostafavi, dijatuhi denda sebesar 10.000 dollar AS (sekitar Rp 166 juta) akibat penggunaan ChatGPT dalam dokumen bandingnya yang disinyalir hampir seluruh kutipan kasusnya palsu.

Kejadian ini menjadi sorotan sebagai langkah tegas pengadilan terhadap penyalahgunaan ChatGPT dalam praktik hukum.

Menurut putusan pengadilan banding California (2nd District Court of Appeal), dari 23 kutipan kasus yang disertakan oleh Mostafavi dalam berkas banding, 21 di antaranya diidentifikasi sebagai kutipan fiktif yang tidak pernah ada dalam putusan hukum yang sah.

Di persidangan, Mostafavi mengakui bahwa ia tidak membaca ulang teks yang dihasilkan oleh ChatGPT sebelum diajukan pada Juli 2023.

Ia menyebut dirinya hanya menggunakan ChatGPT untuk “menyempurnakan tulisannya” dan mengaku tidak menyadari bahwa chatbot tersebut dapat “mengarang” kutipan kasus.

Sebuah panel tiga hakim memutuskan untuk menjatuhkan denda karena tindakan tersebut dianggap sebagai pengajuan banding sembarangan dan pemborosan waktu serta dana publik. Ia dianggap melanggar aturan pengadilan dan etika litigasi.

Berikut 5 Fakta Menarik terkait insiden ini:

1. Jumlah kutipan palsu sangat dominan

Dari total 23 kutipan kasus yang disisipkan dalam berkas banding, sebanyak 21 kutipan dianggap palsu atau tidak ditemukan dalam putusan asli. Artinya hampir seluruh rujukan hukum inti dalam dokumen tersebut adalah karangan.

2. Denda terbesar di California untuk kasus AI

Denda US$ 10.000 ini dianggap sebagai denda tertinggi yang pernah dijatuhkan terhadap pengacara negara bagian California dalam kasus yang melibatkan penggunaan AI.

3. Pengakuan Tidak Verifikasi Hasil ChatGPT

Mostafavi mengungkap bahwa setelah menyusun draf banding sendiri, ia menyerahkan teks ke ChatGPT untuk “penyempurnaan” tanpa melakukan pengecekan ulang terhadap kutipan hukum.

4. Kasus Fiktif dari AI

Peneliti hukum seperti Jenny Wondracek telah mendeteksi ratusan kasus pengacara yang mengutip otoritas hukum yang tidak ada akibat “halusinasi” AI: 52 kasus di California dan lebih dari 600 secara global.

5. Risiko Halusinasi AI

Menurut Damien Charlotin, AI seperti ChatGPT lebih cenderung menciptakan kutipan palsu ketika digunakan untuk mendukung argumen hukum yang kompleks, karena model mencoba “memuaskan” permintaan teks tanpa dasar nyata.

Tren penyalahgunaan ChatGPT dalam dokumen hukum memang semakin mendapat perhatian publik dan institusi peradilan.

Komisi Kehakiman California bahkan telah mengeluarkan pedoman agar hakim dan staf pengadilan memutuskan apakah akan melarang generatif AI atau menerapkan kebijakan penggunaannya paling lambat Desember 2025.