Peguam didenda selepas Claude hasilkan petikan palsu
Seorang peguam di Louisiana, Amerika Syarikat, didenda AS$1,000 (RM4,000) dan diwajibkan menghadiri kursus penggunaan AI selepas didapati menggunakan chatbot Claude untuk menulis dokumen undang-undang yang mengandungi petikan palsu. Kes ini hanyalah satu daripada gelombang peningkatan kes "halusinasi AI" yang mencemarkan sistem perundangan global.
Hakim Jeri Edwards Jr. menjatuhkan hukuman
Hakim Jeri Edwards Jr. dari mahkamah daerah Louisiana menjatuhkan hukuman itu pada Mei lalu. Beliau menemui tujuh petikan yang dikaitkan dengan keputusan mahkamah terdahulu yang sama ada tidak wujud atau dipalsukan semasa menyemak usul untuk menyekat bukti dalam kes kecederaan peribadi. Peguam tersebut mengaku bahawa seorang kerani undang-undang telah menangkap petikan palsu dalam draf pertama, tetapi beliau hanya meminta Claude membetulkan kesilapan itu tanpa menyemak semula dokumen tersebut.
Peningkatan kes AI dalam dokumen mahkamah
Peguam Perancis, Damien Charlotin, yang mengumpul pangkalan data dokumen mahkamah mengandungi halusinasi AI sejak April 2023, telah merekodkan 1,600 kes dari 35 negara. Amerika Syarikat mendominasi dengan 1,116 kes, diikuti Kanada (173), Australia (74), dan Britain (59). Beliau mendapati bahawa peguam dan litigan yang mewakili diri sendiri sering menggunakan chatbot arus perdana seperti ChatGPT dan Claude.
"Dalam bidang undang-undang, AI digunakan untuk penyelidikan, mencari preseden, dan kadangkala menjana teks," kata Charlotin. "AI cemerlang dalam mengenali corak. Petikan undang-undang dan hujah sentiasa diformat dengan cara yang sama, jadi mudah bagi AI untuk mengikuti templat dan menjana yang palsu."
Hakim mula bertindak tegas
Hakim Scott Schlegel, yang bertugas dalam Pasukan Petugas Undang-undang dan AI Persatuan Peguam Amerika, menyatakan kebimbangan bahawa terlalu ramai peguam masih tidak memahami had teknologi tersebut. "Pada ketika ini, saya tidak faham bagaimana kita masih mempunyai masalah ini. Buat kerja anda dan baca kes-kes itu. Ayuhlah!" katanya.
Dalam kes di Mississippi, Hakim Persekutuan Sharion Aycock mendenda empat peguam sejumlah AS$8,000 dan melarang dua daripada mereka daripada hadir di Mahkamah Daerah Mississippi Utara selama dua tahun selepas mereka mengemukakan ringkas undang-undang berbantukan AI yang memetik kes tidak wujud. Beliau menulis, "Dalam era penggunaan AI tanpa pengesahan yang berleluasa dalam bidang undang-undang, kes ini memberikan contoh utama risiko yang berkaitan dengan menjadi setem getah."
Langkah pencegahan dan masa depan
Charlotin sedang menguji alat berkuasa AI sendiri untuk membantu peguam mengesan halusinasi sebelum dikemukakan ke mahkamah. Namun, beliau memberi amaran bahawa alat itu sendiri mungkin melakukan kesilapan. "Masih terpulang kepada peguam untuk menyesuaikan proses pengesahan mereka dengan isu yang dihadapi," katanya.
Menurut data Charlotin, halusinasi dalam pemfailan mahkamah meningkat lapan kali ganda pada tahun lalu berbanding 12 bulan sebelumnya. Mahkamah kini mula mengenakan hukuman lebih berat, termasuk dana dan larangan, bagi menangani masalah ini.
