Mahkamah Agung New Mexico menjatuhkan denda sebesar 5.000 dolar AS kepada pengacara Stephen Aarons setelah ia kedapatan menggunakan ChatGPT untuk menyusun dokumen banding kasus pembunuhan. Aarons dinyatakan bersalah karena mencantumkan kesaksian polisi fiktif serta menghadirkan saksi-saksi yang tidak pernah ada dalam persidangan sebelumnya. Tindakan ini memicu kemarahan hakim, terutama karena dokumen tersebut dianggap menyesatkan integritas proses hukum yang seharusnya berbasis pada bukti nyata.
Dalam dokumen pengadilan yang dirilis Rabu lalu, pengadilan menetapkan bahwa Aarons gagal melakukan verifikasi terhadap klaim faktual serta dasar hukum dalam draf yang dihasilkan oleh kecerdasan buatan tersebut. Hakim C. Shannon Bacon secara tajam menegur Aarons dalam persidangan Agustus lalu. Ia mempertanyakan bagaimana seorang praktisi hukum bisa begitu abai terhadap risiko halusinasi AI yang sudah sering menjadi sorotan berita di berbagai belahan dunia.
Aarons mengaku bahwa ia awalnya berharap ChatGPT mampu meringkas jalannya persidangan menjadi sebuah dokumen yang sempurna dan tak terbantahkan. Namun, alih-alih mendapatkan ringkasan yang akurat, teknologi tersebut justru menciptakan narasi palsu, termasuk detail mengenai pakaian dan penampilan pelaku penembakan yang tidak sesuai dengan fakta lapangan. Pengakuan ini mempertegas betapa berbahayanya ketergantungan pada alat generatif tanpa pengawasan manusia.
Fenomena ini bukanlah kasus pertama di dunia hukum Amerika Serikat. Sebelumnya, beberapa firma hukum lain juga sempat mendapat sanksi serupa karena menyerahkan dokumen yang memuat kutipan hukum serta preseden fiktif. Bahkan, tim hukum Mike Lindell, pendiri MyPillow, pernah dijatuhi denda karena alasan yang sama. Hal ini menunjukkan bahwa tantangan etika dalam penggunaan teknologi AI di ruang sidang telah menjadi krisis sistemik yang mengancam kredibilitas profesi pengacara.
Di Indonesia, adopsi AI di sektor hukum masih berada dalam tahap awal. Meskipun belum ada kasus drastis seperti di New Mexico, para praktisi hukum di Tanah Air mulai melirik alat berbasis AI untuk membantu riset dokumen atau menyusun kerangka kontrak. Namun, kehati-hatian harus tetap diutamakan karena sistem hukum Indonesia yang berbasis civil law sangat bergantung pada interpretasi undang-undang yang presisi dan tidak bisa ditoleransi jika terjadi kesalahan faktual.
Implikasi bagi dunia hukum Indonesia cukup besar. Jika pengacara lokal mulai menggunakan AI tanpa memahami batasan teknisnya, risiko malapraktik hukum bisa meningkat. Ketergantungan pada chatbot sering kali mengabaikan aspek verifikasi silang yang merupakan kewajiban dasar seorang advokat. Dalam sistem hukum kita, kredibilitas seorang pengacara di mata hakim adalah aset utama yang bisa hancur seketika jika mereka menyajikan informasi yang tidak valid.
Selain itu, tantangan bagi pendidikan hukum di Indonesia adalah bagaimana mengintegrasikan literasi digital ke dalam kurikulum. Mahasiswa hukum perlu diajarkan bahwa AI hanyalah alat bantu, bukan pengganti nalar kritis. Ketajaman analisis manusia dalam membedakan fakta dan halusinasi AI adalah kompetensi yang tidak akan tergantikan oleh algoritma secanggih apa pun saat ini.
Dalam pernyataannya kepada Reuters, Aarons menyatakan penyesalan mendalam dan berharap dewan disiplin mempertimbangkan tindakannya sebagai kesalahan yang tidak disengaja. Kendati demikian, pengadilan tetap tegas dalam memberikan sanksi sebagai bentuk peringatan keras bagi anggota asosiasi pengacara lainnya. Denda ini menjadi pengingat bahwa hukum tetaplah ranah yang menuntut akurasi mutlak, bukan sekadar kecepatan dalam memproses data.
Ke depan, kita akan melihat munculnya regulasi internal di kantor-kantor firma hukum terkait penggunaan AI. Standar operasional prosedur (SOP) akan mencakup kewajiban verifikasi berlapis bagi setiap dokumen yang dihasilkan melalui bantuan mesin. Tren ini diprediksi akan memaksa para pengembang AI untuk mulai menyematkan fitur pelacakan sumber atau sitasi yang lebih ketat guna menghindari risiko halusinasi informasi yang serupa.
Pada akhirnya, teknologi AI memang menawarkan efisiensi waktu yang sangat menggiurkan. Namun, kecepatan tanpa verifikasi di ruang pengadilan adalah resep untuk kehancuran karier. Para profesional hukum di Indonesia harus mengambil pelajaran berharga dari kasus Aarons ini, bahwa di balik kemudahan teknologi, tanggung jawab etis seorang pengacara untuk memberikan data yang benar tetap tidak bisa didelegasikan kepada kecerdasan buatan.