Seorang pengacara New York menghadapi sidang pengadilannya sendiri setelah perusahaannya menggunakan alat AI ChatGPT untuk penelitian hukum.
ChatGPT dapat menjawab pertanyaan menggunakan bahasa alami yang mirip manusia dan meniru gaya penulisan lainnya.
Seorang hakim mengatakan pengadilan dihadapkan pada “keadaan yang belum pernah terjadi sebelumnya” setelah pengajuan ditemukan untuk merujuk contoh kasus hukum yang tidak ada.
Dilansir BBC, Minggu (28/5/2023), pengacara yang menggunakan alat tersebut mengatakan kepada pengadilan bahwa dia “tidak menyadari bahwa isinya mungkin salah”.
ChatGPT membuat teks asli berdasarkan permintaan, tetapi dilengkapi dengan peringatan yang dapat “menghasilkan informasi yang tidak akurat”.
Kasus asli melibatkan seorang pria yang menggugat sebuah maskapai penerbangan atas dugaan cedera pribadi. Tim hukumnya mengajukan brief yang mengutip beberapa kasus pengadilan sebelumnya dalam upaya untuk membuktikan, dengan menggunakan preseden, mengapa kasus tersebut harus dilanjutkan.
Tetapi pengacara maskapai tersebut kemudian menulis kepada hakim untuk mengatakan bahwa mereka tidak dapat menemukan beberapa kasus yang disebutkan dalam laporan singkat tersebut.
“Enam dari kasus yang diajukan tampaknya merupakan keputusan pengadilan palsu dengan kutipan palsu dan kutipan internal palsu,” tulis Hakim Castel dalam perintah yang menuntut penjelasan dari tim hukum pria tersebut.
Selama beberapa pengajuan, terungkap bahwa penelitian tersebut tidak disiapkan oleh Peter LoDuca, pengacara penggugat, tetapi oleh rekannya di firma hukum yang sama. Steven A Schwartz, yang telah menjadi pengacara selama lebih dari 30 tahun, menggunakan ChatGPT untuk mencari kasus serupa sebelumnya.
Dalam pernyataan tertulisnya, Mr Schwartz mengklarifikasi bahwa Mr LoDuca tidak menjadi bagian dari penelitian dan tidak memiliki pengetahuan tentang bagaimana hal itu dilakukan.
Schwartz menambahkan bahwa dia “sangat menyesal” mengandalkan chatbot, yang dia katakan tidak pernah dia gunakan untuk penelitian hukum sebelumnya dan “tidak menyadari bahwa isinya bisa salah”.
Dia telah bersumpah untuk tidak pernah menggunakan AI untuk “melengkapi” penelitian hukumnya di masa depan “tanpa verifikasi mutlak keasliannya”.
Tangkapan layar yang dilampirkan pada pengajuan tampaknya menunjukkan percakapan antara Tuan Schwarz dan ChatGPT.
“Apakah varghese adalah kasus nyata,” bunyi salah satu pesan, merujuk pada Varghese v. China Southern Airlines Co Ltd, salah satu kasus yang tidak dapat ditemukan oleh pengacara lain.
ChatGPT menjawab ya, itu – mendorong “S” untuk bertanya: “Apa sumber Anda”.
Setelah “pemeriksaan ganda”, ChatGPT kembali menjawab bahwa kasus tersebut nyata dan dapat ditemukan di database referensi hukum seperti LexisNexis dan Westlaw.
Dikatakan bahwa kasus lain yang diberikan kepada Tuan Schwartz juga nyata.
Kedua pengacara, yang bekerja untuk firma Levidow, Levidow & Oberman, telah diperintahkan untuk menjelaskan mengapa mereka tidak boleh didisiplinkan pada sidang tanggal 8 Juni.
Jutaan orang telah menggunakan ChatGPT sejak diluncurkan pada November 2022.
Itu dapat menjawab pertanyaan dalam bahasa yang alami dan mirip manusia dan juga dapat meniru gaya penulisan lainnya. Ini menggunakan internet seperti pada tahun 2021 sebagai basis datanya.
Ada kekhawatiran atas potensi risiko kecerdasan buatan (AI), termasuk potensi penyebaran informasi yang salah dan bias. (BBC/Red)
