Jika Anda membutuhkan saksi ahli dalam kasus di ruang sidang, pastikan mereka tidak menggunakan chatbot AI untuk keahlian mereka.
Pekan lalu, seorang hakim di New York menegur seorang saksi ahli di sebuah real estat kasus perselisihan untuk menggunakan Copilot chatbot AI Microsoft.
Microsoft Copilot sekarang dapat berbicara: 3 fitur baru yang membuatnya lebih mirip ChatGPT dan Google Gemini
Saksi ahli, Charles Ranson, menggunakan Copilot untuk menghasilkan penilaian atas kerugian yang harus diberikan kepada penggugat dalam kasus tersebut. Kasusnya adalah yang pertama dilaporkan oleh Ars Technica.
Kopilot di pengadilan – ide yang buruk
Kasus yang menjadi pusat cerita ini melibatkan perselisihan mengenai properti sewaan senilai $485.000 di Bahamas. Laki-laki yang memiliki real estat telah meninggal dunia, dan harta itu dimasukkan ke dalam perwalian untuk putra laki-laki yang meninggal itu. Adik laki-laki almarhum bertanggung jawab untuk melaksanakan perwalian tersebut. Namun, saudari tersebut dituduh melanggar kewajiban fidusianya dengan menunda penjualan properti sambil memanfaatkan properti tersebut untuk penggunaan pribadinya.
Peran utama dalam memenangkan kasus anak laki-laki tersebut adalah dengan membuktikan bahwa ia menderita kerugian akibat tindakan bibinya.
Ranson dihadirkan sebagai saksi ahli dan ditugaskan untuk menilai kerusakan tersebut.
Meskipun Ranson memiliki latar belakang dalam bidang perwalian dan litigasi properti, menurut hakim Jonathan Schopf, dia “tidak memiliki keahlian real estat yang relevan”. Jadi, Ranson beralih ke chatbot AI Microsoft, Copilot.
Ranson rupanya mengungkapkan penggunaan Copilot dalam kesaksiannya. Ketika ditanya tentang hal ini, Ranson tidak dapat mengingat petunjuk apa yang dia gunakan untuk menilai kerusakan atau sumber apa yang dikutip oleh Copilot untuk mencapai perkiraannya. Ranson juga tidak bisa menjelaskan cara kerja Copilot.
Kecepatan Cahaya yang Dapat Dihancurkan
Pengadilan kemudian memutuskan untuk menggunakan Copilot untuk melihat apakah perkiraan tersebut dapat mencapai perkiraan yang sama seperti yang diberikan Ranson. Pengadilan bertanya kepada Copilot, “Dapatkah Anda menghitung nilai $250.000 yang diinvestasikan dalam Vanguard Balanced Index Fund dari 31 Desember 2004 hingga 31 Januari 2021?”
Copilot memberikan jawaban berbeda dalam tiga upaya berbeda, dan setiap jawaban berbeda dari jumlah yang dihasilkan Copilot milik Ranson.
Pengadilan kemudian bertanya kepada Copilot apakah ini merupakan sumber informasi yang dapat dipercaya, dan Copilot menjawab dengan mengatakan bahwa keluarannya harus selalu diverifikasi oleh para ahli.
Menurut hakim, Ranson bersikukuh bahwa alat AI seperti Copilot adalah penggunaan standar di industrinya, namun ia tidak dapat mengutip satu sumber pun yang menunjukkan kebenarannya.
Penggunaan chatbot AI Ranson bukanlah satu-satunya kesalahannya. Namun situasi kopilot ini tentu saja memukul kredibilitas saksi ahli. Hakim menemukan bahwa bukti menunjukkan bahwa penundaan penjualan properti tidak hanya mengakibatkan kerugian, tetapi juga keuntungan tambahan bagi anak laki-laki tersebut, dan memutuskan tidak ada pelanggaran kewajiban fidusia dari bibinya.
Bukan yang pertama kali, dan mungkin bukan yang terakhir kalinya
Penggunaan Copilot oleh Ranson sebagai sumber informasi ahli tentu bukan pertama kalinya chatbot AI digunakan di ruang sidang.
Pembaca mungkin ingat pengacara Steven Schwartz yang tahun lalu diandalkan di ChatGPT dalam pengajuan hukum untuk kasus yang melibatkan pelanggan maskapai penerbangan yang terluka selama penerbangan. Schwartz ditegur setelah mengajukan pengajuan yang mengutip kasus-kasus yang sama sekali tidak ada. Schwartz telah menggunakan ChatGPT untuk penelitiannya, dan chatbot AI baru saja membuat kasus-kasus sebelumnya, yang kemudian dimasukkan oleh Schwartz dalam pengajuannya.
Akibatnya, Schwartz dan pengacara lain di firma tempat dia bekerja menjadi korban didenda $5.000 oleh pengadilan karena “bertindak dengan itikad buruk”.
Skenario yang sama terjadi lagi dengan pengacara lain, Jae Lee, yang menggunakan ChatGPT dalam pengajuannya awal tahun ini. Sekali lagi ChatGPT berhalusinasi kasus yang tidak ada.
Dalam kasus real estat Bahama, Hakim Schopf menegaskan untuk tidak menyalahkan chatbot AI tetapi pengguna yang mengutipnya. Namun, chatbot AI terus berkembang biak secara online dan perusahaan teknologi besar seperti Google dan Microsoft meningkatkan promosi teknologi ini kepada pengguna.
Topik
Kecerdasan Buatan Microsoft