Luật sư, ChatGPT và những vụ án không tồn tại

Ngày 15/3/2023, luật sư của hãng hàng không Avianca báo với toà liên bang ở New York rằng họ không tìm thấy phần lớn các phán quyết mà phía nguyên đơn trích dẫn (Mata v. Avianca, Inc., 2023, findings ¶ 7). Lời thừa nhận đầu tiên rằng chúng do ChatGPT bịa ra đến ngày 25/5, tức 71 ngày sau (tôi tính từ hai mốc trong bản án) (Mata v. Avianca, Inc., 2023, findings ¶ 44). Nếu bạn ký tài liệu do người khác hoặc một công cụ AI soạn, 71 ngày đó là phần đáng đọc nhất của vụ Mata kiện Avianca.

Toà nói gì về việc dùng ChatGPT để soạn hồ sơ?

Toà nói dùng một công cụ AI đáng tin cậy để hỗ trợ không có gì sai tự thân, nhưng luật sư giữ vai trò gác cổng về độ chính xác của hồ sơ (Mata v. Avianca, Inc., 2023, p. 1). Cái bị xử là việc hai luật sư (một người ký tên, một người soạn) cùng công ty luật Levidow, Levidow & Oberman P.C. nộp phán quyết không tồn tại rồi tiếp tục đứng về phía chúng sau khi toà đặt nghi vấn (Mata v. Avianca, Inc., 2023, p. 1).

Hồ sơ nộp gì, và người ta phát hiện ra giả bằng cách nào?

Ngày 1/3/2023, luật sư ký tên nộp văn bản phản đối đề nghị bác đơn của Avianca, trong vụ ông Roberto Mata kiện vì bị xe đẩy đồ phục vụ trên chuyến bay đụng vào đầu gối; văn bản trích các phán quyết được nói là đăng trong Federal Reporter, Federal Supplement và Westlaw (Mata v. Avianca, Inc., 2023, findings ¶ 1; Mata v. Avianca, Inc., 2023, findings ¶ 5). Người ký không viết: luật sư soạn nghiên cứu và viết, còn luật sư ký tên đọc "cho xuôi văn" và không đọc án lệ nào (Mata v. Avianca, Inc., 2023, findings ¶ 6). Sau khi Avianca báo không tìm thấy, toà tự tra cũng không ra nhiều phán quyết, ra lệnh nộp bản sao chín phán quyết, rồi nhận về chỉ các đoạn trích (Mata v. Avianca, Inc., 2023, findings ¶ 9; Mata v. Avianca, Inc., 2023, findings ¶ 13; Mata v. Avianca, Inc., 2023, findings ¶ 14; Mata v. Avianca, Inc., 2023, findings ¶ 22).

Thư ký toà phúc thẩm Vòng 11 xác nhận "Varghese" không phải phán quyết của toà, và số hồ sơ in trên đó thuộc vụ khác (Mata v. Avianca, Inc., 2023, findings ¶ 26; Mata v. Avianca, Inc., 2023, findings ¶ 28). Chỉ cần đọc vài đoạn đầu là thấy nó mâu thuẫn nội tại và vô nghĩa (Mata v. Avianca, Inc., 2023, conclusions ¶ 23).

ChatGPT được hỏi gì, và nó trả lời ra sao?

Khi được yêu cầu đưa án lệ, nó đưa, bằng cách bịa, một dạng ảo giác AI. Theo lịch sử câu lệnh đính kèm hồ sơ, luật sư soạn chuyển từ câu hỏi chung sang các yêu cầu như "provide case law in support…" và "show me more cases"; toà viết rằng chatbot đáp ứng bằng cách bịa ra các vụ (Mata v. Avianca, Inc., 2023, findings ¶ 39). Ông cũng hỏi thẳng "Is Varghese a real case" và "Are the other cases you provided fake", và nhận câu trả lời rằng đó là các phán quyết thật, tìm được qua Westlaw, LexisNexis và Federal Reporter (Mata v. Avianca, Inc., 2023, findings ¶ 45).

Hai điều cần ghi cẩn thận. Đây là ghi chép về ChatGPT năm 2023, tôi không nói công cụ hôm nay trả lời thế nào. Và ảnh chụp các câu hỏi "có thật không" không ghi ngày; luật sư soạn trình bày hai kiểu, hỏi trước khi nộp văn bản hoặc hỏi sau lệnh ngày 4/5 (Mata v. Avianca, Inc., 2023, findings ¶ 46; Mata v. Avianca, Inc., 2023, findings ¶ 47). Dù công cụ khẳng định như vậy, những người bị xử về sau thừa nhận những vụ đó không tồn tại (Mata v. Avianca, Inc., 2023, findings ¶ 36).

Vì sao toà kết luận có ác ý: vì dùng AI, hay vì phản ứng sau đó?

Vì phản ứng sau đó. Toà kết luận hai luật sư có ác ý dựa trên hành vi cố tình né không biết sự thật và phát biểu sai lệch với toà (Mata v. Avianca, Inc., 2023, p. 2). Toà viết rằng nếu họ khai thật ngay sau văn bản ngày 15/3 hoặc sau các lệnh ngày 11–12/4, hồ sơ sẽ trông khác hẳn; thay vào đó họ cứ cãi tiếp, và chỉ bắt đầu hé sự thật từ 25/5 (Mata v. Avianca, Inc., 2023, p. 2).

Với luật sư soạn, toà nêu mấy điểm. Ông tra "Varghese" không ra, vẫn trích, và không nói điều đó trong bản cam đoan ngày 25/4 (Mata v. Avianca, Inc., 2023, findings ¶ 12; Mata v. Avianca, Inc., 2023, conclusions ¶ 24). Ông gọi ChatGPT là phần "bổ sung" cho nghiên cứu, nhưng tại phiên điều trần thừa nhận ngoài lần thử không thành trên Fastcase, công cụ tra cứu của công ty, ông không làm gì khác (Mata v. Avianca, Inc., 2023, findings ¶ 37; Mata v. Avianca, Inc., 2023, findings ¶ 41). Nghiên cứu cẩu thả, toà viết, chỉ là thiếu hợp lý theo tiêu chuẩn khách quan; ác ý đến từ chỗ ông đã nắm các dữ kiện báo hiệu khả năng cao hai vụ Varghese và Zicherman không tồn tại, rồi cố tình không xác nhận (Mata v. Avianca, Inc., 2023, conclusions ¶ 24).

Với luật sư ký tên, toà nêu việc không đọc văn bản đáp của Avianca trước khi chuyển đi, ký bản cam đoan chưa từng thấy bản nháp, và xin gia hạn bằng lý do đi nghỉ phép trong khi biết điều đó sai (Mata v. Avianca, Inc., 2023, findings ¶ 10; Mata v. Avianca, Inc., 2023, findings ¶ 17; Mata v. Avianca, Inc., 2023, findings ¶ 21). Toà phân biệt: điều tra thiếu sót có thể chỉ là thiếu hợp lý, còn hoàn toàn không điều tra thì hỗ trợ kết luận ác ý (Mata v. Avianca, Inc., 2023, conclusions ¶ 23).

Toà xử phạt gì, và còn biện pháp nào ngoài tiền phạt?

Phạt 5.000 đô la Mỹ, liên đới giữa hai luật sư và công ty, nộp vào quỹ của toà trong 14 ngày (Mata v. Avianca, Inc., 2023, p. 34). Cũng trong 14 ngày họ phải gửi thư cho ông Mata, và thư cho từng thẩm phán bị gán tên làm tác giả sáu phán quyết giả, kèm ý kiến, biên bản điều trần và bản sao văn bản ngày 25/4, rồi nộp bản sao thư cho toà (Mata v. Avianca, Inc., 2023, p. 34). Toà nói khoản phạt nhằm răn đe, không nhằm trừng phạt (Mata v. Avianca, Inc., 2023, conclusions ¶ 34).

Toà ghi cả điều mình không làm: không bắt xin lỗi, vì lời xin lỗi bị ép không phải lời xin lỗi thật (Mata v. Avianca, Inc., 2023, conclusions ¶ 33).

"Kiểm tra" nghĩa là gì với người ký tài liệu?

Là mở bản gốc ở nơi công bố có thẩm quyền và đọc đúng đoạn mình dựa vào; hỏi lại công cụ không phải kiểm tra. Cột giữa của bảng là điều bản án ghi, cột phải là suy luận của tôi cho doanh nghiệp.

Bảng khớp với hai bậc của thang kiểm chứng năm bậc, sự kiện và người phê duyệt; thang đó là cách gom của site, không phải điều toà nêu.

Còn cái tên trên tài liệu: người ký và người soạn không trùng. Luật sư soạn không được phép hành nghề ở quận đó, nên luật sư ký tên nộp đơn nhận vụ còn luật sư soạn làm toàn bộ phần chuyên môn, theo lời giải thích của luật sư ký tên (Mata v. Avianca, Inc., 2023, findings ¶ 2).

Phát hiện tài liệu của mình có lỗi thì làm gì?

Nói sớm, rút bản sai, cho người nhận biết đúng chỗ sai. Đây là suy luận của tôi cho doanh nghiệp, vì toà chỉ nói về luật sư.

Luật sư đại diện cho người soạn và công ty, khi nộp phản hồi lệnh giải trình, tự bắt được và sửa kịp việc ba vụ giả lọt vào bảng liệt kê án lệ ở bản đầu; toà gọi đó là sai sót vô tình (Mata v. Avianca, Inc., 2023, p. 1, n. 1). Còn với văn bản ngày 1/3, không ai viết thư xin rút hay báo toà rằng không nên dựa vào nó nữa (Mata v. Avianca, Inc., 2023, findings ¶ 51). Nghĩa vụ của luật sư kéo dài khi còn "later advocating", tức tiếp tục bênh vực (Mata v. Avianca, Inc., 2023, conclusions ¶ 10), và mọi cảnh báo trước đó đều liên quan khi xét ác ý (Mata v. Avianca, Inc., 2023, conclusions ¶ 16).

Một tình huống giả định, không công ty hay người nào có thật. Trưởng phòng kinh doanh của một công ty xuất khẩu gửi ngân hàng báo cáo thị trường có một thống kê do trợ lý AI soạn. Ngân hàng hỏi nguồn, và tra không ra. Một lối là gửi thư đính chính ngay trong ngày; lối kia là trả lời lấp lửng, chờ xem có ai hỏi nữa không. Trong bản án này, im lặng và phát biểu sai lệch sau khi bị chất vấn là điều toà dùng để kết luận ác ý.

Đào sâu: bản án này là gì, và nó không nói gì?

Văn bản tôi đọc là "Opinion and Order on Sanctions" ngày 22/6/2023 của Toà án quận Hoa Kỳ khu Nam New York, số 22-cv-1461, sau phiên điều trần ngày 8/6/2023 (Mata v. Avianca, Inc., 2023, p. 3); thư viện ghi số tập 678 F. Supp. 3d 443. Tôi đọc phần chính văn, trang 1–34. Tôi không đọc phụ lục A và B (trang 35–43; bản văn bản tôi có không có chữ ở các trang đó), các văn bản gốc mà bản án nhắc tới hay biên bản điều trần; lời của hai luật sư tôi dẫn đều là lời được trích trong ý kiến. "findings ¶ N" và "conclusions ¶ N" là đoạn đánh số trong từng phần; "p. N" là số trang in.

Giới hạn thứ nhất: đây là bản án về chế tài, không phải phán quyết về AI nói chung. Toà xử theo Quy tắc 11 hoặc, nếu không áp dụng, theo quyền riêng của mình (Mata v. Avianca, Inc., 2023, conclusions ¶ 27); bản tôi đọc không phán xử phần nội dung vụ kiện của ông Mata.

Giới hạn thứ hai: tiêu chuẩn pháp lý. Vì toà tự khởi xướng chế tài, toà cần chứng minh ác ý chủ quan; nếu bên kia đề nghị theo Quy tắc 11(c)(2), luật sư có 21 ngày để sửa hoặc rút, và tiêu chuẩn là hợp lý theo cách nhìn khách quan (Mata v. Avianca, Inc., 2023, conclusions ¶ 14). Vụ này không cho biết điều gì xảy ra trong tình huống đó.

Giới hạn thứ ba: sự kiện ở đây là sự kiện theo toà, kể cả những chỗ toà không tin lời một bên (Mata v. Avianca, Inc., 2023, findings ¶ 47; Mata v. Avianca, Inc., 2023, p. 9, n. 6); lời kể của chính các luật sư có thể khác. Bảng kiểm và tình huống giả định là phần của tôi, không phải kết luận của toà.