Thẩm phán Hàn Quốc ghi nhận tình trạng trích dẫn giả do AI tạo ra tràn lan, cơ quan quản lý tòa án đề xuất sửa đổi luật

Trích dẫn giả xuất hiện trong hồ sơ gửi tòa

Tòa án Tối cao Hàn Quốc đã công bố khảo sát đầu tiên về việc thẩm phán gặp phải các trích dẫn pháp lý sai lệch liên quan đến trí tuệ nhân tạo (AI). Khảo sát cho thấy 196 thẩm phán xử lý các vụ việc dân sự, gia đình và hành chính, tương đương 80,7% số người trả lời câu hỏi này, từng gặp trích dẫn các tiền lệ không tồn tại. Một số hồ sơ gửi tòa có những bản án giả mạo được làm giống các phán quyết thật của Tòa án Tối cao.

Khảo sát được tiến hành từ ngày 6 đến 16/10 và công bố ngày 2/11, thu thập câu trả lời của 360 thẩm phán tại các tòa án trên cả nước. Kết quả cũng cho thấy luật sư, cùng những người tự tham gia tố tụng, đã nộp tài liệu chứa các trích dẫn pháp lý sai lệch.

Cơ quan Quản lý Tòa án Quốc gia, đơn vị phụ trách hành chính của Tòa án Tối cao, dự kiến tham vấn Bộ Tư pháp và các cơ quan khác về việc sửa đổi Luật Tố tụng Dân sự và Luật Tố tụng Hình sự. Các cuộc thảo luận sẽ xem xét cơ sở pháp lý để áp dụng tiền phạt và những biện pháp xử lý khác đối với hồ sơ nộp có thông tin không chính xác.

Thẩm phán bày tỏ sự ủng hộ mạnh mẽ đối với việc hành động: 91,7% cho rằng cần có biện pháp ở cấp thể chế, trong đó 64,8% đánh giá là rất cần thiết. Cơ quan quản lý cho biết việc kiểm tra trích dẫn sai khiến thẩm phán và bên đối lập mất thời gian, phát sinh chi phí và có thể làm chậm quyền được xét xử kịp thời của người dân.

Các con số khảo sát cho thấy điều gì

Vấn đề phổ biến nhất là trích dẫn một phán quyết không tồn tại. Thẩm phán cũng gặp trường hợp dẫn chiếu các phán quyết có thật nhưng nội dung bị thay đổi hoặc ý nghĩa bị trình bày sai lệch. Tiền lệ pháp lý là một phán quyết trước đó được viện dẫn để củng cố lập luận về cách áp dụng luật.

Khảo sát cho phép người trả lời chọn nhiều loại trích dẫn sai. Kết quả đối với thẩm phán xử lý các vụ việc dân sự, gia đình và hành chính như sau:

• 196 thẩm phán, tương đương 80,7%, từng gặp trích dẫn tiền lệ không tồn tại.
• 159 thẩm phán, tương đương 65,4%, từng gặp thông tin sai lệch về tiền lệ.
• 41 thẩm phán, tương đương 16,9%, từng gặp luật và quy định giả mạo hoặc không tồn tại.
• 10 thẩm phán, tương đương 4,1%, từng gặp bài nghiên cứu học thuật và ấn phẩm khác giả mạo hoặc không tồn tại.

Các tỷ lệ được tính trên nhóm trả lời từng câu hỏi khảo sát; tổng cộng có 360 thẩm phán tham gia khảo sát. Thẩm phán có thể báo cáo nhiều loại sai sót nên các nhóm có phần trùng lặp.

Số thẩm phán báo cáo tiền lệ không tồn tại nhiều hơn 37 người so với số người gặp thông tin sai lệch về tiền lệ, lần lượt là 196 và 159. Những kết quả này cho thấy công việc kiểm tra gồm hai bước: tìm phán quyết được viện dẫn và đọc nội dung để xác nhận phán quyết đó có ủng hộ lập luận hay không.

Các trích dẫn sai xuất hiện như thế nào

Thẩm phán mô tả những hồ sơ có tài liệu do AI tạo ra, sao chép định dạng bản án của Tòa án Tối cao. Một số hồ sơ khác đưa ra lập luận pháp lý xa lạ kèm số hiệu vụ án của Tòa án Tối cao nhưng không thể tìm thấy khi tra cứu.

Số hiệu vụ án thường giúp người đọc tìm một vụ việc hoặc phán quyết cụ thể. Khi tra cứu không ra kết quả, thẩm phán hoặc bên đối lập phải tốn thêm thời gian xác định phán quyết được viện dẫn có thực sự tồn tại hay không.

Một số tài liệu nhắc đến phán quyết có thật nhưng thay đổi nội dung tòa đã quyết định hoặc sử dụng phán quyết theo cách làm sai lệch ý nghĩa. Chỉ kiểm tra số hiệu vụ án sẽ không giải quyết được vấn đề này. Người đọc còn phải đối chiếu lập luận trong hồ sơ với phán quyết thực tế.

Các hồ sơ khác có chứa nội dung trao đổi với công cụ AI hoặc câu chữ liên quan đến chiến lược tố tụng. Những đoạn này cho thẩm phán dấu hiệu rõ ràng rằng AI đã được sử dụng để soạn tài liệu.

Khảo sát xem xét những quan ngại về hiện tượng AI “ảo giác”, thuật ngữ chỉ thông tin sai được trình bày như thể là sự thật. Trong tài liệu tòa án, một vụ án bịa đặt có thể trông đáng tin vì đi kèm ngôn ngữ pháp lý quen thuộc, số hiệu vụ án và định dạng của một bản án.

Cả luật sư lẫn đương sự đều nộp tài liệu sai

Khi được hỏi ai đã nộp tiền lệ giả mạo hoặc tài liệu không chính xác khác, 164 thẩm phán, tương đương 69,5% số người trả lời câu hỏi này, xác định đó là chính các bên tham gia tố tụng. Có 136 thẩm phán khác, tương đương 57,6%, cho biết đó là luật sư đại diện hoặc luật sư bào chữa.

Con số 164 đề cập đến các thẩm phán từng gặp trích dẫn sai do đương sự nộp. Trong toàn bộ khảo sát, thẩm phán báo cáo những tài liệu không chính xác mà họ nhận được trong quá trình tố tụng.

Các nhóm trả lời có phần trùng lặp vì một thẩm phán có thể gặp trích dẫn sai do cả người tự tham gia vụ kiện lẫn luật sư nộp. Những con số này đo lường số thẩm phán báo cáo các trải nghiệm đó; khảo sát tập trung vào việc họ gặp vấn đề này, chứ không đếm mọi hồ sơ có sai sót.

Việc luật sư có liên quan khiến đề xuất yêu cầu kiểm chứng càng đáng chú ý. Việc có người đại diện chuyên nghiệp vốn đã tạo ra một lớp trung gian có kiến thức pháp lý giữa lập luận của thân chủ và tòa án. Tuy vậy, hơn một nửa số người trả lời câu hỏi từng gặp tài liệu không chính xác do luật sư nộp.

Người tự tham gia vụ kiện đối mặt với thách thức thực tế khác. Họ phải chuẩn bị lập luận và phản hồi bên kia mà không có sự hỗ trợ của luật sư. Cơ quan quản lý cảnh báo những đương sự này có thể đặc biệt khó nhận diện và phản bác một phán quyết bịa đặt hoặc thông tin gây hiểu lầm về phán quyết có thật.

Ai phải trả giá cho việc kiểm tra một vụ án bịa đặt?

Cơ quan Quản lý Tòa án Quốc gia cho biết trích dẫn sai có thể đẩy thêm việc sang cho bên đối lập. Người nhận được tài liệu dẫn một tiền lệ lạ có thể phải tìm kiếm, kiểm tra nội dung được trích dẫn và chuẩn bị phản hồi giải thích sai sót.

Vì vậy, trích dẫn sai có thể gây ra chi phí vượt quá phạm vi tài liệu có chứa nó. Bên có luật sư đại diện có thể cần thêm công việc pháp lý; người không có luật sư phải tự bỏ thời gian xác minh một trích dẫn có thể không dẫn đến bất kỳ phán quyết có thật nào.

Thẩm phán cũng chịu gánh nặng tương tự. Thời gian kiểm tra xem một phán quyết có tồn tại hay nội dung có bị thay đổi không là thời gian cộng thêm vào quá trình tòa xem xét tranh chấp. Cơ quan quản lý cho rằng công việc phát sinh này khiến thủ tục kéo dài và làm chậm việc tiếp cận công lý.

Quan ngại càng cụ thể khi trích dẫn sai trông giống một quyết định có thẩm quyền của Tòa án Tối cao. Vẻ ngoài có tính thẩm quyền khiến bên đối lập phải thận trọng xác minh, trong khi tòa phải giải quyết vấn đề trích dẫn trước khi đánh giá lập luận pháp lý dựa trên đó.

Bốn biện pháp nhận được sự ủng hộ của đa số

Thẩm phán ủng hộ một số biện pháp xử lý khả thi, trong đó các lựa chọn hàng đầu nhận được mức ủng hộ khá sát nhau. Có 215 thẩm phán, tương đương 61,4%, ủng hộ việc thiết lập cơ sở pháp lý để phạt tiền. Nghĩa vụ kiểm chứng các tiền lệ và tài liệu khác được viện dẫn nhận được sự ủng hộ của 214 người, tương đương 61,1%.

Yêu cầu người tham gia tố tụng khai báo việc sử dụng AI được 212 thẩm phán ủng hộ, tương đương 60,6%. Các biện pháp xử lý luật sư, bao gồm chuyển hồ sơ để xem xét kỷ luật, được 194 người ủng hộ, tương đương 55,4%.

Chỉ có ba thẩm phán chênh lệch giữa số người ủng hộ cơ sở pháp lý để phạt tiền và số người ủng hộ khai báo việc dùng AI: lần lượt là 215 và 212. Các con số sát nhau cho thấy người trả lời ủng hộ nhiều cách xử lý vấn đề, thay vì chỉ tập trung vào một biện pháp duy nhất.

Mỗi đề xuất giải quyết một giai đoạn khác nhau trong quá trình chuẩn bị và nộp tài liệu cho tòa. Việc kiểm chứng sẽ yêu cầu xác minh tài liệu pháp lý. Khai báo sẽ cho tòa biết AI đã được sử dụng. Tiền phạt tạo ra hậu quả tài chính theo khuôn khổ pháp lý được đề xuất, còn việc chuyển hồ sơ kỷ luật sẽ đưa hành vi của luật sư ra trước quy trình chuyên môn có liên quan.

Việc liên tục trích dẫn sai nằm trong số các hành vi có thể bị chuyển hồ sơ để xem xét kỷ luật. Các đề xuất của cơ quan quản lý kết hợp trách nhiệm bảo đảm độ chính xác của hồ sơ với những hệ quả có thể phát sinh khi tài liệu sai lệch được gửi đến tòa.

Tiếp theo là sửa luật và hướng dẫn trực tuyến

Cơ quan Quản lý Tòa án Quốc gia dự kiến thảo luận với các cơ quan liên quan, trong đó có Bộ Tư pháp, về việc sửa đổi Luật Tố tụng Dân sự và Luật Tố tụng Hình sự, đồng thời trình bày quan điểm lên Quốc hội. Các sửa đổi được đề xuất sẽ tạo cơ sở pháp lý cho những biện pháp như phạt tiền.

Lộ trình cơ quan quản lý nêu ra như sau:

• Ngày 6 đến 16/10: Thẩm phán tại các tòa án trên cả nước tham gia khảo sát.
• Ngày 2/11: Công bố kết quả khảo sát.
• Các bước tiếp theo: Tham vấn các cơ quan liên quan và trình Quốc hội quan điểm của cơ quan quản lý về những thay đổi lập pháp.

Cơ quan quản lý chưa đưa ra thời gian biểu cho các cuộc tham vấn, cuộc bỏ phiếu lập pháp hay việc áp dụng tiền phạt. Mức phạt dự kiến và các điều kiện chi tiết để áp dụng cũng chưa được xác định trong kế hoạch đã công bố.

Cơ quan quản lý đang xem xét công bố hướng dẫn về việc sử dụng AI trên trang web tố tụng điện tử. Hướng dẫn sẽ được đăng tại nơi luật sư và đương sự đã sử dụng để tiến hành các thủ tục với tòa, nhằm giúp họ kiểm tra độ chính xác của tài liệu được chuẩn bị bằng AI.

Kết quả khảo sát cho thấy hướng dẫn cần ưu tiên một việc thực tế: kiểm tra cả sự tồn tại lẫn ý nghĩa. Số hiệu vụ án có thật giúp tìm phán quyết, còn việc đọc phán quyết sẽ xác định tòa thực sự nói gì. Những trường hợp thẩm phán gặp phải cho thấy vì sao cả hai bước kiểm tra đều quan trọng.

Điểm chính

• Khảo sát đầu tiên của Tòa án Tối cao về các trích dẫn sai liên quan đến AI thu thập câu trả lời của 360 thẩm phán.
• Trong số thẩm phán xử lý các vụ việc dân sự, gia đình và hành chính trả lời câu hỏi này, 80,7% từng gặp trích dẫn tiền lệ không tồn tại.
• Thẩm phán mô tả các bản án giả mạo của Tòa án Tối cao, số hiệu vụ án không thể tra cứu, phán quyết bị sửa đổi và nội dung hội thoại với AI còn sót lại trong hồ sơ.
• Tài liệu sai lệch được nộp bởi cả đương sự lẫn luật sư đại diện cho các bên.
• 91,7% người trả lời ủng hộ hành động ở cấp thể chế; đa số ủng hộ tiền phạt, nghĩa vụ kiểm chứng, khai báo việc sử dụng AI và biện pháp xử lý luật sư.
• Cơ quan Quản lý Tòa án Quốc gia dự kiến tham vấn về việc sửa đổi luật tố tụng và đang xem xét ban hành hướng dẫn trên trang web tố tụng điện tử.