Năm 2023, trong một vụ kiện đòi bồi thường thương tích của hành khách với một hãng hàng không tại toà án liên bang ở New York, luật sư phía nguyên đơn nộp văn bản lập luận dẫn nhiều bản án không hề tồn tại — chúng do chatbot tạo ra. Toà án sau đó phạt tiền các luật sư và công ty luật liên quan. Vụ việc được báo chí và giới luật nhiều nước nhắc lại như ví dụ kinh điển về rủi ro của AI trong nghề luật.
Bài này không kể lại để chê cười ai, và cũng không nêu tên người. Giá trị của vụ việc nằm ở chỗ nó cho thấy một chuỗi sai lầm rất bình thường, mà người làm luật ở đâu cũng có thể mắc, kể cả ở Việt Nam, nơi án lệ không giữ vị trí trung tâm như hệ thống thông luật. Nội dung dưới đây dựa trên các tình tiết đã được toà công bố và báo chí đưa tin rộng rãi; chi tiết nào không chắc được bỏ qua.
Chuyện gì đã xảy ra
Theo các tài liệu được công bố, một hành khách khởi kiện hãng hàng không vì bị thương trên chuyến bay. Phía hãng đề nghị toà bác đơn vì cho rằng thời hạn khởi kiện đã hết. Để phản bác, văn bản của phía nguyên đơn dẫn một loạt bản án được trình bày như tiền lệ ủng hộ lập luận của mình, kèm tên vụ, toà xét xử và trích đoạn.
Luật sư phía hãng hàng không báo với toà rằng họ không tìm được các bản án đó. Toà yêu cầu phía nguyên đơn cung cấp bản sao. Thay vì thừa nhận ngay, phía nguyên đơn nộp các "bản án" mà thực chất cũng do chatbot sinh ra. Sau đó mới lộ ra rằng người soạn văn bản đã dùng chatbot để tìm tiền lệ, và khi nghi ngờ, người đó đã hỏi lại chính chatbot xem các bản án có thật không — và nhận được câu trả lời khẳng định.
Toà án tổ chức phiên xem xét chế tài và kết luận các luật sư đã hành xử thiếu thiện chí, không chỉ ở việc nộp trích dẫn giả mà ở việc tiếp tục bảo vệ chúng khi đã có dấu hiệu sai. Ngoài khoản tiền phạt, toà yêu cầu các luật sư thông báo cho thân chủ và cho những thẩm phán bị gán tên là tác giả của các bản án không có thật. Đơn kiện của nguyên đơn cũng bị bác vì lý do thời hạn, độc lập với chuyện trích dẫn.
Không phải một lỗi mà năm lỗi nối nhau
Dùng chatbot như một cơ sở dữ liệu án lệ. Người soạn tin rằng chatbot là một công cụ tra cứu, giống các cơ sở dữ liệu chuyên ngành mà luật sư quen dùng. Đây là hiểu sai bản chất: chatbot sinh chữ, không tra sổ.
Không tra lại ở nguồn chính thức. Chỉ cần mở một cơ sở dữ liệu án lệ bất kỳ là thấy các vụ đó không có. Bước kiểm vài phút này đã bị bỏ qua.
Dùng chính công cụ đã bịa để xác minh. Hỏi chatbot "vụ này có thật không" rồi tin câu trả lời là sai lầm có tính phương pháp. Mô hình có xu hướng khẳng định lại điều nó vừa nói.
Người ký không phải người soạn, và không kiểm. Theo tình tiết được công bố, người đứng tên văn bản trước toà không phải người trực tiếp nghiên cứu, và đã ký mà không tự đọc các bản án được dẫn. Đây là lỗ hổng của quy trình, không chỉ của cá nhân.
Không dừng lại khi có cảnh báo. Khi phía bên kia báo không tìm thấy các bản án, đó là tín hiệu rõ nhất để kiểm lại toàn bộ. Việc tiếp tục nộp "bản sao" thay vì thừa nhận đã khiến một lỗi nghề nghiệp trở thành vấn đề thiện chí trước toà.
Vì sao người có kinh nghiệm vẫn mắc
Người soạn văn bản trong vụ này được báo chí mô tả là một luật sư hành nghề nhiều năm. Điều đó cho thấy kinh nghiệm nghề không tự động bảo vệ ai khỏi rủi ro của công cụ mới. Người làm luật có kinh nghiệm quen với việc tin vào công cụ tra cứu chuyên ngành, vì các công cụ đó trả về văn bản có thật hoặc không trả về gì. Mang thói quen đó sang chatbot là sai chỗ: chatbot luôn trả về thứ gì đó.
Yếu tố thứ hai là hình thức. Các bản án bịa có tên vụ đúng kiểu, tên toà có thật, trích đoạn viết bằng giọng văn tư pháp. Mắt người đọc nhanh nhận ra khuôn quen thuộc và bỏ qua bước nghi ngờ. Càng nhiều kinh nghiệm, người đọc càng nhận khuôn nhanh, và càng dễ bị khuôn đánh lừa nếu không có thói quen kiểm.
Có một chi tiết nữa đáng để ý: theo tình tiết được công bố, người soạn đã có lúc nghi ngờ và đã hỏi lại. Nghĩa là bản năng nghề nghiệp vẫn lên tiếng, chỉ có điều câu hỏi được gửi sai chỗ. Kinh nghiệm cho biết khi nào cần nghi ngờ; phương pháp mới quyết định nghi ngờ đó dẫn tới đâu. Một người mới vào nghề nhưng có thói quen mở nguồn gốc cho mọi trích dẫn sẽ an toàn hơn một người nhiều năm kinh nghiệm nhưng kiểm bằng cách hỏi lại chính công cụ vừa đưa ra thông tin.
Yếu tố thứ ba là áp lực thời gian và sự phân việc. Người soạn nghĩ người ký sẽ kiểm, người ký nghĩ người soạn đã kiểm. Trong văn phòng luật nào cũng có những lúc như vậy, nhất là khi sát hạn nộp. Bài học ở đây không phải "đừng dùng AI" mà là quy trình phải buộc ai đó kiểm, bằng tên, chứ không để mỗi người giả định người kia đã làm.
Phiên bản Việt Nam của cùng một chuỗi sai lầm
Ở Việt Nam, án lệ có vai trò hạn chế hơn, nhưng cùng một kiểu sai lầm có thể xảy ra với văn bản quy phạm pháp luật, bản án công khai hay tài liệu chuyên môn. Bảng dưới là các tình huống giả định để soi chiếu.
| Sai lầm trong vụ | Tình huống giả định ở Việt Nam | Cách chặn |
|---|---|---|
| Dẫn án lệ không tồn tại | Bản luận cứ dẫn một "án lệ" có số hiệu nghe hợp lý mà không có trong danh mục đã công bố | Tra danh mục án lệ chính thức, đọc toàn văn trước khi dẫn |
| Dẫn văn bản sai | Đơn khởi kiện viện dẫn một nghị định đã bị thay thế hoặc một số điều trỏ sang nội dung khác | Mở văn bản gốc, kiểm hiệu lực, so câu chữ |
| Dẫn bản án công khai bịa | Thư tư vấn nói "toà án đã từng xử tương tự" kèm số bản án do AI đưa ra | Không dẫn bản án chưa tự đọc toàn văn từ nguồn công bố chính thức |
| Hỏi lại chatbot để xác minh | Trợ lý hỏi lại AI "văn bản này còn hiệu lực không" rồi ghi "đã kiểm" | Quy định rõ: kiểm nghĩa là mở nguồn chính thức |
| Người ký không kiểm | Luật sư ký bản luận cứ do trợ lý soạn vào tối trước phiên toà | Phiếu kiểm trích dẫn đi kèm bản nháp, người ký xem phiếu |
Điểm chung của các tình huống: lỗi không nằm ở chỗ dùng AI, mà ở chỗ thông tin do AI sinh ra đi thẳng vào văn bản chính thức mà không qua bước đối chiếu nào.
Nghề luật nhiều nơi đã phản ứng thế nào
Sau vụ việc, giới luật ở nhiều nước bắt đầu ban hành hướng dẫn về dùng AI. Một số thẩm phán ở Mỹ yêu cầu luật sư xác nhận trong hồ sơ rằng nội dung do AI tạo ra đã được người kiểm lại. Nhiều hội luật sư và cơ quan quản lý nghề luật ở các nước nói tiếng Anh đưa ra hướng dẫn nhấn mạnh ba điểm: luật sư chịu trách nhiệm hoàn toàn với văn bản mình nộp, phải hiểu giới hạn của công cụ, và phải bảo vệ thông tin khách hàng khi dùng AI.
Các vụ trích dẫn bịa tương tự tiếp tục được báo cáo ở nhiều toà án và nhiều nước trong những năm sau đó, cả với luật sư lẫn với người tự đại diện. Điều đó cho thấy vụ năm 2023 không phải sự cố riêng lẻ của một người bất cẩn, mà là rủi ro hệ thống mỗi khi công cụ sinh chữ được dùng như công cụ tra cứu.
Với người làm luật Việt Nam, chưa cần đợi một quy định riêng mới thận trọng. Nghĩa vụ hành nghề trung thực, cẩn trọng và giữ bí mật thông tin khách hàng theo Luật Luật sư và quy tắc đạo đức nghề nghiệp đã đủ làm căn cứ để mỗi văn phòng tự đặt ra quy trình kiểm. Chi tiết về các nghĩa vụ đó có trong danh mục bảo mật và đạo đức nghề nghiệp của trang; bạn nên kiểm văn bản hiện hành khi trích dẫn.
Khi phát hiện văn bản đã gửi có trích dẫn sai
Phần đắt giá nhất của vụ việc là cách xử lý khi sai sót bị phát hiện. Dưới đây là trình tự mà nhiều văn phòng chọn làm nguyên tắc nội bộ; nó không thay thế việc cân nhắc theo từng tình huống và nghĩa vụ cụ thể của bạn.
- Dừng mọi việc liên quan tới văn bản đó, không nộp thêm tài liệu nào để "chứng minh" trích dẫn trước khi tự kiểm.
- Kiểm lại toàn bộ trích dẫn trong văn bản, không chỉ chỗ bị chỉ ra, vì nơi đã có một trích dẫn bịa thường còn trích dẫn khác chưa kiểm.
- Báo ngay cho người đứng tên văn bản và người phụ trách hồ sơ, ghi lại sai sót xảy ra ở khâu nào.
- Trao đổi với khách hàng theo nghĩa vụ thông tin của người hành nghề.
- Chủ động đính chính với nơi đã nhận văn bản theo cách thức phù hợp với thủ tục, càng sớm càng tốt.
- Sửa quy trình nội bộ để khâu bị lọt có người kiểm bằng tên.
Trong vụ năm 2023, phần khiến toà đánh giá nặng không chỉ là trích dẫn giả mà là việc tiếp tục bảo vệ chúng. Thừa nhận sớm là cách giữ uy tín tốt nhất còn lại khi lỗi đã xảy ra.
Câu hỏi thường gặp
Ở Việt Nam đã có quy định riêng về việc luật sư dùng AI chưa?
Bạn cần kiểm văn bản hiện hành và hướng dẫn mới nhất của tổ chức xã hội nghề nghiệp luật sư. Dù có hay chưa có quy định riêng, nghĩa vụ trung thực, cẩn trọng và giữ bí mật thông tin khách hàng của người hành nghề đã áp dụng cho mọi công cụ, kể cả AI.
Toà án Việt Nam ít dùng án lệ thì rủi ro này có nhỏ hơn không?
Rủi ro chỉ đổi hình thức. Thay vì án lệ bịa, văn bản ở Việt Nam dễ bị dẫn sai nghị định, thông tư, số điều hoặc bản án công khai. Hậu quả với uy tín người hành nghề và với quyền lợi khách hàng không nhỏ hơn.
Nếu người soạn là trợ lý thì luật sư ký có chịu trách nhiệm không?
Theo cách nghề luật vận hành ở hầu hết các nơi, người đứng tên văn bản chịu trách nhiệm về nội dung văn bản đó. Vụ năm 2023 cho thấy toà án không chấp nhận lập luận "người khác soạn". Vì vậy người ký phải tự kiểm hoặc có bằng chứng rõ ràng rằng khâu kiểm đã được làm.
Dùng công cụ AI chuyên cho ngành luật thì có tránh được chuyện này không?
Công cụ chuyên ngành có kho văn bản và tra nguồn thường giảm rủi ro đáng kể, nhưng không loại bỏ được. Công cụ vẫn có thể tóm tắt sai, trích nhầm đoạn hoặc dùng văn bản đã hết hiệu lực. Bước mở nguồn và đọc đoạn được dẫn vẫn cần thiết.
Có nên ngừng dùng AI sau khi biết vụ việc này không?
Không cần ngừng, mà cần dùng đúng chỗ. AI vẫn hữu ích cho tóm tắt, sắp xếp, soạn nháp và rà hình thức. Điều cần bỏ là thói quen lấy trích dẫn pháp lý từ câu trả lời của chatbot mà không kiểm ở nguồn chính thức.
Sinh viên luật nên rút ra điều gì từ vụ này?
Hãy tập thói quen ghi nguồn đã kiểm cho mọi trích dẫn ngay từ khi làm bài tập, và không bao giờ coi lời khẳng định của chatbot là xác minh. Kỹ năng tra cứu và đọc văn bản gốc sẽ là thứ phân biệt người làm luật cẩn thận khi AI ngày càng phổ biến.