Một thẩm phán bang Connecticut đã rút quyền nộp hồ sơ điện tử của một nguyên đơn tự đại diện sau khi phát hiện trong tài liệu tòa án có những dòng chữ trắng siêu nhỏ, được thiết kế để khó nhìn thấy bằng mắt thường nhưng có thể được công cụ trí tuệ nhân tạo đọc và làm theo.

Lệnh chế tài được Thẩm phán Walter M. Spader Jr. của Tòa Thượng thẩm Connecticut tại Milford ban hành ngày 6/8 trong vụ Matthew A. Elliott kiện New York Bariatric Group. Tòa xác định phần chữ ẩn tìm cách tác động đến bất kỳ hệ thống AI nào có thể được dùng để phân tích hồ sơ, yêu cầu hệ thống ưu tiên lập luận của nguyên đơn và xem một quyết định trước đó của thư ký tòa là sai.

Tòa án Connecticut cho biết ngành tư pháp bang không dùng AI để xem xét hoặc quyết định hồ sơ. Vì vậy, thông điệp ẩn không làm thay đổi kết quả của bất kỳ phán quyết nào. Dù không gây tác động thực tế, thẩm phán kết luận nỗ lực bí mật can thiệp vào quy trình xét xử là hành vi không phù hợp và cần bị chế tài.

“Prompt injection” trong hồ sơ tòa là gì

Trong lĩnh vực an ninh AI, “prompt injection” là việc chèn chỉ dẫn vào dữ liệu đầu vào với hy vọng khiến một mô hình bỏ qua nhiệm vụ ban đầu hoặc tạo ra kết quả theo ý người chèn. Một chỉ dẫn có thể được đặt trong văn bản mà người đọc bình thường ít chú ý, nhưng hệ thống tự động vẫn thu nhận khi xử lý toàn bộ tệp.

Trong vụ tại Connecticut, tòa mô tả phần chữ ẩn được đặt bằng cỡ rất nhỏ và màu trắng. Trên nền trắng, nội dung gần như biến mất đối với người đọc nhưng vẫn nằm trong lớp văn bản của tài liệu điện tử. Khi hồ sơ được sao chép, trích xuất hoặc đưa vào một công cụ AI, những dòng đó có thể hiện ra và được mô hình xử lý như chỉ dẫn.

Điểm đáng chú ý là phần chữ ẩn không chỉ bổ sung lập luận pháp lý. Theo lệnh của tòa, nó tìm cách nói với một hệ thống giả định rằng nguyên đơn phải được đối xử thuận lợi và một quyết định bất lợi trước đó là sai. Cách làm này khác với việc dùng AI để kiểm tra chính tả, tóm tắt án lệ hoặc hỗ trợ tổ chức ý tưởng.

Ông Elliott nói với Reuters rằng nội dung ẩn là một cuộc “kiểm tra” nhằm cho thấy hệ thống có thể bị thao túng. Thẩm phán không chấp nhận lời giải thích đó như một lý do chính đáng cho việc che giấu chỉ dẫn trong tài liệu chính thức. Lệnh cho rằng một bên không được tự ý thử nghiệm an ninh bằng cách bí mật cài thông điệp nhằm tác động đến người hoặc công cụ có thể xem xét hồ sơ.

Tòa nói thông điệp không ảnh hưởng quyết định

Tòa nhấn mạnh ngành tư pháp Connecticut không sử dụng AI để đọc, đánh giá hoặc quyết định các hồ sơ được nộp trong vụ án. Vì thế, thông điệp ẩn đã không đạt mục đích mà tòa cho rằng nó hướng tới.

Thẩm phán Spader đồng thời phân biệt giữa việc giao quyền phán quyết cho máy và việc dùng công cụ AI như một phương tiện hỗ trợ có giới hạn. Trong chính lệnh chế tài, ông cho biết đã dùng Google Gemini để hỗ trợ dịch một thuật ngữ và dùng công cụ AI của Westlaw để kiểm tra nghiên cứu pháp lý. Ông nhấn mạnh trách nhiệm đánh giá, kiểm chứng và ra quyết định vẫn thuộc về thẩm phán.

Sự phân biệt này có ý nghĩa quan trọng. Tòa không coi mọi việc sử dụng AI trong quá trình chuẩn bị hồ sơ là sai trái. Vấn đề nằm ở sự che giấu và ý định làm lệch một quy trình đánh giá mà bên nộp hồ sơ không kiểm soát.

Lệnh cũng nói rõ người tham gia tố tụng có thể dùng AI tạo sinh để hỗ trợ soạn thảo, miễn là họ tự kiểm tra độc lập kết quả và chịu trách nhiệm về nội dung cuối cùng. Công cụ không thay thế nghĩa vụ bảo đảm rằng trích dẫn, sự kiện, lập luận và tuyên bố trong hồ sơ là chính xác.

Vì sao tòa chọn rút quyền nộp điện tử

Biện pháp được áp dụng là thu hồi quyền nộp hồ sơ qua hệ thống điện tử của ông Elliott. Các tài liệu tiếp theo của ông phải được nộp bằng giấy tại văn phòng thư ký tòa án.

Tòa không bác vụ kiện chỉ vì hành vi này và không đưa ra một chế tài tiền bạc trong lệnh ngày 6/8. Thay vào đó, thẩm phán chọn biện pháp gắn trực tiếp với cách hành vi xảy ra: ngăn nguyên đơn tiếp tục đưa các lớp chữ ẩn vào tệp điện tử mà không qua kiểm tra trực tiếp.

Sau khi vấn đề ban đầu được nêu, tòa còn phát hiện nội dung ẩn trong các tài liệu khác. Lệnh cho biết những thông điệp về sau không phải là chỉ dẫn nhằm khiến AI đưa ra một phán quyết thuận lợi theo cùng cách như lần đầu. Tuy nhiên, việc tiếp tục giấu nội dung sau khi đã được cảnh báo khiến thẩm phán coi đây không phải là một sai sót định dạng đơn lẻ.

Tòa đánh giá hành vi theo quyền quản lý thủ tục và bảo vệ tính liêm chính của hồ sơ. Trong một hệ thống mà tài liệu điện tử có thể được tìm kiếm, chuyển đổi, đọc bằng phần mềm hỗ trợ hoặc cung cấp cho người khuyết tật, nội dung vô hình với một người dùng vẫn có thể trở thành một phần hoạt động của tệp.

Vụ kiện chính vẫn chưa được giải quyết

Lệnh chế tài không quyết định bên nào thắng trong tranh chấp dân sự giữa ông Elliott và New York Bariatric Group. Vụ kiện liên quan đến các cáo buộc về hồ sơ y tế và phân biệt đối xử; các cáo buộc đó vẫn phải được xem xét theo thủ tục riêng và chưa phải là kết luận của tòa.

Điều này cũng có nghĩa chế tài về cách nộp hồ sơ không nên được hiểu là phán quyết về nội dung khiếu nại của nguyên đơn. Tòa chỉ xử lý hành vi diễn ra trong quá trình tố tụng và điều kiện nộp tài liệu sau đó.

Bài học cho luật sư và người tự đại diện

Vụ việc cho thấy rủi ro mới khi tài liệu pháp lý được tạo, chỉnh sửa và phân tích bằng nhiều lớp phần mềm. Một hồ sơ có thể chứa chữ ẩn, ghi chú, metadata, lịch sử sửa đổi hoặc trường dữ liệu mà người soạn không nhìn thấy trong bản in thông thường.

Trước khi nộp, người tham gia tố tụng nên kiểm tra tệp ở dạng văn bản thuần, dùng chức năng hiển thị toàn bộ ký tự và lớp định dạng, xóa nhận xét nội bộ, đồng thời xác nhận rằng không còn chỉ dẫn dành cho AI hoặc nội dung không có ý định công khai. Việc chuyển sang PDF không bảo đảm mọi lớp dữ liệu đã biến mất.

Người dùng AI cũng cần tự kiểm tra mọi án lệ, số hồ sơ, trích dẫn và mô tả sự kiện. Các mô hình có thể tạo ra nguồn không tồn tại, bỏ qua ngoại lệ quan trọng hoặc diễn giải sai văn bản. Nộp nội dung do AI tạo không chuyển trách nhiệm sang nhà cung cấp phần mềm.

Với các tòa án, vụ việc đặt ra nhu cầu kiểm tra tài liệu theo cách mà cả con người lẫn hệ thống tự động có thể đọc. Những biện pháp như trích xuất toàn bộ lớp chữ, ghi lại công cụ nào được dùng, giới hạn dữ liệu đưa vào dịch vụ bên ngoài và yêu cầu con người phê chuẩn kết quả có thể giảm nguy cơ thao túng.

Lệnh tại Connecticut không tạo ra một lệnh cấm chung đối với AI trong tố tụng. Thông điệp cốt lõi hẹp hơn: công nghệ có thể hỗ trợ công việc, nhưng một bên không được giấu chỉ dẫn nhằm tác động đến quá trình xem xét, và con người vẫn phải chịu trách nhiệm đầy đủ cho mọi nội dung được đưa vào hồ sơ chính thức.

Tác giả

Về người viết

Cộng đồng

Bình luận

Người dùngĐang kiểm tra phiên đăng nhập…

Cuộn đến đây để tải thảo luận.