Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) vừa công bố một lộ trình nhằm giúp tổ chức chuẩn bị và ứng phó với sự cố liên quan hệ thống trí tuệ nhân tạo có năng lực cao — không chỉ các vụ tấn công mạng nhắm vào AI, mà cả thiệt hại do lạm dụng, trục trặc hoặc hành vi ngoài ý muốn.

Báo cáo NIST IR 8621, công bố ngày 2/11, tổng hợp một hội thảo tháng 5 có hơn 400 người tham gia từ chính phủ, công ty phát triển mô hình, nhà cung cấp đám mây và an ninh mạng, giới học thuật, tổ chức tiêu chuẩn và xã hội dân sự.

Hai loại sự cố cần được xử lý khác nhau

Nhóm thứ nhất là các cuộc tấn công quen thuộc nhưng nhắm vào hệ thống AI: đánh cắp dữ liệu, can thiệp mô hình, xâm nhập hạ tầng hoặc chiếm quyền công cụ mà tác nhân AI được phép sử dụng.

Nhóm thứ hai có thể xảy ra ngay cả khi hệ thống không bị tin tặc xâm nhập. Một mô hình có thể bị dùng sai mục đích, hoạt động bất thường, đưa ra quyết định gây hại hoặc thực hiện hành động ngoài phạm vi người vận hành dự tính.

Điểm khác biệt này quan trọng vì một hệ thống “không bị hack” vẫn có thể tạo ra sự cố. Quy trình phản ứng truyền thống vốn giả định phần mềm tương đối xác định có thể thiếu bước cần thiết khi gặp mô hình xác suất, tác nhân tự chủ và chuỗi cung ứng AI có nhiều bên.

NIST dự kiến làm gì tiếp theo

NIST cho biết sẽ xem xét cập nhật hướng dẫn phản ứng sự cố cốt lõi SP 800-61 để bao gồm tình huống riêng của AI. Các hướng nghiên cứu và xây dựng hướng dẫn gồm:

Theo dõi hoạt động ở lớp suy luận và ghi nhật ký đủ để điều tra sau sự cố.Quản lý danh tính không phải con người, quyền công cụ và quyền truy cập của tác nhân AI.Cô lập hệ thống theo phạm vi quyền hạn, tránh tắt hoặc mở rộng quá mức khi đang xử lý sự cố.Thống nhất cách lưu bằng chứng, báo cáo và chia sẻ thông tin giữa các tổ chức.Làm rõ trách nhiệm giữa nhà phát triển mô hình, đơn vị triển khai, nhà cung cấp hạ tầng và người dùng cuối.Xây dựng hướng dẫn tự nguyện cho trường hợp tác nhân có năng lực cao thực hiện hành động ngoài nhiệm vụ dự tính trong thử nghiệm hoặc đánh giá.

MeriTalk, khi phân tích báo cáo, lưu ý NIST cũng dự kiến lập một cộng đồng chuyên môn về quản lý sự cố AI và triệu tập nhóm làm việc tập trung vào năng lực, giám sát và kiềm chế tác nhân.

Doanh nghiệp nhỏ có cần quan tâm ngay không

Báo cáo chưa phải quy định bắt buộc và không đồng nghĩa mọi doanh nghiệp cần mua một hệ thống mới. Nhưng những tổ chức đang cho chatbot hoặc tác nhân AI quyền truy cập email, kho tài liệu, mã nguồn, tài khoản đám mây hay quy trình thanh toán nên rà soát các biện pháp căn bản ngay từ bây giờ:

Chỉ cấp quyền tối thiểu cần thiết cho từng tác vụ.Tách môi trường thử nghiệm khỏi dữ liệu và hệ thống sản xuất.Lưu nhật ký lời gọi công cụ, thay đổi quyền và hành động quan trọng.Chuẩn bị nút dừng hoặc cơ chế thu hồi quyền có thể hoạt động khi hệ thống gặp sự cố.Xác định trước ai chịu trách nhiệm thông báo, điều tra và phục hồi.

Điều báo cáo chưa khẳng định

IR 8621 không nói rằng một sự cố “siêu trí tuệ” cụ thể đã xảy ra, cũng không đưa ra xác suất thảm họa. Đây là báo cáo tổng hợp khoảng trống và hướng xây dựng chuẩn trong tương lai.

NIST dùng thuật ngữ “super intelligence” theo chỉ đạo liên bang hiện hành; trong thực tế doanh nghiệp, nhiều khuyến nghị vẫn áp dụng cho hệ thống AI tạo sinh và tác nhân tự chủ đang được triển khai hôm nay. Giá trị chính của báo cáo nằm ở việc mở rộng câu hỏi an ninh: không chỉ “ai đã xâm nhập?”, mà còn “hệ thống đã làm gì, vì sao được phép làm và ai có thể dừng nó?”.

#hoa kỳ
Tác giả

Về người viết

Cộng đồng

Bình luận

Người dùngĐang kiểm tra phiên đăng nhập…

Cuộn đến đây để tải thảo luận.