Quản lý hệ thống AI theo mức độ rủi ro
Gần đây trên thế giới đã có một vài sự cố xảy ra liên quan đến việc các tác nhân AI tự ra quyết định, vượt khỏi tầm kiểm soát của con người, khiến cho người đứng đầu các công ty công nghệ hàng đầu thế giới đã phải lên tiếng kêu gọi cần phải giảm tốc độ phát triển công nghệ.
Theo Viện Công nghệ số và Chuyển đổi số quốc gia, cần nhìn nhận đúng những diễn biến quốc tế gần đây: có những rủi ro mới rất đáng quan tâm ở các hệ thống trí tuệ nhân tạo tiên tiến, nhưng không thể từ một sự cố cụ thể kết luận rằng trí tuệ nhân tạo nói chung đã vượt khỏi sự kiểm soát của con người.
Trong Thông điệp Liên minh châu Âu ngày 16/9/2026, Chủ tịch Ủy ban châu Âu Ursula von der Leyen đề cập hợp tác quốc tế về đánh giá, kiểm chứng, cảnh báo sớm và an ninh trí tuệ nhân tạo, đồng thời khẳng định châu Âu cần tiếp tục tham gia cuộc đua công nghệ, tăng năng lực tính toán và đưa trí tuệ nhân tạo vào nền kinh tế thực. Điểm chung của các thông điệp này là tiếp tục khai thác lợi ích của công nghệ, song nâng năng lực an toàn và quản trị tương ứng với rủi ro.
Việt Nam lựa chọn cách tiếp cận đó trong Luật Trí tuệ nhân tạo số 134/2025/QH15, có hiệu lực từ ngày 1/3/2026. Điều 5 của Luật xác định trí tuệ nhân tạo là động lực quan trọng cho tăng trưởng, đổi mới sáng tạo và phát triển bền vững; khuyến khích thử nghiệm có kiểm soát, phát triển hạ tầng dữ liệu, tính toán, nhân lực và ứng dụng rộng rãi.
Đồng thời, Điều 4 đặt con người ở vị trí trung tâm: Trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người; phải duy trì khả năng giám sát và can thiệp của con người đối với quyết định và hành vi của hệ thống.
"Hệ thống có thể ngày càng tự chủ về kỹ thuật, nhưng trách nhiệm pháp lý không chuyển sang máy móc. Chủ thể phát triển, cung cấp, triển khai và sử dụng vẫn phải thực hiện nghĩa vụ tương ứng; con người có thẩm quyền vẫn chịu trách nhiệm về quyết định thuộc thẩm quyền của mình. Luật nghiêm cấm cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người (khoản 4 Điều 7)" - Viện Công nghệ số và Chuyển đổi số quốc gia cho hay.
Một trụ cột khác là quản lý theo rủi ro. Điều 9 và Điều 10 của Luật phân hệ thống thành ba mức: Cao, trung bình, thấp; nhà cung cấp tự phân loại trước khi đưa vào sử dụng và thông báo hệ thống rủi ro trung bình hoặc cao. Hệ thống rủi ro cao phải được đánh giá sự phù hợp trước khi đưa vào sử dụng, duy trì quản lý rủi ro, chất lượng dữ liệu, hồ sơ kỹ thuật, nhật ký hoạt động và cơ chế can thiệp của con người (Điều 13, Điều 14).
Hệ thống rủi ro thấp được theo dõi phù hợp, tránh phát sinh nghĩa vụ không cần thiết. Nghị định số 142/2026/NĐ-CP cụ thể hóa tiêu chí phân loại và nguyên tắc không đánh giá trùng lặp với pháp luật chuyên ngành (Điều 5 đến Điều 9).
Thúc đẩy phát triển, ứng dụng AI an toàn, có trách nhiệm
Cũng theo Viện Công nghệ số và Chuyển đổi số, Luật Trí tuệ nhân tạo cũng thiết lập cơ chế phát hiện, báo cáo và xử lý sự cố nghiêm trọng: Nhà phát triển và nhà cung cấp phải áp dụng biện pháp khắc phục, tạm dừng hoặc thu hồi khi cần; cơ quan có thẩm quyền có thể yêu cầu tạm dừng, thu hồi hoặc đánh giá lại hệ thống (Điều 12). Cổng thông tin điện tử một cửa và Cơ sở dữ liệu quốc gia về hệ thống trí tuệ nhân tạo phục vụ tiếp nhận thông tin phân loại, kết quả đánh giá, báo cáo sự cố và công tác giám sát (Điều 8).
Bên cạnh các nghĩa vụ pháp lý, Khung đạo đức trí tuệ nhân tạo quốc gia ban hành kèm Thông tư số 05/2026/TT-BKHCN hướng dẫn an toàn ngay từ thiết kế, kiểm thử trước triển khai, bảo vệ dữ liệu, giám sát của con người và phương án ứng phó khi hệ thống sai lệch hoặc bị lạm dụng. Khung đề cập cả rủi ro chiếm quyền điều khiển, đầu độc dữ liệu, đầu độc mô hình, tấn công đối nghịch và khai thác lỗ hổng. Theo Điều 5 của Thông tư, Khung được rà soát, cập nhật định kỳ ba năm hoặc khi có thay đổi lớn về công nghệ, pháp luật và thực tiễn quản lý.
Trong thời gian tới, yêu cầu trọng tâm là đưa khuôn khổ này vào thực tiễn: Nâng năng lực phân loại, kiểm thử và giám sát hệ thống rủi ro cao; vận hành hiệu quả cơ chế tiếp nhận thông tin và xử lý sự cố; xây dựng tiêu chuẩn, hướng dẫn kỹ thuật và năng lực cảnh báo sớm; tăng cường hợp tác quốc tế trong đánh giá các mô hình tiên tiến. Với các tác nhân trí tuệ nhân tạo có khả năng thực hiện chuỗi nhiệm vụ dài và sử dụng công cụ, cần theo dõi sát bằng chứng thực tế để kịp thời cập nhật cách đánh giá và biện pháp quản lý.
Viện Công nghệ số và Chuyển đổi số quốc gia nêu rõ, quan điểm của chúng ta là thúc đẩy phát triển và ứng dụng trí tuệ nhân tạo, đồng thời làm cho năng lực đánh giá, bảo đảm an toàn và kiểm soát của con người phát triển tương xứng với năng lực công nghệ. Ứng dụng rủi ro thấp cần được tạo điều kiện; hệ thống rủi ro cao phải được đánh giá và giám sát tương xứng. Như vậy, Việt Nam vừa bảo vệ con người, vừa tận dụng được cơ hội đổi mới sáng tạo và tăng trưởng mà trí tuệ nhân tạo mang lại.
Thông tin thêm về vấn đề này, đại diện Cục Công nghệ số và Trí tuệ nhân tạo cho rằng, những diễn biến quốc tế gần đây cho thấy yêu cầu bảo đảm an toàn và duy trì sự kiểm soát của con người đối với hệ thống trí tuệ nhân tạo ngày càng cần được quan tâm.
Tại Việt Nam, Luật Trí tuệ nhân tạo xác định nguyên tắc lấy con người làm trung tâm; bảo đảm quyền con người, quyền riêng tư, lợi ích quốc gia, lợi ích công cộng và an ninh quốc gia; AI phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người; bảo đảm công bằng, minh bạch, tuân thủ chuẩn mực đạo đức.
Luật nghiêm cấm việc cản trở hoặc vô hiệu hóa cơ chế để con người giám sát, can thiệp vào hệ thống. Luật yêu cầu phân loại hệ thống AI theo mức độ rủi ro; hệ thống có rủi ro cao phải được đánh giá sự phù hợp trước khi đưa vào sử dụng và chịu các yêu cầu quản lý tương ứng. Luật cũng quy định trách nhiệm xử lý, báo cáo sự cố.
Bộ Khoa học và Công nghệ đã ban hành Thông tư số 05/2026/TT-BKHCN về Khung đạo đức trí tuệ nhân tạo quốc gia. Khung đạo đức trí tuệ nhân tạo quốc gia quy định bảo đảm an toàn, độ tin cậy và không gây hại đến tính mạng, sức khỏe, danh dự, nhân phẩm và đời sống tinh thần của con người (khoản 1 Điều 3). Cụ thể, thiết kế an toàn ngay từ đầu, độ tin cậy và chất lượng, kiểm soát của con người, khả năng phục hồi, ứng phó và bảo mật, bảo đảm an ninh của hệ thống trí tuệ nhân tạo.
Trong thời gian tới, Bộ Khoa học và Công nghệ tập trung tổ chức thực hiện Luật Trí tuệ nhân tạo, Nghị định số 142/2026/NĐ-CP và Khung đạo đức trí tuệ nhân tạo quốc gia. Trọng tâm là quản lý hệ thống AI theo mức độ rủi ro; thực hiện đánh giá sự phù hợp đối với hệ thống có rủi ro cao theo quy định; duy trì khả năng giám sát, can thiệp của con người trong quá trình vận hành; kịp thời xử lý sự cố và báo cáo khi xảy ra sự cố nghiêm trọng. Việc triển khai các quy định này nhằm thúc đẩy phát triển, ứng dụng AI an toàn, có trách nhiệm và lấy con người làm trung tâm.
Tại Việt Nam, Luật Trí tuệ nhân tạo số 134/2025/QH15 có hiệu lực thi hành từ ngày 01/3/2026. Khung đạo đức trí tuệ nhân tạo quốc gia được ban hành kèm theo Thông tư số 05/2026/TT-BKHCN của Bộ trưởng Bộ Khoa học và Công nghệ, có hiệu lực thi hành từ ngày 10/3/2026.