Hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp là gì?
Căn cứ theo quy định tại Điều 9 Luật Trí tuệ nhân tạo 2025 có quy định cụ thể về phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo
Phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo
1. Hệ thống trí tuệ nhân tạo được phân loại theo các mức độ rủi ro sau đây:
a) Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;
b) Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;
c) Hệ thống trí tuệ nhân tạo có rủi ro thấp là hệ thống không thuộc trường hợp quy định tại điểm a và điểm b khoản này.
2. Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.
3. Chính phủ quy định chi tiết Điều này.
Theo đó, Hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp được quy định cụ thể như sau:
- Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống trí tuệ nhân tạo có khả năng gây ra sự nhầm lẫn, tạo ra các tác động hoặc thực hiện việc thao túng đối với người sử dụng trong trường hợp người sử dụng không nhận biết được rằng chủ thể mà mình đang tương tác là hệ thống trí tuệ nhân tạo hoặc không nhận biết được rằng nội dung mà mình tiếp nhận là nội dung do hệ thống trí tuệ nhân tạo tạo ra.
- Hệ thống trí tuệ nhân tạo có rủi ro thấp là hệ thống trí tuệ nhân tạo không thuộc các trường hợp đã được quy định tại điểm a và điểm b của khoản 1 Điều này theo quy định.
.jpg)
Hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp là gì? Quản lý hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp ra sao? (Hình từ Internet)
Quản lý hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp quy định ra sao?
Căn cứ theo quy định tại Điều 15 Luật Trí tuệ nhân tạo 2025 có quy định cụ thể về quản lý hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp hiện nay cụ thể như sau:
Hệ thống trí tuệ nhân tạo có rủi ro trung bình được quản lý như sau:
- Nhà cung cấp và bên triển khai phải bảo đảm minh bạch theo quy định tại Điều 11 Luật Trí tuệ nhân tạo 2025;
- Nhà cung cấp có trách nhiệm giải trình về mục đích sử dụng, nguyên lý hoạt động ở mức mô tả chức năng, dữ liệu đầu vào chủ yếu và biện pháp quản lý rủi ro, an toàn của hệ thống khi có yêu cầu của cơ quan nhà nước trong thanh tra, kiểm tra hoặc khi có dấu hiệu rủi ro hoặc sự cố; việc giải trình không yêu cầu tiết lộ mã nguồn, thuật toán chi tiết, bộ tham số hoặc bí mật kinh doanh, bí mật công nghệ;
- Bên triển khai có trách nhiệm giải trình về việc vận hành, kiểm soát rủi ro, xử lý sự cố và bảo vệ quyền, lợi ích hợp pháp của tổ chức, cá nhân khi có yêu cầu của cơ quan nhà nước có thẩm quyền trong quá trình thanh tra, kiểm tra hoặc xử lý sự cố;
- Người sử dụng có trách nhiệm tuân thủ quy định về thông báo, gắn nhãn hệ thống trí tuệ nhân tạo.
Hệ thống trí tuệ nhân tạo có rủi ro thấp được quản lý như sau:
- Nhà cung cấp có trách nhiệm giải trình khi có yêu cầu của cơ quan nhà nước có thẩm quyền trong trường hợp có dấu hiệu vi phạm pháp luật hoặc ảnh hưởng đến quyền, lợi ích hợp pháp của tổ chức, cá nhân;
- Bên triển khai có trách nhiệm giải trình khi có yêu cầu của cơ quan nhà nước có thẩm quyền trong trường hợp có dấu hiệu vi phạm pháp luật hoặc ảnh hưởng đến quyền, lợi ích hợp pháp của tổ chức, cá nhân;
- Người sử dụng có quyền khai thác, sử dụng hệ thống cho các mục đích hợp pháp và tự chịu trách nhiệm trước pháp luật về hoạt động sử dụng của mình.
* Nhà nước khuyến khích tổ chức, cá nhân triển khai hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp áp dụng tiêu chuẩn kỹ thuật về trí tuệ nhân tạo.
Việc kiểm tra giám sát hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp được thực hiện theo hình thức gì?
Căn cứ theo quy định tại khoản 5 Điều 10 Luật Trí tuệ nhân tạo 2025 quy định về phân loại và thông báo hệ thống trí tuệ nhân tạo có hiệu lực từ 1/3/2026, có đề cập đến việc kiểm tra, giám sát hệ thống trí tuệ nhân tạo được thực hiện theo mức độ rủi ro của hệ thống như sau:
Phân loại và thông báo hệ thống trí tuệ nhân tạo
...
5. Việc kiểm tra, giám sát được thực hiện theo mức độ rủi ro của hệ thống:
a) Hệ thống trí tuệ nhân tạo có rủi ro cao được kiểm tra định kỳ hoặc khi có dấu hiệu vi phạm;
b) Hệ thống trí tuệ nhân tạo có rủi ro trung bình được giám sát thông qua báo cáo, kiểm tra chọn mẫu hoặc đánh giá của tổ chức độc lập;
c) Hệ thống trí tuệ nhân tạo có rủi ro thấp được theo dõi, kiểm tra khi có sự cố, phản ánh hoặc khi cần bảo đảm an toàn, không làm phát sinh nghĩa vụ không cần thiết cho tổ chức, cá nhân.
...
Theo đó, việc kiểm tra giám sát hệ thống trí tuệ nhân tạo có rủi ro trung bình và thấp thực hiện qua các hình thức sau:
- Hệ thống trí tuệ nhân tạo có rủi ro trung bình được giám sát thông qua báo cáo, kiểm tra chọn mẫu hoặc đánh giá của tổ chức độc lập;
- Hệ thống trí tuệ nhân tạo có rủi ro thấp được theo dõi, kiểm tra khi có sự cố, phản ánh hoặc khi cần bảo đảm an toàn, không làm phát sinh nghĩa vụ không cần thiết cho tổ chức, cá nhân.
Bài viết này có hữu ích không?
- - Nội dung nêu trên là phần giải đáp, tư vấn của chúng tôi dành cho khách hàng của THƯ VIỆN PHÁP LUẬT. Nếu quý khách còn vướng mắc, vui lòng gửi về Email [email protected];
- - Nội dung bài viết chỉ mang tính chất tham khảo;
- - Điều khoản được áp dụng có thể đã hết hiệu lực tại thời điểm bạn đang đọc;
- - Mọi ý kiến thắc mắc về bản quyền của bài viết vui lòng liên hệ qua địa chỉ mail [email protected];
