Hệ thống trí tuệ nhân tạo có rủi ro cao là gì?
Căn cứ theo quy định tại Điều 9 Luật Trí tuệ nhân tạo 2025 có quy định cụ thể về phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo
Phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo
1. Hệ thống trí tuệ nhân tạo được phân loại theo các mức độ rủi ro sau đây:
a) Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia;
b) Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;
c) Hệ thống trí tuệ nhân tạo có rủi ro thấp là hệ thống không thuộc trường hợp quy định tại điểm a và điểm b khoản này.
2. Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.
3. Chính phủ quy định chi tiết Điều này.
Theo đó, hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống trí tuệ nhân tạo mà khi triển khai sử dụng có thể gây thiệt hại đáng kể đến:
- Tính mạng của con người.
- Sức khỏe của con người.
- Quyền và lợi ích hợp pháp của tổ chức, cá nhân.
- Lợi ích quốc gia.
- Lợi ích công cộng.
- An ninh quốc gia.
Hệ thống trí tuệ nhân tạo có rủi ro cao là gì? Quy định đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao ra sao? (Hình từ Internet)
Quy định đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao ra sao?
Căn cứ theo quy định tại Điều 13 Luật Trí tuệ nhân tạo 2025 có quy định cụ thể về đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao có hiệu lực từ 1/3/2026 cụ thể như sau:
- Hệ thống trí tuệ nhân tạo có rủi ro cao phải được đánh giá sự phù hợp theo quy định của Luật này trước khi đưa vào sử dụng hoặc khi có thay đổi đáng kể trong quá trình sử dụng. Trường hợp có tiêu chuẩn, quy chuẩn kỹ thuật về hệ thống trí tuệ nhân tạo thì còn phải thực hiện đánh giá sự phù hợp theo quy định của pháp luật về tiêu chuẩn, quy chuẩn kỹ thuật.
- Đánh giá sự phù hợp là việc xác nhận hệ thống trí tuệ nhân tạo đáp ứng các yêu cầu tại Điều 14 Luật Trí tuệ nhân tạo 2025 và được thực hiện như sau:
+ Đối với hệ thống trí tuệ nhân tạo có rủi ro cao thuộc danh mục hệ thống trí tuệ nhân tạo phải chứng nhận sự phù hợp trước khi đưa vào sử dụng: việc đánh giá được thực hiện bởi tổ chức đánh giá sự phù hợp đã được đăng ký hoặc thừa nhận theo quy định của pháp luật;
+ Đối với các hệ thống trí tuệ nhân tạo có rủi ro cao khác: nhà cung cấp tự đánh giá sự phù hợp hoặc thuê tổ chức đánh giá sự phù hợp đã được đăng ký hoặc thừa nhận theo quy định của pháp luật.
- Kết quả đánh giá sự phù hợp là điều kiện để hệ thống trí tuệ nhân tạo có rủi ro cao được phép đưa vào sử dụng; tổ chức, cá nhân có hệ thống đã được đánh giá sự phù hợp có trách nhiệm duy trì sự phù hợp và công khai thông tin theo quy định của Chính phủ, là căn cứ để thực hiện kiểm tra, giám sát việc tuân thủ quy định tại Điều 10 của Luật này.
- Thủ tướng Chính phủ quy định Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao, bao gồm danh mục hệ thống trí tuệ nhân tạo phải chứng nhận sự phù hợp trước khi đưa vào sử dụng.
- Tổ chức đánh giá sự phù hợp, kiểm định hệ thống trí tuệ nhân tạo phải bảo đảm tính độc lập, có đủ năng lực kỹ thuật theo quy định và chịu sự giám sát định kỳ của cơ quan nhà nước có thẩm quyền.
Trách nhiệm quản lý hệ thống trí tuệ nhân tạo có rủi ro cao của nhà cung cấp hệ thống ra sao?
Căn cứ theo quy định tại khoản 1 Điều 14 Luật Trí tuệ nhân tạo 2025 có quy định cụ thể về trách nhiệm quản lý hệ thống trí tuệ nhân tạo có rủi ro cao của nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao từ 1/3/2026.
Cụ thể, nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao có trách nhiệm sau đây:
- Thiết lập và duy trì biện pháp quản lý rủi ro và thường xuyên rà soát khi hệ thống có thay đổi đáng kể hoặc phát sinh rủi ro mới;
- Quản trị dữ liệu huấn luyện, kiểm thử và vận hành bảo đảm chất lượng trong phạm vi khả năng kỹ thuật và phù hợp với mục đích sử dụng của hệ thống;
- Lập, cập nhật, lưu giữ hồ sơ kỹ thuật và nhật ký hoạt động ở mức cần thiết cho việc đánh giá sự phù hợp và kiểm tra sau khi đưa vào sử dụng; cung cấp các thông tin này cho cơ quan nhà nước có thẩm quyền theo nguyên tắc cần thiết, tương xứng với mục đích kiểm tra và không làm lộ bí mật kinh doanh;
- Thiết kế hệ thống bảo đảm khả năng giám sát và can thiệp của con người đối với hệ thống;
- Thực hiện nghĩa vụ minh bạch và xử lý sự cố theo quy định tại Điều 11 và Điều 12 Luật Trí tuệ nhân tạo 2025;
- Thực hiện trách nhiệm giải trình đối với cơ quan nhà nước có thẩm quyền về mục đích sử dụng, nguyên lý hoạt động ở mức mô tả chức năng, loại dữ liệu đầu vào chủ yếu, biện pháp quản lý và kiểm soát rủi ro cùng các nội dung cần thiết phục vụ thanh tra, kiểm tra; cung cấp cho người sử dụng và người bị ảnh hưởng các thông tin công khai ở mức mô tả chức năng, cách thức vận hành và cảnh báo rủi ro để bảo đảm an toàn trong sử dụng. Việc giải trình và cung cấp thông tin không được yêu cầu tiết lộ mã nguồn, thuật toán chi tiết, bộ tham số hoặc thông tin thuộc bí mật kinh doanh, bí mật công nghệ;
- Phối hợp với cơ quan nhà nước có thẩm quyền và bên triển khai trong kiểm tra, đánh giá, hậu kiểm và khắc phục sự cố liên quan đến hệ thống.
- Hệ thống trí tuệ nhân tạo có rủi ro cao
- Hệ thống trí tuệ nhân tạo
- Đánh giá sự phù hợp
- Trí tuệ nhân tạo
- Hệ thống
- Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao
- Nhà cung cấp
- Quản lý hệ thống trí tuệ nhân tạo
- Đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao
- Nhà cung cấp hệ thống trí tuệ nhân tạo
- Nhà cung cấp hệ thống trí tuệ nhân tạo có rủi ro cao
- Quản lý hệ thống trí tuệ nhân tạo có rủi ro cao
Bài viết này có hữu ích không?
- - Nội dung nêu trên là phần giải đáp, tư vấn của chúng tôi dành cho khách hàng của THƯ VIỆN PHÁP LUẬT. Nếu quý khách còn vướng mắc, vui lòng gửi về Email [email protected];
- - Nội dung bài viết chỉ mang tính chất tham khảo;
- - Điều khoản được áp dụng có thể đã hết hiệu lực tại thời điểm bạn đang đọc;
- - Mọi ý kiến thắc mắc về bản quyền của bài viết vui lòng liên hệ qua địa chỉ mail [email protected];
